Gizemli Proje S* OpenAI'den gelen bir gelişme uzmanlar arasında endişeye neden oluyor. Gerçekten insanlık için tehlikeli olabilir mi? Onun hakkında ne biliniyor? Sam Altman geçen hafta kovulduktan sonra kendisi ve ekibi neredeyse yeni bir yere taşınacaktı. Microsoft, sonra işyerine geri döndü (bununla ilgili buraya yazdık), OpenAI yine haberlerde yer alıyor. Bu sefer bazı araştırmacıların insanlığa yönelik olası bir tehdit olarak adlandırdığı şey nedeniyle. Evet doğru okudunuz, insanlık için bir tehdit.
Teknoloji dünyasındaki asıl çalkantı, Q-Star olarak telaffuz edilen, genel yapay zekanın (AGI) açıklanmayan bir projesi olan Project Q*'dan kaynaklandı. Bu projenin ilk aşamalarında olmasına rağmen, YZG geliştirmelerinde gerçekten çığır açıcı olduğu düşünülüyor. Ancak bazıları bunu insanlık için tehlike olarak görüyor.
Ünlü yapay zeka laboratuvarı OpenAI tarafından geliştirilen gizli bir yapay zeka projesi, genel olarak teknolojide ve toplumda devrim yaratma potansiyeline sahip. Ancak aynı zamanda risklerle ilgili bazı etik soruları da gündeme getiriyor. Project Q*'nun şaşırtıcı yetenekleriyle ilgili ayrıntılar ortaya çıktıkça, bunun insanlığın geleceği için ne anlama gelebileceği konusunda giderek daha fazla spekülasyon ortaya çıkıyor.
Ayrıca ilginç: OpenAI'nin Tarihçesi: Neydi ve şirketi neler bekliyor?
Yapay Genel Zeka (AGI) Nedir?
Q* Projesi'ni (Q-Star) çevreleyen heyecanı anlamak için öncelikle Yapay Genel Zeka (AGI) kavramının neyle ilgili olduğunu anlamaya çalışalım. Mevcut yapay zeka sistemleri satranç oynamak veya görüntü oluşturmak gibi dar ve spesifik görevlerde başarılı olsa da genel yapay zeka, birçok alanda insan düzeyinde öğrenebilen ve düşünebilen makineleri ifade eder. Yani okuldaki küçük çocuklar gibi örneğin matematik, kimya, biyoloji vb. temellerini öğrenebilirler.
Genel Yapay Zeka (AGI), insan zekasını veya davranışını varsayımsal olarak taklit edebilen, öğrenme ve bu potansiyeli çeşitli sorunları çözmek için uygulama becerisine sahip bir makine zekası türüdür. AGI aynı zamanda güçlü yapay zeka, tam yapay zeka veya insan düzeyinde yapay zeka olarak da adlandırılmaktadır. Genel yapay zeka, yalnızca belirli parametreler dahilinde belirli veya özel görevleri yerine getirebilen zayıf veya dar yapay zekadan farklıdır. ZHI, farklı bilgi alanlarındaki çeşitli karmaşık sorunları bağımsız olarak çözebilecektir.
Yapay zeka yaratmak, DeepMind ve Anthropic gibi şirketlerin yapay zeka araştırmalarının ana odağıdır. CSI, bilim kurgu literatüründe çok popüler bir konudur ve gelecekteki araştırmaları şekillendirebilir. Bazıları bir UCI yaratmanın yıllar veya on yıllar içinde mümkün olduğunu savunurken, diğerleri bunun bir yüzyıl veya daha uzun sürebileceğini savunuyor. Ancak bunun hiçbir zaman başarılamayacağına inananlar da var. Bazıları GPT-3'te bir URI'nin başlangıcını gördü, ancak hala temel kriterleri karşılamaktan uzak görünüyor.
Yapay genel zekanın (AGI) yaratılması, araştırmacılar tarafından yapay zekanın kutsal kâsesi olarak değerlendiriliyor ve bu, onların uzun süredir hayal güçlerini meşgul eden teorik bir olasılık. Dolayısıyla OpenAI Project Q* gibi bir projenin ortaya çıkması, yapay zeka algoritma araştırmaları dünyasında büyük yankı uyandırdı. Her ne kadar herkes bunların, neredeyse körü körüne, yapay zekanın insanlarla aynı, hatta daha yüksek yeteneklere sahip olacağı bir dünyaya giden ilk adımlar olduğunu anlıyor.
Ayrıca ilginç: Hakkında her şey Microsoft Yardımcı pilot: gelecek mi yoksa yanlış yol mu?
Proje Q* nedir?
Project Q* tipik bir algoritma değil çünkü giderek yapay genel zeka (AGI) modeline yaklaşan bir yapay zeka modeli. Bu, ChatGPT'den farklı olarak Project Q*'nun diğer algoritmalara kıyasla daha iyi düşünme ve bilişsel beceriler gösterdiği anlamına gelir. ChatGPT şu anda çok sayıda gerçek materyale dayanan sorgulara yanıt veriyor ancak AGI ile yapay zeka modeli, akıl yürütmeyi ve kendi başına düşünme ve anlama yeteneğini öğrenecek. Project Q*'nun eğitim materyalinde yer almayan basit matematik problemlerini çözebildiği zaten biliniyor. Bazı araştırmacılar bunda genel yapay zekanın (AGI) yaratılmasına yönelik önemli bir adım görüyor. OpenAI, AGI'yi insanlardan daha akıllı olan yapay zeka sistemleri olarak tanımlıyor.
Project Q*'nun geliştirilmesi, OpenAI baş bilim insanı Ilya Sutzkever tarafından yönetiliyor ve temeli, araştırmacılar Jakub Pakhotsky ve Shimon Sidor tarafından doğrulanıyor.
Bir algoritmanın matematik problemlerini, bu problemler eğitim veri setinin bir parçası olmasa bile kendi başına çözme yeteneği, yapay zeka alanında bir atılım olarak kabul ediliyor. Ekipte bu projeyle ilgili anlaşmazlıklar, OpenAI CEO'su Sam Altman'ın geçici olarak görevden alınmasıyla bağlantılı. Altman'ın kovulmasından önce bir grup şirket araştırmacısının, insanlığa tehdit oluşturabilecek yapay zekanın keşfi konusunda yönetim kuruluna uyarıda bulunan bir mektup gönderdiği biliniyor. Project Q* algoritmasını tartıştığı bildirilen bu mektup, Altman'ın kovulmasına yol açan faktörlerden biri olarak gösterildi. Ancak Project Q*'nun yetenekleri ve oluşturabileceği potansiyel riskler, ayrıntılar bilinmediğinden tam olarak anlaşılamamıştır. Hiçbir şey kamuoyuna açıklanmadı.
Esas itibarıyla Project Q*, ortam hakkında önceden bilgi gerektirmediğinden geleneksel modellerden ayrılan, modelsiz bir takviyeli öğrenme yöntemidir. Bunun yerine, deneyim yoluyla öğrenir, eylemleri ödüllere ve cezalara göre uyarlar. Teknik uzmanlar, Project Q*'nun insanın bilişsel yeteneklerine benzer yetenekler elde ederek olağanüstü yetenekler kazanabileceğine inanıyor.
Ancak araştırmacıları ve eleştirmenleri endişelendiren ve teknolojinin gerçek dünyadaki uygulamaları ve bunun altında yatan riskler hakkında korkularını artıran, yeni yapay zeka modelinde en etkileyici olan şey bu özelliktir. Bilim insanları ve araştırmacılar neden bu kadar korkuyor? Hadi çözelim.
Ayrıca ilginç: Ev cihazlarınızı Wi-Fi 6'yı destekleyecek şekilde nasıl güncelleyebilirsiniz?
Bilinmeyenden korkuyorlar
İnsanoğlu her zaman bilinmeyenden, bilinemeyenden korkmuştur. Bu, insanın özüdür, karakterimizin ve yaşam tarzımızın bir özelliğidir.
Teknoloji dünyası Project Q*'yu Reuters'in ardından Kasım 2023'te öğrendi rapor edildi İlgili OpenAI araştırmacıları tarafından yazılan dahili bir mektup hakkında. Mektubun içeriği belirsizdi ancak Project Q*'nun yeteneklerini ciddi şekilde analiz ettiği bildirildi. Hatta yukarıda da belirttiğim gibi Sam Altman'ın istifasını bu mektubun tetiklediğine dair spekülasyonlar bile var.
Bu patlayıcı keşif, Proje Q*'nun doğasına ilişkin çeşitli hipotezlerin ortaya çıkmasına neden oldu. Bilim adamları bunun yapay zeka için devrim niteliğinde bir doğal dil modeli olabileceğini öne sürdüler. Bunları diğer yapay zeka biçimleri veya bu alanda tamamen farklı bir şey için yaratacak bir tür yeni algoritmaların mucidi.
Altman'ın "ortalama çalışan" olarak genel yapay zeka hakkındaki provokatif yorumları, iş güvenliği ve yapay zekanın etkisinin durdurulamaz genişlemesi konusundaki endişeleri şimdiden artırdı. Bu gizemli algoritma, Yapay Genel Zekanın (AGI) gelişiminde bir kilometre taşı olarak tanımlanıyor. Ancak herkes bu dönüm noktasının pahalı olduğunu biliyor. Ve bu artık parayla ilgili değil. Yeni yapay zeka modelinin vaat ettiği bilişsel becerilerin düzeyi belirsizliği de beraberinde getiriyor. OpenAI bilim insanları, yapay zekanın insan düzeyinde düşünmeye sahip olacağına söz veriyor. Bu da pek çok şeyi bilemeyeceğimiz ve sonuçlarını tahmin edemeyeceğimiz anlamına geliyor. Ve ne kadar bilinmeyen olursa, onu kontrol etmeye veya düzeltmeye hazırlanmak da o kadar zor olur. Yani yeni algoritma kendini geliştirme ve geliştirme yeteneğine sahiptir. Bunu zaten bir yerlerde gördük...
Ayrıca ilginç: Windows 12: Yeni işletim sistemi ne olacak
Project Q'nun yetenekleri hakkında şaşırtıcı ayrıntılar*
Daha fazla bilgi ortaya çıkmaya başladığında birçok araştırmacıyı şok etti. İlk belirtiler Project Q*'nun matematik konusunda inanılmaz bir yeteneğe sahip olduğu yönündeydi. Mekanik hesaplamalar yapan bir hesap makinesinin aksine, Project Q*'nun karmaşık matematik problemlerini çözmek için mantık ve akıl yürütmeyi kullanabileceği iddia ediliyor. Bu matematiksel genelleme yeteneği, geniş bir zekanın gelişimine işaret ediyor.
Tipik yapay zekaları eğitmek için kullanılan belirli veri kümeleri olmadan Project Q*'nun otonom eğitimi de ileriye doğru atılmış büyük bir adım olacaktır. Project Q*'nun başka herhangi bir beceride uzmanlaşıp uzmanlaşmadığı bilinmiyor. Ancak matematiksel yetenekleri o kadar şaşırtıcı ki deneyimli araştırmacıların bile kafasını karıştırıyor.
Ayrıca okuyun: İnsan Beyni Projesi: İnsan beynini taklit etme girişimi
Project Q*'nun hakimiyet yolu nedir?
Bu konuda hem iyimser hem de kötümser senaryolar var. İyimserler Project Q*'nun teknolojik bir atılımın kıvılcımı olabileceğini söyleyecektir. Sistem yinelemeli olarak kendini geliştirirken, doğaüstü zekası, iklim değişikliğinden hastalık kontrolüne kadar insanlığın en önemli sorunlarından bazılarının çözülmesine yardımcı olabilir. Project Q* sıkıcı işleri otomatik hale getirebilir ve boş zamanımızı diğer faaliyetlere ayırabilir.
Daha pek çok kötümser seçenek olmasına rağmen. Bazen oldukça mantıklıdırlar ve belirli bir anlam taşırlar.
İş kaybı
Teknolojinin gelişimindeki hızlı değişimler, insanların bireysel adaptasyonunu geride bırakabilmektedir. Bu, yeni gerçekliklere uyum sağlamak için gerekli bilgi ve becerileri edinemeyen bir veya daha fazla neslin kaybına yol açacaktır. Yani bu da daha az kişinin işini koruyabileceği anlamına geliyor. Bunun yerine makineler, otomatik sistemler ve robotlar tarafından gerçekleştirilecek. Ancak konu nitelikli uzmanlar olduğunda cevap o kadar da net değil. Ayrıca özellikle yapay zeka algoritmalarının geliştirilmesiyle ilgili yeni meslekler de ortaya çıkabilir. Ancak hâlâ riskler var ve insanlığın bunları görmezden gelme hakkı yok.
Kontrolsüz güç tehlikesi
Project Q* kadar güçlü bir yapay zeka, kötü niyetli kişilerin eline geçerse insanlık açısından felaketle sonuçlanma riski taşır. Potansiyel olarak kötü niyetli bir niyet olmasa bile Project Q*'nun karar verme düzeyi, uygulamanın dikkatli bir şekilde değerlendirilmesinin kritik öneminin altını çizerek zararlı sonuçlara yol açabilir.
Project Q* insan ihtiyaçları için yeterince optimize edilmemişse, bazı keyfi ölçümleri en üst düzeye çıkarma yeteneği nedeniyle zarar verebilir. Veya devletin gözetimi veya baskısı için kullanılması gibi siyasi bir boyutu da olabilir. Proje Q*'nun etki analizi etrafında açık bir tartışma, ZHI'nın geliştirilmesine yönelik olası senaryoların tanımlanmasına yardımcı olacaktır.
"İnsan ve Makine" karşılaşmasına var mıyız?
Hollywood zaten filmlerinde bu tür bir yüzleşmenin birçok senaryosunu yaratmıştı. Hepimiz ünlü SkyNet'i ve böyle bir keşfin sonuçlarını hatırlıyoruz. Belki OpenAI araştırmacıları bu filmi tekrar izlemeli?
İnsanlığın sinyalleri ve zorlukları kabul etmesi ve olabileceklere hazırlıklı olması gerekiyor. İnsan gibi düşünebilen bir yapay zeka modeli bir gün düşmanımız olabilir. Pek çok kişi, gelecekte bilim adamlarının durumu nasıl kontrol altında tutacaklarını tam olarak bileceklerini iddia ediyor. Ancak iş makinelere gelince, onların insanları ele geçirmeye çalışma olasılığını tamamen göz ardı edemezsiniz.
Ayrıca ilginç: AI dediğimiz her şey aslında yapay zeka değildir. İşte bilmeniz gerekenler
OpenAI neden sessiz?
Project Q*'ya olan kamuoyu ilgisine rağmen OpenAI yönetimi algoritmanın ayrıntıları konusunda sessiz kalıyor. Ancak iç sızıntı, laboratuvarda öncelikler ve gelişmelerin açıklığı konusunda artan gerilimleri gösteriyor. Birçok OpenAI çalışanı Project Q*'nun oluşturulmasını desteklerken, eleştirmenler şeffaflığın ne pahasına olursa olsun bilimsel ilerlemeyi hızlandırmada arka planda kaldığını savunuyor. Ve bazı araştırmacılar, hedefleri insani değerler ve etikle örtüşmeyen sistemlere inanılmaz bir güç verildiğinden endişe ediyor. Bu araştırmacılar, gözetim ve hesap verebilirlik konusundaki tartışmaların tehlikeli bir şekilde susturulduğuna inanıyor. Daha fazla tanıtım ve ayrıntıya ihtiyaç duyarlar.
Project Q*'nun yaratıcıları olarak OpenAI, toplumun gelişme olanaklarını büyük ölçüde genişletebilecek ya da onu acımasızca yok edebilecek bir teknolojiye sahip olduklarını anlamalıdır. Bu tür önemli yenilikler, halkın güvenini oluşturmak için çok daha fazla şeffaflığı hak ediyor. Makine çağının tahmincileri, faydaların yanı sıra riskleri de dikkatle tartmalıdır. Project Q*'nun geliştiricilerinin, toplumu, hayal ettiğimizden daha yakın zamanda gelebilecek yeni bir genel yapay zeka çağına güvenli bir şekilde sokmak için yeterli bilgeliği ve özeni göstermeleri gerekiyor.
Genel yapay zekanın insanlık için faydalı ve güvenli olabilmesi için güvenli, etik ve insanlığın değer ve hedeflerine uygun şekilde çalışmasının sağlanması gerekmektedir. Bu, CSI'nin eylemlerini ve davranışlarını kontrol edecek ve sınırlayacak uygun düzenleyici kanunların, standartların, kuralların ve protokollerin geliştirilmesini ve uygulanmasını gerektirir. Ayrıca insanlığın yok olmasına yol açabilecek suiistimaller, kazalar, uyumsuzluklar, manipülasyonlar ve çatışmalardan kaynaklanan potansiyel tehdit ve risklerin de ortadan kaldırılması gerekmektedir. Bu arada yatırımcılar ve Microsoft Kâr yaratabilecek, pazarlanabilir bir ürünü sabırsızlıkla beklemek, şüphesiz ki bu, sorumlu davranma ihtiyacıyla çelişmektedir. Umarız sağduyu hakim olur.
Ayrıca okuyun: