OpenAI'nin Projesi Q: Çığır Açan Bir Gelişme mi Yoksa Yaklaşan Bir Tehdit mi?

OpenAI'nin gizemli Project Q*'su uzmanlar arasında endişeye neden oluyor. İnsanlık için tehlikeli olabilir mi? Hakkında ne biliniyor? Sam Altman geçen hafta ilk kez kovulduktan ve kendisi ve ekibi neredeyse Microsoft, sonra işyerine döndü (bunu burada yazdık), OpenAI yine haberlerde. Bu sefer bazı araştırmacıların insanlığa olası bir tehdit olarak adlandırdığı şey yüzünden. Evet, doğru okudunuz, insanlığa bir tehdit.

Q-Star olarak anılan, açıklanmayan bir genel yapay zeka (AGI) projesi olan Project Q*, teknoloji dünyasında gerçek bir şok yarattı. İlk aşamalarında olmasına rağmen bu projenin YGZ'nin geliştirilmesinde gerçekten çığır açıcı olduğu düşünülüyor. Ancak bazıları bunu insanlık için tehlike olarak görüyor.

Ünlü yapay zeka laboratuvarı tarafından geliştirilen gizli bir yapay zeka projesi OpenAI teknolojiyi ve toplumu bir bütün olarak devrim niteliğinde değiştirme potansiyeline sahiptir. Ancak aynı zamanda içerdiği riskler hakkında bazı etik soruları da gündeme getirir. Project Q*'nun inanılmaz yetenekleri hakkında ayrıntılar ortaya çıktıkça, bunun insanlığın geleceği için ne anlama gelebileceği konusunda artan spekülasyonlar yapılmaktadır.

Ayrıca okuyun: Microsoft Yardımcı Pilot: Oyunun Kurallarını Değiştiren mi Yoksa Yanlış Yol mu?

Genel yapay zeka (AGI) nedir?

Project Q* (Q-Star) hakkındaki heyecanı anlamak için öncelikle genel yapay zeka (AGI) kavramının neyle ilgili olduğunu anlamaya çalışalım. Günümüzün yapay zeka sistemleri satranç oynamak veya görüntü oluşturmak gibi dar ve spesifik görevlerde harika olsa da genel yapay zeka, birçok alanda insan düzeyinde öğrenebilen ve düşünebilen makineleri ifade ediyor. Yani matematik, kimya, biyoloji gibi temel konuları okuldaki küçük çocuklar gibi öğrenebilirler.

Genel Yapay Zeka (AGI), insan zekasını veya davranışını varsayımsal olarak taklit edebilen, öğrenme ve bu yeteneği çeşitli sorunları çözmek için uygulama becerisine sahip bir makine zekası türüdür. AGI ayrıca güçlü yapay zeka, tam yapay zeka veya insan düzeyinde yapay zeka olarak da anılır. Genel yapay zeka, yalnızca belirli parametreler dahilinde belirli veya özel görevleri yerine getirebilen zayıf veya dar yapay zekadan farklıdır. AGI, farklı bilgi alanlarındaki çeşitli karmaşık görevleri bağımsız olarak çözebilecek.

AGI'nin oluşturulması, DeepMind ve Anthropic gibi şirketlerin yapay zeka araştırmalarının ana odak noktasıdır. Bilim kurgu literatüründe çok popüler bir konu olan ve gelecekteki araştırmaları şekillendirebilecek olan konu YGZ'dir. Bazıları bir YGZ yaratmanın birkaç yıl veya on yıl içinde mümkün olduğunu savunurken, diğerleri bunun bir yüzyıl veya daha fazla sürebileceğini savunuyor. Ancak bunun hiçbir zaman başarılamayacağına inananlar da var. Bazıları GPT-3'te bir AGI'nin temellerini gördü, ancak yine de temel kriterleri karşılamaktan uzak görünüyor.

Genel yapay zekanın (AGI) yaratılması araştırmacılar tarafından yapay zekanın kutsal kasesi olarak kabul edilir; bu potansiyel olasılık uzun zamandır hayal güçlerini ele geçirmiştir. Bu yüzden böyle bir projenin ortaya çıkması OpenAI Project Q*, yapay zeka algoritması araştırmaları dünyasında büyük yankı uyandırdı. Herkes bunların, yapay zekanın insanlarla eşit veya daha yüksek yeteneklere sahip olacağı bir dünyaya doğru neredeyse körü körüne atılan ilk adımlar olduğunun farkında olsa da.

Ayrıca okuyun: Kendi kendine giden arabalar: devrim için ne kadar beklenecek?

Proje Q* nedir?

Project Q* tipik bir algoritma değildir çünkü giderek Genel Yapay Zeka (AGI) modeline yaklaşan bir yapay zeka modelidir. Bu, aksine, ChatGPT, Project Q* diğer algoritmalardan daha iyi düşünme ve bilişsel beceriler gösteriyor. Şu anda, ChatGPT soruları büyük miktarda olgusal materyale dayanarak yanıtlar, ancak AGI ile yapay zeka modeli muhakeme ve bağımsız düşünme ve anlama yeteneğini öğrenecektir. Project Q*'nun eğitim materyalinin bir parçası olmayan basit matematik problemlerini çözebildiği zaten biliniyor. Bazı araştırmacılar bunu genel yapay zekanın (AGI) yaratılmasına doğru önemli bir adım olarak görüyor. OpenAI AGI'yi insanlardan daha akıllı olan yapay zeka sistemleri olarak tanımlıyor.

Proje Q*'nun geliştirilmesine öncülük edenler: OpenAI Baş Bilim İnsanı Ilya Sutzkever olup, temeli araştırmacılar Jakub Pachocki ve Szymon Sidor tarafından atılmıştır.

Algoritmanın, eğitim veri setinin bir parçası olmasa bile, kendi başına matematik problemlerini çözme yeteneği, yapay zeka alanında bir atılım olarak görülüyor. Bu projedeki ekipteki anlaşmazlıklar, askıya alınmaya bağlanıyor OpenAI CEO Sam Altman. Altman'ın işten çıkarılmasından önce, şirketten bir grup araştırmacının yönetim kuruluna insanlığa tehdit oluşturabilecek bir yapay zeka keşfi konusunda uyarıda bulunan bir mektup gönderdiği biliniyor. Project Q* algoritmasını tartıştığı bildirilen bu mektup, Altman'ın işten çıkarılmasına yol açan faktörlerden biri olarak gösterildi. Ancak Project Q*'nun yetenekleri ve oluşturabileceği potansiyel riskler tam olarak anlaşılamamıştır çünkü detaylar bilinmemektedir. Genel kamuoyuna hiçbir şey açıklanmamıştır.

Esas itibarıyla Project Q*, ortamla ilgili ön bilgi gerektirmediğinden geleneksel modellerden ayrılan, modelsiz bir takviyeli öğrenme yöntemidir. Bunun yerine, ödül ve cezalara dayalı eylemleri uyarlayarak deneyimlerden öğrenir. Teknik uzmanlar, Project Q*'nun insanın bilişsel yeteneklerine benzer yetenekler elde ederek olağanüstü yetenekler kazanabileceğine inanıyor.

Ancak yeni yapay zeka modelinin en etkileyici özelliği olan bu özellik, araştırmacıların ve eleştirmenlerin teknolojinin gerçek uygulamaları ve içerdiği büyük riskler konusunda endişe duymasına neden oluyor. Bilim insanları ve araştırmacılar neden bu kadar korkuyor? İşin özüne inelim.

Ayrıca okuyun: Windows 12: Yeni işletim sistemi ne olacak

Bilinmeyen korkusu

Bilinmeyenden, bilinemeyenden korkmak her zaman insanın karakteristiği olmuştur. Bu, insanın özüdür, karakterimizin ve yaşam tarzımızın bir özelliğidir.

Teknoloji dünyası, Reuters'ın ilgili bir kurum tarafından yazılan bir iç mektubu bildirmesinin ardından Kasım 2023'te Proje Q*'dan haberdar oldu. OpenAI geliştiriciler. Mektubun içeriği belirsizdi, ancak bildirildiğine göre Project Q*'nun yeteneklerini ciddi şekilde analiz ediyordu. Yukarıda belirttiğim gibi, Sam Altman'ın istifasını tetikleyenin bu mektup olduğu yönünde spekülasyonlar bile var.

Bu patlayıcı keşif, Project Q*'nun doğası hakkında çeşitli hipotezleri ateşledi. Bilim adamları bunun yapay zeka için devrim niteliğinde bir doğal dil modeli olabileceğini öne sürdüler. Bunları diğer yapay zeka biçimleri veya tamamen bu alandaki başka bir şey için yaratacak yeni algoritmaların bir tür mucidi.

Altman'ın genel yapay zekayı "ortalama çalışan" olarak göstermesiyle ilgili kışkırtıcı yorumları, iş güvenliği ve yapay zekanın etkisinin hızla genişlemesi konusunda endişelere yol açtı. Bu gizemli algoritma, genel yapay zekanın (AGI) geliştirilmesinde bir dönüm noktası olarak tanımlanıyor. Ancak herkes bu dönüm noktasının bir bedeli olduğunun farkında. Ve şu anda konu para değil. Yeni yapay zeka modelinin vaat ettiği bilişsel beceri düzeyi beraberinde belirsizlik getiriyor. OpenAI Bilim insanları yapay zekanın insan seviyesinde düşünebileceğini vaat ediyor. Ve bu, sonuçlarını bilemeyeceğimiz veya tahmin edemeyeceğimiz çok şey olduğu anlamına geliyor. Ve ne kadar bilinmezlik varsa, onu kontrol etmeye veya düzeltmeye hazırlanmak da o kadar zor oluyor. Yani, yeni algoritma kendini iyileştirme ve geliştirme yeteneğine sahip. Bunu daha önce bir yerde görmüştük...

Ayrıca şunu da okuyun: İnsan Beyni Projesi: İnsan beynini taklit etme girişimi

Project Q*'nun yetenekleri hakkında çarpıcı ayrıntılar

Daha fazla bilgi gelmeye başladığında birçok araştırmacıyı şok etti. İlk göstergeler Project Q*'nun matematik konusunda inanılmaz bir yeteneğe sahip olduğunu gösteriyordu. Mekanik hesaplamalar yapan bir hesap makinesinin aksine, Project Q*'nun karmaşık matematik problemlerini çözmek için mantık ve akıl yürütmeyi kullanabileceği varsayılıyor. Bu matematiksel genelleme yeteneği, geniş bir zekanın gelişimine işaret ediyor.

Tipik yapay zekaları eğitmek için kullanılan belirli veri kümeleri olmadan Project Q*'nun otonom öğrenmesi de ileriye doğru atılmış büyük bir adım olacaktır. Project Q*'nun başka herhangi bir beceride uzmanlaşıp uzmanlaşmadığı bilinmiyor. Ancak matematik yetenekleri tek başına o kadar şaşırtıcı ki deneyimli araştırmacıları bile cesaretlendiriyor.

Ayrıca şunu da okuyun: Sinir ağları nedir ve nasıl çalışırlar?

Project Q*'nun hakimiyet yolu nedir?

Bu konuda hem iyimser hem de kötümser senaryolar mevcut. İyimserler Project Q*'nun teknolojik bir atılımın kıvılcımı olabileceğini söyleyebilir. Sistem yinelemeli olarak kendini geliştirdikçe, doğaüstü zekası iklim değişikliğinden hastalık kontrolüne kadar çok önemli insan sorunlarının çözülmesine yardımcı olabilir. Project Q* sıkıcı işleri otomatik hale getirebilir ve bize başka faaliyetler için boş zaman kazandırabilir.

Daha birçok kötümser seçenek olmasına rağmen. Bazen oldukça mantıklıdırlar ve bir anlam ifade ederler.

iş kaybı

Teknolojik gelişmedeki hızlı değişimler insanların bireysel uyumunu geride bırakabilir. Bu, yeni gerçekliklere uyum sağlamak için gerekli bilgi ve becerileri edinemeyen bir veya daha fazla neslin kaybıyla sonuçlanacaktır. Bu da daha az kişinin işini koruyabileceği anlamına geliyor. Bunun yerine makineler, otomatik sistemler ve robotlar yapılacak. Ancak konu nitelikli uzmanlar olduğunda cevap o kadar da net değil. Ayrıca yapay zeka algoritmalarının gelişimiyle birebir bağlantılı yeni meslekler de ortaya çıkabilir. Ancak riskler hâlâ mevcut ve insanlığın bunları ihmal etme hakkı yok.

Kontrolsüz güç tehlikesi

Project Q* kadar güçlü bir yapay zeka, kötü niyetli kişilerin eline geçerse, insanlık için felaketle sonuçlanabilecek sonuçlar doğurabilir. Project Q*'nun karar alma düzeyi, potansiyel olarak kötü niyetli bir niyet olmasa bile, kullanımının dikkatli bir şekilde değerlendirilmesinin kritik öneminin altını çizerek zararlı sonuçlara yol açabilir.

Project Q* insan ihtiyaçları için yeterince optimize edilmemişse, bazı keyfi ölçümleri en üst düzeye çıkarma yeteneği açısından zararlı olabilir. Veya hükümetin gözetimi veya baskısı için kullanılması gibi siyasi bir boyutu da olabilir. Project Q*'nun etkisinin analizine yönelik açık bir tartışma, YGZ'nin geliştirilmesine yönelik olası senaryoların belirlenmesine yardımcı olacaktır.

Bir erkeğe karşı mıyız? makine çatışması mı?

Hollywood filmlerinde böyle bir yüzleşmenin birçok senaryosunu çoktan yarattı. Hepimiz ünlü SkyNet'i ve böyle bir keşfin sonuçlarını hatırlıyoruz. Belki OpenAI Araştırmacılar bu filmi tekrar izlemeli mi?

İnsanlığın sinyalleri ve zorlukları dikkate alması ve olabileceklere hazırlıklı olması gerekiyor. İnsan gibi düşünebilen bir yapay zeka modeli bir gün düşmanımız haline gelebilir. Birçoğu, gelecekte bilim adamlarının işleri nasıl kontrol altında tutacaklarını tam olarak bileceklerini iddia edebilir. Ancak iş makinelere gelince, onların insanlara üstünlük sağlamaya çalışma olasılığını tamamen göz ardı edemezsiniz.

Ayrıca şunu da okuyun: 7 bilgisayar efsanesi: kurgu ve gerçeklik

Neden OpenAI sessiz?

Proje Q*'ya yönelik büyük kamuoyu ilgisine rağmen, OpenAI yönetim, algoritmanın tuhaflıkları hakkında sessiz kalıyor. Ancak sızdırılan içeriden bilgi, laboratuvarda geliştirme öncelikleri ve açıklık konusunda artan gerginlikleri gösteriyor. Birçok kişi OpenAI İçeridekiler Project Q*'nun yaratılmasını desteklerken, eleştirmenler şeffaflığın her ne pahasına olursa olsun bilimsel ilerlemeyi hızlandırmak adına bir kenara itildiğini savunuyor. Ve bazı araştırmacılar, hedefleri insan değerleri ve etikle uyuşmayan sistemlere inanılmaz bir güç verildiğinden endişe ediyor. Bu araştırmacılar, denetim ve hesap verebilirlik etrafındaki tartışmaların tehlikeli bir şekilde susturulduğuna inanıyor. Daha fazla tanıtım ve ayrıntı talep ediyorlar.

Project Q*'nun yaratıcıları olarak, OpenAI toplumu büyük ölçüde güçlendirebilecek veya acımasızca bozabilecek bir teknolojiye sahip olduğunu fark etmelidir. Bu tür anlamlı yenilikler, kamu güvenini oluşturmak için çok daha fazla şeffaflığı hak ediyor. Makine çağının habercileri, faydaların yanı sıra riskler açısından da incelenmelidir. Ve Project Q* geliştiricileri, toplumu hayal ettiğimizden daha erken gelebilecek evrensel yapay zekanın yeni bir çağına güvenli bir şekilde götürmek için yeterli bilgeliği ve özeni göstermelidir.

Genel yapay zekanın insanlık için faydalı ve güvenli olabilmesi için güvenli, etik ve insanlığın değer ve hedeflerine uygun şekilde çalışmasının sağlanması gerekmektedir. Bu, yapay zeka eylemlerini ve davranışlarını kontrol edecek ve kısıtlayacak uygun düzenlemelerin, standartların, kuralların ve protokollerin geliştirilmesini ve uygulanmasını gerektirir. Ayrıca insanlığın yok olmasına yol açabilecek olası istismar, kaza, uyumsuzluk, manipülasyon ve çatışma tehditleri ve risklerinin de ele alınması gerekir. Bu arada yatırımcılar ve Microsoft kâr getirebilecek pazarlanabilir bir ürünü sabırsızlıkla bekliyorlar ki bu da şüphesiz sorumlu davranma ihtiyacıyla çelişiyor. Umarız sağduyu galip gelir.

Ayrıca şunu da okuyun: 

• Jeomühendislik zorlukları: AB, bilim adamlarının 'Tanrı'yı ​​oynamasını' yasaklayacak
• Li-Fi nedir? Yeni hızlı kablosuz internet yakında