Cuma günü, Koko'nun kurucu ortağı Rob Morris, TwitterThe Verge, şirketinin önceden bildirimde bulunmaksızın 4 kişiye yapay zeka ile yazılmış akıl sağlığı tavsiyesi sağlamak için bir deney yürüttüğünü bildirdi. Eleştirmenler, deneyi son derece etik dışı olarak nitelendirdi çünkü Koko, tavsiye arayan insanlardan bilgilendirilmiş onay almadı. Koko, akıl sağlığı hizmetine ihtiyaç duyan gençleri ve yetişkinleri aşağıdakiler gibi mesajlaşma uygulamaları aracılığıyla gönüllülerle buluşturan, kar amacı gütmeyen bir akıl sağlığı platformudur. Telegram ve Anlaşmazlık.
Discord'da, kullanıcılar Koko Cares sunucusunda oturum açar ve Koko bot'a bir dizi çoktan seçmeli soru soran doğrudan mesajlar gönderir (örneğin, "Bu konudaki en karanlık düşüncen nedir?"). Ardından, kişinin endişesini birkaç cümlelik bir metin olarak kaydederek anonim olarak sunucudaki başka biriyle paylaşır ve bu kişi de kendi kısa mesajıyla anonim olarak yanıt verebilir.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Morris, yaklaşık 30 mesaj içeren bir yapay zeka (AI) deneyinde, başkalarına yardım eden gönüllülerin, bağımsız olarak yazmak yerine OpenAI'nin GPT-3 büyük dil modeli tarafından otomatik olarak oluşturulan bir yanıtı kullanma seçeneğine sahip olduğunu söyledi (GPT-3, arkasındaki teknolojidir). son zamanlarda popüler olan ChatGPT sohbet robotu). Morris tweet'inde, insanların yapay zeka tarafından yazıldığını öğrenene kadar yapay zeka tarafından üretilen yanıtları övdüklerini belirtiyor ve bu da, deneyin en az bir aşamasında bilgilendirilmiş onayın önemli bir eksikliğini öne sürüyor:
"Yapay zeka tarafından oluşturulan (ve insanlar tarafından kontrol edilen) mesajlar, insanların kendileri tarafından yazılan mesajlardan önemli ölçüde daha yüksek puan aldı. Tepki süresi %50 azaltılarak bir dakikanın altına düşürüldü. Yine de… bu özelliği platformumuzdan oldukça hızlı bir şekilde kaldırdık. Neden? Niye? İnsanlar mesajların makine tarafından oluşturulduğunu öğrendikten sonra çalışmayı durdurdu. Simüle edilmiş sempati tuhaf, boş görünüyor."
Sunucunun girişinde yöneticiler şöyle yazıyor: “Koko sizi, sizi gerçekten anlayan gerçek insanlarla buluşturuyor. Terapist değil, danışman değil, sadece senin gibi insanlar." Morris mesajı yayınladıktan kısa bir süre sonra, deneyi etik dışı olmakla eleştiren, bilgilendirilmiş onam eksikliğiyle ilgili endişeleri dile getiren ve deneyin Kurumsal İnceleme Kurulu (KİK) tarafından onaylanıp onaylanmadığını sorgulayan birçok yanıt aldı. Amerika Birleşik Devletleri'nde, KİK onaydan feragat edilebileceğini belirlemediği sürece, yasal olarak etkili bilgilendirilmiş rıza olmaksızın insan denekler üzerinde araştırma yapmak yasa dışıdır.
Yanıt olarak bir tweet'te Morris, deneyin bilgilendirilmiş onay gerekliliklerinden "muaf" olduğunu çünkü sonuçları yayınlamayı planlamadığını ve bir öfke geçidini ateşlediğini söyledi.
AI'yı bir terapist olarak kullanma fikri yeni olmaktan çok uzak, ancak Koko'nun deneyini tipik AI terapi yaklaşımlarından farklı kılan şey, hastaların canlı bir insanla konuşmadıklarını bilme eğiliminde olmalarıdır. Koko söz konusu olduğunda, platform, düz bir sohbet formatı yerine, bir insan aracının bir mesajı göndermeden önce gözden geçirebileceği hibrit bir yaklaşım içeriyordu. Ancak eleştirmenler, bilgilendirilmiş onay olmadan Koko'nun savunmasız insanları zararlı veya acımasız araştırma uygulamalarından korumak için tasarlanmış etik kuralları ihlal ettiğini söylüyor.
Eski bir IRB üyesi ve başkanı olarak konuşurken, savunmasız bir nüfus üzerinde IRB onayı veya muafiyeti olmadan insan denek araştırması yürüttünüz (SİZ karar veremezsiniz). Belki MGH IRB yanlısıcess çok yavaş çünkü bu gibi şeylerle ilgileniyor. İstenmeyen tavsiye: avukat olun
— Daniel Shoskes (@dshoskes) Ocak 7, 2023
Pazartesi günü Morris, tartışmaya yanıt veren ve Koko'nun GPT-3 ve yapay zeka yolculuğunu genel olarak açıklayan bir gönderi yayınladı: “Bu çalışmayla ilgili eleştirileri, endişeleri ve soruları empati ve açıklıkla alıyorum. Gizlilik, şeffaflık ve risk azaltma konularında derin bir endişe duyarak yapay zeka kullanımının hassas olmasını sağlamaya kararlıyız. Klinik Danışma Kurulumuz, IRB onayı da dahil olmak üzere gelecekteki çalışmalar için yönergeleri tartışmak üzere toplanıyor."
Ukrayna'nın Rus işgalcilerine karşı savaşmasına yardım edebilirsiniz. Bunu yapmanın en iyi yolu, Ukrayna Silahlı Kuvvetlerine bağış yapmaktır. Hayat kurtarmak veya resmi sayfa aracılığıyla NBU.
Ayrıca okuyun: