Alexa'nın etkinlik geçmişinin ekran görüntülerini yayınlayan bir ebeveyne göre, Amazon sesli asistanı, bir çocuk tarafından bir meydan okuma önermesi istendiğinde, tanımını rastgele bir makale bağlamından çıkararak elektrikle ilgili ölümcül bir deney örneği verdi. Yankı sütunu, TikTok hayranları arasında bir akıllı telefon için bir madeni para ve şarj cihazı kullanımıyla popüler olan bir deneyden bahsetti - uygulanmasından sonra çok sayıda olay, yaralanma ve yangın, çeşitli medya tarafından bir kereden fazla bildirildi. Görünüşe göre cihaz, bu meydan okuma fikrini, mevcut bir TikTok meydan okumasıyla ilgili bir rapora atıfta bulunarak, onu tehlikeli olarak tanımlayan bir makaleden aldı.
Christine Livdahl tarafından çekilen bir ekran görüntüsüne göre, "bana bir görev göster" istendiğinde Echo, "İşte internette bulduğum bir şey" yanıtını verdi. Ourcommunitynow.com'a göre görev basit: "telefon şarj cihazını çıkışın yaklaşık yarısına kadar takın, ardından bir peni ile çıplak pimlere dokunun."
Amazon, BBC'ye yaptığı açıklamada Alexa'nın davranışını doğruladı ve "Bu hatanın farkına varır varmaz düzeltmek için hemen harekete geçtik" dedi. Livdahl dün, meydan okuma talebinin artık çalışmadığını tweetledi. Web'deki kullanıcılar da isteği Alexa ile test etti ve benzer bir sonuç aldı.
OMFG 10 yaşındaki çocuğum Alexa'dan Echo'muzda bir meydan okuma istedi ve o da bunu söyledi. res.twitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) 26 Aralık 2021
Amazon, web içeriğini analiz ederken sorunlarla karşılaşan tek şirket değil. Ekim ayında bir kullanıcı, Google'a "Nöbet geçiriyor, ne yapmalı" yazarsanız, Google'ın snippet'lerinden birinde potansiyel olarak tehlikeli tavsiyeler görüntülediğini bildirdi - bilgi, web sayfasının neyin olmadığını açıklayan bir bölümünden alınmıştır. birinin nöbet geçirmesi durumunda yapmak. Bununla birlikte, kullanıcılar, Google'ın ortostatik hipertansiyon ararken ortostatik hipotansiyon için sonuçlar döndürdüğünü bildiren bir kullanıcı da dahil olmak üzere başka benzer sorunlar bildirmiştir ve bir başkası, Google'ın yaslı bir kişiyi rahatlatmak için korkunç tavsiyeler gösteren bir ekran görüntüsü yayınlamıştır. iyiyim" veya "Üzülme! Neşelendirmek!".
Google arama özeti ile gerçek sayfa karşılaştırması res.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@yumuşak) 16 Ekim 2021
Ayrıca, sorunu olduğundan daha büyük hale getirmek için tehlikeli davranışlarla ilgili uyarıların arttığını gördük - bu ayın başlarında, bazı ABD okul bölgeleri TikTok'ta ateş etme tehdidi raporlarının ardından kilitlendi. Sosyal fırtınanın, esas olarak, insanların gerçekte var olan tehditlerden çok daha fazla tehditler hakkında konuşmalarından kaynaklandığı ortaya çıktı. Alexa'nın durumunda, algoritma uyarının açıklayıcı kısmını seçti ve orijinal bağlam olmadan güçlendirdi. Ebeveynler hemen müdahale etmek için orada olsalar da, durumun böyle olmadığı bir durumu ve sonuçları hayal etmek kolaydır.
Livdahl, "çocuğuyla internet güvenliğini tartışmak ve araştırma ve doğrulama olmadan okuduklarınıza güvenmemek" fırsatını kullandığını tweetledi, size de tavsiye ediyoruz.
Ayrıca okuyun: