Salı günü Meta, OpenAI ve Google gibi diğer şirketlerin AI tarafından oluşturulan görsellerini etiketlemeye başlama planını duyurdu. Hareket, aşağıdaki gibi platformlarda şeffaflığın artırılmasını amaçlıyor: Facebook, Instagram ve Threads, kullanıcılara görüntüledikleri içeriğin gerçek bir fotoğraf veya video değil, sentezlenmiş dijital medya olduğunu bildirerek.
Meta'nın çözümü, yazılı yönlendirmelere dayalı olarak sahte ama gerçekçi ses, görüntü ve video oluşturabilen üretken yapay zeka modelleriyle oluşturulan içeriğin etiketlenmesine yönelik standartları belirlemeye yönelik daha geniş bir teknoloji endüstrisi çabasının bir parçası.
Meta'nın küresel ilişkilerden sorumlu başkanı Nick Clegg, duyuruyu Meta'nın web sitesindeki bir blog yazısında yaptı. Clegg, "Dünya çapında bir dizi önemli seçimin yapılacağı gelecek yıl boyunca bu yaklaşımı izlemeye devam edeceğiz" diye yazdı. "Bu süre zarfında insanların yapay zekayla nasıl içerik oluşturup paylaştığı, insanların en çok hangi şeffaflığa değer verdiği ve bu teknolojilerin nasıl geliştiği hakkında çok daha fazla şey öğrenmeyi umuyoruz."
Clegg, Meta'nın yapay zeka tarafından oluşturulan içerik etiketleme girişiminin, kendi yapay zeka araçlarıyla oluşturulan içeriği etiketlemeye yönelik mevcut uygulamayı, diğer şirketlerin hizmetleri kullanılarak oluşturulan görüntüleri de içerecek şekilde genişleteceğini belirtti.
"Görünmez işaretçileri, özellikle de C2PA ve IPTC teknik standartlarında 'AI tarafından oluşturulan' bilgileri geniş ölçekte tanımlayabilen sektör lideri araçlar geliştiriyoruz; böylece Google, OpenAI, Microsoft, Adobe, Midjourney ve Shutterstock, araçlarıyla oluşturulan görsellere meta veri ekleme planlarını hayata geçiriyor."
Meta, yapay zeka tarafından oluşturulan içerik etiketleme teknolojisinin, dosyalara gömülü görünmez filigranlara ve meta verilere dayanacağını söylüyor. Meta, genel AI görüntü oluşturucusu ile oluşturulan görüntülere küçük bir "AI ile Hayal Edildi" filigranı ekler.
Gönderide Clegg, şirketlerin AI tarafından oluşturulan görüntüleri güvenilir bir şekilde etiketleme becerisine olan güvenini dile getirdi, ancak ses ve video içeriğini etiketlemeye yönelik araçların hala geliştirilme aşamasında olduğunu belirtti. Bu arada Meta, kullanıcıların değiştirilmiş ses ve video içeriğini etiketlemesini gerektirecek ve bunu yapmamaları durumunda belirtilmemiş para cezaları uygulayacaktır.
"İnsanların, dijital olarak oluşturulmuş veya değiştirilmiş, fotogerçekçi video veya gerçekçi ses içeren organik içerik yayınladıklarında bu açıklama ve etiketleme aracını kullanmalarını zorunlu kılacağız ve bunu yapmamaları halinde ceza uygulayabiliriz" diye yazdı.
Ancak Clegg, yapay zeka tarafından oluşturulan metni etiketlemenin şu anda etkili bir yolu olmadığını belirterek, yazılı içerik için bu tür önlemleri uygulamak için artık çok geç olduğunu öne sürdü. Bu, AI metin algılayıcılarının çalışmadığına dair raporlarımızla örtüşüyor.
Duyuru, Meta'nın bağımsız denetim kurulunun şirketin aldatıcı biçimde değiştirilmiş videolarla ilgili politikasını çok dar olduğu gerekçesiyle eleştirmesinden ve bu tür içeriklerin kaldırılması yerine işaretlenmesini tavsiye etmesinden bir gün sonra geldi. Clegg, mevcut Meta politikalarının İnternet'teki artan sentetik ve hibrit içerik hacmini yönetmek için yetersiz olduğunu kabul ederek eleştiriye katıldı. Yeni etiketleme girişimini, gözlemcinin tavsiyelerinin uygulanmasına ve benzer önlemler için sektör çapında ivmenin teşvik edilmesine yönelik bir adım olarak görüyor.
Meta, bazı açık kaynaklı AI görüntü sentezleme araçlarıyla oluşturulan görüntüler gibi, filigran veya meta veriler olmadan oluşturulan, AI tarafından oluşturulan içeriği tespit edemeyeceğini kabul ediyor. Meta, açık kaynaklı görüntü oluşturuculara yerleştirilebileceğini umduğu Stable Signature adlı bir görüntü filigranı teknolojisini araştırıyor. Ancak pikseller piksel olduğu sürece, teknoloji endüstrisi tarafından kontrol edilmeyen şekillerde oluşturulabilirler ve açık kaynak yapay zeka araçları daha karmaşık ve gerçekçi hale geldikçe bu, yapay zeka içerik tespiti açısından bir zorluk olmaya devam etmektedir.
Ayrıca okuyun: