Gözetim kuruluşu Public Citizen, deepfake riski nedeniyle OpenAI'den Sora'yı iptal etmesini istedi
Teknoloji sektörü yine hızla ilerliyor ve bir şeyleri bozuyor; bu kez, OpenAI'nin Sora 2'si gibi yapay zekâ (YZ) görüntü üretim platformları sayesinde, insanlığın ortak gerçekliği ile benzerliğimiz üzerindeki kontrolümüz (ölümden önce de sonra da) hedefte.
OpenAI'nin uygulamasında yapılıp TikTok, Instagram, X ve Facebook'a yayılan tipik bir Sora videosu, tıklayıp paylaşmanız için yeterince eğlenceli olacak şekilde tasarlanıyor. Bu, rap yapan Kraliçe II. Elizabeth de olabilir, daha sıradan ve inandırıcı bir şey de.
Popüler Sora türlerinden biri, kapı zili kamerasından çekilmiş gibi görünen sahte görüntüler. Biraz tekinsiz bir anı yakalar; örneğin verandada bir boa yılanı ya da hiçbir şeyden etkilenmiyormuş gibi duran bir çocuğa yaklaşan bir timsah. Finaldeyse genellikle hafif bir şok vardır; mesela bir büyükanne hayvana süpürgeyle vururken bağırır.
Ancak savunuculuk grupları, akademisyenler ve uzmanlardan oluşan giderek büyüyen bir kitle, insanların akıllarına gelen hemen her şeyi bir komuta yazarak YZ videolarına dönüştürmesine izin verilmesinin tehlikelerine dikkat çekiyor; bunun rıza dışı görüntülerin ve gerçekçi deepfake'lerin, daha az zararlı "AI slop" denizi içinde çoğalmasına yol açtığını söylüyor.
OpenAI, aralarında Michael Jackson, Martin Luther King Jr. ve Mister Rogers'ın da bulunduğu kamuya mal olmuş kişilerin akıl almaz şeyler yaptığı YZ üretimlerine karşı harekete geçti; ancak bunu, ailelerin ve bir oyuncular sendikasının tepkisinin ardından yaptı.
Kâr amacı gütmeyen Public Citizen, artık OpenAI'den Sora 2'yi kamu erişiminden çekmesini talep ediyor ve şirket ile CEO Sam Altman'a Salı günü gönderdiği mektupta, uygulamanın rakiplerinden önce piyasaya çıkabilmesi için aceleyle yayımlanmasının, OpenAI'nin ya doğası gereği güvensiz olan ya da gerekli koruyucu bariyerlerden yoksun bir ürünü piyasaya sürmekte acele ettiğine işaret eden "tutarlı ve tehlikeli bir model" ortaya koyduğunu yazıyor.
Mektuba göre Sora 2, ürün güvenliğine, insanların kendi benzerlikleri üzerindeki haklarına ve demokrasinin istikrarına yönelik "pervasız bir umursamazlık" sergiliyor. Grup mektubu ABD Kongresi'ne de gönderdi.
OpenAI, Salı günü iletilen yorum taleplerine yanıt vermedi.
Grup güvenlik endişeleri dile getiriyor
"En büyük endişemiz demokrasiye yönelik potansiyel tehdit," dedi Public Citizen'ın teknoloji politikaları savunucusu JB Branch bir röportajda.
"Sanırım insanların gördüklerine gerçekten güvenemeyeceği bir dünyaya giriyoruz. Ve siyasette, ilk yayımlanan görüntünün, ilk videonun insanların hatırladığı şey olduğu stratejiler görmeye başlıyoruz."
Salı günkü mektubun yazarı Branch, insanların mahremiyetine ilişkin ve çevrim içi kırılgan grupları orantısız biçimde etkileyen daha geniş kaygılar da görüyor.
OpenAI çıplaklığı engelliyor; ancak Branch, uygulamaların kısıtlamalarından sıyrılabilen fetişize niş içerikler gibi başka yollarla "kadınların çevrim içinde tacize uğradığını" söylüyor.
Haber sitesi 404 Media kısa süre önce, kadınların boğazlarının sıkıldığı Sora yapımı videolarda yaşanan patlamayı haberleştirdi.
OpenAI, yeni Sora uygulamasını bir aydan biraz daha uzun süre önce iPhone'larda kullanıma sundu. Geçen hafta ise ABD ve Kanada'nın yanı sıra Japonya ve Güney Kore dahil birkaç Asya ülkesinde Android telefonlarda piyasaya çıktı.
En sert tepkilerin önemli bir kısmı Hollywood'dan ve Japon manga sektörü de dahil olmak üzere diğer eğlence çevrelerinden geldi.
OpenAI, yayından sadece birkaç gün sonra ilk büyük değişikliklerini duyurdu ve kullanıcılar için "aşırı moderasyonun son derece can sıkıcı" olduğunu kabul etmekle birlikte, "dünya bu yeni teknolojiye hâlâ uyum sağlarken" temkinli davranmanın önemli olduğunu söyledi.
Bunu, şirket daha iyi koruma önlemleri üzerinde çalışırken, 16 Ekim'de Martin Luther King Jr.'ın ailesiyle, sivil haklar liderinin "saygısız tasvirlerini" önleyen, kamuoyuna açıklanan anlaşmalar izledi; 20 Ekim'de ise "Breaking Bad" oyuncusu Bryan Cranston, SAG-AFTRA sendikası ve yetenek ajanslarıyla bir başka anlaşma yapıldı.
"Bunların hepsi iyi hoş, tabii ünlüyseniz," dedi Branch. "OpenAI'nin, çok küçük bir kesimin öfkesine karşılık vermeye razı olduğu bir kalıbı var sanki."
"Bir şeyi yayımlamaya ve sonra özür dilemeye razılar," diye ekledi Branch. "Ama bu sorunların çoğu, yayımlamadan önce alınabilecek tasarım kararları."
OpenAI, amiral gemisi ürünü ChatGPT hakkında da benzer şikayetlerle karşı karşıya kaldı. Geçen hafta açılan yedi yeni dava ABD'de, sohbet robotunun daha önce ruh sağlığı sorunu olmayan kişileri bile intihara ve zararlı sanrılara sürüklediğini ileri sürüyor.
Sosyal Medya Mağdurları Hukuk Merkezi ile Tech Justice Law Project tarafından altı yetişkin ve bir ergen adına açılan bu davalar, OpenAI'nin, iç uyarılara rağmen geçen yıl GPT-4o'yu tehlikeli derecede yaltakçı ve psikolojik olarak manipülatif olduğu biline biline erken yayımladığını iddia ediyor.
Mağdurlardan dördü intihar etti.
Public Citizen davalara dahil değildi; ancak Branch, Sora'nın aceleye getirilen çıkışında paralellikler gördüğünü söyledi.
Zararı umursamadan gaza sonuna kadar bastıklarını söyledi. "Bunların çoğu öngörülebilir görünüyor. Ama doğru olanı yapıp bu şeyleri önceden stres testinden geçirmek ve sıradan kullanıcıların yaşadığı sıkıntıları dert etmek yerine, ürünü bir an önce piyasaya sürmeyi, insanların indirip ona bağımlı hale gelmesini tercih ediyorlar."
OpenAI, geçen haftayı, Hayao Miyazaki'nin Studio Ghibli'si gibi ünlü animasyon stüdyolarını ve Bandai Namco ile Square Enix gibi video oyunu yapımcılarını temsil eden Japon bir ticaret birliğinin şikayetlerine yanıt vererek geçirdi.
OpenAI, pek çok anime hayranının favori karakterleriyle etkileşim kurmak istediğini, ancak telif hakkı sahiplerinin rızası olmadan tanınmış karakterlerin üretilmesini önlemek için koruyucu bariyerler de koyduklarını söyledi.
"Stüdyolar ve hak sahipleriyle doğrudan temas kuruyor, geri bildirimleri dinliyor ve kültürel ve yaratıcı endüstrilerin derin biçimde değer gördüğü Japonya dahil, insanların Sora 2'yi nasıl kullandığından öğreniyoruz," dedi OpenAI, geçen hafta meslek birliğinin mektubuna ilişkin yaptığı açıklamada.