OpenAI, ChatGPT’ye ebeveyn kontrolleri ekledi: Eleştirmenler ise 'belirsiz bir vaat' diyor

OpenAI, ChatGPT için ebeveyn kontrolleri duyurdu. Yeni özellikler arasında, çocuğun sıkıntılı anlarında ebeveynlere bildirim gönderilmesi de bulunuyor.

Şirket ve CEO’su Sam Altman’a dava açan Raine’in ailesi, ChatGPT’nin oğullarında psikolojik bir bağımlılık yarattığını, intihar planı yapmasına yol açtığını ve hatta onun için bir intihar notu yazdığını iddia etti.

OpenAI, ebeveynlerin çocuklarının hangi özellikleri kullanabileceğini yönetmelerine olanak tanıyacak kontrollerin önümüzdeki ay kullanıma sunulacağını açıkladı. Bu kontroller sayesinde ebeveynler, kendi hesaplarını çocuklarınınkiyle bağlayabilecek ve erişimlerini denetleyebilecek. Ayrıca sohbet geçmişi ve yapay zekânın otomatik olarak sakladığı kullanıcı bilgileri de bu kapsamda olacak.

OpenAI’nin blogunda ayrıca, ChatGPT’nin “ergenin akut bir sıkıntı anında” olduğunu tespit etmesi halinde ebeveynlere bildirim göndereceği belirtildi. Ancak hangi durumların bu uyarıyı tetikleyeceği açıklanmadı, yalnızca bu özelliğin uzmanlar tarafından yönlendirileceği ifade edildi.

Bazıları ise bu önlemlerin yeterli olmadığını savunuyor. Raine’in ailesinin avukatı Jay Edelson, OpenAI’nin duyurusunu “daha iyisini yapacağına dair belirsiz vaatler” ve “konuyu değiştirmeye çalışan bir kriz yönetiminden ibaret” diye nitelendirdi.

Edelson, Altman’ın “ya ChatGPT’nin güvenli olduğuna kesin bir şekilde inanması gerektiğini ya da ürünü derhal piyasadan çekmesi gerektiğini” söyledi.

Öte yandan, Instagram, Facebook ve WhatsApp’ın sahibi Meta da salı günü, sohbet botlarının gençlerle kendine zarar verme, intihar, yeme bozuklukları veya uygunsuz romantik konular hakkında konuşmasını engellediğini, bunun yerine onları uzman kaynaklara yönlendirdiğini duyurdu. Meta’nın genç kullanıcı hesaplarında halihazırda ebeveyn kontrolleri bulunuyor.

Geçen hafta Psychiatric Services adlı tıp dergisinde yayımlanan bir araştırma ise, popüler üç yapay zekâ sohbet botunun intiharla ilgili sorulara verdikleri yanıtlarda tutarsızlıklar olduğunu ortaya koydu. RAND Corporation araştırmacılarının yaptığı çalışmada ChatGPT, Google’ın Gemini’si ve Anthropic’in Claude’u incelendi. Meta’nın sohbet botları ise kapsam dışı bırakıldı.

Çalışmanın başyazarı Ryan McBain, “OpenAI ve Meta’nın ebeveyn kontrolleri gibi özellikler getirmesi ve hassas konuşmaları daha uygun modellere yönlendirmesi sevindirici ama bunlar yalnızca küçük adımlar,” dedi.

“Bağımsız güvenlik ölçütleri, klinik testler ve bağlayıcı standartlar olmadan, hâlâ şirketlerin kendi kendini denetlemesine güveniyoruz. Oysa gençler için riskler son derece yüksek,” diye ekledi.