OpenAI, ChatGPT’ye gençler için ebeveyn denetimleri ekledi

OpenAI, ChatGPT’ye uzun süredir beklenen ebeveyn denetimlerini eklediğini ve bu sayede genç kullanıcıların daha güvenli ve “yaşlarına uygun” bir deneyim yaşayacağını duyurdu.

Bu adım, genç kullanıcılar için yapay zekâ sohbet botlarının güvenliğiyle ilgili artan endişelerin ardından geldi. Son dönemde ChatGPT ile etkileşim sonrası intihar eden gençlerle ilgili vakalar gündeme gelmişti.

OpenAI’nin pazartesi günü yayımladığı blog yazısında, yeni ebeveyn denetimlerinin ayrıntıları paylaşıldı. Denetimler tüm kullanıcılar için mevcut olacak, ancak hem ebeveynlerin hem de gençlerin kendi hesaplarına sahip olması gerekecek.

Ebeveyn veya vasiler, gençleri e-posta ya da kısa mesaj yoluyla davet edebilecek. Gençler de ebeveynlerini davet ederek hesaplarını bağlayabilecek. Ancak gençler, hesaplarını istedikleri zaman ayırabilecek; bu durumda ebeveynler bilgilendirilecek.

Otomatik güvenlik önlemleri

Hesaplar bağlandığında genç kullanıcıların hesaplarına otomatik olarak ek korumalar tanımlanacak. Bunlar arasında grafik içeriklerin azaltılması, viral meydan okumalar, cinsel veya şiddet içerikli rol yapma senaryoları ve “aşırı güzellik idealleri”nin filtrelenmesi yer alıyor. Bu filtreler yalnızca ebeveynler tarafından kapatılabiliyor.

OpenAI, bu önlemlerin “kusursuz olmadığını ve kötü niyetli denemelerle aşılabileceğini” belirterek ebeveynleri çocuklarıyla “sağlıklı yapay zekâ kullanımı” üzerine konuşmaya çağırdı.

Ayarları kişiselleştirme

Ebeveynler için ayrıca bir kontrol paneli sunuluyor. Buradan gençlerin geç saatlerde ChatGPT kullanmasını engellemek için belirli “sessiz zaman”lar ayarlanabiliyor. Bunun dışında:

* Sohbet geçmişinin kaydedilmesini engelleme,

* Görsel üretme ve düzenleme özelliğini kapatma,

* Sesli mod erişimini kısıtlama,

* Sohbetlerin yapay zekâ modellerinin eğitiminde kullanılmasını reddetme seçenekleri bulunuyor.

Uyarı sistemi

OpenAI ayrıca, genç kullanıcıların ruhsal olarak zor durumda olabileceği durumlarda ebeveynleri bilgilendirecek yeni bir sistem kuruyor. Şirketin uzman ekibi, “ani sıkıntı belirtileri” tespit edildiğinde ebeveynlere e-posta, SMS ve telefon bildirimi gönderecek. OpenAI, gizlilik ilkesine bağlı kalarak yalnızca gerekli bilgilerin paylaşılacağını vurguladı.

Şirket, “Mükemmel bir sistem olmadığını, bazen yanlış alarm verilebileceğini biliyoruz. Ancak sessiz kalmaktansa ebeveynleri uyarmanın daha doğru olduğuna inanıyoruz,” dedi.