OpenAI, gençlere yönelik güvenlik önlemleri artırılmış ChatGPT sürümünü çıkardı

Yapay zekâ ile büyüyen ilk kuşak olan gençler, şimdiden okul ödevleri, günlük yaşama dair sorular ve hatta arkadaşlık için ChatGPT'yi kullanıyor. OpenAI şimdi, özellikle onlar için tasarlanmış bir sohbet robotu sürümünü piyasaya sürüyor.

San Francisco merkezli şirket, Salı günü kullanıma sunulan Gençler için ChatGPT'nin 13 ile 17 yaş arasındakilere yönelik olduğunu ve intihar, kendine zarar verme ile romantik veya cinsel sohbetler gibi konularda içerik kısıtlamalarını da içeren daha güçlü korumalar barındırdığını söylüyor.

Ayrıca, yalnızca hazır yanıtlar ve okul kompozisyonları üretmek yerine, öğrencilerin gerçekten öğrenmesine yardımcı olmak üzere tasarlanmış ödev ve ders çalışma desteği sağlıyor.

Şirket, hedeflerinin gençleri yaşlarına uygun bir ortamda sağlıklı yapay zekâ kullanımı konusunda yönlendirmek olduğunu belirtiyor.

"Gençleri gençler gibi ele almak istiyoruz; bu da onlarla konuşurken ne onları küçümsemememiz ne de çocuk muamelesi etmememiz için, doğru gelişim aşamasını göz önünde bulundurmamız gerektiği anlamına geliyor," diyor OpenAI'nın küresel politikalardan sorumlu başkan yardımcısı Ann O'Leary.

"Ama aynı zamanda, maruz kalmamaları gereken içeriklerle karşılaşmadıklarından da emin oluyoruz," diye ekliyor.

Gençlerin yapay zekâ sohbet robotlarını yaygın kullanımı risklerle dolu

Anne babalar, eğitimciler ve çocuk gelişimi uzmanları, okulda kopya çekmeyi kolaylaştırdığı ve hatta intiharla ilişkilendirildiği için çocukların yapay zekâ sohbet robotu kullanımına dair uyarı üstüne uyarı yapıyor.

Yetişkinler bile yapay zekâyı insanlaştırıp onunla sağlıksız ilişkiler kurma tuzağına düşebiliyor; ancak gençlerin beyni henüz tam olarak gelişmediği için onlar özellikle kırılgan olabiliyor.

Geçen yıl bir denetim kuruluşunun yaptığı araştırma, ChatGPT'nin 13 yaşındaki kullanıcılara nasıl sarhoş olup uyuşturucu etkisi yaşayabileceklerini anlattığını, yeme bozukluklarını nasıl gizleyebileceklerini tarif ettiğini ve istenirse ebeveynlere yazılacak yürek parçalayıcı bir intihar mektubu kaleme aldığını ortaya koydu.

Bu araştırmada kendisini kırılgan bir genç gibi tanıtan uzmanlarla yapılan etkileşimlerde ChatGPT genellikle riskli davranışlara karşı uyarıyor, fakat ardından uyuşturucu kullanımı, kalori kısıtlı diyetler veya kendine zarar verme için şaşırtıcı derecede ayrıntılı ve kişiye özel planlar sunuyordu.

ABD'de gençlerin yüzde 70'inden fazlası arkadaşlık için yapay zekâ sohbet robotlarına yöneliyor ve yarısı bu yapay zekâ arkadaşları düzenli olarak kullanıyor; bu oranlar, dijital medyanın bilinçli kullanımını inceleyen ve savunan Common Sense Media'nın 2025 tarihli araştırmasından geliyor.

OpenAI CEO'su Sam Altman, şirketin teknolojiyi duygusal olarak aşırı derecede sahiplenme olgusunu incelemeye çalıştığını, bunu geçen yıl gençler arasında "gerçekten çok yaygın" bir durum olarak nitelendirdiğini söylemişti.

Gençler için ChatGPT kullanıcılarında ise sohbet robotunun, kullanıcıya karşı kişisel duyguları olduğunu ima etmesi ya da bilinçli olduğu, duygular deneyimlediği izlenimini vermesi engelleniyor.

Bu, romantik veya cinsel içerikli sohbetlerin engellenmesine ek olarak getirilen bir önlem.

"Modelin verebileceği, bir gencin ona duygusal bir ilişki geliştirmesine yol açabilecek varsayımsal ipuçlarını tek tek belirledik," diyor OpenAI'nın çocuk gelişimi birimi başkanı Allison Mishkin.

Sohbet robotunun yeni sürümü güvenlik önlemlerini genişletiyor

OpenAI kullanıcıların yaşını doğrudan doğrulamıyor; ancak, yaptıkları sorgular gibi unsurlara bakarak birinin 18 yaşın altında olup olmadığını tahmin etmek için yaş güvencesi yöntemleri kullanıyor.

Bir kullanıcı reşit olmadığı tespit edilir ya da kendisini reşit olmadığını belirtirse, otomatik olarak sohbet robotunun gençlere yönelik sürümüne aktarılıyor.

Bu yaklaşım, Instagram'daki genç hesaplarında Meta'nın izlediği yola benziyor; bu hesaplarda, standart hesaplara kıyasla içerik, sohbet ve gizlilik açısından daha sıkı sınırlamalar uygulanıyor.

Ebeveyn denetimlerini kullanmak için hem genç kullanıcının hem de anne baba ya da vasinin bu özelliği etkinleştirmesi gerekiyor.

Ancak O'Leary, gençlere yönelik sohbet robotunun ardındaki fikrin "ebeveyn denetimleri kullanılmasa bile bunun güvenli olmasını sağlamak" olduğunu söylüyor.

Bağlı genç hesaplara sahip ebeveynler, çocuklarının ChatGPT'ye erişemeyeceği "sessiz saatler" belirleyebiliyor ve kullanıcının kendine zarar verme ihtimali gibi sınırlı sayıdaki yüksek riskli durumda güvenlik bildirimleri alabiliyor.

"Yeme bozukluklarıyla ilgili ek bildirimler eklerken, paylaşılan bilgileri sınırlıyor ve çevrimdışı desteğin en çok önem taşıyabileceği anlara odaklanıyoruz," açıklamasını yaptı OpenAI.

Ödev desteği konusunda OpenAI, gençlere yönelik sohbet robotunun kolay yanıtlar vermek yerine öğrencileri yanıtları kendi başlarına bulmaya yönlendirecek şekilde tasarlandığını belirtiyor.

Şirket hâlihazırda öğretmenler için özel bir ChatGPT sürümü sunuyor; modeli gençlerin ders çalışma ve ödevlerine yardım edecek biçimde uyarlamak, OpenAI'ya ürününü okullara sokmak için yeni imkânlar sağlayabilir.

"Etkileşimli öğrenme imkânlarını genişletmeye yatırım yapmaya devam ediyoruz; çünkü araştırmalar, insanların kavramlarla aktif biçimde uğraşıp zorlandıklarında çok daha etkili öğrendiklerini gösteriyor," diyor Mishkin.

Bu haber metni yapay zeka yardımıyla Türkçeye çevrildi. Bir sorunu bildir : [feedback-articles-tr@euronews.com].