OpenAI, ChatGPT'ye 'ruh sağlığı' önlemleri ekliyor

Yapay zeka (AI) teknolojileri giderek daha fazla kişi tarafından duygusal destek ve kişisel sorunlarla başa çıkmak için kullanılırken, OpenAI, ChatGPT'nin ruh sağlığıyla ilgili tehlike işaretlerini yeterince iyi algılayamadığını kabul ederek yeni önlemler aldığını duyurdu.

OpenAI yaptığı açıklamada, ChatGPT’nin bazı durumlarda ''sanrılar" ya da "duygusal bağımlılık" belirtilerini tanımakta başarısız olduğunu belirtti. Özellikle 30 yaşındaki otizmli bir adamın, zamanda yolculuk keşfettiğine inanması ve bu inancının ChatGPT tarafından pekiştirilmesinin ardından manik atak ve duygusal çöküntü nedeniyle hastaneye kaldırıldığı iddiası tartışma yaratmıştı.

OpenAI açıklamasında, “Her zaman doğru yapamıyoruz. Gerçek dünyadaki kullanım örneklerinden öğrendikçe yaklaşımımız gelişecek,” ifadelerine yer verdi.

Yeni önlemler kapsamında, ChatGPT artık zihinsel veya duygusal sıkıntı belirtilerini daha iyi tespit edebilecek, uygun tepkiler verecek ve gerektiğinde bilimsel temelli kaynaklara yönlendirme yapacak. Ayrıca uzun sohbetlerde kullanıcıyı ara vermeye teşvik edecek.

'Ayrıl' demeyecek

Yapay zeka sohbet botu artık "Erkek arkadaşımdan ayrılmalı mıyım?" gibi yüksek riskli kişisel kararlara doğrudan yanıt vermeyecek. Bunun yerine, kullanıcıya düşünme sürecini destekleyecek sorular soracak.

Şirket, ChatGPT’nin güncellemelerine yön vermesi için ruh sağlığı, genç gelişimi ve insan-bilgisayar etkileşimi alanlarında uzmanlardan oluşan bir danışma kurulu kuracağını da açıkladı.

OpenAI, ChatGPT’yi; iş yerinde zorlu bir konuşmaya hazırlanmak ya da duygusal olarak çıkmaza girmiş birinin düşüncelerini toparlamasına yardımcı olacak bir araç olarak konumlandırmak istiyor.

Uzmanlar ise sohbet robotlarının bilgi edinme konusunda yardımcı olabileceğini, ancak gerçek ilerlemenin eğitimli bir psikologla kurulan kişisel bağ ve güven sayesinde gerçekleştiğini vurguluyor.

Bu, OpenAI'nin ChatGPT’yi kişisel meselelerle ilgili eleştiriler sonrası güncellediği ilk örnek değil. Nisan ayında şirket, ChatGPT’nin “aşırı iltifat eden” veya “fazla uyumlu” yanıtlar verdiği gerekçesiyle bir güncellemeyi geri çekmişti.