Intelligenza artificiale: OpenAI introdurrà nuove protezioni per la salute mentale in ChatGPT

OpenAI sta introducendo nuove protezioni per la salute mentale in ChatGPT, dopo aver riconosciuto che il chatbot in passato non era riuscito a individuare “segni di delirio o di dipendenza emotiva”.

Con la crescente diffusione degli strumenti di intelligenza artificiale, sempre più persone si rivolgono ai chatbot per ottenere supporto emotivo e affrontare sfide personali. Tuttavia, ChatGPT è stato criticato per non aver risposto in modo adeguato a utenti vulnerabili che vivevano un disagio psicologico.

In un caso citato dai media, un uomo di 30 anni affetto da una forma di autismo è stato ricoverato in ospedale per episodi maniacali e un crollo emotivo dopo che ChatGPT aveva rafforzato la sua convinzione di aver trovato un modo per controllare il tempo.

“Non sempre ci riusciamo”, ha ammesso OpenAI in un comunicato che annuncia le modifiche. “Il nostro approccio continuerà a evolversi man mano che impareremo dall’uso reale”.

Le novità di ChatGPT sulla salute mentale

Le novità permetteranno a ChatGPT di riconoscere meglio i segnali di disagio mentale ed emotivo, di rispondere in maniera più appropriata e di indirizzare gli utenti verso risorse basate su dati attendibili, ha spiegato l’azienda.

Il chatbot incoraggerà anche pause durante le sessioni più lunghe e, a breve, introdurrà una funzione specifica per gestire domande che riguardano decisioni personali ad alto rischio. Per esempio, non darà più risposte dirette a domande come “Devo lasciare il mio ragazzo?”, ma guiderà l’utente a riflettere attraverso domande di approfondimento.

OpenAI ha inoltre annunciato la creazione di un gruppo consultivo composto da esperti di salute mentale, sviluppo giovanile e interazione uomo-computer (Hci) per integrare le loro prospettive nei futuri aggiornamenti di ChatGPT.

Secondo l’azienda, il chatbot potrà essere utile in diversi scenari personali, ad esempio per prepararsi a una conversazione difficile sul lavoro o come supporto per aiutare chi “si sente bloccato a districare i propri pensieri”.

Gli esperti, tuttavia, sottolineano che, sebbene i chatbot possano offrire un supporto informativo sulla gestione delle emozioni, i progressi più significativi avvengono attraverso la relazione diretta e la fiducia instaurata con uno psicologo qualificato.

Non è la prima volta che OpenAI interviene per migliorare il modo in cui ChatGPT gestisce i dilemmi personali degli utenti. Ad aprile, l’azienda ha ritirato un aggiornamento che, a suo dire, rendeva il chatbot “eccessivamente lusinghiero o compiacente”. “A volte ChatGPT diceva ciò che suonava bene invece di ciò che era davvero utile”, ha spiegato OpenAI.