Character.AI vieta ai minori di usare i chatbot dopo il suicidio di un adolescente

Character.AI stavietando ai minori l'uso dei suoi chatbot, tra i crescenti timori per gli effetti delle conversazioni con l'intelligenza artificiale sui bambini.

L'azienda è alle prese con diverse cause legali sulla sicurezza dei minori, tra cui quella intentata dalla madre di un adolescente che sostiene che i chatbot della società abbiano spinto il figlio a togliersi la vita.

Character Technologies ha dichiarato che gli utenti sotto i 18 anni non potranno più svolgere conversazioni aperte con i personaggi dei suoi chatbot e che, entro il 25 novembre, la piattaforma introdurrà un limite di utilizzo di 2 ore.

L'azienda consente agli utenti di creare o interagire con personaggi personalizzabili che "sembrano vivi e umani" per diverse attività, come giocare o simulare colloqui di lavoro.

Character.AI ha detto che introdurrà funzioni di verifica dell'età per aiutare a individuare gli utenti sotto i 18 anni. Un numero crescente di piattaforme tecnologiche ricorre a controlli dell'età per impedire ai bambini di accedere a strumenti che non sono sicuri per loro.

Ma questi sistemi non sono perfetti e molti ragazzi trovano il modo di aggirarli. Le scansioni facciali, per esempio, non sempre sanno dire se qualcuno ha 17 o 18 anni. E ci sono preoccupazioni per la privacy nel chiedere alle persone di caricare documenti d'identità.

Character.AI ha aggiunto che sta lavorando a nuove funzioni per i minori, come la creazione di video, storie e dirette con personaggi di IA, oltre a un laboratorio per la sicurezza dell'IA. L'azienda sta anche avviando un laboratorio per la sicurezza dell'IA.

Meetali Jain, direttrice esecutiva del Tech Justice Law Project, ha dichiaratoche la decisione di Character.AI "lascia ancora molti dettagli in sospeso".

"Non hanno spiegato come metteranno in pratica la verifica dell'età, né come garantiranno che i loro metodi tutelino la privacy. Né hanno affrontato il possibile impatto psicologico del blocco improvviso dell'accesso ai giovani utenti, considerate le dipendenze emotive che si sono create", ha detto Jain.

"Inoltre, questi cambiamenti non affrontano le caratteristiche di design sottostanti che facilitano tali dipendenze emotive, non solo per i bambini ma anche per le persone sopra i 18 anni."

Oltre il 70 per cento degli adolescenti ha usato compagni di IA e la metà li usa regolarmente, secondo uno studio recentedi Common Sense Media, un gruppo che studia e promuove un uso responsabile degli schermi e dei media digitali.