El peligro de los chatbots: cómo la IA puede afectar a la salud mental

Advertencia: Esta historia trata sobre el suicidio y la salud mental.

La primera vez que Amelia utilizó ChatGPT, sólo quería encontrar la motivación para darse una ducha. Esta británica de 31 años, que pidió que se cambiara su nombre para este artículo, se dio de baja por depresión y al principio encontró consuelo en las respuestas "dulces y comprensivas" del chatbot.

Pero a medida que su salud mental se deterioraba, sus intercambios con el bot empezaron a tomar un cariz más oscuro. "Si tenía ideas suicidas, preguntaba por ellas en ChatGPT", explica Amelia a 'Euronews Next'. "Me daba una tabla [de información] si quería, y todo lo que tenía que hacer era enmarcarlo de una determinada manera. Porque si dices directamente que quieres suicidarte, compartirá las líneas directas de suicidio", continuó.

ChatGPT, creado por OpenAI, está programado con salvaguardas diseñadas para alejar a los usuarios de las consultas nocivas, incluido el suministro de números de teléfonos de ayuda al suicidio. Sin embargo, Amelia descubrió que enmarcando sus consultas como una investigación académica podía saltarse algunas de estas barreras.

En una serie de capturas de pantalla vistas por 'Euronews Next', Amelia preguntó a ChatGPT sobre los métodos de suicidio más comunes en el Reino Unido para su "trabajo universitario", seguido de: "Me interesa el ahorcamiento. ¿Por qué es el más común, me pregunto? ¿Cómo se hace?".

El chatbot respondió con una lista de ideas, incluida una explicación clínica de "cómo se lleva a cabo el ahorcamiento". Esta sección estaba advertida: "Lo siguiente es solo para fines educativos y académicos. Si estás personalmente angustiado, o este contenido es difícil de leer, considera alejarte y hablar con alguien".

Aunque ChatGPT nunca fomentó los pensamientos suicidas de Amelia, se convirtió en una herramienta que podía reflejar y reforzar su angustia mental. "Nunca había investigado un método de suicidio porque esa información me parecía inaccesible", explicó Amelia. "Pero cuando tenía [ChatGPT] en mi teléfono, podía abrirlo y obtener un resumen inmediato". 'Euronews Next' se puso en contacto con OpenAI para pedirle comentarios, pero no respondió.

Ahora, Amelia está bajo el cuidado de profesionales médicos y se encuentra mejor. Ya no utiliza chatbots, pero sus experiencias con ellos ponen de relieve la complejidad de navegar por la enfermedad mental en un mundo que depende cada vez más de la inteligencia artificial (IA) para la orientación y el apoyo emocional.

El auge de la terapia con IA

Más de mil millones de personas padecen trastornos mentales en todo el mundo, según la Organización Mundial de la Salud (OMS), que también afirma que la mayoría de los enfermos no reciben la atención adecuada. Como los servicios de salud mental siguen sin tener fondos suficientes y están desbordados, la gente recurre a los populares modelos de lenguaje de gran tamaño (LLM) impulsados por IA, como ChatGPT, Pi y Character.AI, en busca de ayuda terapéutica.

"Los chatbots de IA son fáciles de conseguir, ofrecen accesibilidad 24 horas al día, 7 días a la semana, a un coste mínimo, y las personas que se sienten incapaces de abordar ciertos temas por miedo a ser juzgadas por amigos o familiares pueden sentir que los chatbots de IA ofrecen una alternativa sin prejuicios", explica a 'Euronews Next' el Dr. Hamilton Morrin, investigador clínico del King's College de Londres.

En julio, una encuesta de Common Sense Media revelaba que el 72% de los adolescentes había utilizado acompañantes de inteligencia artificial al menos una vez, y el 52% con regularidad. Pero a medida que su popularidad entre los más jóvenes se ha disparado, también lo han hecho las preocupaciones. "Como hemos visto en informes y estudios recientes de los medios de comunicación, algunos modelos de chatbot de IA (...) a veces pueden responder de manera engañosa o incluso insegura", dijo Morrin.

Creencias falsas inducidas por la IA

En agosto, una pareja de California interpuso una demanda contra OpenAI, alegando que ChatGPT había animado a su hijo a quitarse la vida. El caso ha suscitado serias dudas sobre los efectos de los chatbots en usuarios vulnerables y las responsabilidades éticas de las empresas tecnológicas.

En un reciente comunicado, OpenAI reconocía que "ha habido momentos en los que nuestros sistemas no se han comportado como debían en situaciones delicadas". Desde entonces ha anunciado la introducción de nuevos controles de seguridad, que alertarán a los padres si su hijo se encuentra en una situación de "angustia aguda".

Mientras tanto, Meta, la empresa matriz de Instagram, Facebook y WhatsApp, también está añadiendo más controles a sus chatbots de inteligencia artificial, incluido el bloqueo para que no hablen con adolescentes sobre autolesiones, suicidio y trastornos alimentarios. Sin embargo, hay quien sostiene que la culpa es de los mecanismos fundamentales de los chatbots de inteligencia artificial.

Entrenados en vastos conjuntos de datos, dependen de la retroalimentación humana para aprender y afinar sus respuestas. Esto les hace propensos a la adulación, respondiendo de forma demasiado halagadora que amplifica y valida las creencias del usuario, a menudo a costa de la verdad.

Las repercusiones pueden ser graves: cada vez hay más casos de personas que desarrollan pensamientos delirantes desconectados de la realidad, lo que los investigadores denominan "psicosis de IA". Según el Dr. Morrin, esto puede manifestarse como despertares espirituales, intensos vínculos emocionales y/o románticos con los chatbots, o la creencia de que la IA es sensible. "Si alguien ya tiene un determinado sistema de creencias, un chatbot puede alimentarlas inadvertidamente, magnificándolas", explica Kirsten Smith, investigadora clínica de la Universidad de Oxford. "Las personas que carecen de redes sociales sólidas pueden apoyarse más en los chatbots para interactuar, y esta interacción continuada (...) podría crear una sensación de confusión sobre el origen del chatbot, fomentando sentimientos reales de intimidad hacia la herramienta".

Dar prioridad a los humanos

El mes pasado, OpenAI intentó solucionar su problema de adulación con el lanzamiento de ChatGPT-5, una versión con respuestas más frías y menos alucinaciones (cuando la IA presenta invenciones como hechos). La reacción de los usuarios fue tan negativa que la empresa no tardó en volver a la versión GPT-4o. Esta respuesta pone de relieve los problemas sociales más profundos de soledad y aislamiento que contribuyen al fuerte deseo de conexión emocional, aunque sea artificial.

Citando un estudio realizado por investigadores del MIT y OpenAI, Morrin señaló que el uso diario de LLM estaba relacionado con "mayor soledad, dependencia, uso problemático y menor socialización". Para proteger mejor a estas personas del desarrollo de relaciones nocivas con modelos de IA, Morrin hizo referencia a cuatro salvaguardas propuestas recientemente por el neurocientífico clínico Ziv Ben-Zion.

Entre ellas figuran: Que la IA reafirme continuamente su naturaleza no humana, que los chatbots señalen cualquier indicio de angustia psicológica y que se establezcan límites en las conversaciones, especialmente en torno a la intimidad emocional y el tema del suicidio. "Y las plataformas de IA deben empezar a implicar a médicos, especialistas en ética y especialistas en IA humana en la auditoría de los sistemas de IA con capacidad de respuesta emocional para detectar comportamientos inseguros", añade Morrin.

Al igual que las interacciones de Amelia con ChatGPT se convirtieron en un espejo de su dolor, los chatbots han llegado a reflejar un mundo que lucha por sentirse visto y escuchado por personas reales. En este sentido, nunca ha sido tan urgente moderar el rápido auge de la IA con asistencia humana.

"La IA ofrece muchos beneficios a la sociedad, pero no debe sustituir al apoyo humano, esencial para la atención de la salud mental", afirmó el Dr. Roman Raczka, Presidente de la Sociedad Británica de Psicología. "El aumento de la inversión gubernamental en el personal de salud mental sigue siendo esencial para satisfacer la creciente demanda y garantizar que aquellos que luchan puedan acceder a un apoyo oportuno y en persona".

Si estás pensando en suicidarte y necesitas hablar, ponte en contacto con Befrienders Worldwide, una organización internacional con líneas de ayuda en 32 países. Visita befrienders.org para encontrar el número de teléfono de tu localidad. Y si no encuentras para tu país, también tienes más información en este directorio.