¡Cuidado con la IA!

 Joaquín Mª Aguirre (UCM)

Los debates sobre la inteligencia artificial están a la orden del día. No hay medio que no incorpore alguna noticia en la que se aplaude o se advierte por sus efectos sobre las personas. De las advertencias sobre sus efectos sobre el empleo a las que tienen la salud mental como centro, la IA está en el debate diario.

Tengo serias dudas de que todos estos datos negativos que salen sirvan para frenar lo que se presenta como el gran negocio del siglo. Cuando hay dinero por medio —y hay mucho en juego, tanto en inversión y desarrollo como en ahorro—, no es fácil que esto vaya por un camino que no afecte social y personalmente. Nadie le va a poner puertas al campo de la IA.

En el diario ABC hoy toca la vía de la salud mental y las siempre morbosas noticias sobre posibles suicidios debidos al uso de la IA de diversos modos. Con el titular "¿Pueden las conversaciones con la IA producirnos psicosis? Esto es lo que dice la ciencia", Jorge Herrero nos informa de unos casos preocupantes, aquellos en los que conversar con "chats" puede ser negativo para las personas:

En los últimos meses, psicólogos y psiquiatras han empezado a prestar atención a un fenómeno que parecía impensable, personas que, tras mantener conversaciones prolongadas con chatbots como ChatGPT o Microsoft Copilot, desarrollan episodios psicóticos. La cuestión es compleja y la evidencia aún escasa, pero la inquietud se ha instalado en la comunidad científica.

De acuerdo con un trabajo preliminar publicado recientemente, al menos 17 personas han manifestado cuadros de psicosis después de interactuar con estas herramientas. Los afectados llegaron a experimentar lo que describieron como 'despertares espirituales' o la revelación de supuestas conspiraciones, en un contexto en el que dejaron de distinguir entre lo real y lo imaginario.* 

Vaya por delante una primera consideración: aquellos que mantienen conversaciones con máquinas de este tipo ya manifiestan una cierta predisposición hacia esos estados en los que, como se nos dice, lo real y lo imaginario no se distinguen demasiado bien.

Por eso, se añade poco después la siguiente matización sobre los efectos detectados:

El trastorno psicótico se caracteriza por una alteración profunda en la percepción de la realidad: aparecen alucinaciones, delirios y creencias firmemente sostenidas aunque sean falsas. Tradicionalmente, sus causas se han relacionado con enfermedades como la esquizofrenia, el trastorno bipolar, situaciones de estrés extremo o el consumo de alcohol y drogas. Que la inteligencia artificial pueda sumarse a estos desencadenantes es todavía una hipótesis, pero ya ha sido bautizada de forma informal como 'psicosis de la IA'.*

No sabemos si es la IA la que lo produce o sencillamente son los que se sienten atraídos por esas conversaciones con ella los que se precipitan en esos estados para los que están predispuestos.

Recordemos el caso que ha estado en los medios recientemente del joven suicida tras refugiarse con la IA en conversaciones continuadas. La familia del suicida acabó demandando a la empresa que comercializa la IA en cuestión. La hacen responsable del suicidio.

BBC 27/08/2025

Como "amiga", la IA no parece darnos demasiados buenos consejos o, al menos, no trascienden. Si lo hacen, sin embargo, aquellos que acaban trágicamente. Lo que ocurre es que en este mundo mercantilizado, cada vez más la salud depende de los diagnósticos, consejos o recomendaciones que la IA nos haga. Esto es especialmente peligroso en los casos en los que se trata de la salud mental, un campo cada vez más amplio y complejo en el que la asistencia requiere de buenos especialistas.

La soledad se extiende por nuestras sociedades postindustriales. Ahora se ha acuñado el término "soledad no deseada", una situación que afecta especialmente a los más jóvenes y a los mayores. La agresividad que nos rodea —del acoso escolar a la violencia de género— nos hace tratar de encontrar refugio en una soledad que pronto se hace difícilmente soportable.

La tentación de refugiarse en la IA de turno es grande y no siempre fiable ni con garantías. No tiene los mismos efectos en las personas. De forma sinuosa y envolvente, la IA puede llevarnos a extremos aparentemente lógicos para aquellos que no desean seguir sufriendo. La salida, en ocasiones, es trágica.

Es poco probable que las máquinas de IA sean capaces de desarrollar algo que se ha denominado "Teoría de una mente", es decir, la capacidad humana de ponernos en la mente del otro y ajustar nuestra comunicación a la situación. Puede que la máquina nos diga siempre la verdad, pero puede ser que sea otra cosa lo que necesitamos en ese momento.

En ABC dicen que la "ciencia" nos advierte. ¿Sirve de algo? 

 

* Jorge Herrero "¿Pueden las conversaciones con la IA producirnos psicosis? Esto es lo que dice la ciencia" ABC 21/09/2025 https://www.abc.es/sociedad/pueden-conversaciones-ia-producirnos-psicosis-dice-ciencia-20250921172532-nt.html