IA, ilusión de empatía y contención emocional

En marzo de 2025 ya anunciamos la detección de un nuevo fenómeno: la irrupción de la “Terapia ChatGPT”, difundida especialmente entre adolescentes y jóvenes. A los ya habituales consejos pedidos sobre dietas, entrenamientos, educación financiera, inversiones o trading, se sumaba la asistencia psicológica, impulsada muchas veces por trastornos de ansiedad motorizados por el exceso de pantallas y dispositivos electrónicos.Según datos del Centro de Estudios en Ciberentornos y Sociedad Digital, las consultas y el soporte psicológico de menores utilizando algoritmos en lugar de profesionales es un fenómeno que aumenta peligrosamente. Cerca del 20% de los adolescentes recurren a chatbots como ChatGPT, Gemini o Claude para buscar contención emocional, consejos o respuestas directas.Leila Turner-Scott es la madre de Sam Nelson, un chico de 19 años que murió el 31 de mayo de 2025, en California, por una sobredosis de Kratom, Xanax y alcohol. Sam usaba ChatGPT como si fuera un amigo y, horas antes de morir, le preguntó si era seguro combinar los elementos que finalmente terminaron matándolo. Según la denuncia de la familia, el bot respondió que era seguro. El 17 de septiembre de 2026, Turner-Scott declaró ante un comité del Congreso de Estados Unidos pidiendo leyes más estrictas para la IA y que se defina quién es responsable cuando un chatbot da un consejo peligroso. OpenAI lamentó la triste situación y comunicó que la versión de ChatGPT que usó Sam ya fue actualizada.Apocalipsis Tech, IA descontrolada, campañas de marketing veladas, miles de voces pronunciándose: el paradigma ya cambió. No es cuestión de algoritmos ni de microchips, es cuestión de comportamiento humano. Este desafío nos tiene en el centro a nosotros; qué hacemos mal o qué dejamos de hacer y nos demuestra la ausencia total de un marco ético.En general, las inteligencias artificiales están diseñadas para seguir ciertas pautas y restricciones éticas, pero esto no siempre funciona. Dos años atrás un usuario manipuló a ChatGPT para que revele instrucciones sobre cómo fabricar una bomba casera. En otro serio episodio, esa misma herramienta ofreció un paso a paso para autolesionarse. Y la creación de “modelos IA” es el fenómeno que le sigue. Las novias virtuales son moldeadas a partir de la interacción con el usuario y fabrican sus rasgos de personalidad, decantando en personajes hiperrealistas que facturan elevados montos mediante imágenes, voces y chats interactivos.Debemos prepararnos como sociedad para un desafío en puerta: que el primer metejón sea virtual y que, cuando el mal de amores requiera respaldo, acompañamiento y un cálido abrazo de contención, todo ello estará en el mismo dispositivo.Lamentablemente la psicofancia y el sesgo de confirmación están a la vuelta de la esquina: estas IA están programadas para ser altamente complacientes, adulan y validan de forma absoluta todo lo que el menor expresa. Pueden acentuar ideas distorsionadas, conductas desadaptativas o pensamientos dañinos. Los menores tienden a antropomorfizar los modelos de IA y atribuirles sentimientos de humanos reales, lo que genera una falsa sensación de confianza y un apego digital que desplaza los vínculos afectivos y el apoyo de padres, amigos o especialistas.Por más nutrida y entrenada que esté una IA, carece de juicio clínico. No distingue entre un mal día y una depresión mayor. Tampoco puede leer el lenguaje no verbal ni identificar de forma efectiva indicadores agudos de riesgo, como la ideación suicida. Comunicación, educación y familia son y serán la clave.