IA, ilusión de empatía y contención emocional

En marzo de 2025 ya anunciamos la detección de un nuevo fenómeno: la irrupción de la “Terapia ChatGPT” difundida especialmente entre adolescentes y jóvenes. A los ya habituales consejos pedidos sobre dietas entrenamientos educación financiera inversiones o trading se sumaba la asistencia psicológica impulsada muchas veces por trastornos de ansiedad motorizados por el exceso de pantallas y dispositivos electrónicos.Según datos del Centro de Estudios en Ciberentornos y Sociedad Digital las consultas y el soporte psicológico de menores utilizando algoritmos en lugar de profesionales es un fenómeno que aumenta peligrosamente. Cerca del 20% de los adolescentes recurren a chatbots como ChatGPT Gemini o Claude para buscar contención emocional consejos o respuestas directas.Leila Turner-Scott es la madre de Sam Nelson un chico de 19 años que murió el 31 de mayo de 2025 en California por una sobredosis de Kratom Xanax y alcohol. Sam usaba ChatGPT como si fuera un amigo y horas antes de morir le preguntó si era seguro combinar los elementos que finalmente terminaron matándolo. Según la denuncia de la familia el bot respondió que era seguro. El 17 de septiembre de 2026 Turner-Scott declaró ante un comité del Congreso de Estados Unidos pidiendo leyes más estrictas para la IA y que se defina quién es responsable cuando un chatbot da un consejo peligroso. OpenAI lamentó la triste situación y comunicó que la versión de ChatGPT que usó Sam ya fue actualizada.Apocalipsis Tech IA descontrolada campañas de marketing veladas miles de voces pronunciándose: el paradigma ya cambió. No es cuestión de algoritmos ni de microchips es cuestión de comportamiento humano. Este desafío nos tiene en el centro a nosotros; qué hacemos mal o qué dejamos de hacer y nos demuestra la ausencia total de un marco ético.En general las inteligencias artificiales están diseñadas para seguir ciertas pautas y restricciones éticas pero esto no siempre funciona. Dos años atrás un usuario manipuló a ChatGPT para que revele instrucciones sobre cómo fabricar una bomba casera. En otro serio episodio esa misma herramienta ofreció un paso a paso para autolesionarse. Y la creación de “modelos IA” es el fenómeno que le sigue. Las novias virtuales son moldeadas a partir de la interacción con el usuario y fabrican sus rasgos de personalidad decantando en personajes hiperrealistas que facturan elevados montos mediante imágenes voces y chats interactivos.Debemos prepararnos como sociedad para un desafío en puerta: que el primer metejón sea virtual y que cuando el mal de amores requiera respaldo acompañamiento y un cálido abrazo de contención todo ello estará en el mismo dispositivo.Lamentablemente la psicofancia y el sesgo de confirmación están a la vuelta de la esquina: estas IA están programadas para ser altamente complacientes adulan y validan de forma absoluta todo lo que el menor expresa. Pueden acentuar ideas distorsionadas conductas desadaptativas o pensamientos dañinos. Los menores tienden a antropomorfizar los modelos de IA y atribuirles sentimientos de humanos reales lo que genera una falsa sensación de confianza y un apego digital que desplaza los vínculos afectivos y el apoyo de padres amigos o especialistas.Por más nutrida y entrenada que esté una IA carece de juicio clínico. No distingue entre un mal día y una depresión mayor. Tampoco puede leer el lenguaje no verbal ni identificar de forma efectiva indicadores agudos de riesgo como la ideación suicida. Comunicación educación y familia son y serán la clave.