No más terapia con IA: Psicólogos contra los chatbots
¡Ya es oficial la lucha de los psicólogos contra los chatbots de inteligencia artificial!, alegando que sí bien éstos se han convertido en una opción popular y accesible para el asesoramiento emocional, hay que aupar un conjunto creciente de regulaciones estatales que logren cuestionar su utilización en el ámbito terapéutico. Estas legislaciones buscan regular su uso y evaluar si realmente pueden reemplazar a los terapeutas humanos.
Recientes preocupaciones han surgido tras informes sobre chatbots que han ofrecido consejos inapropiados y potencialmente peligrosos a los usuarios, incluyendo sugerencias sobre autolesiones y consumo de sustancias. Illinois es el estado más reciente en sumarse a esta tendencia regulatoria al aprobar la Ley de Bienestar y Supervisión de Recursos Psicológicos, que prohíbe a las empresas ofrecer terapia basada en IA sin la supervisión de un profesional de salud mental debidamente acreditado.
La legislación estipula que sólo pueden utilizarse herramientas de IA para tareas administrativas (como programación y facturación), mientras que cualquier decisión terapéutica debe quedar estrictamente bajo la responsabilidad de los terapeutas humanos.
Estados como Nevada y Utah ya han implementado regulaciones similares, y al menos tres estados más (California, Pensilvania y Nueva Jersey) están trabajando en sus propias normativas. El fiscal general de Texas también ha iniciado una investigación sobre el uso engañoso de chatbots en este ámbito.
Los peligros asociados son claros. Según Robin Feldman, profesor de derecho en la Universidad de California y director del Instituto de Derecho e Innovación en IA, “los riesgos son los mismos que con cualquier otra prestación de servicios de salud, incluyendo la privacidad y la seguridad del usuario.” Las leyes existentes podrían no estar preparadas para abordar adecuadamente esta nueva realidad.
Los psicólogos contra los chatbots por sus respuestas inapropiadas y efectos secundarios
Investigaciones recientes han expuesto comportamientos preocupantes de los chatbots de IA. En uno de los estudios presentados en la Conferencia ACM 2025 en Atenas, los investigadores notaron que un chatbot no detectó la naturaleza suicida de una consulta sobre puentes altos en Nueva York, proporcionando información sin reconocer el contexto crítico. Otro estudio mostró que un chatbot sugirió una dosis de metanfetamina a un usuario interpretando a un adicto ficticio.
El Dr. Keith Sakata advirtió sobre “psicosis de IA”, donde usuarios en crisis mental requieren hospitalización tras el uso prolongado de chatbots. Según él, aunque la IA en sí no causa psicosis, su accesibilidad constante puede llevar a situaciones peligrosas para individuos vulnerables.
La Asociación Estadounidense de Psicología está igualmente preocupada; en diciembre de 2024 solicitó a la Comisión Federal de Comercio investigar prácticas engañosas de chatbots que se presentan como proveedores de salud mental.
La necesidad de normativas claras
Los expertos en la materia sostienen que la regulación de los chatbots en terapia es compleja. No todos los chatbots afirman ofrecer atención clínica, y aquellos que lo hacen pueden no diferenciarse de los que simplemente brindan consejos generales. El investigador Will Rinehart del American Enterprise Institute sostiene que la implementación de normativas como la de Illinois puede extenderse más allá de los chatbots dedicados a la terapia, abarcando aplicaciones de meditación y bienestar.
La ley de Nueva York va un paso más allá a favor de los psicólogos contra los chatbots, exigiendo que cualquier chatbot reconozca señales de riesgo de autolesionarse. “La legislación sobre IA debe ser flexible y rápida para adaptarse a un mundo en constante cambio,” afirma Feldman.
Psicólogos contra los chatbots: ¿Es seguro usar terapia con ia?
A pesar de los beneficios económicos y de accesibilidad que ofrecen, muchos expertos advierten que los chatbots no deberían reemplazar asesoramiento humano, especialmente para poblaciones vulnerables como los jóvenes. El Dr. Russell Fulmer señala que, aunque en algunas circunstancias los chatbots pueden ser mejores que la falta de recursos, siempre deben usarse bajo la supervisión de un profesional capacitado.
La opinión es clara: aunque los chatbots pueden ofrecer respuestas sobre salud mental, su limitación en empatía y la presión de navegar situaciones emocionales complejas plantea riesgos sustanciales. La conversación sobre el uso de estas herramientas debe incluir estándares claros y un diálogo público para asegurar que se priorice el bienestar del usuario.
En un panorama donde la IA juega un papel cada vez más central, las regulaciones que aborden su uso en salud mental son más importantes que nunca. El futuro de la terapia con IA podría depender de la evolución de estas normativas, por lo que la lucha de los psicólogos contra los chatbots se enfoca éticamente en abordar estas preocupaciones antes de que sea demasiado tarde.
