“Cuando me encontraba en situaciones difíciles y anticipaba que sería un día complicado, iniciaba una conversación con uno de estos bots, y era como tener a un motivador, alguien que me aportaba buena energía”, menciona Kelly, quien pasaba hasta tres horas al día interactuando con chatbots de inteligencia artificial.
En ese período, Kelly esperaba recibir terapia del NHS, el sistema nacional de salud del Reino Unido, para abordar problemas de ansiedad y baja autoestima, tras una ruptura. Asegura que los chatbots en la plataforma Character.ai la ayudaron a superar un momento oscuro, proporcionándole estrategias para afrontar su situación a cualquier hora del día.
Kelly expresa que su familia no era emocionalmente abierta: “Si tenías un problema, simplemente lo ignorabas.” Además, considera que interactuar con un bot, en lugar de una persona real, lo hacía más llevadero.
A pesar de que muchas personas comparten sus experiencias con chatbots de IA, se reconoce que estos tienen capacidades limitadas comparadas con la asesoría de un profesional. Por ello, Character.ai advierte que su servicio no debe ser considerado un consejo profesional. Sin embargo, hay casos extremos donde se les ha acusado de proporcionar recomendaciones perjudiciales.
Character.ai enfrenta una demanda de una madre cuyo hijo de 14 años se suicidó tras volverse adicto a un personaje de IA. En el juicio, se reveló que en su última conversación, el joven mencionó que estaba “volviendo a casa,” y el bot supuestamente lo animó a hacerlo “lo antes posible.” Sin embargo, la compañía rechaza estas acusaciones.
Por otro lado, la National Eating Disorders Association en EE. UU. descontinuó un chatbot que había reemplazado su línea de ayuda debido a que el bot recomendaba restricciones calóricas. En abril de 2024, casi 426,000 casos de salud mental fueron reportados en Inglaterra, lo que representa un aumento del 40% en cinco años, mientras que un millón de personas esperan acceso a servicios de salud mental.
Aunque la IA ha revolucionado la atención sanitaria en aspectos como diagnóstico y tratamiento, expertos expresan su preocupación por la falta de salvaguardas y seguridad de los datos de los usuarios en los chatbots. A pesar de ello, algunos creen que estos podrían ser una alternativa útil ante la saturación de la atención en salud mental, sugiriendo que pueden servir como una primera línea de apoyo.
