La salud mental es uno de los campos emergentes donde la aplicación de la inteligencia artificial (IA) está mostrando un gran potencial en los últimos años. La aplicación de algoritmos que detectan cambios emocionales, la probabilidad de riesgo de suicidio o la identificación de contenido terapéutico relevante para un paciente a través del análisis del procesamiento natural del lenguaje se encuentra en la vanguardia de los estudios científicos relacionados con psicología y tecnología. La IA está transformando la forma de trabajar en muchas profesiones, específicamente en el ámbito de la Psicología, un sector que maneja información muy sensible y cuyas implicaciones pueden tener repercusiones negativas en el bienestar y salud mental de las personas. La salud mental merece garantías, no algoritmos opacos. Por ello, la aplicación de la Ley de Inteligencia Artificial (EU AI Act), resulta de especial interés, ya que su objetivo es velar por la seguridad, transparencia y respeto hacia los derechos humanos, que será de obligado cumplimiento desde hoy, 2 de agosto de 2025.
La Ley de Inteligencia Artificial, clasifica los usos de la IA en función del riesgo que representan para las personas, clasificándolo en cuatro niveles: mínimo, limitado, alto y prohibido. En esta clasificación, las aplicaciones o plataformas que utilicen sistemas de IA con capacidad para evaluar, recomendar o influir en decisiones clínicas pueden ser clasificadas como de alto riesgo, lo que implica el cumplimiento de requisitos estrictos antes de su puesta en marcha.
Un ejemplo de este tipo de tecnología es el caso de Loomee, una plataforma de acompañamiento a profesionales de la Psicología que facilita herramientas y funcionalidades para optimizar el proceso terapéutico. Esta plataforma ofrece un entorno digital no solo para almacenar historiales clínicos, sino para asignar tareas de evaluación y de intervención facilitando seguimientos más exhaustivos por parte de los profesionales. Actualmente, Loomee tiene funcionalidades basadas en inteligencia artificial con el objetivo de optimizar aún más los procesos terapéuticos. En este sentido, la Ley de IA obliga a las herramientas como Loomee a informar claramente cuando una de las funcionalidades está automatizada y, lo más importante, prohíbe que se tomen decisiones sin la supervisión humana.
La entrada en vigor del EU AI Act marca un antes y un después en el uso responsable de la inteligencia artificial en el ámbito de la salud mental. Para plataformas como Loomee, representa una oportunidad para liderar con transparencia, ética y rigor técnico, garantizando que la tecnología no sustituya al cuidado humano, sino que lo complemente de forma segura. En definitiva, la regulación no es un freno a la innovación, sino un marco que protege lo más importante: la confianza de las personas.