¿Puedes fiarte de la IA para cuidar la salud mental?: una psiquiatra responde

Según datos de OpenAI, más de un millón de usuarios tienen conversaciones con ChatGPT en las que se han detectado indicadores de posibles estrategias para planear suicidios. John Torous, profesor de la Universidad de Harvard, es uno de los expertos que ha compartido recientemente sus reflexiones sobre los potenciales beneficios y riesgos de dar a la inteligencia artificial (IA) acceso a nuestra salud mental.

Uno de los aspectos que llama la atención es que, a pesar del uso extendido que se está haciendo de ella, aún no exista normativa consistente para proteger la seguridad y la privacidad de los usuarios. En sus intervenciones, Torous se muestra cauteloso pero optimista, y recuerda que las autoridades tienen la capacidad de establecer controles legislativos sobre este tipo de nuevas tecnologías.

Su posición es muy similar a la de Sabine Wilhelm, de la misma universidad: «Los titulares de la prensa suelen destacar los aspectos más peligrosos de la IA, pero estos artículos rara vez distinguen entre los instrumentos desarrollados específicamente por clínicos e investigadores para sus pacientes y los ‘chatbot’ en general. Son cosas muy diferentes».

Nina Vasan, profesora de psiquiatría en la Universidad de Stanford, advierte que «la tecnología se ha diseñado para estimular el uso de estas herramientas, no para mejorar la salud mental». Vasan trabaja con compañías como Pinterest, Apple y TikTok para rediseñar las plataformas teniendo en cuenta la salud mental.

Ansiedad y depresión

Según ella, la utilidad de las redes varía en función de las condiciones de salud mental. Los modelos de lenguaje de gran tamaño (LLM) no están preparados para funcionar como asistentes autónomos en salud mental, pero pueden tener cierta utilidad para pacientes concretos, por ejemplo, para ayudarles a comprender sus pensamientos, emociones y conductas. Los considera «prometedores» en algunos casos de depresión y ansiedad.

Por otra parte, indica que casi todos los LLM tienen dificultad para reconocer el contenido maníaco, psicótico u obsesivo, sobre todo si se va expresando de manera gradual. «Hemos visto avances significativos en cuanto a suicidio y autolesiones, pero estas plataformas todavía siguen pasando por alto la imagen general de una persona que está atravesando una crisis», indica Vasan.

También considera que «hay enormes beneficios terapéuticos en integrar la IA en los cuidados de salud y, en cierto modo, la IA puede llegar a los pacientes de un modo en el cual el abordaje convencional no puede».

Para Torous, es clave tener presente que algunas personas no deberían usar los ‘chatbot’ de IA, “igual que hay pacientes con alto riesgo de desarrollar esquizofrenia que nunca deberían consumir cannabis”.

Protocolos a medida

En el camino para hacerlos más seguros, cree que las compañías que los desarrollan deberían compartir información con las autoridades, los profesionales sanitarios y los investigadores. Eso permitiría diseñar protocolos específicos para situaciones de crisis, entre otras estrategias preventivas. «Los médicos tienen el juramento hipocrático, la consigna de ‘no hacer daño’; queremos que las compañías tecnológicas se comprometan a lo mismo», dice.

Además, puesto que los pacientes ya están acudiendo a la IA para hablar de su salud mental, lo más lógico sería ir a la IA y adaptarla para ellos, indican los expertos.

Las claves: «Asegurarnos de que los médicos están implicados y de que se cumplen las normas éticas de la práctica clínica para no desviarnos del objetivo, que es cuidar a los pacientes».