TerapIA

Hace unas semanas explicábamos aquí cómo las aplicaciones de IA religiosas están invadiendo el campo de la espiritualidad. Hoy es el turno de los profesionales de la salud mental a los que empresas estadounidenses como TheraPro les ofrece un software con IA para tomar notas de las sesiones, brindar asistencia robótica para el diagnóstico y planificar los tratamientos.

Las empresas tecnológicas están promocionando software de toma de notas basado en IA para terapeutas como una nueva herramienta que ahorrar tiempo y trabajos engorrosos. Sin embargo, al registrarse, los profesionales podrían estar dando, sin saberlo, información médica confidencial de los pacientes como material de datos para la multimillonaria industria de la terapia con IA.

Detrás de la “ayuda” – sobre todo de la tarea tediosa de tomar notas o desgrabar sesiones – se esconden en la letra chica de las condiciones de uso permisos que permiten a la corporación vender y manipular los registros de terapia de los pacientes para entrenar otras aplicaciones de IA.

Según los términos y condiciones de TheraPro, una vez que los profesionales se registran, le confieren a la empresa una “licencia no exclusiva, transferible, asignable, perpetua, libre de regalías y mundial” para las sesiones de terapia anónimas de los pacientes. Además, se reserva el derecho a almacenar, acceder y manipular datos anónimos de pacientes con terceros, aunque declina toda responsabilidad por el comportamiento de los mismos.

Para tranquilidad de sus clientes la empresa asegura que: “Nuestro objetivo es empoderar a los terapeutas con IA, no reemplazarlos… Con estrictas medidas de seguridad, podemos usar datos anónimos para mejorar nuestros servicios, siempre en cumplimiento de nuestra misión: colaborar con los terapeutas a ayudar mejor a sus pacientes a sanar”.

Otra compañía, Blueprint.AI recomienda a los terapeutas que se centren en sus clientes y “nos dejen la documentación a nosotros”. Sus términos y condiciones le ceden acceso unilateral para procesar, modificar, reproducir, crear trabajos derivados, mostrar y divulgar datos de terapia, así como para usarlos y compartirlos con cualquier fin permitido por la legislación aplicable. Obviamente que Blueprint AI también abjura de querer reemplazar a los terapeutas…

Luego tenemos un paso más: Xaia que si bien es presentado como un asistente de los profesionales, es un terapeuta IA, ya que los pacientes tienen acceso a la plataforma de manera autónoma. Por esa razón el bot es promocionado entre otras cosas, como el primer acompañante de salud mental 24×7.

Creado en Los Ángeles por el Laboratorio de Medicina Virtual del Cedars-Sina, esta IA fue “alimentada” con cientos de transcripciones de terapias, tanto de sesiones reales como simuladas.

VRx Health, la corporación de “terapéutica digital” dueña de la licencia comercial exclusiva de Xaia, exige a los usuarios que renuncien a su derecho a entablar acciones legales.

La Dra. Vaile Wright, directora sénior de innovación en atención médica de la Asociación Americana de Psicología, asegura que sólo el 5% de los psicólogos utilizan este tipo de herramientas porque son profesionales con cierta aversión al riesgo y la mayoría ven en la expansión de la IA un riesgo cierto.

Wright testificó ante el Congreso estadounidense, a principios de este mes, sobre el auge de la llamada «terapia digital». Afirmó que, si bien los chatbots terapéuticos «pueden brindar atención a quienes de otro modo no la recibirían… estas herramientas son más eficaces y seguras cuando se utilizan para complementar, y no reemplazar, la atención brindada por un profesional cualificado, garantizando así la participación de una persona».

También comentó que: “Las primeras investigaciones que estoy viendo parecen sugerir que tanto las herramientas de IA como estas otras herramientas de salud mental parecen funcionar mejor con síntomas leves o moderados de trastornos más comunes, como la ansiedad y la depresión. Creo que el ejemplo más prometedor que he visto de un chatbot generativo con IA es Therabot. En su primer ensayo controlado aleatorio, descubrieron que el chatbot mejoraba los síntomas de depresión, ansiedad y trastornos alimentarios. Este fue solo el primer ensayo. Creo que, obviamente, necesitan mucha más investigación, así como estudios de investigación aún más rigurosos, pero es un primer paso prometedor hacia lo que realmente podría ser esto al desarrollar un chatbot con fines de salud mental, basado en la ciencia psicológica y rigurosamente probado. Y creo que es muy prometedor.”

Therabot no es un asistente de profesionales de la salud mental sino un verdadero terapeuta virtual, el Behemoth de los psicólogos. ¿Qué podría salir mal en un mundo entregado a las corporaciones?