«La IA parece una especie de respuesta general a todo»

Los nuevos chatbots basados en inteligencia artificial de última generación han irrumpido con fuerza en la cultura popular y, en algunos países, ya hay estudios que reflejan cómo millones de personas están usando estos "robots" como una especie de consejero psicológico; una supuesta ayuda para su salud mental.

A su vez, también hay cada vez más evidencias de que un chatbot no puede sustituir a un terapeuta. La IA tiende a reforzar el diálogo interno de los usuarios, no comprende el código deontológico de los psicólogos (o se lo salta a sabiendas) e incluso puede facilitar la aparición de brotes psicóticos.

Sin embargo, muchos afirman que esta nueva tecnología abre nuevas posibilidades de ayuda a personas mediante la creación de recursos que complementan a la terapia o que directamente agilizan el trabajo de los psicoterapeutas. Y esto significa que las consecuencias del uso de la IA en la salud mental tienen ramificaciones de muchos tipos, algunas de las cuales pueden ser positivas. Hoy abordamos este tema con un experto del sector de la psicoterapia que lleva tiempo siguiendo con gran interés los avances en el mundo de los chatbots: el psicólogo Diego Andrés Astorquiza.

Entrevista a Diego Andrés Astorquiza: las oportunidades y riesgos de la inteligencia artificial en la salud mental

Diego Andrés Astorquiza Césped es Psicólogo Clínico por la Universidad Diego Portales, y se especializa en la atención a adultos y adolescentes, tanto de manera presencial en Las Condes y Santiago (Chile) como de manera online. En esta ocasión, hablamos con él sobre las implicaciones del uso de la IA en el mundo de la atención psicoterapéutica y el apoyo a la salud mental.

En los últimos meses se han reportado casos de agravamiento de sintomatología e incluso inducción al suicidio presuntamente relacionados con chatbots con IA. ¿Qué reflexión te generan estos casos?

En primer lugar, me parece importante señalar que lo que está ocurriendo a nivel de salud mental es lo que está ocurriendo en general respecto a cómo la sociedad se está relacionando con la inteligencia artificial. Estas tecnologías, que presentan una cantidad enorme de posibilidades beneficiosas, se han transformado muchas veces en un sustituto de la reflexión crítica y el pensamiento autónomo que tenemos (o deberíamos tener) como seres humanos. Frente a nuestros propios sufrimientos, ocurre lo mismo.

Dicho lo anterior, me parece sumamente preocupante la falta de información sobre los posibles riesgos a la salud mental involucrados en su uso. Tenemos ya tan normalizado apelar en busca de respuestas a la IA que muchas veces no se dimensiona que hay peligros evidentes en su uso, en cuanto al resguardo de nuestra propia privacidad, en el tipo de soluciones que pueden o no dar u otros temas similares.

Por lo que has ido observando, ¿dirías que cada vez más jóvenes están usando chats de inteligencia artificial para buscar un apoyo psicológico que en realidad requiere de la presencia de otro ser humano?

Así es, pero como decía anteriormente, no me parece algo particular de la búsqueda de apoyo en cuanto a salud mental, sino algo generalizado. La IA parece una especie de respuesta general a todo, sobre todo en generaciones más jóvenes.

¿Qué necesidades emocionales crees que está cubriendo la IA (al menos, aparentemente) que muchas personas sienten que no encuentran en otros espacios con terapeutas reales?

La IA ofrece un beneficio que un vínculo humano (personal o profesional) no puede ofrecer, que es el de la inmediatez.

Cuando tú apelas a un chat en busca de respuestas, se te ofrecerá una larga respuesta, muchas veces con un gran sesgo de complacencia, en solo algunos segundos. La terapia, por su parte, requiere de la construcción de una relación y eso involucra un trabajo, paciencia, tiempo y dedicación.

La necesidad emocional que lo anterior cubre en apariencia es la de búsqueda de regulación inmediata. Pero, como es esperable, esas soluciones y esa regulación son la mayoría de las veces poco efectivas y no involucran grandes cambios en el tiempo.

¿Consideras que estas herramientas pueden tener efectos psicológicos potencialmente beneficiosos en términos de desahogo, psicoeducación o acompañamiento inicial?

Desde un punto de vista psicoeducativo, sin duda pueden llegar a ser un aporte en la medida en que el entrenamiento de estas herramientas las haga cada vez más finas a los contextos particulares de las personas que apelan a ellas.

Como desahogo o acompañamiento inicial, es algo que está en veremos todavía. Hay algunas observaciones y estudios iniciales que han determinado que hay personas que pueden vincularse de manera más personal con las IA. Creo que depende mucho de cada cultura, generación, historia personal y momento de la historia.

¿Cuáles son los principales riesgos de utilizar una IA como núcleo de un proceso psicoterapéutico?

De partida, no creo que sea siquiera posible que la IA sea capaz de ser el núcleo de procesos psicoterapéuticos, ya que el fundamento más básico de los mismos reside en la relación humana y la alianza involucrada en la misma para poder existir.

Si pensamos en los riesgos de utilizar la IA como búsqueda de apoyo frente a sufrimientos personales o asuntos de salud mental, los riesgos son variados y evidentes. Anteriormente mencionaba la exposición de asuntos muy personales y, por lo mismo, los problemas de privacidad y confidencialidad involucrados; también el evidente sesgo de complacencia, pero además se han visto casos en donde algunos chats directamente han sugerido maneras en que las personas pueden hacerse daño a sí mismas. Entiendo que se está trabajando actualmente en limitar este tipo de sugerencias.

Se dice que los chatbots de IA son en realidad programas que aprenden a asociar palabras entre sí, pero que no razonan. Yendo a ejemplos concretos, ¿por qué una interacción aparentemente empática puede resultar problemática cuando realmente no existe una comprensión clínica del malestar que sufre la persona?

Creo que aquí los ejemplos ayudan a clarificar bastante. Se han reportado casos de personas con evidentes intenciones de hacerse daño consultando directamente a la IA sobre cómo hacerlo. La IA, cumpliendo con los requerimientos explícitos del usuario, le sugiere las formas más efectivas de cumplir ese propósito. En términos muy concretos, está respondiendo de manera práctica a lo que se le demanda, pero no tiene la capacidad de discernir que esa misma recomendación es un riesgo para la vida de una persona.

Esa falta de reflexión crítica y de criterio clínico, que es algo que, por lo demás, es muy difícil demandarle a un chat, al menos de momento, puede ser un riesgo incluso para la salud de alguien.

¿Qué consecuencias puede tener para personas vulnerables recibir respuestas inadecuadas, reforzadoras o incluso peligrosas en momentos de crisis?

Las mismas que venía señalando antes. Son variados los reportes de casos de agravamientos de distintos tipos de síntomas, incluso psicóticos o suicidas.

¿Qué señales pueden indicar que una persona está desarrollando una dependencia emocional o aislamiento social vinculado al uso de IA conversacional?

Es una excelente pregunta. Si se observan cambios evidentes preocupantes poco explicables por otro tipo de contextos de la vida de una persona, puede ser una señal de alerta importante. También se ve que alguien comienza a pasar más tiempo vinculado con la tecnología del que se había observado hasta ese momento, acompañando los otros cambios antes mencionados.

Creo que estos riesgos son particularmente grandes y graves en jóvenes, niños y adolescentes, ya que han sido más “nativos” en el uso de estas tecnologías y, por lo mismo, las tienen más naturalizadas, normalizadas e integradas en su vida.

¿Cómo deberían integrarse estas tecnologías dentro del ámbito de la salud mental para minimizar riesgos y maximizar beneficios?

Para minimizar riesgos, creo que es importante que sus desarrolladores consideren el tipo de casos que han ocurrido para que las mismas IA levanten alertas o limitaciones sobre su uso, explicitándose esto a los mismos usuarios. Entiendo que se han hecho esfuerzos en este sentido por parte de las compañías involucradas.

Para la obtención de beneficios, creo que es importante una psicoeducación social previa en donde se explique de manera sencilla y entendible en qué asuntos una IA puede ser un aporte en asuntos de salud mental y en cuáles no.

Dicho de otro modo, explicar con claridad a la población cuándo es un medio útil y cuándo es mejor apelar a instancias profesionales. Creo que la información sobre redes de atención, procedimientos de activación de apoyo o ciertos aspectos de la psicoeducación pueden ser en el futuro herramientas que puedan ser de gran apoyo.