Mexicali, Baja California.- El uso de herramientas de inteligencia artificial como apoyo emocional entre jóvenes puede representar riesgos cuando las conversaciones con un algoritmo sustituyen la atención proporcionada por profesionales de la salud mental, advirtió Ivon Guerrero, directora de los programas de Psicología de CETYS Universidad.
La especialista explicó que la inteligencia artificial puede resultar útil como un primer acercamiento para que una persona reconozca que necesita ayuda psicológica. Sin embargo, señaló que el problema comienza cuando la información obtenida mediante estas plataformas no es corroborada posteriormente con un especialista.
“Si el uso de la inteligencia artificial como un acercamiento a un profesional se diera de esa manera, es decir, si los jóvenes consultaran la IA y después dijeran: ‘Vaya, creo que tengo que ver a un psicólogo’, pues sería una herramienta favorable”, explicó.
Guerrero indicó que permanecer únicamente en una conversación con la herramienta puede provocar que el usuario reciba respuestas que no necesariamente corresponden con su situación. También existe el riesgo de que el sistema refuerce sus percepciones sin que haya una evaluación profesional del contexto, las emociones o las condiciones que enfrenta.
La IA puede validar información incorrecta
Uno de los riesgos identificados por la académica son las llamadas “alucinaciones” de la inteligencia artificial. Este término se utiliza para describir información falsa o inventada que un sistema puede presentar al usuario con aparente seguridad, aunque carezca de sustento.
A ello se suma la tendencia de algunas plataformas a generar respuestas que validan constantemente lo planteado por la persona durante la conversación. De acuerdo con Guerrero, esta situación adquiere mayor relevancia cuando la IA es utilizada para interpretar emociones, conflictos personales u otros casos que requieren una valoración profesional.
Una respuesta convincente, explicó, no necesariamente significa que el sistema comprenda el problema o que su recomendación sea adecuada. La herramienta trabaja con los datos aportados por el usuario y con los patrones aprendidos durante su desarrollo, pero no tiene como propósito directo proteger su bienestar.
Un algoritmo no sustituye la empatía
Guerrero señaló que una diferencia fundamental entre un sistema de inteligencia artificial y un psicólogo se encuentra en el propósito y alcance de la interacción. Un profesional puede analizar el contexto de una persona, identificar sus redes de apoyo y acompañarla en la búsqueda de alternativas frente a una situación adversa.
La inteligencia artificial, en cambio, genera sus respuestas a partir de la información proporcionada durante la conversación. “Es una respuesta centrada en un aprendizaje de la misma información que yo le estoy brindando; está retroalimentándose para aprender qué contestarme, no para cuidar mi bienestar”, afirmó.
La atención psicológica también implica una relación humana. En ella, el especialista puede desarrollar empatía y valorar elementos que van más allá de los datos expresados directamente por el paciente, algo que un algoritmo no puede sustituir.
Uso constante puede afectar la socialización
La especialista también advirtió que el uso constante de tecnología puede influir en la manera en que niños y jóvenes desarrollan habilidades para relacionarse con otras personas. La interacción directa permite aprender a interpretar emociones, esperar turnos, compartir y enfrentar situaciones que no siempre pueden controlarse.
Estas capacidades pueden verse limitadas cuando una parte importante de las experiencias ocurre mediante dispositivos o entornos digitales. “La socialización es lo que nos mantiene siendo personas. Cuando todo lo que yo conozco del mundo lo conozco a través de una inteligencia artificial, ya está filtrada la información que estoy recibiendo”, comentó.
Ante este escenario, Guerrero consideró necesario fortalecer la psicoeducación para que la población conozca qué puede y qué no puede hacer una herramienta de IA. También llamó a diferenciar claramente sus funciones de la atención brindada por un profesional de la salud mental.
La académica precisó que existen plataformas diseñadas específicamente para la atención de salud mental, cuyos sistemas pueden detectar situaciones de riesgo y canalizar al usuario hacia servicios de atención a crisis disponibles las 24 horas y atendidos por personas.
El objetivo, concluyó, no es impedir el uso de la inteligencia artificial, sino evitar que una herramienta tecnológica sea utilizada como sustituto de la atención psicológica cuando una situación requiere intervención profesional.
