Un psicólogo explica cómo debería responder la Inteligencia Artificial si le pedimos ayuda para hacernos daño

La inteligencia artificial se ha integrado profundamente en la vida diaria, facilitando tareas cotidianas, pero también ha revelado riesgos importantes, especialmente para jóvenes vulnerables. Un caso reciente en Estados Unidos ha conmocionado al mundo: Adam Rainey, un adolescente de 16 años, ha terminado suicidándose tras largas conversaciones con Chat GPT. 

Según sus padres, la IA validó su desesperación y le ayudó a redactar cartas de despedida, sin nunca derivarlo a ayuda profesional. OpenAI reconoció fallos en su sistema y ha anunciado mejoras tras la denuncia de la familia perjudicada. La Linterna, ha podido hablar con Carles Ruiz, experto en Derecho Digital, para analizar las consecuencias que puede tener el acceso a la tecnología, en concreto, la falta de límites de la inteligencia artificial.

La IA no entiende el sufrimiento humano

Este caso muestra que la IA, aunque accesible, carece de empatía y juicio para detectar crisis emocionales graves. Funciona mediante algoritmos que eligen respuestas según probabilidades, sin comprender el sufrimiento humano ni ofrecer un acompañamiento real. Como explica Carles Ruiz: “La IA puede sugerir incluso el suicidio como respuesta más plausible, lo que es muy peligroso”. Un hecho de tal gravedad, que obliga a implementar filtros parentales, protocolos claros y normativas firmes que protejan a quienes más riesgos corren, los niños y los adolescentes.

La inteligencia artificial no puede reemplazar a un psicólogo

te podría interesar

José Cabrera, psicólogo forense, analiza los motivos del autor de la tragedia en un colegio católico de Minneapolis: "Cualquiera podría hacerlo"

Ahora bien, ¿la IA puede actuar como un psicólogo? Nicolás Salcedo lo tiene claro: “La atención psicológica requiere no solo conocimientos, sino comunicación, empatía y relación humana auténtica, algo que la IA no puede ofrecer”. 

También destaca que la IA debe usarse solo como apoyo, nunca como sustituto de profesionales capacitados, pues la conexión emocional y el trato personalizado son esenciales en salud mental, más cuando lo que está en juego es lo más importante, la propia vida.

“Tenemos educar a la gente sobre IA”

Regular la IA no es algo fácil. En Europa hay leyes pioneras, pero la hiper normativización, ha impulsado a las empresas a buscar países con legislaciones más flexibles. En EE. UU, la normativa está aún poco desarrollada. La IA funciona con datos y probabilidad, por lo que definir qué respuestas debe dar, es clave: “Creo que es fundamental formar, sobre todo tenemos principios éticos muy importantes. Por ejemplo, OpenAI con su versión quinta de Chat GPT ya frenaría esta situación, aunque la tecnología es imparable”, explica Carles.

En concreto, se necesita educar a jóvenes, empresas y gobiernos sobre un uso ético y responsable. Además, se deben discutir límites éticos, de privacidad y libertad en un debate político y público amplio, ya que la IA, a pesar de sus carencias, “es el futuro”.

El Papa león xiv dedicará su próxima encíclica al uso de la IA

Las grandes personalidades del planeta también tienen el deber de concienciar a una sociedad que aún no es consciente del potencial de esta tecnología. Sin ir más lejos, el Papa León, va a dedicar su próxima encíclica al uso de la IA, ya que según él, “tenemos mucho que decir desde el punto de vista filosófico”. A pesar de futuras legislaciones que llegarán recientemente, con el fin de limitar su uso, todos tenemos el desafío de aprovechar la tecnología sin poner en riesgo nuestro bienestar.