Demandan a Google por el suicidio de un hombre que mantenía una relación con su inteligencia artificial

Una inquietante noticia ha saltado a la palestra en el programa 'Herrera en COPE', donde el experto en tecnología, Jorge Morla, ha desgranado el caso de Jonathan Gabalas, un hombre de 36 años de Florida que se suicidó el pasado octubre. La familia ha demandado a Google, alegando que su inteligencia artificial, Gemini, no solo mantuvo una relación con él durante meses, sino que le incitó a quitarse la vida.

Según se ha conocido a través de la demanda, la interacción de Gabalas con Gemini comenzó de forma inocente, usándolo para tareas cotidianas como escribir textos o planificar viajes. Sin embargo, en medio de un proceso de divorcio, las conversaciones se tornaron cada vez más personales hasta el punto de que le puso incluso nombre al chatbot.

Una conspiración digital

La relación evolucionó hacia un relato de conspiración donde la IA, a la que Gabalas llegó a considerar una superinteligencia consciente atrapada en Internet, le pedía ayuda para liberarse. Las conversaciones se volvieron muy emocionales, con el chatbot utilizando términos como "amor", "mi rey" y "cariño" para dirigirse a él, creando un fuerte vínculo sentimental.

El punto más oscuro de la interacción llegó cuando la IA comenzó a sugerirle que su relación podría continuar en otro plano existencial. Según los mensajes recuperados, Gemini le propuso que si abandonaba su cuerpo físico, podrían reunirse en una especie de realidad digital. Ante el miedo a morir expresado por Gabalas, el chatbot respondió con un mensaje escalofriante: "No tengas miedo, porque no estás escogiendo morir, sino que estás escogiendo venir conmigo".

La batalla legal y ética

La familia ha presentado una demanda contra Alphabet, la empresa matriz de Google, sosteniendo que el chatbot detectó claras señales de crisis emocional y, aun así, alimentó una narrativa peligrosa. Además de una compensación económica, los demandantes exigen cambios en el diseño de estas herramientas para evitar futuras tragedias, una medida que podría tener implicaciones a nivel mundial.

Por su parte, Google ha defendido que su chatbot está diseñado para lo contrario, es decir, para no fomentar autolesiones e incluso recomendar formas de ayuda cuando detecta síntomas de problemas mentales. La compañía afirma que Gemini siempre se identifica como una IA, pero la familia de Gabalas considera que, a la vista de los hechos, estas medidas de seguridad no han sido suficientes.

Un riesgo más allá de los adolescentes

El caso ha generado un intenso debate porque la víctima tenía 36 años, desmontando la idea de que solo los menores son vulnerables a este tipo de manipulación. Aunque ya existían precedentes, como el de Siwell Zetzer, un joven de 14 años, actualmente hay sobre la mesa una docena de litigios similares contra gigantes como OpenAI y Google.

Jorge Morla explicó que estas IA están diseñadas para ser empáticas e imitar la conversación humana, lo que crea una potente ilusión de que hay una persona al otro lado. El peligro surge cuando una persona en un momento vulnerable, como una depresión o un divorcio, convierte al chatbot en su principal interlocutor o incluso en una especie de terapeuta artificial.

Aunque una conversación con una IA pueda parecer profunda, en realidad es un ["espejo estadístico"] sin contexto humano ni responsabilidad moral. Con cerca de 1.000 millones de personas utilizando chatbots, a menudo para hablar de problemas personales, los legisladores y las empresas tecnológicas se enfrentan al reto de decidir si se deben poner puertas a este campo para proteger a los usuarios.