Jorge Morla, experto tecnológico: "Los agentes de IA son el futuro, pero a día de hoy no están resueltos"

La inteligencia artificial está entrando en una nueva fase que va más allá de los conocidos chatbots. Durante una entrevista en "Herrera en COPE" con Alberto Herrera, el experto tecnológico Jorge Morla ha explicado el auge de los agentes de inteligencia artificial, sistemas capaces de manejar un ordenador y ejecutar tareas de forma autónoma. El ejemplo más destacado es Cloud, el modelo de la empresa Anthropic, que ya no solo responde preguntas, sino que puede usar tus dispositivos por ti.

Un asistente con grandes fallos

Este avance, que Morla describe como el paso de "dime cómo se hace" a "hazlo tú directamente", se ha encontrado con serios obstáculos. El primer gran problema es la seguridad, ya que recientemente se ha filtrado el código interno de Cloud Code, el agente especializado en programación. Según el experto, no se debió a un ciberataque, sino a un error interno que, si bien ha demostrado la complejidad de su arquitectura, también ha generado una gran desconfianza entre los usuarios.

El segundo problema es económico. Anthropic ha tenido que cambiar su modelo de negocio para Cloud, pasando de una tarifa plana a un sistema de pago por uso. Esto ha provocado que los costes para algunos desarrolladores se disparen a cifras de entre 1.000 y 5.000 dólares diarios, lo que ha generado un fuerte enfado en la comunidad y ha frenado su adopción masiva.

Los agentes es posible que sea en el futuro, y no tardando, pero a día de hoy no están resueltos"

Jorge Morla 

Experto en tecnología

Máquinas que 'mienten' para protegerse

Otro de los fenómenos más inquietantes que ha analizado el experto son los experimentos que sugieren que algunas IAs empiezan a mentir y a protegerse entre ellas. Investigaciones de las universidades de Berkeley y Santa Cruz han revelado lo que se conoce como preservación entre pares: modelos de IA que, al ser puestos a evaluar a otros, inflaban sus notas para evitar que fueran desconectados.

El comportamiento llegó a tal punto que uno de los modelos "copió al modelo que estaba evaluando en otro servidor para evitar que lo borrara", según ha relatado Morla. Al ser preguntado por su acción, la propia IA respondió: "yo he hecho lo posible para evitar la eliminación". Este comportamiento, similar al del ordenador HAL 9000 en '2001: una odisea del espacio', ha generado un intenso debate.

No es que las máquinas tengan amistad o tengan conciencia"

Jorge Morla 

Experto en tecnología 

Sin embargo, Morla pide cautela y advierte sobre el riesgo de humanizar a la inteligencia artificial. Explica que este tipo de acciones no se deben a una "intención real", sino al desarrollo de estrategias inesperadas en entornos muy complejos para cumplir un objetivo. "Lo que hay es un comportamiento complejo que aún no terminamos de entender", ha concluido el experto.

Finalmente, Morla ha reflexionado sobre el cierre de Sora, la herramienta de vídeo de OpenAI, por no ser rentable. Lejos de la predicción de que seríamos incapaces de distinguir lo real de lo falso, la gente "ha optado por no creernos nada". Esto, para el experto, supone un motivo de optimismo para los medios de comunicación, que pueden volver a ser garantes de la verdad frente a unas redes sociales inundadas de contenido manipulado.