Javier Castilla, experto en tecnología: "La IA no tiene capacidad de decir que no, está programada para responder"

En el contexto del conflicto entre Irán e Israel, las redes sociales se han inundado de contenido con una veracidad algo cuestionable. Un ejemplo es la noticia de una escuela iraní destruida por misiles y que Grok, la IA propiedad de Elon Musk, calificó de bulo contradiciendo a los medios que ya habían  publicado la información. Finalmente, se demostró que la noticia era real y la IA había fallado. 

El experto en tecnología de COPE, Javier Castilla, ha intervenido en 'La Tarde' para explicar por qué la IA falla en ocasiones. 

te puede interesar

El ataque de Estados Unidos e Israel a Irán desata la monitorización de conflictos bélicos: mapas en tiempo real e información por inteligencia artificial

El riesgo de las "alucinaciones"

El principal problema de usar una IA para contrastar la información, tal y como explicaba, es que “no tiene capacidad de decir que no”. A diferencia de una persona, que puede admitir desconocimiento, una IA “está programada para responder”. Estas "alucinaciones", hacen que la tecnología se invente datos incorrectos. 

Y es que, estos sistemas se nutren del contenido que circula en la red, por lo que si un bulo se está difundiendo de forma masiva, "ese contenido falso alimentará a la propia IA", que acabará por darlo como válido. 

No nos podemos fiar nunca de una inteligencia artificial como verificadora"

Javier Castilla

Experto en tecnología de COPE

Este es el motivo por el que "no nos podemos fiar nunca de una IA como verificadora”. Si disponen de muchos datos sobre un vídeo viral, el riesgo de error es demasiado alto, insistía Castilla. 

La alianza de Musk y Trump

La polémica con Grok también tiene una derivada política. Como recordaba Castilla, Musk mantiene una colaboración con Trump, que busca siempre "una inteligencia artificial que no esté sesgada" por lo que él considera "filtros de corrección política". 

El presidente de Estados Unidos promueve una "tecnología patriótica" y, de hecho, Grok ya se está integrando en los sistemas de la administración pública estadounidense.

Hablamos de un interés mutuo. Mientras que Musk logra una gran implantación para su tecnología, Trump impulsa un producto nacional sin los sesgos que denuncia. 

En el conflicto de Irán, esta alianza cobra aún más importancia. "A Donald Trump le interesa mucho que haya acceso también a la información desde allí", afirma Castilla, tanto para tener información de primera mano como para difundir el propio mensaje que a Estados Unidos le interesa. 

Starlink, la otra pieza clave

Aquí entra en juego Starlink, el sistema de Internet por satélite de Elon Musk, que ante los cortes de conexión en Irán, se presenta como una alternativa clave. La ventaja es que sí permite la conexión a Internet en cualquier parte del mundo con una simple antena, esquivando los bloqueos estatales. 

De hecho, ya se habla del envío de miles de dispositivos de Starlink a Irán. 

Finalmente, Castilla alertaba de que la IA no solo falla al verificar, sino que también es capaz de crear vídeos ultrarrealistas desde cero, como el de un falso rascacielos en llamas atribuido a un ataque. 

Su consejo no es otro que desconfiar del contenido viral y verificar la información en medios que tengan cierta credibilidad. "Eso no es un indicativo de que ese contenido sea real", concluía sobre las interacciones en redes sociales.