HODI0: así funciona la herramienta del Gobierno que medirá tus follones en redes

El presidente del Gobierno, Pedro Sánchez, ha presentado esta semana una nueva herramienta denominada H0DI0 ("Huella de Odio"). El objetivo, según el propio presidente, es "que hablemos más de amor y menos de odio". Sin embargo, la propuesta de este "odiómetro" para redes sociales ha generado un intenso debate sobre su viabilidad técnica, su imparcialidad y sus implicaciones. 

Para analizarlo, el programa 'Fin de Semana' de la COPE, con Cristina López Schlichting, ha entrevistado al experto en la materia Pedro Anquela, profesor de inteligencia artificial en la Universidad Francisco de Victoria y en la Universidad Complutense.

¿Qué es y cómo funciona el 'odiómetro'?

Según ha explicado el profesor Pedro Anquela, H0DI0 es una herramienta diseñada para realizar un "rastreo digital" en plataformas como Twitter, Facebook o TikTok. Su principal función no es solo detectar mensajes de odio, sino medir "la amplificación de esos mensajes". Es decir, el sistema se enfoca en analizar "el grado de expansión que tiene un mensaje de odio dentro de estas redes sociales" una vez que una cuenta ataca a una persona.

La tecnología que utiliza este sistema se basa en "algoritmos de análisis de sentimiento", una técnica de inteligencia artificial ya muy extendida. "Empresas que leen los comentarios en todas las redes sociales sobre su empresa" ya usan estos métodos para analizar la opinión del público, aclara Anquela. Técnicamente, por tanto, es posible medir la reacción y la polémica en torno a un tema.

El 'dedo' humano, punto ciego del algoritmo

El principal desafío de la herramienta no es técnico, sino humano. Pedro Anquela ha señalado que el punto más crítico reside en el "proceso de etiquetado". Según el experto, para que el algoritmo aprenda a identificar el odio, primero necesita ser entrenado por personas. "Hay una persona que se va leyendo todo y dice, este sentimiento es bueno, este sentimiento es malo, es regular, o esto lo consideramos odio, esto no lo consideramos odio", ha detallado. La cuestión fundamental, que sigue sin respuesta, es: "¿Quién va a poner esa etiqueta?".

Una batalla ideológica en un ecosistema polarizado

El experto ha recordado que la propia naturaleza de las redes sociales facilita la polarización. "Los algoritmos de las redes sociales amplifican lo que los usuarios más ven, y por desgracia, para un lado o para otro, los mensajes de odio se amplifican", confiesa. Estos algoritmos crean burbujas o filtros que refuerzan los sesgos de los usuarios, un fenómeno que Elon Musk denunció en Twitter antes de comprar la compañía para, según él, cambiar su rumbo ideológico.

La presentadora, por su parte, ha señalado que ya existen los tribunales para quienes se sientan agraviados por injurias o calumnias. Con la puesta en marcha de H0DI0, y dado que será el Observatorio Español del Racismo y la Xenofobia el encargado de evaluar ese odio, todo apunta a "otra batalla ideológica". El proyecto, además, no es inmediato. 

Ante la falta de concreción, Pedro Anquela ha insistido en que, para garantizar la legitimidad de una herramienta así, "los criterios de evaluación deberían ser públicos y notorios". Además, el algoritmo que genera la puntuación "debería estar publicado y accesible, sobre todo, a la comunidad académica", para poder verificar si es correcto o si, por el contrario, "ya de por sí tiene un sesgo político que lo han introducido en el proceso".