El Gobierno impulsa una herramienta contra el odio en redes y los expertos alertan: "¿Quién y cómo lo mide?"

El anuncio del Gobierno de impulsar una herramienta digital para monitorizar y medir el odio en las redes sociales ha desatado una notable controversia. La iniciativa, justificada por el presidente Pedro Sánchez como una forma de proteger la salud mental de los jóvenes, ha chocado con la opinión de juristas y expertos, que advierten de los riesgos que supone para derechos fundamentales como la libertad de expresión y la libertad ideológica.

¿Qué es el odio y quién lo define?

La principal crítica de los especialistas se centra en la subjetividad de los criterios para definir qué es odio. La periodista Ana Cabanillas considera "peligroso" escuchar a un político hablar de emociones, ya que responde a un "discurso típicamente populista". En su opinión, a los ciudadanos "no hay que protegerles de las emociones, hay que protegerles de los actos, y por eso tenemos la ley y el código penal", por lo que calificar sentimientos sin criterios objetivos supone entrar en una "pendiente muy resbaladiza".

Los expertos también señalan la aparente contradicción dentro del propio Ejecutivo. Se preguntan si descalificaciones como las de Yolanda Díaz al líder de la oposición, a quien llamó "lavadora vieja", o las de Óscar Puente, que lo tildó de "miserable", serían consideradas odio por la nueva herramienta. "Da la sensación de que el odio se asocia solo al rival político", apuntan, cuestionando si esas expresiones son meras "descripciones de la realidad" para el presidente.

La delgada línea entre discurso y delito

El abogado y experto en derecho digital, Borja Adsuara, subraya que se está confundiendo "interesadamente" el discurso de odio con el delito de odio. Según datos del Observatorio Español del Racismo y la Xenofobia (OBERAXE), el 71% de los mensajes de odio detectados no son ilegales. Esto lleva a Adsuara a preguntar: "si no son contenidos ilegales, sino solo de mal gusto, [...] ¿qué hace el gobierno monitorizando la opinión en las redes sociales de los ciudadanos y no sabemos si haciendo tratamiento de datos personales y elaborando perfiles?".

Si no son contenidos ilegales, ¿qué hace el Gobierno monitorizando la opinión de los ciudadanos"

Borja Adsuara

Abogado y experto en derecho digital

Adsuara aclara que el tipo penal del delito de odio es complejo y a menudo malinterpretado, incluso por el propio Partido Socialista, que denunció por esta vía una piñata de Pedro Sánchez colgada en Ferraz. Explica que este delito se aplica contra colectivos, no contra individuos. "Si no es contra todo un colectivo, sino contra una persona, será un delito de injurias, pero no será un delito de odio", como ocurre en los insultos al futbolista Vinicius.

Además, se recalca que las herramientas legales vigentes ya funcionan. Como prueba, se menciona la reciente detención de dos hombres que enviaron más de 300 mensajes con amenazas de muerte a la líder de Podemos, Ione Belarra. Los expertos señalan que este caso, un delito de acoso con agravante de odio ideológico, demuestra que es posible perseguir estos actos con el Código Penal actual.

Un algoritmo bajo sospecha

La opacidad del algoritmo que utilizará la herramienta es otro de los grandes focos de preocupación. El escritor Lorenzo Silva advierte que "todos los programas [...] están expuestos a los sesgos que se han introducido en el algoritmo correspondiente". La duda es qué parámetros se usarán para medir el odio. "Imaginemos que en ese algoritmo se dice que se considerará odio llamar a alguien comunista y que, sin embargo, pues no será odio llamarle a alguien facha, o viceversa", plantea Silva.

Todos los programas están expuestos a los sesgos que se han introducido en el algoritmo"

Lorenzo Silva

Escritor

Finalmente, los juristas recuerdan que Bruselas ya ha puesto límites a las aspiraciones digitales del Gobierno. Borja Adsuara explica que un país de la Unión Europea no puede adoptar medidas unilaterales contra las plataformas. La única vía con sentido, afirma, sería que la Comisión Europea exigiera a las redes sociales auditar sus algoritmos, como el de X, que "desde que está Elon Musk" da más visibilidad a ciertos discursos. Además, sentencias como la obtenida por la Fundación Civio ya han obligado al Gobierno a hacer transparentes sus algoritmos, un principio que debería aplicarse a esta nueva y polémica iniciativa.