El presidente del Gobierno, Pedro Sánchez, anunció este miércoles en el primer Foro contra el Odio el lanzamiento de una nueva herramienta, bautizada como HODIO (de la Huella del Odio y la Polarización, según explica el Gobierno), que hará un seguimiento de la difusión de contenidos que promuevan el odio en las plataformas. Tanto la propia naturaleza del sistema, que se ocupará de monitorizar algo, el odio, que no se puede medir de forma objetiva, como el nombre que se le ha dado, han provocado una cascada de comentarios en redes sobre HODIO.
Algunas opiniones dicen que esta herramienta aporta “censura”. Otras aseguran que no sirve para nada. Algunas la tildan de buena idea. Y muchas, muchísimas, aprovechan su nombre para entregarse a la mofa. Así lo hizo, por ejemplo, la presidenta de la Comunidad de Madrid, Isabel Díaz Ayuso, este jueves en el Parlamento regional: “Veo que la herramienta que presentaron en realidad no es HODIO, sino ‘jodío’, que es como lo llevan ustedes si piensan colársela a alguien que esté medianamente informado. El pueblo español les da la espalda y, por eso, lo tienen bien ‘jodío”, se burló para mayor regocijo de su bancada.
¿Qué aporta realmente HODIO? ¿Hasta qué punto se trata de una herramienta novedosa? ¿Se puede considerar una herramienta de censura? Esto es lo que se sabe por el momento sobre el sistema.
¿Qué es HODIO?
La Huella del Odio y la Polarización (HODIO) es una herramienta desarrollada por el Ministerio de Inclusión, Seguridad Social y Migraciones a través del Observatorio Español del Racismo y la Xenofobia (Oberaxe). Según adelantó el miércoles Sánchez, HODIO analiza la presencia de discurso de odio y polarización en las principales redes sociales utilizadas en España (Instagram, TikTok, X, YouTube y Facebook) y genera un ranking público y transparente que compara el nivel de exposición al odio entre plataformas.
Su objetivo es “medir y evaluar la presencia de discurso de odio y polarización en redes sociales”, especifica la web de la herramienta, publicando periódicamente un ranking que mide la prevalencia del discurso de odio y la amplificación de esos contenidos. Se elaborarán informes semestrales para hacer seguimiento de la evolución de cada plataforma.
¿Cómo funciona?
HODIO tiene una parte de análisis automático y otra manual. Por un lado, integra técnicas cuantitativas e inteligencia artificial (IA) para procesar grandes volúmenes de contenido (los feeds, o historiales, de las redes sociales que se monitorizan) en busca de ciertas palabras clave. Por otro lado, incorpora la revisión humana “que garantiza precisión, coherencia y respeto a los estándares internacionales”, dice la web.
Según fuentes del Ministerio de Inclusión, Seguridad Social y Migraciones, HODIO todavía no está lista, sino en fase de revisión técnica.
¿Es la primera herramienta que lo mide?
No, se suma a otros instrumentos que ya tiene en marcha Inclusión. El Oberaxe (Observatorio Español del Racismo y la Xenofobia) inició el análisis diario del discurso del odio en 2020, coincidiendo con la irrupción de la pandemia. Desde 2022, el Oberaxe cuenta con una aplicación propia, Alertodio, diseñada por la Universitat Politècnica de València (UPV) y operada por el ministerio, que registra contenidos de discurso de odio identificados en las redes.
En 2024, Inclusión lanzó en colaboración con LaLiga el sistema FARO (Filtrado y Análisis de Odio en las Redes Sociales), que aplica IA para detectar este tipo de discursos.
Estas herramientas detectaron, por ejemplo, un importante incremento del discurso del odio durante la crisis de Torre Pacheco. El fin de semana del 12 de julio, decenas de jóvenes de distintos puntos de España viajaron a la localidad murciana para “ir de cacería” contra inmigrantes, azuzados por bulos de la extrema derecha que llamaban a “hacer algo” frente a la supuesta dejación de funciones del Gobierno. Ese fin de semana, Oberaxe detectó un 1.500% más de comentarios que incitaban al odio en las redes (unos 33.000, frente a los 2.000 de media de un día normal).
¿Cómo se determina que un contenido incita al odio?
Este es el punto clave. El ministerio todavía no ha aclarado exactamente qué criterios sigue para considerar que un contenido incita al odio, más allá de asegurar que “se basa en criterios académicos y estándares internacionales”.
Algunos colectivos ya han pedido aclaraciones. Es el caso de las Feministas de la Alianza contra el Borrado de las Mujeres, que quieren saber si HODIO considerará “el feminismo crítico de género” como discurso de odio. Reclaman información de la definición normativa, del modelo de clasificación algorítmica, de los criterios de etiquetado, de la definición operativa de odio, del funcionamiento del sistema, de los datos de entrenamiento del mismo y de posibles sesgos ideológicos, entre otros.
Hasta que hagan públicos sus criterios, el Oberaxe puede dar alguna pista: “La monitorización del discurso de odio en las redes sociales que realiza el Oberaxe consiste en la búsqueda, recopilación, análisis y notificación a las plataformas de contenidos de discurso de odio con motivación racista, xenófoba, islamófoba, antisemita y antigitana que puedan ser constitutivos de delito, de infracción administrativa, o que infrinjan las normas de uso de las propias plataformas de prestación de servicios digitales”. La línea roja, según la web del ministerio, se sitúa en la legalidad.
¿Puede considerarse un sistema de censura?
A falta de que se concreten los criterios que seguirá HODIO para decidir si un post contiene o no discurso del odio, cabe esperar que sean similares a los de Oberaxe o FARO. En ese caso, el criterio será si los comentarios pueden ser constitutivos de delito o infracción administrativa.