Pedro Sánchez refuerza las medidas contra el odio y la desinformación en las redes sociales, uno de los asuntos centrales de esta legislatura en la que el presidente trata de poner en marcha la prohibición de acceso a los menores de 16 años, en línea con lo que ha hecho Australia. El presidente ha anunciado este miércoles un nuevo sistema de lucha contra este odio, con un nuevo mecanismo que se llamará HODIO (la Huella del Odio y la Polarización, según explica el Gobierno), y que será un instrumento con el que, a través del Observatorio Español del Racismo y la Xenofobia (Oberaxe), se podrá “medir de forma sistemática la presencia, evolución y alcance de los discursos de odio en las plataformas digitales utilizadas en España”.
La idea es que con estos datos se meta presión a estas plataformas para que recuperen mecanismos de control que han relajado en los últimos meses, sobre todo desde la llegada de Donald Trump a la Casa Blanca. Según ha explicado Sánchez, desde que Elon Musk compró Twitter, a la que ahora se llama X, los discursos de odio en esta plataforma aumentaron un 50%. El presidente español no disimula su enfrentamiento radical con las plataformas, a las que considera responsables de haber hecho de internet “la ley de la selva”.
“Ya no nos rendimos ante las plataformas; ahora son ellas las que tendrán que rendir cuentas ante las sociedades. Vamos a parar al odio. Nuestra misión es que hablemos más de amor y menos de odio“, ha asegurado Sánchez en un discurso en el primer Foro contra el Odio.
La nueva herramienta, según ha explicado, estará “basada en criterios académicos reconocidos y combinará análisis cuantitativo y revisión experta para garantizar precisión y representatividad”. Se aplicará en Instagram, TikTok, X, YouTube y Facebook, las plataformas más populares del país, y generará un ranking “público y transparente” que permitirá visualizar cuál de ellas contiene más contenido que incite al odio.
Sánchez quiere convertir esta huella del odio en algo similar a la huella de carbono, que hace que las empresas tengan que pagar más impuestos medioambientales en función de lo que contaminan, por ejemplo. Este asunto es una prioridad para el Ejecutivo y está desarrollando varias medidas para combatir el odio en redes sociales que, según los análisis de La Moncloa, explica buena parte del éxito de la ultraderecha entre los jóvenes porque intoxica todo el debate político en las redes, que es el lugar natural de información para millones de personas, especialmente los nativos digitales.
“El objetivo es sacar el odio de la sombra, hacerlo visible y exigir responsabilidades a quienes no actúan. Hagamos que aquí también la vergüenza cambie de bando, como dice Giselle Pelicot. A partir de ahora, las redes sociales tendrán que rendir cuentas públicamente por cada contenido de odio que permitan, y la sociedad podrá ser consciente”, ha afirmado el presidente en su discurso.
“El odio se fabrica. Se ha convertido en un arma política. Para algunos es su principal baza electoral. Han reducido el coste de odiar. Basta un tuit. Las redes permiten canalizar el odio. Hay gente que hace negocio del odio. Tres de cada cuatro jóvenes españoles se cruzan con discursos de odio. Oberaxe localiza 1.300 mensajes de odio cada día. Los delitos de odio han crecido un 41% en 10 años. Se ha pasado de la libertad de expresión a la libertad de agresión verbal. Se presenta el insulto como una opinión”, ha clamado Sánchez, que sostiene que gracias a la presión del Gobierno, las plataformas que antes retiraban el 21% de los mensajes de odio de los que les alertaba Oberaxe, ahora lo hacen con el 50%, aunque aún queda mucho por avanzar, según ha detallado.
Sánchez sostiene, además, que en el fondo de todo esto hay negocio, pero también política. “La tecnología es poder, es política; se está haciendo ahí política de la mala, la que quiere que impere la ley del más fuerte. Las plataformas tendrán que rendir cuentas. Y además vamos a implementar el delito de amplificación algorítmica, que quienes diseñan los algoritmos que amplifican el odio asuman su responsabilidad. La tecnología no es neutra, es política”, ha rematado.
Seis años midiendo el odio en redes
La herramienta HODIO se suma a otros instrumentos que ya tiene en marcha el Ministerio de Inclusión, Seguridad Social y Migraciones. El Oberaxe (Observatorio Español del Racismo y la Xenofobia) inició el análisis diario del discurso del odio en 2020, coincidiendo con la irrupción de la pandemia. Desde 2022, el Oberaxe cuenta con una aplicación propia, Alertodio, diseñada por la Universitat Politècnica de València (UPV) y operada por el ministerio, que registra contenidos de discurso de odio identificados en las redes.
En 2024, Inclusión lanzó en colaboración con LaLiga el sistema FARO (Filtrado y Análisis de Odio en las Redes Sociales), que aplica inteligencia artificial (IA) para detectar este tipo de discursos. Estas herramientas detectaron, por ejemplo, un importante incremento del discurso del odio durante la crisis de Torre Pacheco. El fin de semana del 12 de julio, decenas de jóvenes de distintos puntos de España viajaron a la localidad murciana para “ir de cacería” contra inmigrantes, azuzados por bulos de la extrema derecha que llamaban a “hacer algo” frente a la supuesta dejación de funciones del Gobierno. Ese fin de semana, Oberaxe detectó un 1.500% más de comentarios que incitaban al odio en las redes (unos 33.000, frente a los 2.000 de media de un día normal).
¿Qué aportará HODIO a lo que ya hacían las otras herramientas? El nuevo sistema, que todavía no está activo (“los trabajos técnicos se están concretando”, señalan fuentes de Inclusión), se ocupará de “calcular la prevalencia, el nivel de amplificación y el impacto del odio y la polarización utilizando técnicas de IA y revisión humana”, añaden esas mismas fuentes.
Es decir, ordenará la información que ya se venía recogiendo. Y la publicará en forma de ranking que permitirá comparar la exposición al odio de los usuarios en cada plataforma.