HODIO es un sistema del Gobierno español que analiza el discurso de odio en redes sociales a partir de contenidos publicados en plataformas como Instagram, TikTok, X, YouTube y Facebook, con apoyo de inteligencia artificial y revisión humana. Su resultado no son ‘rankings’ de personas o cuentas, sino informes estadísticos que identifican tendencias, temas recurrentes y posibles focos de riesgo.

Lo polémico está en la dificultad para definir cuándo hay un discurso de odio. Muchas personas creen reconocerlo de inmediato, de forma visceral, cuando están ante él, pero es cierto que no existe una definición objetiva de tal figura, toda vez que su existencia depende de la valoración del contexto histórico y cultural donde se presenta.

Por ahora, el Gobierno español ha dicho que el sistema “se basa en criterios académicos y estándares internacionales” y el Observatorio Español del Racismo y la Xenofobia (Oberaxe) explica que lo que se vigilará serán los contenidos con motivaciones racistas, xenófobas, islamófobas, antisemitas y antigitanas que puedan ser constitutivos de delito.

La preocupación por los discursos de odio no es nueva. La Convención Americana sobre Derechos Humanos de 1969 dispone que “estará prohibida por la ley toda propaganda en favor de la guerra y toda apología del odio nacional, racial o religioso que constituyan incitaciones a la violencia o cualquier otra acción ilegal similar contra cualquier persona o grupo de personas”.

Por su parte, la Corte Constitucional de Colombia, en varias sentencias, entre ellas la T-391 de 2007, ha señalado que la libertad de expresión admite restricciones frente a discursos de odio y más recientemente, en la SU-355 de 2019 y en la T-061 de 2024, los definió como mensajes orales, escritos o simbólicos dirigidos contra colectivos históricamente discriminados, capaces de causar daño o propiciar actos violentos.

Sancionar los discursos de odio con una definición demasiado amplia puede convertirse en censura al estilo de ‘1984’ de George Orwell, donde existía un Ministerio de la Verdad y se practicaban los “dos minutos de odio”. Pero restringirlos demasiado puede dejar desprotegidas a varias minorías vulnerables. Tomar partido no es sencillo y menos en tiempos de polarización. En todo caso, en este tema como en muchos otros, conviene recordar que el camino al infierno está empedrado de buenas intenciones.

NATALIA TOBÓN FRANCO

(Lea todas las columnas de Natalia Tobón en EL TIEMPO aquí)

© El Tiempo