Este año, el Hackathon organizado por la IBERO y la Red AMI –que se llevará a cabo en nuestro campus del 27 al 29 de octubre— impulsa a las y los participantes a buscar soluciones a la problemática del discurso de odio (DO) en las redes sociales digitales (aquí te decimos qué es un hackathon ¡y también te puedes inscribir!). Pero antes de adentrarnos en las medidas que podemos tomar, conviene saber a qué nos estamos enfrentando, y es por ello que, rumbo al Hackathon 2023, se preparó una serie de paneles que nos explican más sobre el tema.

Durante el primer panel, ¿Odio en las redes sociales? Aproximaciones al discurso de odio en las plataformas digitales, las y el participante en la charla dejaron clara la diferencia entre el DO y la libertad de expresión. Esta última tiene que ver con el derecho al libre desarrollo de la personalidad, pero cuando lesiona el respeto a la moral, la vida privada y los derechos de terceros, todo ello a través del discurso de odio, se pueden aplicar restricciones. Así lo explicó el Dr. Jorge Calderón Gamboa, experto independiente del Programa de la ONU Harmony with Nature.

De hecho, el discurso de odio no se puede considerar como una opinión que deba expresarse, como explicó la Mtra. Glenda Michel Gutiérrez, Gerente de Políticas Públicas para Meta en México. La Mtra. Paula Saucedo, Oficial del Programa de Protección y Defensa de Artículo 19 México, explicó que cuando una persona emite DO, su libertad de expresión se le debe restringir cuidando que sea de manera proporcional, necesaria y legal.

¿En qué consiste el discurso de odio?

La Dra. Clara Luz Álvarez de Castilla, Profesora investigadora de la Universidad Panamericana, señaló que el discurso de odio consiste en todas aquellas formas de comunicación que tienen la intención de infligir un daño, promueven el odio, la discriminación, están en contra de un grupo o incitan a la violencia. Admitió que lo que más le preocupa es el DO que se hace “gota a gota”, que va sembrando el odio poco a poco, de una manera muy sutil.

La Mtra. Saucedo explicó que, bajo el concepto de la libertad de expresión, todos los discursos están protegidos por las reglamentaciones de los Estados, aunque sean chocantes o molesten; cualquier persona tiene derecho a decir lo que piensa. Pero agregó que no se protegen los de apología al odio, a la violencia, a la guerra y aquellos que tienen que ver con abuso o pornografía infantil.

¿Quién regula los casos de discursos de odio en las redes sociales digitales?

El Dr. Calderón Gamboa indicó que las restricciones ante el DO en redes sociales digitales compete en primera instancia a las plataformas, pero si no toman acción, lo debe hacer la impartición de justicia.

Por su parte, la Mtra. Michel Gutiérrez señaló que en Meta --compañía a la que pertenecen Facebook, Instagram y WhatsApp— las y los usuarios producen millones de piezas de contenido por segundo, y que para regularlas se ha diseñado una serie de políticas donde participan varios grupos internos y externos, tanto en la implementación como en el monitoreo.

Estas políticas se basan en las llamadas características protegidas. Es decir, se eliminan de las plataformas los ataques directos a las personas con base en estas características, que son: raza y etnia, sexo, discapacidad, afiliación religiosa, identidad de género, enfermedad grave, origen nacional, orientación sexual y estatus migratorio.

Celebró que, gracias a estas medidas, Meta ha logrado reducir de manera efectiva la cantidad de piezas de contenido con DO. Entre estas herramientas, por cierto, Meta ha usado desde el principio la inteligencia artificial (IA) para detectar DO, a través del Large Language Model (LLM).

Los paneles rumbo al Hackathon 2023 continúan y nos van aportando más herramientas para llegar listos y listas al gran evento, checa las fechas e inscríbete o inscribe a tu equipo.

Texto y Fotos: Yazmín Mendoza

Notas relacionadas:

• Contra discursos de odio en redes sociales, IBERO y Red AMI convocan al Hackathon 2023
• Cuba limita libertad de expresión con pretexto de educación y salud: especialistas en la IBERO
• ¿Cuál es el futuro de las universidades ante la Inteligencia Artificial? Mentes top dialogan en la IBERO
• Clausuramos tres intensos días de trabajo de nuestro Foro sobre inteligencia artificial