La crisis migratoria sufrida en Europa, especialmente dura en este año 2020, ha puesto de manifiesto la relación existente entre los discursos público y político y las actitudes de odio, opiniones y comportamientos hacia refugiados y migrantes. Los expertos constatan cambios graduales y, en este caso, efectos negativos que se traducen en una percepción social de la migración desde el temor a la alteración del equilibrio étnico local y cotas de ansiedad por la llegada de personas con aparentes vínculos con el terrorismo. Cambios que están claramente representados en el discurso de odio en línea y se materializan en delitos de odio.
De hecho, en nuestro país, a lo largo del pasado año se produjeron un total de 1.706 casos (6,8% más que en 2018), según informa el Ministerio del Interior en su “Informe sobre Delitos de Odio en España 2019”. En este contexto, la Universidad de Salamanca lidera el proyecto europeo Preventing Hate Against Refugees and Migrants (PHARM), una innovadora iniciativa para la prevención de delitos de odio contra migrantes y refugiados que se desarrollará conjuntamente con las universidades de Aristotelio Panepistimio Thessalonikisen (Grecia) y la Universita Degli Studi di Milano (Italia).
PHARM, financiado por la Unión Europea en el Rights, Equality and Citizenship programme REC-RRAC-RACI-AG-2019, tiene como objetivo principal modelar el discurso de odio contra los refugiados y migrantes en Grecia, Italia y España para predecir y combatir los delitos de odio, además de contrarrestar sus efectos utilizando técnicas de vanguardia como el periodismo de datos y la persuasión narrativa, según informa a Comunicación USAL Carlos Arcila Calderón, investigador principal de la iniciativa y miembro del Observatorio de los Contenidos Audiovisuales de la Universidad de Salamanca.
El proyecto contribuirá a una mejor comprensión del discurso de odio en línea y su relación con los delitos de odio fuera de línea, lo que implica “un importante avance en el estudio de los medios como fuente de predicción de hechos reales”, subraya. Además de ayudar, también, a progresar en la comprensión sobre la evolución de los efectos de las noticias basadas en datos y la persuasión narrativa, dos campos de vanguardia del periodismo y la psicología de los medios, respectivamente.
Con todo ello, los participantes del estudio prevén conseguir una “reducción del discurso de odio contra migrantes y refugiados, así como el establecimiento de un protocolo para combatir los discursos de odio en otros países y grupos destinatarios”.
- ?Carlos Arcila, del Observatorio de los Contenidos Audiovisuales de la USAL, es el investigador principal de la iniciativa desarrollada conjuntamente con las universidades de Aristotelio Panepistimio Thessalonikisen y Universita Degli Studi di Milano
- ?Preventing Hate Against Refugees and Migrants (PHARM) es un proyecto europeo financiado por la UE en el marco del programa Rights, Equality and Citizenship (REC-RRAC-RACI-AG-2019)
Base de datos de discurso de odio en línea más completa del sur de Europa
La metodología de esta propuesta incluye un conjunto de actividades desarrolladas en 5 paquetes de trabajo interconectados con la participación de las tres universidades integrantes del consorcio. Las primeras acciones se centrarán en la identificación de los contenidos del discurso de odio y en la comprensión de cómo pueden predecir crímenes de odio reales, para luego usar noticias basadas en datos (con datos periodísticos interactivos creados por periodistas) y testimonios en primera persona (con estructuras dramáticas, ficticias y narrativas).
Para todo el proceso, PHARM implementará un marco conceptual y metodológico común para el análisis a gran escala y la detección del discurso de odio contra refugiados y migrantes. Basándose en un prototipo técnico desarrollado, los especialistas utilizaran técnicas de procesamiento de lenguaje natural y aprendizaje automático para detectar el discurso de odio y almacenar contenido de odio, creando así la base de datos de discurso de odio en línea más completa y articulada del sur de Europa.
Tras ello, los investigadores modelarán el crimen de odio basado en las características descriptivas del discurso de odio para predecir futuros episodios de delitos de odio, creando una base de datos de crímenes de odio y utilizando algoritmos de aprendizaje automático de vanguardia para modelar la ocurrencia de agresión física / verbal contra migrantes y refugiados.
En cuanto a los previsibles impactos de PHARM en la sociedad, los investigadores recuerdan que los migrantes, refugiados, solicitantes de asilo y ciudadanos en general en España, Italia y Grecia serían los principales beneficiarios. No obstante, la estrategia desarrollada podría aplicarse a “diferentes países del centro o norte de Europa y a otros grupos objetivo”. Otro de los aspectos destacados del trabajo es que ayudará a entender los desafíos a los que se enfrentan los periodistas al informar sobre el discurso de odio e involucrarlos en la lucha contra el mismo.
De hecho, los responsables del proyecto buscan que los profesionales de los medios sean “beneficiarios directos” al participar en la producción y difusión de periodismo de datos y de contra-narrativas y desempeñen “un papel clave en PHARM”, indican. En este sentido, para ello serán contactados a través de “encuestas nacionales, entrevistas, talleres y a través de asociaciones profesionales de periodistas para trabajar con ellos en la función de la persuasión narrativa en la lucha contra el discurso de odio”, indican. Un elemento fundamental para la consecución final del estudio “la identificación y reducción del discurso de odio en línea y la predicción de posibles delitos de odio”, concluyen.
Métodos computacionales para el análisis del discurso de odio en línea contra los refugiados y migrantes – Parte 2 –
Utilizando el prototipo inicial desarrollado en el proyecto STOP-HATE se ha llevado a cabo una transferencia de este conocimiento a un proyecto más amplio, titulado Prevenir el odio contra los refugiados y los migrantes (PHARM). Se trata de un proyecto europeo, financiado por la Comisión Europea, dentro del programa rec-RRAC-RACI-AG-AG-2019 (GA n. 875217), con el objetivo principal de detectar la incitación al odio en línea hacia los refugiados y migrantes a gran escala, y en este caso no sólo en España, sino también en Italia y Grecia, y no sólo en Twitter, sino también en otras fuentes donde este tipo de discurso se propaga. Así, mientras que en la prueba de concepto se modeló el discurso de odio en Twitter dirigido a 4 tipos de audiencias estigmatizadas, este nuevo proyecto se centra únicamente en el público vulnerable de refugiados y migrantes, y en este caso, el objetivo es modelar ese discurso de odio con crímenes de odio.
Así, apoyado en los avances metodológicos desarrollados anteriormente en STOP-HATE, y para ampliar el impacto de este trabajo, el actual proyecto PHARM también está siendo desarrollado por el Observatorio de Contenidos Audiovisuales de la Universidad de Salamanca (España), en consorcio con la Universidad de Milán (Italia) y la Universidad de Tesalónica (Grecia). Este proyecto europeo va a estar funcionando desde este año 2020 hasta 2022. Como se ha mencionado, el objetivo principal es modelar y monitorear la incitación al odio y los crímenes de odio contra los refugiados y migrantes en Grecia, Italia y España, con el fin de predecir el auge de esos crímenes y combatirlos utilizando técnicas de vanguardia, como el periodismo de datos y la persuasión narrativa.
La parte de la detección se basa en la estrategia de clasificación de discursos de odio en línea desarrollada en el proyecto STOP-HATE, que incluye la clasificación de texto a gran escala, respaldada por la infraestructura de supercomputación SCAYLE, así como el procesamiento del lenguaje natural y las técnicas de aprendizaje automático supervisado. Los principales retos en este caso son la identificación y reducción del discurso de odio en línea contra las personas desplazadas en Twitter, pero también en otras fuentes en línea, como Youtube, Instagram o sitios web y blogs de medios de comunicación, partidos políticos y asociaciones; sino también, la predicción de posibles crímenes de odio que puedan cometerse en las diferentes ubicaciones geográficas de los tres países incluidos, y la lucha contra la incitación al odio contra los refugiados y los migrantes y sus efectos. Para ello, el propósito inicial es poder desarrollar una perspectiva empírica sobre la relación entre el discurso de odio que estamos modelando y los crímenes de odio en los tres países involucrados. En resumen, este proyecto también intentará contrarrestar los efectos de estos discursos de odio a través de técnicas de periodismo de datos y persuasión narrativa.
En cuanto a cómo se lograrán estos objetivos, en primer lugar, el equipo identificará los contenidos de discursos de odio en línea y las posibles fuentes de incitación al odio en línea, y desarrollará conocimientos empíricos y comprensión sobre la forma en que esos contenidos pueden predecir crímenes de odio geolocalizadas reales.
En segundo lugar, los mensajes de odio serán identificados y monitoreados en tiempo real utilizando los mecanismos de detección basados en modelos profundos ya desarrollados en STOP-HATE, pero en este caso, con mayor corpus de formación, en más fuentes y en los tres idiomas.
A continuación, se generarán bases de datos geolocalizadas de mensajes de incitación al odio y crímenes de odio en los tres países del consorcio. En este punto, PHARM modelará los delitos de odio basados en las características descriptivas del discurso de odio contra los refugiados y los migrantes con el fin de predecir futuros episodios de crímenes de odio. A continuación, crearemos una base de datos de crímenes de odio y utilizaremos algoritmos de ML de vanguardia para modelar la ocurrencia de agresiones físicas/verbales contra migrantes y refugiados.
Por último, se desarrollarán mecanismos para predecir y prevenir los crímenes de odio sobre la base de estas bases de datos. Esta predicción se llevará a cabo a partir de un sistema de alerta temprana de delitos de odio geolocalizada basado en esa ocurrencia de discurso de odio registrado.
Por último, se llevarán a cabo actividades de sensibilización y moderación basadas en el periodismo de datos y la persuasión narrativa dirigidas a las principales fuentes de incitación al odio identificadas, con el propósito de contrarrestar los efectos del discurso de odio masivo en línea. Concretamente, se utilizarán noticias basadas en datos y testimonios en primera persona tratando de prevenir y contrarrestar el aumento del odio en línea contra los refugiados y los migrantes, y así combatir y reducir estadísticamente los crímenes de odio contra los refugiados y migrantes en estos países del sur. PHARM también creará y difundirá historias ficticias contra-narrativas utilizando la persuasión narrativa, y evaluará sus efectos en la lucha contra la producción de discursos de odio.
Con este proyecto, el equipo del Observatorio de Contenidos Audiovisuales tiene como objetivo completar un trabajo de investigación de más de 4 años, generando la mayor estrategia de detección de la incitación al odio online contra refugiados y migrantes en español, italiano y griego; generando la mayor base de datos de mensajes de incitación al odio en línea y crímenes de odio cometidos contra estos grupos en el sur de Europa; reducir aún más tanto la producción de ese discurso de odio en línea como, en consecuencia, los propios crímenes de odio; y por último, haber desarrollado una herramienta tecnológica para predecir posibles crímenes de odio en los 3 países involucrados, utilizando métodos computacionales.
Más información en el sitio web del proyecto: https://pharmproject.usal.es
