di Vito Monteleone e Davide Taibi
L’hate speech o discorso di incitamento all’odio è considerato l’espressione pubblica, consapevole e intenzionale di odio o ostilità verso individui o collettivi, sia sulla base di criteri razziali, etnici, religiosi o nazionali che sulla base di qualsiasi altro criterio che promuove l’intolleranza e la discriminazione. Il presente contributo intende fornire un aggiornamento tecnico sul fenomeno dell’hate speech online che negli ultimi anni dilaga sui social network più comuni come Facebook, Twitter, Youtube, Reddit e Instagram. In questo articolo esporremo le problematiche collegate all’identificazione automatica dell’ hate speech nei testi, sia dal punto di vista umano che dal punto di vista tecnologico, sottolineando la rilevanza degli approcci automatici per valutare un numero elevato di informazioni e monitorare costantemente le forme di hate speech online. I principali argomenti di ricerca presentati in questo articolo possono essere divisi in tre aree: “dibattito generale sull’hate speech dal un punto di vista normativo italiano ed europeo”, “identificazione e classificazione automatica di hate speech tramite strategie di apprendimento automatico”, e ” prevenzione e intervento per ridurre al minimo l’impatto di questi fenomeni nei più giovani “.
Nel precedente numero: 1. Premessa, 2. L’hate speech nei social media, 3. Affrontare l’hate speech online, 4. Rilevare automaticamente l’hate speech nei testi.
In questo numero: 5. Esempi di applicazioni, 6. Conclusioni, Bibliografia.
5. Esempi di applicazioni
In questa sezione riportiamo alcuni tool, liberamente disponibili su Internet, per l’individuazione di hate speech nei testi. Dalla nostra ricerca è risultato che quelli liberamente fruibili online e pronti all’uso sono unicamente due.
Il primo che presentiamo nasce da un progetto denominato “Preventing Hate Against Refugees and Migrants” (PHARM), finanziato dall’Unione Europea nel 2020, all’interno del programma “Diritti, Uguaglianza e Cittadinanza”, che si prefigge, come obiettivo principale, quello di monitorare l’hate speech contro i rifugiati e i migranti in Grecia, Italia e Spagna, al fine di prevedere e combattere il crimine d’odio e di ridurre la sua presenza online.
Il progetto [27] è fruibile per mezzo di una web app, dotata di un’interfaccia intuitiva, per analizzare testi e individuare se in questi possano o meno essere presenti messaggi d’odio.
Il tool impiega due principali approcci per l’identificazione di hate speech nei testi: il primo è basato sul lessico (lexicon-based term detection) [28], cioè su un dizionario contenente frasi statiche, insieme a combinazioni dinamiche di termini (cioè aggettivi con sostantivi), mentre il secondo si riferisce a una procedura di apprendimento automatico, basata su una rete neurale ricorrente (Recurrent Neural Network, RNN) [28], [29], [30].
Il tool è in grado di individuare hate speech in testi in lingua greca, inglese, italiana e spagnola.
…continua su EDICOLeA
