Il dottor Eduardo Silva Alvarado, direttore della Fundación Universitaria Iberoamericana (Fondazione Universitaria Iberoamericana, FUNIBER) in Guatemala, partecipa a uno studio che ha sviluppato un modello innovativo per il rilevamento automatico dei discorsi di odio sui social network. Questo progresso affronta le sfide inerenti all’identificazione di contenuti offensivi in ambienti digitali multilingue e multimodali.
Il boom dei social media ha facilitato la comunicazione globale, consentendo agli utenti di condividere informazioni in diversi formati e lingue. Tuttavia, questa espansione ha anche favorito la diffusione di discorsi di odio, che possono manifestarsi in testi, immagini e video, e in più lingue. L’individuazione di questo tipo di contenuti è essenziale per mantenere ambienti digitali sicuri e rispettosi.
Tradizionalmente, i sistemi di rilevamento dell’incitamento all’odio si sono concentrati sull’analisi monolingue e su un unico tipo di contenuto, principalmente il testo. Questi approcci presentano limiti significativi quando si confrontano con la diversità linguistica e la natura multimodale dei post sui social media. La mancanza di strumenti in grado di affrontare queste complessità ha reso difficile l’identificazione efficace di contenuti offensivi in contesti multilingue e multimodali.
Lo studio in questione introduce un modello che combina tecniche avanzate di elaborazione del linguaggio naturale e analisi delle immagini per rilevare il discorso d’odio in più lingue e formati di contenuto. Questo approccio integrato consente un’identificazione più accurata ed efficiente dei contenuti offensivi in ambienti digitali diversi.
Per sviluppare questo modello, il team ha raccolto un set di dati multilingue e multimodale che include testi, immagini e video con contenuti etichettati come incitamento all’odio. Sono state utilizzate tecniche di deep learning per addestrare il modello a identificare modelli associati all’incitamento all’odio in diverse lingue e formati di contenuto.
Risultati rilevanti
I risultati dello studio dimostrano che il modello proposto supera gli approcci tradizionali nel rilevamento dell’incitamento all’odio in contesti multilingue e multimodali. La capacità del modello di analizzare simultaneamente testo e immagini in più lingue migliora significativamente la precisione e l’efficienza nell’identificazione dei contenuti offensivi.
Questo progresso ha importanti implicazioni per la moderazione dei contenuti sulle piattaforme dei social media, consentendo una risposta più rapida ed efficace alla diffusione dell’incitamento all’odio. Inoltre, il modello può essere adattato a diversi contesti culturali e linguistici, rendendolo uno strumento prezioso per la promozione di ambienti digitali più sicuri e inclusivi.
Se desideri saperne di più su questo studio, clicca qui.
Per leggere altre ricerche, consulta l’archivio UNEATLANTICO.
La Fondazione Universitaria Iberoamericana (FUNIBER) offre borse di studio per frequentare il Master in Direzione Strategica delle Tecnologie dell’Informazione. Questo programma è pensato per professionisti che desiderano comprendere e padroneggiare il processo strategico delle TI come parte dello sviluppo aziendale, affrontando temi quali la gestione del cambiamento organizzativo, l’innovazione aziendale e la direzione di progetti tecnologici. Non perdere l’opportunità di dare una spinta alla tua carriera nel campo dell’IT. Iscriviti subito a questo master e diventa un leader nella trasformazione digitale delle organizzazioni.