Gli eventi del mondo reale guidano l'aumento dell'incitamento all'odio online, secondo uno studio

Linea superiore

Gli eventi del mondo reale come le elezioni e le proteste possono portare a picchi di incitamento all'odio online su piattaforme tradizionali e marginali allo stesso modo, a studio pubblicato mercoledì nella rivista PLOS ONE trovato, con post di odio in aumento anche se molte piattaforme di social media cercano di reprimere.

ESPERIENZA

Utilizzando l'analisi dell'apprendimento automatico, un modo per analizzare i dati che automatizzano la creazione di modelli, i ricercatori hanno esaminato sette tipi di incitamento all'odio online in 59 milioni di post degli utenti di 1,150 comunità di odio online, forum online in cui è più probabile che l'incitamento all'odio venga utilizzato, anche su siti come Facebook, Instagram, 4Chan e Telegram.

Il numero totale di post che includono incitamento all'odio in una media mobile di sette giorni ha registrato una tendenza al rialzo nel corso dello studio, che si è svolto da giugno 2019 a dicembre 2020, aumentando del 67% da 60,000 a 100,000 post giornalieri.

A volte l'incitamento all'odio degli utenti dei social media è cresciuto fino a comprendere gruppi che non erano coinvolti negli eventi del mondo reale dell'epoca.

Tra i casi osservati dai ricercatori c'è stato un aumento dell'incitamento all'odio religioso e dell'antisemitismo dopo l'assassinio statunitense del generale iraniano Qasem Soleimani all'inizio del 2020, e un aumento dell'incitamento all'odio religioso e di genere dopo le elezioni statunitensi del novembre 2020, durante le quali Kamala Harris è stata eletta prima vicepresidente donna.

Nonostante gli sforzi delle singole piattaforme per rimuovere l'incitamento all'odio, l'incitamento all'odio online ha continuato a persistere, secondo i ricercatori.

I ricercatori hanno indicato l'attenzione dei media come un fattore chiave nel guidare i post relativi all'odio: ad esempio, c'era poca attenzione da parte dei media quando Breonna Taylor è stata uccisa per la prima volta dalla polizia, e quindi i ricercatori hanno trovato un minimo di incitamento all'odio online, ma quando George Floyd è stato ucciso mesi dopo e l'attenzione dei media è cresciuta, così come l'incitamento all'odio.

Grande numero

250%. Questo è quanto è aumentato il tasso di incitamento all'odio razziale dopo l'omicidio di George Floyd. È stato il più grande picco di ricercatori sull'incitamento all'odio riscontrato durante il periodo di studio.

Sfondo chiave

L'incitamento all'odio ha irritato i social network per anni: piattaforme come Facebook ed Twitter hanno politiche che vietano l'incitamento all'odio e si sono impegnate a rimuovere i contenuti offensivi, ma ciò non ha eliminato la diffusione di questi post. All'inizio di questo mese, quasi due dozzine di indipendenti nominati dalle Nazioni Unite esperti di diritti umani sollecitati maggiore responsabilità dalle piattaforme dei social media per ridurre la quantità di incitamento all'odio online. E gli esperti di diritti umani non sono i soli a desiderare che le società di social media facciano di più: A dicembre Indagine USA Today-Università di Suffolk ha rilevato che il 52% degli intervistati ha affermato che le piattaforme di social media dovrebbero limitare i contenuti odiosi e imprecisi, mentre il 38% afferma che i siti dovrebbero essere un forum aperto.

Tangente

Alcuni giorni dopo che il miliardario Elon Musk ha concluso il suo accordo per l'acquisto di Twitter lo scorso anno, promettendo un allentamento delle politiche di moderazione del sito, il sito ha registrato una "ondata di comportamenti odiosi". secondo Yoel Roth, ex capo della sicurezza e integrità di Twitter. All'epoca Roth, ha twittato che il team di sicurezza ha rimosso più di 1,500 account per condotta odiosa in un periodo di tre giorni. Musk ha affrontato aspre critiche da parte di gruppi di difesa che sostengono che sotto la guida di Musk, e con l'allentamento delle norme sui discorsi, il volume dei discorsi di odio su Twitter è cresciuto notevolmente, sebbene Musk abbia ha insistito le impressioni sui tweet odiosi sono diminuite.

Letture consigliate

Il responsabile della sicurezza di Twitter ammette "l'ondata di comportamenti odiosi" poiché il modulo, secondo quanto riferito, limita l'accesso agli strumenti di moderazione (Forbes)

Alcune riserve su un requisito di coerenza per le decisioni sulla moderazione dei contenuti dei social media. (Forbes)

Cosa dovrebbero fare i responsabili politici per incoraggiare una migliore moderazione dei contenuti della piattaforma? (Forbes)