L’odio online parla in codice: perché servono persone e AI per riconoscerlo

Quando l’odio cambia vocabolario

La violenza digitale raramente nasce dal nulla. Prima di diventare minaccia esplicita, persecuzione o gesto reale, spesso prende forma in un linguaggio condiviso: frasi ripetute, simboli, battute apparentemente innocue, parole che per molti non significano nulla e per altri dicono moltissimo. È una grammatica sotterranea, fatta di allusioni e codici, che attraversa forum, piattaforme social, commenti, chat e comunità online chiuse o semichiuse.

Tra le forme più insidiose di questo fenomeno c’è l’antisemitismo codificato. Non sempre si presenta con insulti riconoscibili o dichiarazioni apertamente razziste. Più spesso si traveste da critica politica, ironia, teoria del complotto, riferimento storico distorto o lessico pseudo-intellettuale. Cambia pelle per aggirare i sistemi di moderazione e, soprattutto, per rendersi socialmente più accettabile presso chi non si riconoscerebbe in un discorso d’odio esplicito.

È qui che la questione smette di essere soltanto tecnologica e diventa culturale. Perché riconoscere l’odio online non significa semplicemente individuare parole proibite. Significa comprendere come certi gruppi costruiscono appartenenza, come trasformano vecchi pregiudizi in nuovi codici, come usano l’ambiguità per spostare il confine di ciò che può essere detto pubblicamente.

Il problema non è solo cosa si dice, ma come lo si nasconde

Le piattaforme digitali hanno reso la comunicazione più veloce, capillare e frammentata. Ogni giorno miliardi di profili pubblicano, condividono, commentano, rilanciano. In questo flusso enorme, l’hate speech esplicito è già difficile da intercettare. Quello cifrato lo è ancora di più.

Una parola può avere un significato comune e, allo stesso tempo, un secondo livello di lettura all’interno di ambienti estremisti. Un riferimento numerico può sembrare casuale, ma funzionare come segnale di riconoscimento. Un meme può apparire come una battuta, mentre veicola un immaginario di disumanizzazione. Il punto è proprio questo: il linguaggio codificato vive nella zona grigia tra ciò che è visibile a tutti e ciò che è comprensibile solo a una comunità ristretta.

Nel caso dell’antisemitismo, molti codici contemporanei riprendono stereotipi antichi: l’idea del controllo occulto della finanza, dei media o della politica; il sospetto di una doppia lealtà; la rappresentazione degli ebrei come élite globale separata dal resto della società. Sono narrazioni che attraversano secoli di propaganda e che oggi vengono riconfezionate in termini più moderni, spesso meno riconoscibili a prima vista.

La novità non è l’esistenza del pregiudizio. La novità è la sua capacità di circolare quasi istantaneamente, di mutare forma e di entrare in ambienti digitali frequentati anche da persone molto giovani, magari attirate inizialmente da umorismo nero, estetiche provocatorie o linguaggi da sottocultura online.

Perché gli algoritmi non bastano

Negli ultimi anni le piattaforme hanno investito molto in sistemi automatici di moderazione. L’intelligenza artificiale può analizzare grandi quantità di testi, riconoscere ricorrenze, individuare termini già noti, segnalare contenuti potenzialmente pericolosi. È uno strumento indispensabile, perché nessun gruppo umano potrebbe leggere e valutare in tempo reale l’enorme massa di contenuti prodotti ogni giorno.

Ma il linguaggio umano è più scivoloso di quanto un filtro automatico possa immaginare. L’ironia, il sarcasmo, il contesto storico, la citazione, il dialetto digitale, le abbreviazioni e i meme cambiano continuamente. Una parola può essere usata per denunciare un pregiudizio oppure per diffonderlo. Una frase può diventare offensiva solo se collegata a un certo ambiente, a un certo simbolo, a una certa catena di rimandi.

Per questo la moderazione dell’odio online richiede una combinazione di competenze. Da un lato servono strumenti automatici capaci di osservare la scala del fenomeno. Dall’altro servono persone in grado di interpretare i contesti: linguisti, storici, sociologi, esperti di estremismo digitale, psicologi sociali, moderatori formati e ricercatori capaci di riconoscere la genealogia dei simboli.

In sintesi, l’AI vede il volume. Gli esseri umani colgono il sottotesto. Solo insieme possono avvicinarsi alla complessità reale del problema.

Il ciclo di vita delle parole d’odio

Un termine codificato non nasce sempre con la stessa traiettoria. Talvolta emerge in una piccola comunità online, viene ripetuto da profili influenti in quell’ambiente e poi si diffonde in cerchie più ampie. In altri casi resta confinato, perde forza, scompare. Alcune espressioni arrivano persino nel linguaggio pubblico, dove vengono usate da persone che non sempre ne conoscono l’origine o le implicazioni.

Questo passaggio è particolarmente delicato. Quando un codice estremista entra nel discorso comune, diventa più difficile distinguerne l’uso intenzionale da quello inconsapevole. Ed è proprio questa ambiguità a renderlo efficace. Chi lo usa con finalità d’odio può sempre sostenere di essere stato frainteso. Chi lo incontra senza conoscerne la storia può contribuire a diffonderlo senza volerlo.

Ci sono almeno tre aspetti da considerare:

• La velocità di mutazione. Quando un termine viene riconosciuto e moderato, le comunità che lo usano possono sostituirlo rapidamente con un altro.
• La forza dell’ambiguità. I codici funzionano perché permettono di comunicare su due livelli: uno pubblico e uno interno al gruppo.
• La migrazione tra piattaforme. I linguaggi d’odio si spostano da spazi più marginali a social generalisti, oppure fanno il percorso inverso quando vengono limitati.

Questo processo riguarda l’antisemitismo, ma non solo. Meccanismi simili colpiscono persone LGBTQ+, donne, migranti, minoranze religiose e gruppi etnici. Ogni comunità bersaglio sviluppa, suo malgrado, un archivio di parole, immagini e allusioni ostili che cambiano con il tempo.

La cultura del complotto come acceleratore

Il linguaggio codificato trova terreno fertile nella cultura del complotto. Le teorie cospirazioniste offrono spiegazioni semplici a paure complesse: crisi economiche, pandemie, guerre, trasformazioni sociali, perdita di status, sfiducia nelle istituzioni. In questo quadro, l’antisemitismo continua a funzionare come una delle matrici più antiche e persistenti del pensiero complottista.

La rete non ha inventato queste narrazioni, ma le ha rese più accessibili e più adattabili. Un’idea nata in un ambiente estremista può essere rilanciata in forma di meme, poi trasformata in video, discussa in una diretta, sintetizzata in una parola chiave, ripresa in un commento. Ogni passaggio la rende un po’ più familiare, un po’ meno scandalosa, un po’ più normale.

È questa normalizzazione a preoccupare. L’odio non si diffonde soltanto quando convince apertamente. Si diffonde anche quando abitua. Quando rende accettabile ridere di un gruppo, sospettare di un gruppo, ridurre un gruppo a caricatura. La disumanizzazione è spesso un processo graduale, non un interruttore.

Domande che contano davvero

Perché non basta cancellare le parole offensive?
Perché l’odio non coincide con una lista fissa di termini. Se si elimina una parola, può nascerne un’altra. La moderazione efficace deve osservare reti di significato, contesti, ricorrenze e comportamenti coordinati.

L’intelligenza artificiale può capire da sola il contesto?
Può aiutare molto, soprattutto nell’individuare schemi e anomalie su larga scala. Ma il contesto culturale, storico e ironico richiede ancora una forte supervisione umana. Il rischio, altrimenti, è colpire contenuti legittimi e lasciar passare messaggi realmente pericolosi.

Cosa può fare un utente comune?
Può evitare di rilanciare contenuti ambigui senza verificarne l’origine, segnalare messaggi d’odio, informarsi sui simboli più ricorrenti e non sottovalutare la violenza mascherata da scherzo. La cultura digitale è anche responsabilità quotidiana.

Una sfida europea, non solo americana

Per un lettore italiano ed europeo, il tema ha un peso particolare. L’antisemitismo non è un problema distante, né appartiene soltanto ad altri contesti politici. In Europa attraversa la memoria della Shoah, le tensioni del presente, il rapporto con le minoranze, la fragilità del discorso pubblico e la crescente esposizione dei giovani a comunità digitali transnazionali.

La questione non riguarda soltanto la sicurezza, ma la qualità della convivenza democratica. Se una società non sa più riconoscere i codici dell’odio, finisce per considerarli rumore di fondo. E quando l’odio diventa rumore di fondo, è già entrato nel paesaggio.

Servono piattaforme più responsabili, certo. Servono strumenti tecnologici più raffinati, capaci di seguire l’evoluzione del linguaggio e non solo di reagire quando un termine è ormai noto. Ma serve anche educazione culturale: nelle scuole, nei media, nelle famiglie, nei luoghi in cui si forma la cittadinanza digitale.

La vera domanda non è se la tecnologia sia buona o cattiva. È se saremo in grado di usarla per rendere più visibili i meccanismi che degradano il discorso pubblico. L’odio codificato prospera nell’opacità. Riconoscerlo non significa limitare il confronto, ma difendere la possibilità stessa di un confronto civile.

In un tempo in cui le parole viaggiano più rapidamente della loro comprensione, imparare a leggere i sottotesti è diventato un gesto politico e culturale. Non per trasformare ogni conversazione in un tribunale, ma per non confondere la libertà di espressione con il diritto di disumanizzare.