L’intelligenza artificiale usata per diffondere false notizie razziste

Dall’immagine virale di Papa Francesco con il vistoso piumino bianco circolata a inizio 2023, l’intelligenza artificiale generativa ha continuato a essere usata per creare contenuti falsi. Questo ha contribuito alla diffusione esponenziale di «sbobba artificiale», ossia contenuti falsi creati dall’intelligenza artificiale che circolano sui social network con l’unico scopo di alimentarne l’algoritmo. 

Su X, che dopo l'acquisizione di Elon Musk è diventato il perno della disinformazione xenofoba ed estremista, sono diventati virali anche contenuti creati con intelligenza artificiale per diffondere notizie false a sfondo razzista.  

Recentemente è circolata su X una foto di un corteo di uomini neri, uno dei quali sventola un cartello con la bandiera italiana e la scritta «voglio beere il sangue». Si tratterebbe di una manifestazione a Verona, durante la quale circa 3 mila persone di origine africana avrebbero urlato e scritto nei cartelli di voler bere il sangue degli italiani. La notizia però è falsa, e la foto è stata creata con l’intelligenza artificiale. 

Il rimando è al corteo che si è tenuto a Verona il 26 ottobre 2024 in memoria di Moussa Diarra, giovane maliano ucciso con tre colpi di pistola da un agente della polizia ferroviaria, dopo che Diarra aveva provato ad accoltellarlo, secondo le prime ricostruzioni. Il poliziotto è ora indagato per eccesso colposo di legittima difesa.  

Al corteo sono stati esposti cartelli e striscioni contro il razzismo istituzionale e contro alcuni esponenti di partiti politici italiani di estrema destra, ma non esistono prove o fotografie di un cartello con la scritta «voglio beere il sangue». Inoltre, a Verona i manifestanti erano vestiti con indumenti autunnali, mentre nell’immagine creata con l’intelligenza artificiale il cielo è terso e le persone indossano abiti leggeri o addirittura sono senza maglia.

Sempre quest’anno era stata rilanciata su X un’immagine che mostrava una donna bianca dai capelli grigi, vestita con un abito da sposa, che bacia un giovane afroamericano in abiti eleganti. L’immagine, creata con intelligenza artificiale, era stata utilizzata per diffondere messaggi grassofobici e anti-migrazione in varie lingue.

In questo caso, i dettagli irrealistici della rappresentazione artificiale erano palesi come la mano con quattro dita e la pelle molto liscia della donna. Questi particolari sono indizi tipici delle limitazioni attuali di alcuni programmi di IA, che incontrano difficoltà nella rappresentazione realistica delle mani e dei pori della pelle.