Deepfake e Discordia: Come l’IA sta potenziando la nuova era della radicalizzazione

In un forum scarsamente illuminato ai margini del digitale, compare un video: caos, esplosioni, una zona di guerra che non è mai esistita. Le immagini sono convincenti - troppo convincenti. È opera dell’intelligenza artificiale, uno strumento non più riservato agli ingegneri della Silicon Valley, ma ora nelle mani di estremisti e movimenti politici radicali. Dalla propaganda dell’ISIS alle campagne high-tech dell’estrema destra, l’IA non è solo uno strumento - è un accelerante, che alimenta una nuova era di guerra cognitiva dove la verità è la prima vittima.

L’ascesa dell’IA come motore di radicalizzazione

Indagini recenti rivelano uno schema inquietante: gruppi estremisti come l’ISIS stanno sfruttando piattaforme di IA generativa per produrre propaganda in massa con una velocità e una personalizzazione senza precedenti. Ciò che un tempo richiedeva team di tecnici specializzati è ora alla portata di chiunque abbia una connessione internet e pochi strumenti open-source. L’IA non inventa nuove ideologie, ma industrializza la diffusione di messaggi radicali - abbattendo i costi, aumentando i volumi e adattando i contenuti per risuonare attraverso lingue e culture.

L’effetto più potente di questa tecnologia risiede nella sua capacità di amplificare la “forza cognitiva”. L’IA può produrre centinaia di messaggi su misura, modificando tono, stile e lingua per adattarsi a pubblici specifici. I video - favoriti dagli algoritmi dei social media e percepiti come autentici - sono ora sintetizzati con un realismo tale da ingannare anche gli osservatori più esperti. Durante conflitti recenti, come la guerra Israele-Hamas, ondate di immagini e filmati generati dall’IA che raffigurano atrocità fittizie hanno invaso le piattaforme online, confondendo il dibattito pubblico.

Dalla propaganda unidirezionale al dialogo sintetico

A differenza dei messaggi diretti delle decadi passate, le campagne odierne guidate dall’IA sono interattive. Account automatizzati, chatbot e personaggi deepfake coinvolgono gli utenti in conversazioni apparentemente autentiche, offrendo validazione, incoraggiamento e persino guida personale. Questa socializzazione sintetica sfuma il confine tra opinione e manipolazione, rendendo la radicalizzazione un processo graduale e quasi invisibile. I segnali d’allarme classici - contenuti esplicitamente estremisti - lasciano il posto a una rete di micro-interazioni, ciascuna progettata per costruire empatia e fiducia.

Oltre il terrorismo: IA e la tecno-destra

La corsa agli armamenti dell’IA non si limita alle reti jihadiste. In tutta Europa e negli Stati Uniti, movimenti politici radicali - soprattutto nella tecno-destra - stanno impiegando gli stessi strumenti per erodere la fiducia nelle istituzioni e inondare gli spazi digitali di realtà alternative. Figure come Curtis Yarvin promuovono l’uso dell’IA per “inondare la zona” con narrazioni concorrenti, minando la legittimità dei media tradizionali e dei processi democratici. Qui, l’obiettivo non è solo la persuasione - è la confusione sistemica, dove la distinzione tra fatto e finzione crolla sotto il peso di contenuti infiniti generati dagli algoritmi.

Conclusione: la battaglia per la realtà digitale

La radicalizzazione guidata dall’IA segna un punto di svolta nelle guerre dell’informazione. Non più solo una sfida tecnica, ma una crisi sociale - che minaccia le fondamenta stesse della fiducia, della cittadinanza e della democrazia. Difese come watermarking dei contenuti e regolamentazioni più severe aiutano, ma restano indietro rispetto all’innovazione incessante di chi arma l’IA. L’unico antidoto duraturo potrebbe essere un pubblico digitalmente alfabetizzato, capace di interrogarsi non solo su ciò che vede, ma su come - e perché - sia stato creato. Nell’era della guerra cognitiva, la vigilanza non è più opzionale.

WIKICROOK

• Deepfake: Un deepfake è un contenuto multimediale generato dall’IA che imita l’aspetto o la voce di persone reali, spesso usato per ingannare creando video o audio falsi ma convincenti.
• IA generativa: L’IA generativa è un’intelligenza artificiale che crea nuovi contenuti - come testi, immagini o audio - imitando spesso la creatività e lo stile umani.
• Guerra cognitiva: La guerra cognitiva utilizza tattiche psicologiche e disinformazione per influenzare o disturbare il modo in cui le persone pensano, con l’obiettivo di manipolare credenze e decisioni.
• Chatbot: Un chatbot è un programma informatico che simula conversazioni umane, spesso usato per l’assistenza clienti o, in alcuni casi, per attività criminali online.
• Personalizzazione algoritmica: La personalizzazione algoritmica utilizza l’IA per adattare contenuti e pubblicità online agli utenti in base ai loro comportamenti e preferenze digitali.