IA nel mirino: la polizia cinese impiega ChatGPT in campagne diffamatorie contro la Primo Ministro del Giappone

In una gelida mattina di febbraio, OpenAI ha sganciato silenziosamente una bomba: il suo chatbot di punta, ChatGPT, veniva manipolato dalle forze dell’ordine cinesi per alimentare campagne diffamatorie sostenute dallo Stato. Le conclusioni sollevano il velo su una nuova frontiera della guerra dell’informazione - una in cui l’intelligenza artificiale non è soltanto uno strumento di comodità, ma un’arma nelle battaglie politiche internazionali. Al centro di quest’ultima rivelazione: uno sforzo mirato a macchiare la reputazione della Primo Ministro del Giappone Sanae Takaichi, insieme a un attacco più ampio contro i dissidenti cinesi in tutto il mondo.

L’anatomia di una campagna diffamatoria digitale

Il recente report di OpenAI dipinge un quadro di manipolazione calcolata. Invece di affidarsi esclusivamente agli strumenti tradizionali della propaganda, la polizia cinese ha sfruttato ChatGPT per snellire le proprie operazioni. Al chatbot è stato affidato il compito di redigere narrazioni negative sulla Primo Ministro Takaichi - una critica esplicita della Cina che ha promesso sostegno a Taiwan e ha messo in luce gli abusi sui diritti umani di Pechino in Mongolia Interna.

La campagna non si è fermata alla stesura di articoli denigratori. Operativi, spacciandosi per cittadini giapponesi, hanno inviato email di protesta a politici giapponesi e hanno inondato i social media di indignazione orchestrata su questioni economiche e immigrazione. Hanno persino reclutato utenti internet locali per amplificare questi messaggi, facendo apparire la disinformazione come organica.

Sebbene le misure di sicurezza di ChatGPT gli impedissero di generare direttamente contenuti apertamente malevoli, lo strumento è stato comunque usato per rifinire report e documentazione interna - conferendo all’operazione una patina professionale. Secondo OpenAI, questi documenti facevano riferimento a oltre 100 tattiche, dal trolling e l’hacking allo sfruttamento delle vulnerabilità personali dei bersagli.

Oltre la Cina: emerge un copione globale

L’approccio della Cina non è unico. OpenAI ha anche smascherato un’operazione russa - soprannominata “No Bell” - che ha utilizzato ChatGPT per produrre post sui social media e articoli sulla geopolitica africana. I contenuti, talvolta pubblicati sotto una falsa identità accademica, erano progettati per orientare l’opinione pubblica e seminare discordia. Istruendo ChatGPT a imitare stili giornalistici umani ed evitare le tipiche firme rivelatrici dell’IA, gli operativi sono riusciti a far filtrare le proprie narrazioni in vere testate giornalistiche.

Nonostante gli sforzi di OpenAI per chiudere questi account, la battaglia è tutt’altro che finita. La facilità con cui possono essere creati nuovi account significa che le campagne di influenza guidate dall’IA probabilmente persisteranno ed evolveranno, sollevando interrogativi urgenti sul futuro dell’integrità dell’informazione.

Conclusione: la corsa agli armamenti dell’IA nella disinformazione

Queste rivelazioni segnalano un’evoluzione inquietante della propaganda digitale. Man mano che l’IA diventa più sofisticata e accessibile, il confine tra discorso autentico e narrazioni costruite si fa sempre più sfumato. Per governi, piattaforme e pubblico, la vigilanza non è più facoltativa - è essenziale. La prossima crisi politica mondiale potrebbe non svolgersi nelle strade o in parlamento, ma negli invisibili campi di battaglia del cyberspazio, dove l’IA sta riscrivendo le regole dell’ingaggio.

WIKICROOK

• ChatGPT: ChatGPT è un chatbot di IA di OpenAI che genera risposte testuali simili a quelle umane alle richieste degli utenti, utilizzando un’elaborazione avanzata del linguaggio naturale.
• Campagna diffamatoria: Una campagna diffamatoria utilizza disinformazione e messaggi negativi per danneggiare le reputazioni, spesso sfruttando piattaforme digitali per un impatto ampio e rapido in contesti di cybersicurezza.
• Operazione di influenza: Un’operazione di influenza è uno sforzo coordinato per orientare l’opinione pubblica o gli esiti politici usando misinformazione, propaganda o manipolazione digitale.
• Attacco di impersonificazione: Un attacco di impersonificazione avviene quando un criminale informatico si spaccia per una persona o un marchio fidato per ingannare le vittime e ottenere accesso a informazioni sensibili.
• Disinformazione: La disinformazione è informazione deliberatamente falsa o fuorviante diffusa per ingannare il pubblico, spesso amplificata tramite piattaforme digitali e social media.