OpenAI ha smascherato alcuni gruppi russi e israeliani che utilizzano l’intelligenza artificiale per fare disinformazione

Bruxelles – Un rapporto di 39 pagine in cui la società leader dello sviluppo di intelligenza artificiale analizza in dettaglio l’utilizzo dei propri software per manipolare l’informazione online. Il resoconto di OpenAI rivela che negli ultimi tre mesi il laboratorio di ricerca americano  – che ha dato vita a ChatGPT – ha riconosciuto e interrotto campagne di disinformazione provenienti da Russia, Cina, Israele e Iran.

Cinque operazioni di influenza occulta, in cui i modelli di intelligenza artificiale generativa del colosso americano sono stati utilizzati per generare brevi commenti e articoli più lunghi in diverse lingue, creare nomi e biografie per gli account dei social media e utilizzarli come cassa di risonanza, condurre ricerche open-source, tradurre e correggere testi. Strategie analoghe per diffondere fake news su un’ampia gamma di argomenti: l’invasione russa dell’Ucraina, il conflitto a Gaza, le elezioni in corso in India, la politica in Europa e negli Stati Uniti e le critiche al governo cinese da parte di dissidenti cinesi e governi stranieri.

Due delle cinque campagne smascherate da OpenAI provenivano dalla Russia. La prima – soprannominata Bad Grammar – operava principalmente su Telegram e aveva come obiettivo l’Ucraina, la Moldavia, gli Stati baltici e gli Stati Uniti. Bad Grammar ha utilizzato i modelli di OpenAI per eseguire il debug del codice per l’esecuzione di un bot di Telegram e per creare brevi commenti politici in russo e inglese, diffusi poi su diversi canali Telegram. Nella seconda, Doppelganger, l’intelligenza artificiale ha permesso di tradurre e modificare articoli in inglese e francese che sono stati pubblicati su siti web collegati a questa operazione, generare titoli e convertire articoli di notizie in post su Facebook, generare commenti in inglese, francese, tedesco, italiano e polacco al fine di crere un’interazione fittizia con le notizie.

Lo stesso schema è stato seguito da una rete cinese nota come Spamouflage e da un’organizzazione iraniana, l’International Union of Virtual Media. Le indagini di OpenAI hanno portato a galla anche l’attività illecita di una società commerciale israeliana, chiamata STOIC, che utilizzava i modelli di intelligenza artificiale per generare articoli e commenti che sono stati poi pubblicati su diverse piattaforme, in particolare Instagram, Facebook, X e siti web associati a questa operazione.

Il rapporto sottolinea come – in tutti questi casi – l’intelligenza artificiale venga incorporata nelle campagne di disinformazione per migliorare alcuni aspetti della generazione di contenuti, come la creazione di post in lingua straniera più convincenti, ma non è l’unico strumento di propaganda. “Tutte queste operazioni hanno utilizzato l’intelligenza artificiale in una certa misura, ma nessuna l’ha utilizzata esclusivamente”, afferma OpenAI. Il materiale generato dall’intelligenza artificiale andava a braccetto con “formati più tradizionali, come testi scritti manualmente o meme copiati da Internet”.

A una settimana dalle elezioni europee, l’indagine condotta da OpenAI è un altro campanello d’allarme per un’Unione europea profondamente preoccupata dalla propaganda di attori terzi sul processo elettorale. L’Osservatorio Ue sui Media Digitali (Edmo) ha rilevato, da gennaio in poi, un trend in continua crescita per quanto riguarda la disinformazione legata alle politiche dell’Ue o alle sue istituzioni. Nel mese di aprile, secondo l’Edmo, è stata pari all’11 per cento del totale della disinformazione rilevata, “il valore più alto per la disinformazione legata all’UE da quando è iniziato il nostro monitoraggio dedicato nel maggio 2023”.

OpenAI mette in chiaro che finora queste operazioni di disinformazione massiccia “non sembrano aver beneficiato di un aumento significativo del coinvolgimento o della portata del pubblico grazie ai nostri servizi”. Ma è evidente che l’intelligenza artificiale generativa è uno strumento capace di aumentare notevolmente la qualità della disinformazione online.

Continua la lettura su: https://www.eunews.it/2024/05/31/openai-disinformazione-russia-israele/ Autore del post: EuNews Fonte:

Il Ministero delle Pari Opportunità finanzia il tuo corso digitale

Dipartimento Pari Opportunità

Chiedi tutte le informazioni a genitoridigitali@koinokalo.it

Partecipa ai corsi gratuiti

Articoli Correlati

Targeting comportamentale: così le aziende “pilotano” le nostre scelte online

La raccolta dati e il targeting comportamentale sono strumenti essenziali per le imprese, ma sollevano importanti questioni di privacy e conformità normativa. Esploriamo le metodologie di raccolta dati, le tecniche di targeting comportamentale, le implicazioni giuridiche e le sfide etiche, evidenziando la necessità di un equilibrio tra innovazione e tutela dei diritti
L’articolo Targeting comportamentale: così le aziende “pilotano” le nostre scelte online proviene da Agenda Digitale.

Risiko, scacchi, Go. Così i tradizionali giochi di guerra influenzano le politiche cyber di America, Russia e Cina

Possono i giochi di strategia tradizionali propri di ciascuna civiltà permetterci di paragonaregli approcci geostrategici delle grandi potenze? E in particolare, determinarne la linea di condotta nel contesto dei conflitti nel cyberspazio? Alla prima domanda in molti hanno già dato una risposta positiva: la scelta di pervenire alla vittoria attraverso il perseguimento degli obiettivi nelle aree ritenute vitali per i propri interessi, come nel gioco del Risiko, caratterizza infatti la visione geopolitica statunitense, mentre la decisione di conseguire la superiorità attraverso la supremazia tattica e strategica anche con il sacrificio di parte delle proprie pedine, come negli scacchi, è propria della dottrina militare russa. Il Go, invece, con il suo focus sul controllo del territorio circondando l’avversario piuttosto che affrontandolo direttamente, riflette la visione militare cinese di guadagnare potere attraverso l’assorbimento strategico e il controllo indiretto. 
L’analisi dei giochi di guerra tradizionali offre pertanto un’opportunità singolare per esplorare le profonde radici culturali delle strategie militari adottate dalle nazioni nel corso della storia. Attraverso l’osservazione dei meccanismi di Risiko, Go o degli Scacchi, possiamo cogliere non solo le differenze nelle strategie di combattimento, ma anche le visioni del mondo, i valori e gli obiettivi delle culture che li hanno generati. E in ciò è possibile intravedere sottotraccia come, al contrario di quanto teorizzava Karl Marx, la sovrastruttura determini la struttura. Non una sorpresa del resto, se si considera quanto esposto dall’antropologo ungherese Karl Polany. Egli, ribaltando il dogma marxista, negli anni Quaranta del secolo scorso affermò nel saggio “La grande trasformazione” che l’economia, fino all’avvento del capitalismo, era integrata nella società. Ogni forma di scambio, nelle comunità tradizionali, era condizionata e determinata da quella che marxianamente vien definita sovrastruttura: la cultura di un popolo. Qualsiasi scelta economica in un contesto preindustriale non veniva basata esclusivamente sul profitto, bensì sulla redistribuzione dei beni fondata su relazioni personali e comunitarie e su rapporti di reciprocità. Allo stesso modo, le scelte strategiche e militari sembrano rispondere al medesimo criterio, adeguandosi alle impostazioni culturali proprie di ciascuna civiltà tradottesi anche nei giochi di simulazione più popolari nel contesto di riferimento; e ciò è vero non solo nelle società tradizionali, ma si riverbera sino ai nostri giorni.
Il pensiero strategico, a quanto pare quindi, non si è assoggettato alla grande trasformazione individuata da Polany con l’avvento dell’era industriale e del capitalismo, ma sembra far riferimento a qualcosa di ben più profondo, connaturato alla visione stessa dell’uomo e della vita di ciascuna civiltà.
Tuttavia, in un mondo sempre più interconnesso, smaterializzato e digitalizzato, è essenziale estendere questa analisi anche al dominio cibernetico, dove le nazioni cercano di consolidare il loro potere e la loro influenza, per verificare se il paradigma rimane valido. I giochi di strategia tradizionali sono intrecciati alla componente cyber così come lo sono a quella militare sul piano fisico? A una prima analisi, anche in questo caso la risposta è affermativa e offre una visione più completa delle mentalità strategiche delle culture mondiali.
 
Stati Uniti: Risiko e la proiezione del potere
Nel contesto cyber, gli Stati Uniti si distinguono per il loro predominio nella guerra informatica e nella sicurezza digitale. La strategia di proiezione del potere si estende pertanto al dominio del cyberspazio, dove il controllo dei territori digitali, come le infrastrutture critiche e le reti di comunicazione, è diventato essenziale per la sicurezza nazionale e l’egemonia globale degli Stati Uniti. Attraverso la loro capacità di condurre operazioni di hacking sofisticate e di difendersi dai cyber attacchi, gli Stati Uniti mantengono il loro ruolo di potenza prevalente nel cyberspazio tramite una strategia di dominio e alleanze strategiche finalizzate al perseguimento degli obiettivi, proprio come nel Risiko.
In particolare, gli Stati Uniti si trovano in una competizione persistente e asimmetrica con i contendenti autoritari come Cina e Russia, concentrata su politica, economia, tecnologia e informazione. Quest’ultima è vista come un terreno cruciale in cui le autocrazie diffondono deliberatamente disinformazione e teorie del complotto per rafforzare il loro potere interno e minare le democrazie all’estero. Tuttavia, gli Stati Uniti stanno sviluppando una strategia proattiva per contrastare questa minaccia, sfruttando vantaggi asimmetrici come la verità, la promozione dei valori democratici e il sostegno al giornalismo di qualità. Questa strategia include anche l’uso delle capacità informatiche avanzate degli Stati Uniti e la collaborazione con alleati democratici, anche nel contrasto al cybercrime: attraverso l’Interpol e in coordinamento con gli stati occidentali, gli Stati Uniti contrastano attivamente il crimine digitale, bacino di coltura e a volte strumento più o meno consapevole per le azioni ostili delle autocrazie nel cyberspazio, arrivando alla chiusura dei server delle cybergang e all’individuazione e al perseguimento giudiziario dei loro membri, come avvenuto ad esempio lo scorso febbraio con lo smantellamento della russa Lockbit. L’Agenzia per i Media globali degli Stati Uniti ha un ruolo chiave nella promozione di questa strategia, concentrando l’attenzione sull’America Latina e utilizzando strumenti digitali sofisticati per raggiungere pubblici globali con contenuti autentici e convincenti, evitando di essere troppo dispersivi nelle proprie attività: esattamente come nel Risiko, dove le forze sono concentrate lì dove servono per raggiungere l’obiettivo che porta alla vittoria nel gioco.
 
Cina: Go e la strategia di circondamento
Il gioco del Go premia la pazienza e la visione a lungo termine nel guadagnare territorio pezzo per pezzo, un analogo diretto alla strategia di espansione territoriale della Cina nel mondo reale. Nel dominio cyber, la Cina si distingue per le sue capacità nel cyber hacking e nella guerra informatica. Utilizzando tattiche sofisticate di infiltrazione e manipolazione delle reti, la Cina cerca di consolidare la sua influenza nel cyberspazio, parallela alla sua strategia di espansione territoriale nel gioco Go. Attraverso la Belt and Road Initiative, la Cina crea anche alleanze digitali e progetti di infrastruttura cyber, estendendo la sua influenza nel mondo digitale. Altro esempio lampante è stata la controversia sulla tecnologia 5G e l’apporto di Huawei: tramite la connivenza di stato e industria, per la Cina è possibile tendere sottili reti di spionaggio mondiale, finalizzate anche ad acquisire informazioni con cui ricattare o compromettere leader o figure chiave delle altre potenze sullo scacchiere mondiale, bloccandone l’iniziativa. Anche a questo potrebbe esser stato mirato, ad esempio, il furto recentemente scoperto dei dati personali di milioni di cittadini britannici da parte di Apt31, un gruppo hacker sostenuto dal governo della Repubblica Popolare Cinese. Lo stesso attacco ha avuto invece finalità diverse negli USA, dove Apt31 ha compiuto l’infiltrazione digitale di infrastrutture critiche statunitensi, sia civili che militari, con intenti di natura bellica: paralizzare il traffico aereo o interrompere la fornitura di energia elettrica, ad esempio, inibendo le eventuali mosse di Washington nel caso del precipitare di una crisi a Taiwan.
La strategia di guerra digitale dell’informazione della Cina si configura inoltre come un piano completo e multi frontale per stabilire la supremazia informatica e affrontare le sfide future nel contesto delle moderne battaglie. La Cina, attraverso il suo Esercito popolare di liberazione, ha identificato obiettivi chiave, tra cui reti di comando, piattaforme ad alta tecnologia e sistemi di intelligence, e ha sviluppato una serie di tattiche per conseguire tale supremazia: la raccolta intensiva di informazioni durante i periodi di pace, la preparazione anticipata per identificare le capacità e le debolezze nemiche, e l’individuazione di obiettivi non militari cruciali come le infrastrutture critiche. Per ottenere e mantenere la supremazia informatica, la Cina adotta sia operazioni offensive che difensive, che vanno dalla manipolazione delle percezioni politiche alla protezione delle risorse informative nazionali. Inoltre, la Cina impiega la guerra psicologica in modo aggressivo, cercando di influenzare l’opinione pubblica e mantenere la fiducia nella leadership del Partito Comunista Cinese. La Cina si impegna anche in attività di spionaggio informatico per garantire vantaggi economici e tecnologici, mentre simultaneamente regola e controlla il flusso di informazioni dall’estero. In sintesi, la strategia di guerra dell’informazione della Cina rappresenta un approccio completo e multiforme per dominare il panorama informativo globale e proteggere i suoi interessi nazionali e ideologici, ponendo gli avversari in condizione di immobilità ma senza sopprimerli: proprio come avviene nel gioco del Go, dove la vittoria arriva quando con il posizionamento delle proprie pedine si impedisce il movimento o il posizionamento di quelle avversarie.
 
Russia: scacchi e la conquista totale
Gli scacchi, con la loro enfasi su strategia e tattica, incarnano la dottrina militare russa di sconfiggere l’avversario attraverso la superiorità strategica e tattica. La vittoria negli scacchi si ottiene tramite il raggiungimento dello scacco matto, un obiettivo che richiede una comprensione profonda della strategia e una capacità di adattamento alle mosse avversarie, anche con il sacrificio dei propri pezzi. Nel dominio cyber, la Russia si distingue per le sue abilità nel condurre operazioni di disinformazione, sabotaggio digitale e guerra psicologica online. Utilizzando il cyber spazio come un’arena per destabilizzare i suoi avversari e ottenere vantaggi strategici, la Russia applica i principi degli scacchi nel mondo digitale, arrivando anche ad immolare le proprie pedine per conseguire una miglior posizione, proprio come avvenuto ad esempio con le cybergang Revil e Conti Team. La loro capacità di infiltrarsi nei sistemi informatici avversari e di lanciare attacchi mirati riflette l’approccio russo alla conquista totale anche nel cyberspazio, dove i pedoni sono idealmente le varie gang di Criminal Hacker dell’area ex sovietica, strettamente legate ai servizi segreti russi. 
Il modo in cui la Russia opera nella guerra digitale dell’informazione, inoltre, è articolato e complesso, con obiettivi strategici ben definiti, diverse pedine e varie tattiche per raggiungerli, proprio come negli scacchi. Il loro approccio si estende a livello globale, coinvolgendo paesi come gli Stati Uniti. Le operazioni russe si basano su una serie di fasi e strategie mirate a influenzare l’opinione pubblica straniera, minacciare la stabilità internazionale e, in alcuni casi, rovesciare governi ostili. Queste strategie comprendono l’attrito e l’annientamento, ognuna con il suo insieme di tattiche e obiettivi. La fase dell’attrito coinvolge una serie graduale di operazioni informative ed è progettata per distorcere e, alla fine, sostituire i valori e le priorità nazionali di un paese obiettivo. Questa strategia è stata utilizzata, ad esempio, per preparare l’ambiente informativo prima dell’invasione russa della Crimea nel 2014, influenzando le opinioni pubbliche interne ed esterne, e corrisponde al movimento dei pezzi sulla scacchiera finalizzato al logoramento della difesa avversaria. La fase dell’annientamento, invece, mira allo scacco matto: ottenere il pieno controllo delle reti e delle infrastrutture informative di un obiettivo attraverso operazioni di disinformazione, psicologiche e cibernetiche coordinate. La Russia vede la guerra dell’informazione come una guerra totale, con la sopravvivenza della nazione in gioco, proprio come negli scacchi dove la “patta” è il risultato più improbabile di una partita dove di norma o vince il bianco, o vince il nero. 
Ognuna delle tre grandi potenze globali interpreta quindi, sia nel piano fisico che in quello digitale, una propria partita per la supremazia, seguendo le strategie che meglio conosce: quelle del gioco più popolare nella propria tradizione. Tutto sta a vedere quale sia quello che, sul lungo periodo, garantisce le migliori probabilità di successo.
 
Pierguido Iezzi è un ex ufficiale di carriera, formatosi all’Accademia Militare di Modena, laureato in Scienze dell’Informazione e con oltre 30 anni di esperienza nel mondo della Cyber security. Ha alle spalle un’ampia gamma di attività operative relative a Tecnologia, Innovazione, Cyber Security e gestione aziendale. Autore del libro “Cyber e potere” (2023) Le aree di expertise comprendono cyber security, geopolitica, intelligenza artificiale e tecnologia. Founder di Swascan, Consigliere Nazionale di Assintel (Associazione Nazionale Imprese ICT di Confcommercio) è anche Coordinatore del Cyber Think Tank della stessa oltre a presiedere lo SME ISAC della European DIGITAL SME Alliance. Oggi ricopre il ruolo di Strategic Business Development Director di Tinexta Cyber, il polo italiano della cybersecurity, con un focus sui temi della sicurezza digitale, innovazione, forti competenze verticali e soluzioni custom.

[mwai_chatbot id="chatbot-h9et3q"]