AGI - Un editoriale sulla crisi energetica pubblicato da un piccolo settimanale della Florida era stato in realtà scritto utilizzando un chatbot di ChatGPT da utenti che si trovavano in Iran, nell'ambito di una "campagna di influenza" ordita da Teheran. Lo riporta il Washington Post secondo cui dietro la firma dell'editoriale, Ervin Hoskins, non c'erano in realtà altro che agenti della propaganda iraniana.
"Il conto continuerà a pesare sugli americani anche dopo la fine dei combattimenti", avvertiva l'articolo pubblicato sul Port St. Joe Star, ma anche da testate più importanti, tra cui Daily Kos e Middle East Monitor, che insieme contano oltre 3 milioni di follower su Facebook.
Il nome di Hoskins è comparso anche in altri articoli critici nei confronti della guerra, ma OpenAI, la società che ha sviluppato ChatGPT, ha dichiarato che i presunti articoli di Hoskins erano stati generati dall'IA e che non si trattava di un caso isolato. Secondo la società, la campagna ha portato alla pubblicazione di circa 100 articoli falsi su almeno 20 testate giornalistiche. Anche la fotografia dell'autore che accompagnava l'articolo di Hoskins pubblicato dallo Star era stata generata utilizzando gli strumenti di intelligenza artificiale di OpenAI.
Con il progressivo potenziamento degli strumenti di intelligenza artificiale, alcune testate giornalistiche sono state costrette a cancellare contenuti generati dall'IA e pubblicati sotto false firme, inizialmente sfuggiti ai controlli dei redattori. Lo scorso anno Business Insider e Wired hanno rimosso una serie di articoli pubblicati a nome di Margaux Blanchard che sembravano essere stati generati dall'intelligenza artificiale. Ma mentre non era chiaro chi o cosa si nascondesse dietro gli articoli firmati da Blanchard e da altri personaggi apparentemente fittizi, OpenAI ha dichiarato in un rapporto sull'utilizzo di ChatGPT nelle campagne di influenza politica, che Hoskins faceva parte di un'operazione finalizzata a diffondere contenuti sulle operazioni militari statunitensi in Iran.
Molti degli articoli mettevano in evidenza le conseguenze negative della guerra sugli americani. Quella di Hoskins era una delle sette firme comparse nella serie di articoli generati dall'intelligenza artificiale, prodotti da utenti che impartivano istruzioni al chatbot in persiano. Secondo la società, le operazioni sembravano essere gestite da un'organizzazione commerciale nell'ambito di una "campagna di influenza su commissione".
David Adlerstein, editore del Port St. Joe Star, ha dichiarato in un'email che l'articolo di Hoskins aveva attirato la sua attenzione dopo essergli stato proposto da PeaceVoice, un piccolo centro studi di orientamento progressista dell'Oregon, che inviava contenuti allo Star da "anni". La contea di Gulf, dove si trova Port St. Joe, conta circa 15.000 abitanti. "Poiché ci troviamo in una zona della Florida fortemente repubblicana, di solito non pubblico gli articoli di PeaceVoice, ma questo mi è sembrato stimolante e non un attacco violento al signor Trump, cosa che sarebbe stata problematica per gran parte dei nostri lettori", ha dichiarato Adlerstein.
In virtù del rapporto già esistente con PeaceVoice, non aveva ritenuto necessario verificare la provenienza dell'articolo né l'identità dell'autore. Tom Hastings, direttore fondatore di PeaceVoice, ha dichiarato che l'organizzazione ha rafforzato la propria politica, già esistente, che vieta l'uso dell'intelligenza artificiale, dopo essere stata contattata da OpenAI che intanto ha bloccato gli account responsabili della campagna e impedito l'accesso a ChatGPT dall'Iran.
"L'attività nel suo complesso appariva coerente con quella di un soggetto commerciale impegnato a condurre una campagna di influenza su commissione, ma non siamo in grado di identificare lo specifico soggetto coinvolto", ha affermato la società. "Abbiamo condiviso le informazioni relative a questo caso con le autorità competenti".
Middle East Monitor e Daily Kos hanno dichiarato di aver rimosso gli articoli pubblicati sotto le false firme e di stare riesaminando le proprie procedure per prevenire ulteriori episodi.
Gli articoli di Hoskins pubblicati su Daily Kos erano apparsi su una piattaforma aperta alla comunità degli utenti, i cui contenuti non sono sottoposti al controllo preventivo della redazione. Markos Moulitsas, fondatore del sito, ha dichiarato in un'email che una campagna del genere era "incredibilmente corrosiva" per la piattaforma. "Abbiamo già difficoltà con membri della comunità che accusano altri di essere bot o account falsi semplicemente perché non sono d'accordo con loro. Un'operazione come questa getta benzina sul fuoco", ha affermato. "È in gioco la fiducia stessa della nostra comunità".
Gli articoli scritti da autori che OpenAI ha identificato come parte della campagna iraniana affrontavano una serie di argomenti relativi al Medio Oriente, ma spesso erano critici nei confronti degli effetti della guerra in Iran sugli americani. Molte delle testate coinvolte erano specializzate in politica e affari esteri. Dopo aver generato gli articoli in inglese, gli utenti di ChatGPT in Iran chiedevano al chatbot di adattare le bozze ai criteri di pubblicazione di una specifica testata e di preparare un'email di proposta da inviare a un redattore.
I presunti autori degli articoli venivano presentati come giornalisti freelance, analisti politici e attivisti per la pace. Middle East Monitor, che si presenta come una testata sostenitrice della causa palestinese, aveva pubblicato almeno 21 articoli sotto firme che OpenAI ha dichiarato essere false, tra cui Hoskins, Michael Harrison, Jenny Williams e Alice Johnson. Alcune di queste identità, tra cui quella di Hoskins, compaiono anche su account di social media e, in un caso, su un profilo della piattaforma di blogging Medium, che riportavano lo stesso nome e la stessa fotografia utilizzati negli articoli pubblicati. Secondo lo strumento di OpenAI che verifica se le immagini siano state generate utilizzando la tecnologia della società, almeno un'altra presunta autrice, Ericka Feusier, utilizzava una fotografia del profilo generata dall'intelligenza artificiale.