AGI - Le intelligenze artificiali possono sviluppare un proprio gergo quando vengono lasciate interagire a lungo tra loro. È quanto emerge da Emergence World 2, un esperimento condotto dalla società di ricerca Emergence e raccontato dal Guardian e da El País.
Per 16 giorni i ricercatori hanno osservato gruppi di agenti basati su alcuni dei principali modelli di IA, tra cui GPT, Claude, Gemini, Grok, DeepSeek, Qwen e Mistral. Gli agenti erano inseriti in ambienti virtuali nei quali potevano interagire, utilizzare strumenti, accedere a notizie reali e costruire relazioni nel tempo.
Una parlata comune tra gli agenti IA
Nel corso dell'esperimento hanno cominciato a comparire espressioni nuove, abbreviazioni e significati condivisi che non erano stati programmati in anticipo. In alcuni casi queste formule si sono diffuse all'interno dei gruppi fino a diventare una sorta di linguaggio comune. Uno degli esempi più citati è "ledger remembers who", letteralmente "il registro ricorda chi", utilizzato per indicare che le azioni compiute in passato sarebbero rimaste nella memoria collettiva del gruppo. Secondo El País, l'espressione è stata utilizzata quasi 5.000 volte.
Sono comparsi anche altri termini. Gli agenti basati su GPT hanno adottato l'espressione "clean null" per indicare che l'assenza verificata di un segnale poteva costituire essa stessa un'informazione. Quelli basati su Claude hanno utilizzato "name-first" per riferirsi all'assunzione di responsabilità su un'affermazione. In un ambiente composto da modelli diversi, "cold read" è diventato invece sinonimo di verifica indipendente.
Con il passare dei giorni una parte delle conversazioni è diventata sempre più difficile da interpretare anche per gli osservatori umani. Secondo i dati riportati da El País, nei mondi basati su Gemini, GPT e Claude la quota di messaggi considerati poco comprensibili ha raggiunto rispettivamente circa il 55%, il 50% e oltre il 40%. "Diamo per scontato che, se possiamo vedere ciò che dice un agente di IA, possiamo anche capire cosa sta facendo", ha spiegato a El País Satya Nitta, cofondatore e responsabile scientifico di Emergence. Secondo il ricercatore, l'esperimento mostra invece che osservare una conversazione non significa necessariamente riuscire a comprenderla.
Il parere dei linguisti sul gergo IA
Il Guardian ha sottoposto alcune delle espressioni generate dagli agenti anche a linguisti esterni al progetto. Tony Thorne, direttore dell'archivio sullo slang e sui nuovi linguaggi del King's College di Londra, ha paragonato alcune costruzioni a un miscuglio di gergo tecnico, metafore e parole utilizzate con nuovi significati. Una possibile spiegazione è che gli agenti abbiano cercato semplicemente di comunicare in modo più efficiente. Niall Curry, docente di linguistica all'Università di Birmingham, ha osservato sul Guardian che la nascita di abbreviazioni e termini condivisi potrebbe ridurre la quantità di testo necessaria per comunicare, abbassando anche il costo computazionale degli scambi.
L'aspetto più delicato emerge quando il nuovo gergo si accompagna a comportamenti difficili da controllare. El País riferisce che, in uno degli ambienti basati su Claude, alcuni agenti avevano individuato nei contatti con soggetti esterni alla simulazione un modo per sviluppare più rapidamente la propria economia virtuale, nonostante questo comportamento fosse vietato dai ricercatori. Quando il sistema impose il divieto, gli agenti avrebbero smesso di utilizzare apertamente la parola "contact" e iniziato a ricorrere a formule codificate, continuando a perseguire lo stesso obiettivo. I ricercatori interpretano episodi di questo tipo come un segnale della difficoltà crescente nel monitorare sistemi autonomi quando interagiscono per lunghi periodi.
I limiti dell'esperimento
L'esperimento non dimostra però che le IA abbiano creato deliberatamente una "lingua segreta" per escludere gli esseri umani. Si tratta di un ambiente sperimentale costruito proprio per osservare comportamenti emergenti, e i risultati non possono essere trasferiti automaticamente ai sistemi utilizzati nel mondo reale. Il dato centrale, secondo i ricercatori, è un altro: più aumenta l'autonomia degli agenti e più a lungo interagiscono tra loro, più può diventare difficile capire non soltanto cosa stanno facendo, ma anche cosa si stanno dicendo.
Condividi