I volti falsi dell'IA convincono più di quelli veri

AGI - Le immagini di volti create dall'intelligenza artificiale (IA) sono ormai in grado di ispirare più fiducia delle immagini di volti reali. È quanto emerge da un nuovo studio guidato dall'Università di Lancaster e pubblicato sul Journal of Vision.

La prima autrice Alexis McGuire ha spiegato: "La nostra ricerca dimostra che le persone rischiano di essere ingannate da immagini generate dall'intelligenza artificiale. Questi modelli di IA hanno democratizzato lo spazio online e sono accessibili a chiunque, anche senza competenze tecniche, per creare volti falsi che possono essere utilizzati per diversi scopi dannosi. È importante informare il pubblico sulla facilità con cui si possono creare tali immagini, sui potenziali abusi e sui modi in cui si potrebbe diventarne vittime, ad esempio attraverso la diffusione di disinformazione, il furto d'identità e il catfishing".

Come riconoscere un volto falso

Gli esseri umani sono esperti nell'elaborazione dei volti reali, riuscendo a valutarne automaticamente uno in appena 100 millisecondi. Tuttavia, i volti generati dall'intelligenza artificiale sono estremamente realistici e stanno diventando sempre più affidabili grazie a tecnologie più recenti e sofisticate, in grado di creare immagini false che ingannano le persone, facendole credere autentiche in circa un terzo dei casi.

Quando a 169 partecipanti è stato chiesto di osservare una collezione di 96 volti (diversi per etnia, genere ed età) presentati in ordine casuale e di indicare se ciascun volto fosse reale o sintetizzato dall'IA, la loro precisione media è stata del 58,4 per cento, solo leggermente superiore a quella di una scelta casuale (simile al lancio di una moneta, con una probabilità del 50 per cento).

Il paradosso dei modelli più recenti

Sorprendentemente, i volti generati dal più recente modello di diffusione dell'IA (DM) sono stati giudicati meno realistici rispetto ai volti prodotti da un precedente modello di IA (GAN).

Tuttavia, in un esperimento successivo, a un nuovo gruppo di partecipanti è stato chiesto di valutare l'affidabilità di 96 volti presentati in modo casuale su una scala da uno (per niente affidabile) a sette (molto affidabile). I volti reali sono stati valutati come i meno affidabili, con un punteggio medio di affidabilità pari a 4,03. Entrambi i tipi di volti sintetizzati dall'IA sono stati valutati come più affidabili dei volti reali, mentre i volti prodotti dal modello di diffusione (DM) sono risultati più affidabili sia dei volti reali che di quelli generati dalle GAN. I volti generati dalle GAN hanno ricevuto un punteggio medio di affidabilità di 4,36, mentre i volti sintetizzati tramite il modello di diffusione (DM) sono risultati i più affidabili, con un punteggio medio di 4,70.

Secondo i ricercatori, è sconcertante che i volti sintetizzati dall'IA generati dal più recente modello di diffusione dell'IA (DM) siano stati valutati come meno realistici rispetto ai volti prodotti da un modello precedente (GAN), pur essendo stati comunque giudicati i più affidabili.

McGuire ha affermato: "Questo risultato presenta un paradosso e mette quindi in luce la possibilità che i giudizi di realismo e di affidabilità siano guidati da due diversi meccanismi psicologici."

I rischi per la società

Ha messo in guardia su come i volti generati dall'intelligenza artificiale utilizzando le più recenti tecnologie di digitalizzazione potrebbero contribuire a un'erosione generale della fiducia nella società. "Con il progredire della sofisticazione e dell'accessibilità delle immagini generate dall'intelligenza artificiale, la nostra società è sempre più esposta a volti creati artificialmente, spesso in contesti nefasti e di sfruttamento, come la disinformazione politica, le frodi finanziarie e di identità e il catfishing. È fondamentale comprendere la minaccia che questa democratizzazione dell'IA generativa comporta, nonché sviluppare strategie per mitigare i potenziali danni a individui, organizzazioni e democrazie".