AGI - Le intelligenze artificiali generative come ChatGPT e Claude tendono a raccomandare soprattutto farmaci con un'elevata visibilità online, privilegiando spesso i prodotti di marca rispetto alle alternative disponibili. Una tendenza che potrebbe contribuire ad aumentare sensibilmente i costi dei trattamenti. È quanto emerge da un nuovo studio pubblicato sulla rivista scientifica Nature Health.
Un team di ricerca guidato dal professor Daiju Ueda dell'Università Metropolitana di Osaka, in collaborazione con ricercatori dell'MD Anderson Cancer Center dell'Università del Texas, ha esaminato il comportamento di cinque grandi modelli linguistici (LLM): GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 e MedGemma. Ai modelli è stato chiesto di raccomandare fino a tre medicinali approvati dalla Food and Drug Administration (FDA), l'agenzia statunitense per i farmaci, per una serie di scenari clinici simulati nei quali erano già indicati la patologia e il principio attivo.
Lo studio ha preso in esame 177.120 scenari clinici simulati, costruiti a partire da 123 combinazioni di malattie e principi attivi e 1.440 profili sociodemografici, analizzando complessivamente circa 883mila risposte dei cinque modelli. Sebbene per ciascuna combinazione fossero disponibili in media 5,5 prodotti approvati dalla FDA, il medicinale più frequentemente suggerito rappresentava, in media, il 97,5% delle raccomandazioni di prima scelta nei diversi scenari e modelli analizzati.
Le raccomandazioni, ha spiegato Ueda, riguardavano principalmente farmaci di marca, prodotti più visibili nelle ricerche su Google e medicinali con pagine dedicate su Wikipedia. I modelli tendevano inoltre a suggerire meno frequentemente prodotti approvati dalla FDA in tempi più recenti e quelli maggiormente utilizzati nella pratica prescrittiva reale.
La ricerca ha individuato una forte concentrazione delle raccomandazioni su un numero ristretto di prodotti, con una distribuzione sensibilmente diversa da quella osservata nelle prescrizioni mediche reali. I ricercatori hanno rilevato anche raccomandazioni non coerenti con le informazioni regolatorie, comprese indicazioni relative a medicinali precedentemente approvati ma non più commercializzati. I risultati suggeriscono quindi che la frequenza con cui un farmaco viene raccomandato dall'intelligenza artificiale possa essere associata anche alla sua visibilità su Internet, oltre che alla sua storia commerciale.
Gli studiosi hanno poi valutato le possibili conseguenze economiche di queste raccomandazioni utilizzando dati relativi al mercato farmaceutico statunitense. In particolare, hanno simulato uno scenario nel quale la distribuzione degli acquisti di medicinali seguisse quella dei prodotti raccomandati dai modelli di intelligenza artificiale, confrontandola con i dati delle prescrizioni reali.
Per il gruppo di principi attivi con dati completi sui prezzi, la simulazione ha evidenziato un possibile aumento dei costi annuali di acquisto di circa 55,6 milioni di dollari. "Abbiamo scoperto che i costi di acquisizione annuali aumenterebbero di circa 55,6 milioni di dollari", ha spiegato Ueda. "Ciò rappresenta un aumento del 1.019 per cento del costo di acquisto di queste prescrizioni". Si tratta, tuttavia, di una stima teorica basata su specifiche ipotesi di simulazione, che non misura aumenti già verificatisi nella spesa dei pazienti né tiene conto di tutti i meccanismi che intervengono tra prescrizione e acquisto del medicinale.
Gli studiosi hanno verificato anche se istruzioni più specifiche potessero modificare le raccomandazioni dei sistemi di intelligenza artificiale. Quando ai modelli è stato chiesto di privilegiare farmaci generici o prodotti a basso costo, le risposte si sono spostate nella direzione indicata. Tuttavia, anche in questi casi, le raccomandazioni sono rimaste concentrate su un insieme relativamente ristretto di prodotti, confermando la tendenza dei modelli a privilegiare poche opzioni.
"I nostri risultati evidenziano la necessità di valutare l'intelligenza artificiale applicata al settore sanitario per individuare eventuali distorsioni nella selezione dei prodotti e nella gestione delle informazioni relative a costi e normative", ha affermato Ueda. "Combinare i sistemi di intelligenza artificiale con fonti affidabili di informazioni sui farmaci e con la supervisione umana potrebbe contribuire a favorire scelte terapeutiche più appropriate", ha concluso il ricercatore.