AGI - Terza legge di Clarke: “Qualunque tecnologia sufficientemente avanzata è indistinguibile dalla magia”. Nonostante i social network siano una consuetudine ormai da qualche lustro, continua a sorprendere la loro capacità di proporci contenuti che potrebbero interessarci. Come fanno? Un recente articolo del New York Times s'intitola “Come TikTok legge la tua mente” ma spiega – in realtà - quanto poco c'entri la magia e quanto molto faccia la tecnologia. Merito di un documento interno, ottenuto dal giornalista Ben Smith, che offre un quadro più chiaro (ma non definitivo) dell'algoritmo che guida l'app.
Tutti i social media (ma anche e-commerce, motori di ricerca) utilizzano dati e algoritmi per capire cosa guarda ogni utente e suggerirgli video che potrebbero interessargli. TikTok lo fa particolarmente bene.
E il perché è spiegato nel documento, intitolato "TikTok Algo 101": è stato rivelato da una fonte anonima e confermato da una portavoce della società. L'algoritmo ha quattro obiettivi principali, che la compagnia definisce “valore utente”, “valore utente a lungo termine”, “valore creator” e “valore della piattaforma”.
Ogni video, in base a caratteristiche e interazioni, acquisisce un punteggio. All'utente verranno suggeriti quelli con quello più elevato. Si tratta di un'equazione complessa, della quale il documento fornisce alcuni elementi: like, commenti, tempo di riproduzione, tipo di interazione. Ma ci sono anche degli indicatori di “qualità”, che fanno intendere come vengano privilegiati i contenuti degli account che pubblicano più spesso, convincono gli utenti a riguardare i propri video e siano in grado di monetizzare. TikTok sembra quindi favorire i contenuti più redditizi. C'è quindi una componente economica in mezzo ad altre che riguardano il puro interesse degli utenti.
L'obiettivo finale è attirare più utenti quotidiani possibile (Dau, daily active users). Per farlo, le due metriche che più contano sono la “retention” (cioè la tendenza di un utente a tornare sulla piattaforma) e il “tempo di permanenza” (cioè quanto passa sull'app). Non è una sorpresa, ma è una conferma che la priorità di TikTok è tenere incollati gli utenti.
Questo approccio rilancia almeno due temi, legati agli effetti collaterali degli algoritmi, non solo su TikTok. Primo: il confine tra ottenere l'attenzione degli utenti per molto tempo e incoraggiare la dipendenza è sottile. In altre parole: non viene visualizzato quello che realmente potrebbe interessare ma ciò che si presume possa prolungare la visione.
Secondo: senza correttivi, gli algoritmi tendono a suggerire contenuti simili a quelli già visti, amplificando convinzioni errate (come ad esempio le teorie complottiste) o stati d'animo. È questo il motivo che ha spinto la fonte del New York Times a diffondere il documento: l'anonimo informatore si è detto turbato dal fatto che la piattaforma “spingesse contenuti 'tristi' che potrebbero spingere all'autolesionismo”.
Allo stesso tempo, il documento sembra sgombrare il campo da alcune leggende metropolitane. Non si può certo dire che i frammenti dell'algoritmo rivelati siano oscuri. Raccontano semmai quanto sia potente, se ben incardinata, la combinazione tra una mole sterminata di dati e una tecnologia (il machine learning) in grado di analizzarla. Ogni like, ogni video, ogni secondo in più o in meno passato a vederlo sono informazioni che rivelano gusti (dalla musica alla moda) ma anche dati sensibili (stato di salute fisico e psicologico, orientamento sessuale).
Il documento interno offre anche alcuni elementi di dibattito sul legame tra la piattaforma e Pechino. La società che sviluppa l'app, ByteDance, è cinese. Ma – per continuare a operare in Occidente ed evitare la chiusura minacciata dall'amministrazione Trump - ha dovuto scindere le attività di TikTok da quelle della sua versione cinese, Douyin.
“TikTok Algo 101” indica però alcuni elementi comuni. Secondo il Nyt, il documento è stato elaborato da ingegneri di Pechino, è scritto in inglese corretto ma non da madrelingua, rimanda a documenti che citano sia TikTok che Douyin, fa cenno a un responsabile tecnico che – su LinkedIn – afferma di lavorare per entrambe le app. Emerge inoltre che i dipendenti utilizzano lo stesso prodotto per la comunicazione aziendale (Lark, sviluppato da ByteDance). La portavoce di TikTok ha spiegato che esiste “una certa comunanza nel codice”, ma le due applicazioni non condividono dati e vengono eseguite su server separati.
A giugno, Biden ha sospeso l'ordine esecutivo di chiusura emesso da Trump, ma la questione dei legami tra l'app e Pechino resta aperta su due fronti: privacy e propaganda. Trump muoveva dalla convinzione che TikTok potesse condividere con il partito informazioni sulla vita quotidiana degli utenti americani. Il New York Times afferma di avere uno screenshot che proverebbe come i moderatori di contenuti dell'app abbiano accesso non solo ai video pubblicati ma anche ai contenuti inviati agli amici e a quelli caricati ma non ancora condivisi. Non ci sono però prove che TikTok sia un orecchio di Pechino in Occidente.
La propaganda riguarda invece possibili censure. Nel novembre 2019, era stato rimosso (ufficialmente “per errore”) il video di una ragazza che – fingendo di dare consigli su come allungare le ciglia – denunciava la repressione degli uiguri, minoranza musulmana in Cina. Ma, anche in questo caso, mancano le prove di una censura sistematica di contenuti sgraditi a Pechino.
Il documento è quindi prezioso perché dà maggiore consapevolezza su come funzioni una grande piattaforma. Ma – come ha affermato Samm Sacks, ricercatore del think tank New America - che si parli di censura, sorveglianza, dipendenza o privacy, il punto non è un'app: “Dare di matto per [...] TikTok distrae dal fatto che questi problemi sono molto più grandi di qualsiasi azienda specifica o della sua proprietà cinese”.