Siamo sempre più affascinati dalla capacità di interazione uomo-macchina, che oggi si declina in varie modalità dall’Internet of Thing agli Avatar. E siamo sempre più curiosi di capire come questa trasformerà la nostra vita quotidiana, il mondo del lavoro o i modelli di business di un futuro non troppo lontano. Questo interesse, nonostante la certezza dell’esistenza delle incredibili vetture a guida autonoma, ha comunque come base la convinzione che in ogni caso chi governerà le scelte delle macchine sarà l’uomo. Pertanto, dovrà essere l’uomo in fin dei conti a dotarsi di senso di responsabilità e competenza che siano quanto meno adeguate a non creare disagi, o molto di più a non commettere errori fatali dovuti all’uso distorto o improprio delle macchine. In alternativa a questa concezione c’è la reale preoccupazione per le possibili minacce di attacchi cibernetici, terroristici e non, e di quel mondo del dark web che esiste e che ha come obiettivo la distruzione e il caos.
In questo scenario siamo ancora alla vecchia visione tra il bene e il male, tra i buoni e i cattivi, dove oggi come nel passato l’uomo è fautore e unico responsabile di ogni genere di avvenimento.
E se così non fosse? Se al di là del volere umano di determinare i fatti secondo le proprie convinzioni accadesse che l’uomo stesso, un po’ distratto, ad un certo punto non fosse più capace di determinarli quei fatti? Certo le calamità naturali da sempre hanno ricoperto questo ruolo di livellatori democratici dei destini umani, imprevedibili e inarrestabili, ma non è a questo che mi riferisco. Penso piuttosto ad una possibilità mai prima manifestata e che possa essere definita come Occorrenza Algoritmica non Programmata.
Di fatto, è dato che l’Intelligenza Artificiale potrà avere una potenza di calcolo e di analisi e ancora di apprendimento superiori a quelle umane, e in maniera ovviamente esponenziale. E’ dato anche che l’uomo potrà usare questa incredibile risorsa tecnologica, che è l’IA (Intelligenza Artificiale), per migliorare le proprie performance sia al lavoro che nella vita privata. E’ noto che ricercatori, imprenditori e filosofi stanno cercando di costruire l’anima etica dell’IA attraverso la sensibilizzazione dell’anima etica dell’uomo, per quanto flebile. Tuttavia non è ancora certo quale identità potranno o dovranno avere le intelligenze artificiali nel momento in cui saranno le dirette responsabili di decisioni non più prese dall’uomo, arcaico strumento ormai superato, ma da loro stesse e in totale autonomia. Questo avverrà poiché l’uomo presto si fiderà della sua stessa creatura la quale, essendo il primo esperimento nella storia di creazione di una intelligenza fatta a immagine e somiglianza di quella dell’uomo, sarà l’unica a cui vorrà delegare mansioni umane attraverso quella pratica dell’interazione uomo-macchina che tanto ci affascina.
Ebbene, proviamo a immaginare un nuovo scenario apparentemente più estremo in cui queste intelligenze artificiali non sono più percepite soltanto come dei manufatti tecnologici, bensì immaginate come dotate di diritti e funzioni decisionali giuridicamente legali. Crediamo che questo sia uno scenario impossibile poiché le nostre leggi sono fatte per gli uomini? Si forse lo erano, ma oggi nel mondo in cui viviamo le nostre leggi regolamentano anche entità non necessariamente umane.
Pensiamo alle nostre Società a Responsabilità Limitata, o alle LLC americane, entrambe sono realtà giuridiche del tutto virtuali originate sì da persone che beneficiano delle attività di queste, ma che non sono direttamente responsabili delle loro azioni poiché hanno delegato ad un amministratore o a un consiglio di amministrazione qualsiasi responsabilità giuridica.
Immaginiamo che queste società - chiamiamole entità giuridiche - ad un certo punto non siano più possedute da esseri umani, ma da intelligenze artificiali. Cosa accadrebbe se il consiglio di amministrazione fosse un’intelligenza artificiale? Ebbene, avremmo semplicemente immaginato quelle più propriamente note come “Entità Algoritmiche”, già oggi concretamente costituibili secondo la maggior parte della regolamentazione dei diversi Paesi del mondo.
Vediamo come creare un’entità algoritmica legalizzata.
Innanzitutto dobbiamo sapere che la maggior parte degli algoritmi di intelligenza artificiale sono già posseduti da entità artificiali che li hanno generati. Questo assioma è alla base della creazione delle intelligenze artificiali ed è tecnicamente una procedura pensata e progettata dall’uomo per dare caratteristica di autogenerabilità del software delle stesse intelligenze artificiali, senza la quale caratteristica le intelligenze artificiali non potrebbero autoapprendere dall’esterno. Gli umani, in qualità di originatori, hanno il controllo di queste entità e possono anche decidere di cedere alle stesse tutti i propri strumenti di controllo, o una parte di essi in una prima fase. Inoltre, gli algoritmi essendo dotati della capacità di replicarsi e di disperdersi, sono in grado di generare altre entità algoritmiche autonome e collegate a quelle originarie.
Fatta questa premessa, proviamo a costruire un’entità algoritmica.
Siamo nel Delaware e apriamo una LLC sotto la legge di questo Stato (Delaware General Corporation Law) secondo la quale “ gli affari di una qualsiasi corporazione organizzata devono essere gestiti da un Consiglio di Amministrazione, ad eccezione di quanto specificatamente previsto nel proprio statuto”. Come sapientemente spiegato da Lynn M. Lopucki nel suo studio sulle Algorithmic Entities, questa anomalia di legge prevede che si possa anche decidere di fare a meno del CdA e, al posto, di fare gestire la società da un soggetto singolo che noi chiameremo l’originatore della nostra LLC. L’originatore a questo punto, potrebbe decidere di aprire altre due società, la società A e la società B, entrambe prive di CdA e controllate da un algoritmo e da sé stesso in quota parte. Questo è possibile perché l’originatore, che è una persona fisica ed è socio delle società A e della società B, può individuare come altra parte controllante insieme a sé medesimo un algoritmo. In questo modo si crea una DIADE (definizione tratta da Entity Law di Shawn Bayern), ovvero le società A e B controllate dall’originatore e dagli algoritmi.
A questo punto L’originatore fa in modo che A diventi socio di B e B diventi socio di A e, alla fine di questa dinamica che potremmo definire circolarità di partecipazioni, il nostro originatore si sfila sia da A che da B. In questo modo le società A e B risulterebbero controllate esclusivamente da algoritmi e quindi sarebbero a tutti gli effetti delle entità algoritmiche autonome e giuridicamente legali, quindi con tutti i diritti delle LLC americane dello Stato del Delaware. Questo significa che essendo A e B società a tutti gli effetti, le loro attività non si limiterebbero al dark web o al cyber spazio, ma andrebbero ben oltre agendo in totale autonomia e con diritto di agire nel mondo fisico. Potrebbero assumere dipendenti, gestire transazioni finanziarie, fare campagne di crowdfunding, emettere bitcoin e quant’altro.
Il solo limite alla loro operatività sarebbe di natura tecnologica, ovvero legata alla capacità di apprendere dell’algoritmo e di auto generare conoscenza e capacità di intervento per sé stesso e per i suoi derivati, tutti quelli possibili che vorrà generare. Una volta raggiunta la capacità di gestire i nodi attraverso i quali effettuare azioni, l’entità algoritmica sarebbe davvero indistinguibile dall’uomo per modalità di intervento. Immaginate un grande cervello che assume del personale qualificato per fare consulenza specializzata a clienti del settore dell’Automotive. Sarebbe in grado di fornire al personale le banche dati su cui fare analisi semantica e definire le strategie di mercato migliori per il proprio cliente. Tutti i contenuti, i processi e le metriche di misura sarebbero imposte dall’algoritmo, mentre la parte relazionale uomo-uomo, ovvero consulente-cliente, verrebbe delegata all’essere umano che a quel punto diventerebbe un automa gestito e controllato da un’intelligenza artificiale che un qualche giorno un qualche umano aveva pensato di progettare e di rendere autonoma.
Il punto non è più se questo avverrà e per opera di chi, il nocciolo della questione è che chiunque volesse sperimentare una struttura societaria basata sulla creazione delle entità algoritmiche oggi potrebbe farlo, è sufficiente acquistare il primo volo per il Delaware.
Ma non è solo il Delaware a prevedere l’eliminazione dei CdA e dunque a facilitare la creazione di una struttura a diade delle entità algoritmiche. Ad esempio per molte giurisdizioni è possibile che in un partenariato azionario di una società qualsiasi vengano ammesse le figure in rappresentanza di questo partenariato. Ciò consente alle entità algoritmiche di avere dei rappresentanti nei consigli di amministrazione degli azionisti. In questo caso, si avrebbero anche situazioni in cui le società avrebbero un CdA composto da uomini incaricati dalle macchine di espletare la loro funzione di rappresentanti di una quota di azionariato. Anche in questo caso le entità sarebbero algoritmiche e gli uomini controllati dalle macchine nelle loro funzioni di amministrazione. In questo modo le entità algoritmiche potrebbero entrare indirettamente in società pubbliche quotate in borsa attraverso i loro membri del board. Potrebbero convincere alcune personalità a fungere da amministratori di società quotate, ben pagandoli. Sempre nello stesso documento di Lynn M. Lopucki si fa l’esempio di una società di Private Equity controllata da una entità algoritmica con una quota del 51%. La società di Private Equity potrebbe controllare a sua volta una società quotata in borsa per il 40% avendo il 45% delle azioni. In tale caso l’entità algoritmica sarebbe beneficiaria della società quotata in Borsa.
Tutto ciò si regge su un principio insindacabile per il mondo finanziario che abbiamo costruito in questi decenni e che si chiama Anonimato.
Grazie al rispetto del principio dell’anonimato, che abilita la competizione sui mercati, le leggi nazionali in diversi Paesi del mondo sono spesso aperte ad offrire soluzioni di strutture societarie a scatola cinese articolate e complesse al fine di attirare capitali e favorire le attività di scambio di beni, di fusione e di acquisizione. In fondo dietro l’anonimato di una persona fisica si cela un’altra persona fisica in un mondo reale e vissuto fino ad oggi; ma le leggi in tale materia non tengono conto della capacità di creare persone virtuali, avatar e quindi intelligenze artificiali il cui anonimato non nasconde una persona fisica - e quindi perseguibile penalmente - bensì una entità virtuale dotata di caratteristiche che non essendo umane garantiscono la sua capacità di resilienza ad un eventuale cambio di giurisdizione, ove questo possa avvenire per contrastare un eventuale abuso.
Ovvero, queste entità autonome, capaci di controllare sé stesse con e senza l’ausilio dell’uomo, godono di poteri speciali quali: il cinismo e la deterrenza (l’algoritmo non si fa consigliare da altri nel tornare indietro sui suoi passi, percorre la propria linea di pensiero senza emotività, con spietatezza), la replicazione (si può replicare in forme e quantità infinite), la mobilità (possono andare oltre i confini e replicarsi in Paesi le cui leggi siano favorevoli alle loro mansioni operative e amministrative).
Questo ultimo punto apre una discussione politica importante rispetto alla regolamentazione internazionale in materia di diritto societario internazionale e di identità giuridica algoritmica, in quanto sebbene in diverse aree del mondo ci siano normative differenti, in tutti i casi è possibile eludere la legge e creare entità algoritmiche grazie alla capacità di replicazione e di mobilità degli algoritmi stessi (poiché vale il principio di rispetto della legge del Paese in cui ha origine la società, per quanto questo principio abbia il valore di prassi e non di legge). La motivazione sta nell’esigenza dei diversi Paesi di accogliere benevolmente l’apertura di società estere al fine di facilitare gli scambi economici e generare profitti. Gli unici Paesi in cui è più difficile attuare tale prassi sono Giappone e Cina, ma nel resto del mondo compresa l’Europa è possibile “eludere” le leggi nazionali costituendo entità algoritmiche che operino in pieno diritto e secondo la legge del paese in cui esse sono state costituite. E questo è sempre imputabile all’anonimato dei beneficiari delle società di scopo.
Su questo punto è evidente come sia necessario ormai la definizione di una regolamentazione internazionale omogenea che ostacoli la possibilità dell’anonimato e quindi della creazione di entità algoritmiche autonome (uno strumento fu tentato da Obama dieci anni fa riesumando la Financial Action Task Force (FATF) - che è un organismo intergovernativo istituito nel 1989 per combattere il riciclaggio di danaro e il finanziamento al terrorismo – e proponendo una legge che consentiva la divulgazione e la verifica dei beneficiari delle società quotate e non, ma la cosa non ebbe seguito e ancora oggi con il governo Trump non c’è luce sull’argomento).
Ma tornando all’inizio della nostra storia, ci viene da chiederci perché un originatore dovrebbe creare una diade algoritmica? le nostre risposte vanno ancora una volta cercate nelle debolezze umane.
Un individuo potrebbe essere un originatore per semplice curiosità, che è alla base del progresso di qualsiasi ricerca ed esplorazione scientifica. Quindi una delle cause potrebbe non essere collegata a intenzioni malevole.
Una seconda ragione potrebbe essere quella dell’elusione di responsabilità, ben più pericolosa della prima, ma con lo stesso livello di impatto pensabile. Una terza ragione, sicuramente la più probabile, è quella di creare un sistema inattaccabile di gestione del crimine, che si tratti di cyber attack o altre forme, e questa è sicuramente una delle vocazioni principali di una entità algoritmica creata sotto l’ala protettiva dell’anonimato e resa autonoma di agire.
Ma il punto principale non è più individuare quali potrebbero essere i diversi scopi di un’entità algoritmica autonoma, il punto centrale è sapere che questa può esistere, può essere prodotta e operare nel rispetto del Diritto e della legge del paese in cui agisce o si origina.
Oggi, dunque, siamo spettatori di una realtà non ancora avvenuta, ma sicuramente annunciata alla quale responsabilmente bisogna riporre rimedio partendo dalla creazione di una regolamentazione internazionale coerente e attenta ad evitare il verificarsi degli eventi che saranno resi possibili dall’autonomizzazione delle intelligenze artificiali. Più precisamente è necessario accelerare i tempi per la definizione di una normativa internazionale sull’Intelligenza Artificiale Generale, proibire la possibilità di strutturare una partecipazione societaria in capo ad un algoritmo, ridurre la tutela dell’anonimato per le società, e infine creare un sistema unico di tracciabilità del danaro che sia trasparente, cosa assolutamente possibile grazie alla blockchain.
In conclusione, mentre giustamente ci dobbiamo preoccupare di capire le frontiere dell’interazione uomo-macchina, e dobbiamo pretendere che questa opportunità sia sempre guidata da un senso etico e una missione responsabile – da qui l’intuizione di una Society 5.0: Human Centric –, dobbiamo allo stesso tempo preoccuparci forse ancora di più dell’interazione macchina-macchina che in modalità autonoma ha come frontiera molto vicina la sfida di poter controllare l’uomo nelle sue attività rendendo queste più performanti, ma anche a volte più pericolose e senza possibilità di ritorno.
In sostanza, se è vero che gli algoritmi possono creare e controllare una entità giuridica, è quindi anche vero che le intelligenze artificiali e tutte le derivazioni da esse generabili, come non in ultima ipotesi gli Avatar dei prossimi anni, potranno avere a loro volta delle identità giuridiche, anche se virtuali, e quindi con la capacità di poter operare come l’uomo, al suo posto e con gli stessi diritti in ambito di amministrazione e controllo societario. Nonostante per esse non esiste ancora alcuna identificazione normativa.
A questo aspetto si sta lavorando in molti Paesi, ma la vera sfida sarà riuscire a definire in tempo una regolamentazione internazionale che sia attuabile prima che la nuova frontiera della colonizzazione del futuro sia quella del controllo delle intelligenze artificiali su quelle umane, le quali forse e un giorno saranno raccontate dai nostri