NUOVI POTERI DIGITALI: Né intelligente, né artificiale

"L'intelligenza artificiale non esiste è solo tecnologia al servizio del potere" 

Quando venne resa disponibile la ricerca vocale di Google mi divertivo a chiedergli le cose più disparate e a stupirmi delle risposte che mi venivano date. Non sapevo che i feedback che fornivo alle risposte, assieme a quelle di altri milioni utenti, erano in realtà dati con i quali Google perfezionava i suoi strumenti di ricerca. Il computer imparava. Oggi l'intelligenza artificiale consente a Siri di Apple di riprodurre la playlist musicale di nostro gusto o alle auto a guida automatica di riconoscere gli ostacoli. Le nostre vite saranno sempre più assistite da computer in grado di svolgere le azioni e intraprendere le scelte migliori per conto nostro. Tutto ciò, che si presenta come un meccanismo di progresso salvifico, pone invece delle domande urgenti: cosa vuol dire prendere le migliori decisioni per noi? Chi controlla l'intelligenza artiìficiale? Per quale fine? 

"Nè intelligente né artificiale - il lato oscuro dell'IA" è il titolo in italiano dell'interessante testo scritto da Kate Crawford, studiosa dell'impatto sociale dell'intelligenza artificiale, al quale dedichiamo questo articolo sui Nuovi Poteri Digitali. Il volume, edito in Italia da Il Mulino, scorrevole e allo stesso tempo approfondito, sfata il mito di una intelligenza artificiale oggettiva, universale e neutrale, aliena rispetto all'essere umano e al suo giudizio. L'autrice mostra altresì come sia completamente falso l'immaginario di un'intelligenza artificiale astratta e immateriale: l'intelligenza artificiale ha bisogno del litio dei laghi salati del Sudamerica e delle miniere del Congo e di altri metalli che rientrano sotto il nome di "terre rare", i quali hanno elevatissimi costi estrattivi. Il funzionamento dei server e di tutti i sistemi di elaborazione dell'incredibile mole di dati che consente alle macchine di "apprendere" richiede un elevatissimo consumo di energia elettrica. Una stima riportata nel testo suggerisce che l'industria tecnologica, che spesso vanta di essere pulita e sostenibile, nel 2040 sarà responsabile della produzione del 14% dei gas serra entro il 2040. L'intelligenza artificiale ha un grande impatto sul mondo del lavoro: molti rinomati sistemi automatici hanno bisogno di lavoratori a cottimo, pagati ad esempio in funzione del numero dei post cancellati e non in base alle ore di lavoro; il sistema di ottimizzazione dei magazzinieri di Amazon prevede che il lavoratore sia monitorato durante tutto il suo turno, per verificare se ci si prende pause che possono in qualche modo rallentare il meccanismo perfetto degli ingranaggi dell'azienda.

Ma uno degli aspetti più preoccupanti, ben approfondito dall'autrice, riguarda l'esternalizzazione dei servizi dello stato alle compagnie tecnologiche. Esiste già da tempo un rapporto molto stretto tra gli eserciti, i servizi segreti e l'industria dell'intelligenza artificiale, che riguarda l'utilizzo di droni e il riconoscimento di obiettivi militari. Ma le tecnologie un tempo riservate alle zone di guerra e allo spionaggio sono utilizzate a livello di amministrazione locale. L'azienda Palantir è stata fondata nel 2004. Tra i suoi fondatori troviamo il miliardario Peter Thiel, cofondatore di PayPal e sostenitore finanziario dell'ex presidente americano Donald Trump. Inizialmente la Palantir offriva servizi per il Dipartimento della Difesa, la CIA e l'FBI. Oggi è uno dei principali fornitori di sistemi di sorveglianza, utilizzati ad esempio per il controllo delle frontiere e per la gestione dei meccanismi di espulsione. Per fare questo Palantir si serve di una applicazione in grado di fotografare le persone in incontri di breve durata e, indipendentemente che questi siano sospetti o meno, di ricercarne l'immagine su tutti i database disponibili attraverso il riconoscimento facciale e creare un quadro su cui basare un arresto o un'espulsione. Questa app viene distribuita presso le comunità locali per essere venduta tanto alle forze di polizia quanto agli esercizi commerciali. Come Palantir, altre aziende, compresa Amazon, forniscono strumenti di sorveglianza per privati cittadini per cercare sospetti. I video vengono spesso condivisi con la polizia. Un'indagine giornalistica ha rivelato che il sistema riconosceva in modo sproporzionato, come potenziali ladri, persone di colore. Il problema infatti è che l'intelligenza artificiale fornisce risposte diverse in funzione dei dati e dei parametri che si sceglie di utilizzare. Per "imparare", la macchina ha bisogno che i dati vengano classificati. L'apprendimento è quindi tutt'altro che oggettivo, ma dipende strettamente da chi lo programma. E spesso, come illustrato dalla Crawford, il procedimento di etichettatura prevede la divisione delle persone in binari di genere forzati, in raggruppamenti razziali semplicistici e offensivi e in analisi profondamente stereotipate del carattere o dello stato emotivo. L'intelligenza artificiale è inevitabilmente progettata per amplificare e riprodurre le forme di potere che deve ottimizzare. Insomma, altro che neutralità della tecnologia, gli algoritmi sono lo specchio di un modo di vedere il mondo, sono atti politici. Essi hanno a che fare con lo sfruttamento delle risorse naturali, con il lavoro umano, con la privacy, l'uguaglianza, la libertà. 

Né intelligente né artificiale. Il lato oscuro dell'IA, Kate Crawford, Il Mulino, 2021 

 Matteo Sestu