L’intelligenza artificiale viene spesso presentata come una nuova forma di automazione non più soltanto del lavoro manuale, ma del lavoro intellettuale. Le macchine possono scrivere, analizzare, classificare, produrre immagini e partecipare alle decisioni. Da qui nasce il timore che l’uomo, abituandosi a delegare, diventi progressivamente pigro, perda autonomia e soprattutto finisca per rinunciare alla decisione. Questo rinunciare alla decisione viene visto come un destino ineluttabile con l’aumento di potenza delle varie IA. Ma questa realtà è solo una possibilità e non la più probabile.
Confondere la delega con la rinuncia all’autonomia significa infatti psicologizzare un problema che è soprattutto politico e istituzionale. L’uomo ha sempre trasferito una parte delle proprie capacità ad elaborazione automatica. Grandi matematici e filosofi come Pascal e Leibniz hanno creato macchine per il calcolo, senza per questo abbandonare il controllo della decisione. La delega non è necessariamente pigrizia, può essere una forma di organizzazione e di potenziamento delle capacità umane.
Il problema nasce quando la delega diventa rinuncia al giudizio. Una macchina può suggerire una diagnosi, un investimento o una decisione militare; ma non è la macchina, da sola, a trasformare quel suggerimento in una scelta. Dietro l’algoritmo esistono progettisti, procedure, dirigenti e istituzioni. Quando un sistema automatizzato produce un errore, la domanda decisiva non è soltanto perché la macchina abbia sbagliato, ma perché gli uomini abbiano costruito un sistema nel quale quella decisione poteva essere accettata senza un controllo sufficiente. Il vero pericolo non è quindi la sostituzione dell’uomo, ma la frammentazione della responsabilità.
Alcuni giovani studiosi hanno lamentato che l’AI distrugge i rapporti sociali. Molti hanno sostenuto che l’intelligenza artificiale impoverirà le relazioni umane, ma questa tesi presuppone un passato nel quale gli uomini avrebbero vissuto in comunità ricche e solidali, poi distrutte dalla tecnologia. Quel passato non è mai esistito in questa forma. La solitudine, l’esclusione, il conflitto e la subordinazione appartengono da sempre alla storia umana. La religione, la politica, la famiglia, la città e le associazioni hanno costruito forme di appartenenza, ma hanno prodotto insieme solidarietà e controllo, inclusione ed esclusione. Divenendo alla fine forme prevalentemente di dominio e controllo. Non è dunque l’intelligenza artificiale a inventare la solitudine. Può modificare le forme della socialità, impoverirne alcune e crearne altre, senza dover essere il principale agente dell’esclusione sociale o dell’impoverimento. La questione è quindi quale socialità costruiremo attraverso di essa. Il rischio più serio non è necessariamente diventare meno sociali, ma diventare meno capaci di giudicare. Un uomo può essere connesso con migliaia di persone e, nello stesso tempo, essere incapace di verificare ciò che un algoritmo gli propone. Può avere una vita sociale intensa e rinunciare alla propria autonomia epistemica. La questione fondamentale è allora conservare la capacità di dire alla macchina “potresti avere torto”. Questo diventa particolarmente importante quando l’IA produce immagini, video e informazioni difficili da distinguere dalla realtà. La propaganda e la manipolazione possono sfruttare questa indistinguibilità. Ma anche qui sarebbe troppo semplice attribuire tutto alla macchina: entrano in gioco le istituzioni, le piattaforme, l’educazione e la capacità critica dei cittadini. L’intelligenza artificiale, infine, non possiede un destino politico già scritto. Può essere utilizzata per sorvegliare o per liberare tempo, per manipolare o per informare, per concentrare il potere o per distribuirlo. La tecnologia apre possibilità, sono gli uomini e le istituzioni a trasformarle in realtà storica. Perciò la questione non è scegliere tra uomo e macchina. È decidere chi conserva il potere di giudicare, di contestare e di dire no. La libertà nell’epoca dell’intelligenza artificiale dipenderà dalla capacità di non confondere ciò che una macchina può fare con ciò che un uomo deve decidere.
In questo senso, anche l’idea generica, secondo cui l’intelligenza artificiale sarebbe destinata a distruggere l’umanità, appare poco giustificata dai fatti. Trasforma una possibilità estrema e di improbabile attuazione, in una sorta di destino inevitabile, ignorando il ruolo delle scelte umane, delle istituzioni e dei controlli. L’IA può certamente produrre rischi seri e nuovi, ma passare da questi rischi alla previsione della distruzione dell’umanità significa più che altro sostituire l’analisi con una visione apocalittica e poco seria del futuro.
