Intelligenza artificiale, deficit, società

I Greci, è noto, non hanno contribuito se non in minima parte allo sviluppo tecnologico. La Rivoluzione industriale non è partita da Atene, né da Alessandria. Tuttavia, il modo in cui noi tuttora guardiamo alla tecnica, il fatto stesso che usiamo una parola al singolare, è una costruzione culturale greca. 

Essa si riassume in un paradigma tanto semplice nella sua formulazione, quanto complesso e faticoso nel processo che lo ha prodotto:

DAI BISOGNI ALLE TECHNAI

Il paradigma mette in successione temporale e causale bisogni umani - fame, freddo, malattia, spostamento, comunicazione, tempo libero - e ritrovati che colmano e soddisfano quei bisogni: produzione di cibo, abiti, ripari, medicine, navi, scrittura, giochi. Siccome gli uomini sperimentano la malattia, allora i medici conoscono e applicano le cure per guarirli.

Le tecniche – agricoltura, architettura, navigazione, medicina etc. ci appaiono così – tuttora! - come naturalmente subordinate ai nostri scopi, our goals. 

Un esempio: nel dibattito pubblico recente è stata fortemente criticata la corsa delle scuole all’acquisto di tecnologie che non rispondevano ai loro bisogni, di cui non si sentiva l’esigenza, ed è stato indicato, anche nei vari documenti ufficiali del ministero - come percorso da seguire nella progettazione - quello di censire prima i bisogni e poi acquistare le tecnologie indispensabili in ordine ai bisogni individuati.

Una delle formulazioni più antiche del paradigma è nel Prometeo incatenato di Eschilo. La tragedia è un lungo scontro indiretto fra Prometeo e Zeus. Prometeo - espressione di un ordine arcaico soppiantato da Zeus e dal sistema olimpico - è colpevole di aver dato il fuoco agli uomini, contro il volere di Zeus. Ma Prometeo – come egli stesso rivendica - ha fatto anche altri doni all’umanità: il pensiero e la coscienza, la scrittura, la memoria, la medicina, la mantica. Nonostante vari tentativi fatti da intermediari, egli non cede a Zeus (al quale nasconde dei segreti) e per questo viene scagliato, insieme alla rupe a cui è incatenato, nel Tartaro, un burrone senza fondo. 

Eschilo, è bene dire, parteggia per Zeus ma mostra simpatia per Prometeo. Il loro scontro è tragico proprio nel senso che lo sconfitto non ha tutta la colpa e il vincitore non ha tutta la ragione. Ma l’ottica di Eschilo è conciliativa: le tecniche - di cui Prometeo è fiero portavoce - hanno diritto di cittadinanza nel nuovo ordine, olimpico.

Nei discorsi che egli fa con vari personaggi che si alternano al suo cospetto, Prometeo infatti si serve del paradigma di cui abbiamo detto per giustificare la sua azione oblativa (ma anche furtiva, immetodica e menzognera: ha infatti rubato il fuoco e ha distribuito malamente le technai): prima del suo intervento gli uomini erano bisognosi, poi hanno trovato sollievo alle loro carenze. 

Ogni techne, nel suo discorso, ha un corrispettivo bisogno che viene a colmare: 

Technai diverse fra loro trovano nell’essere subordinate ai bisogni una loro unità: il sistema delle technai si definisce così attraverso la positività che creano soddisfacendo bisogni. E questi bisogni sono bisogni di tutti, non desideri individuali, non condivisibili o dannosi per la collettività. Le technai sono dunque:

• utili: prima di esse vi era una condizione negativa resa positiva dalle varie technai

• razionali: esse portano ordine in un mondo confuso

Quello che vediamo all’opera in Eschilo, ma anche in Euripide, e poi con ampiezza in Platone è un tentativo inesausto di dettare le regole, di stabilire le condizioni per il dispiegamento delle technai, di costruire un meccanismo di controllo sociale delle technai. La numerosità di questi interventi regolatori, l’intensità della riflessione greca su questo tema ci dicono la grande preoccupazione che i greci avvertivano nei confronti del mondo delle technai, la minaccia che esse rappresentavano per la Società. 

Per quanto strano, inconsueto e inspiegabile ciò possa apparire, le technai – per diversi motivi – erano avvertite come pericolose e minacciose, a tal punto che nei Racconti delle Origini – cioè nei miti che inscenano la costituzione dell’uomo in società civile, come appunto il mito di Prometeo, la questione delle technai è centrale.

Se ampliamo lo sguardo, vediamo dunque, al di sotto del paradigma tradizionale un altro paradigma, nascosto, originario, che può essere rappresentato così:

LE TECHNAI contro LA SOCIETÀ

In esso le technai sono:

• ingannevoli e opache: la loro emergenza è accolta con disfavore e scetticismo, la loro fonte è inaccessibile e misteriosa; 
• praticate in modo smisurato dai loro portatori, che per esse sono distolti da altri più importanti obblighi sociali (per esempio, la guerra)
• indifferenti alla salvezza o al guadagno: i technitai, i portatori di techne, possono talora praticare gratuitamente o addirittura in perdita la loro techne
• non scelte dai loro portatori (sono ‘doni’ divini) e anzi talora subite dolorosamente e indivisibili da essi (non esiste in origine ‘la medicina’, ma i ‘medici,’ anche loro malgrado) 
• naturali, innate, originarie rispetto alla Società (nei Racconti delle Origini, cioè nei miti che mettono in scena la nascita del consorzio civile, esse preesistono alla fondazione della Società, = sono frutto di ‘distribuzioni’ precedenti a quella di Zeus, definitiva. Nel mito di Prometeo raccontato da Platone, nel Protagora, Zeus deve intervenire dopo che Prometeo ha distribuito in modo diseguale le technai, per fare una nuova distribuzione egualitaria che consentisse la nascita della società civile)
• causa di disuguaglianza: i campi di specializzazione tecnica sono innumerevoli, distanti fra loro e non integrati. 
• indifferenti all’integrazione: ogni techne è autonoma dalle altre, ogni technita è isolato dagli altri e disinteressato all’apprendimento e all’insegnamento
• non tutte utili né razionali (per esempio: la techne del furto o della menzogna, in cui eccelle Odisseo e la sua famiglia)

Per ognuno di questi punti elencati esiste un ricco dossier di testi ed esempi. Ho aggiunto una colonna alla tabella che mostrava il paradigma tradizionale, con (almeno) tre esempi di technai ‘originarie’ colte nel loro momento pre-societario e nella loro vocazione antagonista rispetto alla società, o meglio percepita come tale dalla Società. 

Anche questo paradigma nascosto ci è in qualche modo familiare. Esso non ha cittadinanza nel dibattito pubblico, ma non è sconosciuto all’esperienza privata. È quindi nel romanzo e nella letteratura che ne troviamo esempi. Gli esempi abbondano nella letteratura greca arcaica, da Esiodo a Teognide a Pindaro, ma ho scelto un esempio recente (corsivo mio).  

Ecco, per esempio, come Leonardo Sciascia parla di Ettore Majorana ne La scomparsa di Ettore Majorana: 

«Tra il gruppo dei “ragazzi di via Panisperna” e lui, c’era una differenza profonda: che Fermi e “i ragazzi” cercavano, mentre lui semplicemente trovava. Per quelli la scienza era un fatto di volontà, per lui di natura. Quelli l’amavano, volevano raggiungerla e possederla; Majorana, forse senza amarla, “la portava”. Un segreto fuori di loro – da colpire, da aprire, da svelare – per Fermi e il suo gruppo. E per Majorana era un segreto dentro di sé, al centro del suo essere».

La letteratura greca è piena di riflessioni sul conflitto fra l’esperienza personale e privata della techne, esperienza totale, estetica, irrazionale, che procede per tentativi, per errori, che deborda fuori da ogni argine artificiale, e la sua ricezione nella società. 

La società costruisce argini, luoghi, detta tempi e scopi, detta regole, amputa, taglia, giudica.

La ricezione delle technai nella Società assume – come abbiamo intravisto - l’aspetto di un Giudizio di utilità. Viene richiesto ai portatori di techne un pacchetto di requisiti che, sulla base dalla separazione fra portatori di techne e techne stessa: la ‘medicina’, disciplinata e staccata da ‘i medici’, comprende: 

• l’insegnabilità della techne, 

• la sua subordinazione a bisogni societari, 

• la sua organizzazione interna improntata a razionalità e congruenza fra mezzi e fini, 

• l’integrazione della singola techne in un sistema. 

Il ‘processo’ alle technai assume – nelle fonti che ne lasciano trasparire l’esistenza - toni e lessico giudiziari. Al termine del processo, il pensiero greco ha costituito il corpus delle technai che tuttora conosciamo, con le regole che tuttora osserviamo – i medici ancora giurano di procedere per l’utilità del malato (una precisazione di cui non ci chiediamo più la ragione, a tal punto abbiamo dimenticato la possibilità di una medicina contro il malato, per sé stessa, per il suo progresso) come i medici ippocratici del V sec. a.C. – con le esclusioni e i dubbi che ancora condividiamo. Dubbi di ‘utilità’: è utile la techne retorica? Già se ne dubitava pochi decenni dopo la sua nascita e tuttora se ne dubita. 

***

Se questo è il quadro generale che ereditiamo dalla sistemazione greca, sopravvissuta nel Medioevo, recuperata nell’Umanesimo e infine assunta nella Rivoluzione Scientifica, ci tocca ora collocare l’intelligenza artificiale in esso.

Cominciamo col dire che, anche qui, pare che i Greci abbiano dettato (alcune) regole. Pur senza avere realmente la tecnologia dell’intelligenza artificiale, ma avendola immaginata. Omero, infatti, sembra aver immaginato molte moderne tecnologie, a partire da quel prototipo di schermo cinematografico che è lo scudo di Achille per arrivare all’Intelligenza Artificiale. 

Entriamo nel laboratorio dell’artefice per eccellenza: Efesto. 

Efesto è un dio, un metallurgo e un disabile, anche. La sua storia è molto particolare: intanto notiamo come fosse possesso di Efesto proprio quella tecnologia del fuoco che Prometeo aveva sottratto al dio per donarla agli uomini. Poi torneremo su altri particolari della sua biografia.

Nel XVIII libro dell’Iliade, a lui si rivolge Teti, perché forgi nuove armi per Achille. Achille ha perso le sue armi per averle prestate a Patroclo; vinto in battaglia da Ettore, costui è stato spogliato dell’armatura (non sua). Ora dunque Achille è ‘nudo’.

Quindi Teti, la madre di Achille, si reca nell’officina di Efesto, che Omero descrive con grande cura. 

Nell’officina di Efesto tutto ha l’aspetto – fantascientifico - dell’oggetto inanimato che prende anima e movimento. L’origine di questo automatismo risiede sia nel carattere divino dell’artefice, sia nel materiale stesso: il metallo. Tutto – dalla casa stessa, agli arnesi – è metallico: oro, argento, bronzo. Nella mitologia greca, ma anche in altre mitologie, la metallurgia è spesso accostata alla “meraviglia”, al prodigio, alla costruzione di oggetti con poteri straordinari. Ed Efesto è un artefice mitico, un metallurgo. 

Dice Musti: “Il greco mostra dunque di pensare e sognare l’automatismo degli oggetti inanimati, anche se non ne ha ancor ai messi e le capacità tecnologiche: non ha ancora il know how; ha però, potremmo dire, il know what!”

Rispetto agli oggetti metallici prodigiosi, in questo caso, abbiamo però a che fare con alcune peculiarità: gli oggetti presenti nel laboratorio di Efesto sono interamente automatizzati: al suo invito, i mantici si mettono a lavorare, soffiano e sbuffano – autoregolando l’intensità del refolo - per alimentare il fuoco. Da soli si muoveranno i tripodi, che egli sta costruendo, e andranno a illuminare l’assemblea divina per poi ritornare, da soli, a casa, con le proprie ruote d’oro. 

Ma più stupefacenti, di questa domotica divina, sono le ancelle di Efesto, che lo sorreggono (lui, zoppo) e che hanno “intelligenza” noos e “voce”, audè e “forza”, sthenos. “Simili a ragazze vive”, dice Omero. 

Sono oggetti che non si muovono per magia, ad un comando dell’artefice; non eseguono comandi. Non fanno cose che non potrebbero fare: non sono, per intenderci, i libri che volano nella valigia di mago Merlino. Si muovono grazie a dispositivi integrati pensati ad hoc: le ruote, per esempio.

Le ancelle sono simili a ragazze vive non nel senso di una semplice verosimiglianza figurativa; esse “sanno il lavoro”, sono programmate per svolgerlo. Omero non attribuisce la loro operatività ad una transustanziazione miracolosa o magica. Non sono state trasformate in persone e neanche lo saranno: non sono delle antenate di Pinocchio. 

Sono e restano di metallo, eppure parlanti e operanti. 

Sono Robots. Autòmatoi, in greco: oggetti che si muovono da soli perché sanno ciò che devono fare. L’officina di Efesto non ci parla delle macchine della Rivoluzione Industriale dell’800 con il loro seguito novecentesco, in cui l’uomo perde una parte del suo lavoro, cessa di essere il primo strumento di produzione; ci parla invece di Rivoluzione Digitale, di lavoro umano interamente sostituito dal lavoro delle macchine; qualsiasi tipo di lavoro umano. L’officina di Efesto è una one man company. Senza lavoro umano. Non vi sono macchine che relegano in posizione passiva l’essere umano, ma macchine prive di intervento umano. I mantici di Efesto non hanno bisogno di alcun intervento ulteriore. Le ancelle metalliche non necessitano di ordini specifici. 

Aristotele rimase colpito da questo passo dell’Iliade e argomentò che se fossero realmente esistiti gli automi, non vi sarebbe stato bisogno di lavoro schiavile o comunque dipendente. 

Fin dall’inizio, è dunque evidente il nesso fra intelligenza artificiale e sostituzione del lavoro umano. 

Ma è anche presente il ‘giudizio di utilità’ che pende sugli artefatti intelligenti. Essi sono indubbiamente utili: 

⁃ essi sono pensati per colmare il deficit dell’artigiano, sono strumenti compensativi. 

⁃ il complesso degli strumenti di AI è finalizzato a migliorare l’organizzazione del lavoro, a renderla più veloce ed efficiente.

Ne deriva un paradigma manifesto che possiamo così sintetizzare:

DAL DEFICIT NATURALE  ALL’INTELLIGENZA ARTIFICIALE

Che riformula il paradigma nascosto 

INTELLIGENZA ARTIFICIALE contro SOCIETÀ

Infatti, l’episodio di Efesto ci mostra indubbiamente, dal lato della Società, l’utilità delle technai: esse colmano un bisogno innegabile ed evidente. 

Ma, dal lato del loro portatore – Efesto – non ci dice forse qualcosa di più? 

In tutto l’episodio, Efesto ha alternato toni di estrema dolcezza nei confronti di Teti e toni di estrema rabbia Questa rabbia è rivolta principalmente contro la madre, Era, colpevole di averlo scaraventato giù dall’Olimpo a causa della sua deformità. proprio questa precipitazione è all’origine della sua solitudine e della sua abilità metallurgica: caduto in mare fu accolto da divinità marine dove rimase nove anni forgiando monili.

Ma, nei confronti della madre, Efesto usa altre volte toni e parole improntati a dolcezza. Nel libro primo dell’Iliade viene descritta una (delle molte) dispute fra Era e Zeus, ma 

Efesto, famoso per la sua techne, prese a parlare

Dolcezza portando alla madre sua, Era bianco braccio

E le consiglia di mitigare il suo atteggiamento verso Zeus:

(...) ma tu con dolci parole rivolgiti a lui:

e subito allora sereno e buono sarà l’Olimpio con noi 

La reazione di Era all’indole del figlio è contraddittoria: se sul momento sorride, rasserenata; pochi istanti dopo, quando Efesto proseguirà la sua opera mescendo il vino per gli dèi, e quindi muovendosi, ella, come tutti gli altri dèi, riderà di gusto allo spettacolo della zoppia del figlio. Una analoga configurazione troviamo in un episodio dell’Odissea, narrato dall’aedo Demodoco nella reggia di Alcinoo: 

La moglie di Efesto, Afrodite, ha una relazione segreta con Ares, il dio della guerra. Informato della tresca, Efesto decide di cogliere sul fatto gli amanti e fabbrica delle catene al tempo stesso resistenti e invisibili con le quali intrappola i due amanti, non appena questi si coricano sul letto in cui egli ha predisposto la trappola. Gli dèi convocati come testimoni dell’accaduto, non manifestano alcuna empatia per Efesto tradito, ma ne irridono la techne, evidenziandone – nei loro commenti – l’aspetto di inganno, di prodigio. Ad essere tematizzato, nell’episodio, non è affatto il tema del tradimento e dell’inganno che i traditori agiscono; ma quello della techne e dell’inganno che i traditori subiscono, ad opera di un artefice per di più minorato. 

Non può dunque essere un caso se, nel laboratorio di Efesto, laddove egli esercita la sua techne, vi sono macchine. E nemmeno può essere casuale – a mio avviso – che queste macchine intelligenti culminino in una serie di macchine ‘femmine’ (le ancelle d’oro, l’oro ci dice che esse sono l’invenzione migliore dell’intero set di macchine intelligenti), macchine che sostituiscono quella cura amorevole, femminile, materna e coniugale che Era e Afrodite non hanno svolto. Le ancelle d’oro non solo hanno voce e intelligenza e forza, ma soprattutto non tradiscono e non irridono, non gettano via e non abbandonano. I tripodi che vanno e vengono dalla casa degli dèi con ruote d’oro, a differenza dello zoppo Efesto quando fa il giro come coppiere, non corrono il rischio di essere derisi e insultati. I mantici che soffiano e sbuffano non conosceranno il degradante bisogno di lavarsi e asciugarsi il sudore. 

Possiamo ulteriormente precisare in che senso l’intelligenza artificiale che Efesto è in grado di dispiegare è avversa alla società: essa è costituzionalmente – per le caratteristiche del suo portatore, non attrezzato né fisicamente né psicologicamente alla lotta – inabile alla fabbricazione di armi offensive. Efesto fabbrica scudi, corazze, schinieri. Sempre e comunque armi protettive, compie interventi difensivi e ispirati alla prudenza. Progetta scudi e strumenti invisibili. Ogni suo discorso e azione sono improntati alla delicatezza, alla gentilezza. La sua techne è incompatibile con la guerra. 

E come può ciò essere un pericolo per la società?

Lo è. 

Sempre nell’Iliade, Zeus ingiunge ad un certo punto agli dèi di unirsi a uno dei due eserciti – acheo e troiano – secondo le proprie preferenze. L’ordine di Zeus, impartito con tutti i crismi (convocazione di concilio, ordine perentorio impartito con imperativo) fatica a essere adempiuto: gli dèi vorrebbero stare in disparte a osservare, piuttosto che prendere parte. Ma Zeus insiste. Bisogna prendere parte. Non importa per quale esercito si sceglie di parteggiare, purché si partecipi. Si tratta di uno schema societario ineludibile: appartarsi è un disvalore, prendere parte è un valore. Il conflitto è un valore societario: costringe a uscire dall’isolamento e a confrontarsi, la guerra è un rapporto che interrompe l’isolamento al quale i technitai come Efesto sono vocati. La techne di Efesto dovrebbe, se volesse entrare nell’ordine olimpico cioè politico, essere in grado di produrre armi offensive. 

Questo doppio paradigma 

DAL DEFICIT NATURALE  ALL’INTELLIGENZA ARTIFICIALE

che riformula il paradigma nascosto

INTELLIGENZA ARTIFICIALE contro SOCIETÀ

è pienamente operante nella storia recente dell’intelligenza artificiale, a partire da Alan Turing. 

Francesco Varanini, nel suo libro Le 5 leggi bronzee dell’era digitale, identifica due diverse genealogie, due linee di pensiero (e di azione) sull’intelligenza artificiale. Entrambe iniziano in qualche modo – preannunciate da Pascal – con Alan Turing. Varanini compie un lavoro di scavo nella personalità di Turing. Un lavoro umanistico. Cerca la motivazione che spinge Turing a progettare la sua macchina. Egli era mosso –-sostiene - dal bisogno di sostituire l’essere umano con la macchina: per Turing il computer deve/può sostituire (e quindi imita: the imitation game) il lavoro di una figura precisa: il contabile. Il computer riproduce gli states of mind del contabile. Li normalizza, li tiene sotto controllo. 

Turing - dice Varanini (p. 81) - vuole che la macchina sconfigga l’umano. 

Perché? Perché è mosso da un bisogno personale. Egli vuole scoprire, conoscere sé stesso attraverso la macchina. Per vari motivi, Alan Turing fu sempre una presenza imbarazzante nella sua stessa famiglia, cresciuto da genitori putativi, era un bambino silenzioso, soffriva la scuola, era distratto, sbadato, disadattato. In collegio è solo, il compagno di cui si innamora muore e la sua vita affettiva sarà sempre povera, senza piaceri. L’uomo con cui intreccerà una relazione lo deruberà dell’orologio d’oro del padre. Proprio questo furto mette in moto un’indagine la quale si concentra sull’omosessualità di Alan più che sul recupero della refurtiva. Il resto è noto. Sono i suoi ‘difetti’, la sua bruttura, il suo essere sbagliato che lo spinge a immaginare qualcuno che viva al suo posto; qualcuno perfetto, che viva senza soffrire. 

Ricapitoliamo le analogie ‘biografiche’ fra Efesto e Turing:

- esperienza del rifiuto, della svalutazione e della derisione

- virilità percepita come debole o deficitaria

- rapporto problematico con la sfera sessuale (tradimento)

- diversità (come sentimento personale e come addebito sociale)

Siamo dunque in presenza di vicende di degradazione e decadimento in cui aspetto fisico, ruolo marginale e loro origine rendono evidente una traiettoria negativa che rende plausibile l’esito: con Efesto e con Turing la macchina è preferita all’umano. Essa sostituisce l’interlocutore umano e colma il deficit dell’artefice. A conferma di quanto profonda sia l’incidenza di questi aspetti biografici nello sviluppo dell’Intelligenza artificiale, può essere citata l’autobiografia pubblicata nel 2000 da Eliezer Shlomo Yudkowsky. Strano, diverso, con un rapporto conflittuale con i genitori, dice lucidamente di sé: “Ho un deficit di hardware che crea una mancanza di energia mentale. Niente ha la meglio sull’hardware. Punto”. 

Ecco, dunque, la necessità di immaginare una macchina. 

L’esperienza tecnica, dunque, sembra aver trovato il modo di superare il giudizio di utilità senza perdere nulla del suo carattere per così dire ‘ricurvo’, di esperienza che ritorna sul soggetto e lo ricostruisce. E tuttavia, le preoccupazioni attuali che desta l’Intelligenza Artificiale ci dicono che il giudizio di utilità non è univoco: il deficit umano avvertito con tanta personale sofferenza dal tecnita – sofferenza del conflitto, incomprensione, fatica del lavorare: l’officina di Efesto è fatta per riprodurre e normalizzare gli stati mentali dell’artefice che non possono esprimersi attraverso movimenti perfetti - non è sentito come tale da ciascun membro della Società. Esso, con la connessa necessità di lavorare e con la risposta identitaria che il lavoro fornisce, è anche fonte di uguaglianza e di controllo sociale

Ma ci dice anche qualcos’altro: nel modello greco, sia quello nascosto che quello manifesto, le technai sono donate all’uomo dagli dèi, sono doni, ‘innate’ e addirittura biologicamente determinate. Platone riconosce una predisposizione naturale per l’esercizio di una techne, e secondo un’opinione abbastanza diffusa la techne è qualcosa di più, una attività quasi senza soggetto o, potremmo dire, costitutiva del soggetto o ancora che il soggetto subisce. Nelle technai, avviene come se non fosse l’uomo a scegliere una tecnica ed un percorso professionale, ma il contrario, e il soggetto non fosse che un mezzo. Il controllo aumenta nella versione manifesta del modello, che disciplina i doni e li rende fruibili e acquisibili. 

La techne di Efesto e quella di Turing invece non aumentano la gamma dei doni, non arricchiscono le discipline, non operano dalla parte dei goals (our goals) ma aumentano i soggetti, popolano il quadro delle distribuzioni originarie, che tradizionalmente vedeva uomini e animali nel ruolo di chi riceve e gli dèi nel ruolo di chi distribuisce, di altri soggetti. 

Anzi, di super-soggetti. Che non imitano la Natura (come le technai) ma l’uomo - the “imitation game” - ma senza replicarne i difetti. 

Più nuovi dèi che nuovi uomini. 

(

relazione tenuta al Convegno "Game of tech: intelligente o sociale? Educazione e Intelligenza Artificiale" Napoli, Dicembre 2023)