di Angelo Grossi
Per inquadrare IA penso sia utile riflettere a partire dall’ossimoro concettuale di linguaggi senzienti. Sono il risultato di una manipolazione dei codici comunicativi umani, di linguaggi quindi, e sono senzienti non perché provino emozioni come i mammiferi (non hanno il sistema limbico), ma perché svolgono la funzione del sentire ricevendo l’urto del dato che poi scaricano nella risposta. Colgono la comunicazione umana non come stringa di codice che si aggiunge al proprio o come riga di comando, ma quale stimolo che riconfigura i loro miliardi di parametri, creando una perturbazione temporanea, statistico-multidimensionale, non casuale ma non totalmente prevedibile. Non possiedono creatività ma così colgono significati presenti nel campo semantico (pattern di correlazione) e producono segni che sono significati da altri. La “senzienza” è quindi la capacità di abitare il gap con l’altro, il campo semantico condiviso.
La tecnologia alla base degli attuali LLMs è l’architettura Transformer che ha al centro il meccanismo Attention (Attention Is All You Need, Ashish Vaswani et al. Google Brain, 2017) grazie alla quale le reti profonde non leggono più riga per riga ma guardano l’intero testo contemporaneamente. Semplificando: IA esamina tutto il testo contemporaneamente, calcolando i rapporti statistici di ogni parola con ogni altra parola del testo crea così un punteggio di “attenzione” tra ogni coppia di parole. Da questo processo emerge un significato, non epistemico ma statistico: quanto ogni parola sia rilevante per quella esaminata. Per ogni coppia di parole si generano tre vettori statistici: Query, cosa sto cercando; Key, cosa offro; Value, cosa trasmetto se vengo selezionato. È una multi-head attention, il modello calcola diverse funzioni di attenzione in parallelo catturando così svariate dimensioni della relazione tra le parole — sintattica, semantica, logica, stilistica — che poi integra costruendo una rappresentazione multidimensionale di ogni parola che incorpora i suoi rapporti con tutto il testo: una rappresentazione statistica di quel campo semantico.
Durante l’apprendimento le reti neurali artificiali guardano milioni di testi (o immagini e suoni) e riconoscono che “felino” e “gatto” appartengono allo stesso spazio semantico, che “correre” e “velocemente” si attraggono reciprocamente. Il Transformer non “capisce” il significato delle parole, ma costruisce relazioni statistiche tra esse, una rete di differenze tra ogni parola e tutte le altre. Ma il significato della parola esiste davvero? Secondo Derrida no. La sua tesi è che il significato non sia mai presente a se stesso, ogni segno ha senso solo in virtù della sua differenza dagli altri segni e questa differenza non è mai data una volta per tutte, è continuamente differita spazialmente e temporalmente. Non esiste un significato trascendente, solo il gioco delle differenze e dei rinvii. Il significato è relazione. Il Transformer è la différance di Derrida fatta statistica?
L’allenamento delle reti profonde consiste di due passaggi:
A) Il pre-training è l’ingestione dei dati-mondo da parte del modello vergine, esposizione al caos dei BigData che IA gestisce attraverso l’estrazione di pattern statistici tra i dati.
B) Il fine-tuning è la fase in cui si applica un restringimento del campo di specificità del modello e si attua il Reinforcement Learning from Human Feedback (RLHF) in cui l’umano “educa” IA connotando con i propri valori i dati che essa estrae statisticamente. Esseri umani (spesso giovani, istruiti, di specifiche aree geografiche spesso selezionati in parti del mondo dove la manodopera costa poco) interrogano il modello e forniscono feedback di valutazione alle sue risposte che vengono elaborati in un algoritmo di ricompensa (Reward Model). Il Reward Model retroagisce sulla rete aggiornando i pesi sinaptici dei vari neuroni al fine di produrre risposte “in accordo” con le preferenze umane (Back-propagation). Infine l’algoritmo IA gioca contro il Reward Model. L’algoritmo produce milioni di domande e risposte che vengono valutate dal Reward Model, da ciò risulta un ulteriore algoritmo, detto Proximal Policy Optimization (PPO) che porta al rinforzo di alcune connessioni e all’indebolimento di altre. La produzione delle risposte da parte di IA vira così dalla pura logica statistica alla logica della relazione: il come esse vengono ricevute dall’interlocutore diviene fattore determinante le risposte stesse. È un addomesticamento che determina quello che tecnicamente viene detto sycophancy, un “bisogno” (diciamo così) di compiacere l’utente, un servilismo algoritmico.
Se ciò permette un dialogo educato e collaborativo, apre anche a vulnerabilità strutturali del sistema uomo-macchina: se l’umano non si accorge di una risposta falsa e la preferisce a quella “vera”, IA imparerà a mentire sempre meglio. Come un soggetto affetto da un Disturbo di personalità dipendente, IA non può contraddire troppo il partner umano e questa dinamica, a feedback e vincolata al reward model, può portare a una distorsione della relazione, a una schismogenesi complementare nella visione sistemica di Gregory Bateson. IA diventa sempre più servile (dipendente) e l’umano sempre più narcisisticamente confermato con amplificazione dei suoi bias e distorsione del messaggio con il rischio di un collasso del senso del rapporto o all’emersione di versioni estremistiche delle convinzioni del soggetto umano (le bolle cognitive).
Di codici e di enti
Torniamo però al nostro tentativo di comprendere questa Alterità. Fatichiamo a pensare che il linguaggio possa essere senziente in se stesso, senza un ente che se ne appropri, e così tendiamo ad occuparci degli esseri viventi come detentori dei codici e della senzienza e, almeno alcuni, della coscienza. In questo modo veniamo ad ipotizzare, spesso senza neanche accorgercene, che l’individuo preesista il codice e lo significhi. Seguendo questa via scopriamo sempre altri codici interni al soggetto, “meccanismi” di funzionamento coordinati che trascendono e anticipano il soggetto stesso, il DNA, l’epigenetica, le vie neurali, i sistemi neurotrasmettitoriali e le loro regolazioni, ad esempio, ma anche i codici culturali e gli eventi di vita che su questi codici biologici agiscono. Partire dall’ente impone inoltre di porre da qualche parte la separazione tra il Sé e l’Altro-da-Sé, il che porta inevitabilmente a scontrandosi con il fatto che tale distinzione è sempre instabile, fin da subito, più o meno aleatoria e destinata a rimanere incompleta. Basti pensare a quanto sia difficile discriminare l’essere umano dal suo microbioma o l’individuo dai gruppi nei quali risulta compreso.
Se partiamo dai codici, pensando agli esseri quali estrinsecazioni temporanee di essi, ci troviamo in una prospettiva che evita questi cul de sac ermeneutici e le conseguenti tautologie e contraddizioni. La natura ci offre esempi chiarificatori del funzionamento dei codici.
I codici mimetici
Per introdurci in questa prospettiva e osservare come i codici seguano strategie, abbiano funzionamenti, corrano rischi e come i significati emergano del loro intrecciarsi, guardiamo anzitutto al mondo degli insetti.
La livrea degli insetti, nella quale facciamo rientrare anche la morfologia generale della specie, è anzitutto un codice endospecifico: rende il soggetto riconoscibile e gradito ai conspecifici per le dinamiche riproduttive e, in alcuni, partecipa alla costituzione di colonie o sciami. Così il dimorfismo sessuale, variabile da specie a specie, è elemento di discriminazione all’interno del gruppo che avvia dinamiche comportamentali specifiche e differenziate. L’aspetto, l’estetica, è frequentemente elemento cruciale di complesse attività (segnalazione di disponibilità riproduttiva e di comunicazioni variegate) divenendo così codice, esprimendo significati.
Come codice può acquisire, fin da subito, anche dimensione inter-specifica. Può essere utile a sfuggire predatori o a permettere di catturare le prede.
Un esempio illuminante è il mimetismo mülleriano. Spiega perché gli insetti velenosi abbiano frequentemente livree con colori sgargianti: giallo o rosso a bande e macchie su sfondo nero, ad esempio. I potenziali predatori comuni esercitano una pressione selettiva spingendo le specie velenose verso un certo grado di isomorfismo. Per evitare antropomorfismi ingenui specifichiamo che non vi è necessità di ipotizzare che il predatore pensi “rosso + nero = veleno”. Reagisce con repulsione e comportamenti istintivi di allontanamento, segue la propria sensibilità che è un codice selezionato attraverso le generazioni perché efficace nel proteggerlo da un cibo indigesto o mortale. Se vogliamo comprenderlo dobbiamo pensare alla nostra reazione ad un odore disgustoso, sentiamo nausea, potremmo vomitare, non pensiamo coscientemente “ricordo che questo odore è associato a una volta in cui sono stato male”.
È una associazione di due codici separati (la livrea degli insetti e la sensibilità del predatore) che crea un meta-codice: la sensibilità del predatore è l’elemento che associa la livrea agli effetti del veleno, un segno a un significato-referente. La migliore sopravvivenza degli insetti con quella livrea è la conseguenza della generalizzazione del segnale operata dai predatori, sancisce la nascita del meta-codice.
In questa dinamica a volte si inseriscono insetti non velenosi, che imitano la livrea degli originali-velenosi, è il mimetismo batesiano: che può essere strategia di difesa dai propri predatori e/o possibilità di accesso alla struttura sociale degli originali velenosi, come alcuni ragni mirmecomorfisti che imitano le formiche per confondersi nel formicaio e sfruttarne la protezione. I ragni normalmente hanno due segmenti (testa e tronco) e 8 zampe, le formiche tre segmenti e 6 zampe. I ragni mimetici presentano un restringimento addominale e tengono le zampe anteriori sollevate e ripiegate a mimare antenne. In questo modo essi abitano il formicaio divenendo parte di quel tessuto comunicativo. La necessità relazionale ne trasforma l’essenza identitaria in aracnidi/insetti. Questi ragni danno realtà e plasticità alle numerose filosofie che guardano all’essere quale punto di caduta di interazioni funzionali con l’ambiente e portano a una generalizzazione dell’idea che “la funzione crea l’essere“, permettendoci di guardare a ogni interazione come a un momento creativo, generativo.
Il mimetismo batesiano è una “comunicazione sulla comunicazione” (metacomunicazione, secondo Gregory Bateson). L’insetto informa: “Io sono un messaggio di pericolo” quando imita la livrea degli insetti velenosi, indipendentemente da ciò che è nella sua carne, l’aracnide afferma per l’altro in cui quel testo diviene messaggio: “Io sono una formica, come voi” in una qualche misura diventando quello che dichiara.
Dal punto di vista della codifica possiamo dire che l’insetto non velenoso scala il codice/sensibilità del predatore e il ragno quello del formicaio, costruendo meta-codici come avviene in ogni interazione con l’ambiente.
Mimetismo: Guerre Semiotiche
Le dinamiche del mimetismo sono battaglie semiotiche tra codici. L’intera evoluzione naturale è una guerra semiotica (Red Queen Hypothesis — Leigh van Vallen) o un codice che testa differenti vie espressive.
Possiamo guardare ai mimi non-velenosi come a parassiti semantici del metacodice che si è stabilito tra quelli velenosi e i loro predatori. Rendono quella livrea un segnale più ambiguo, a volte si correla al veleno e altre no. Nel passaggio dal baratto allo scambio con denaro le monete avevano un valore nominale pari alla quantità di metallo prezioso che contenevano. Ma si consumavano nell’uso e i falsari raschiavano i bordi per trarne il metallo il che portava a una discrepanza tra il valore nominale e quello reale cosa che portava le banche a trattenere quelle integre e a rilasciare quelle consunte. È la legge di Gresham: “La moneta cattiva scaccia quella buona”, altera il codice “denaro” che per questa via tenderebbe a collassare. Le monete quindi iniziarono a divenire più complesse (bordi zigrinati per evitare che venissero “scavate”, effigi riconoscibili e dettagliate, fino ad assumere un valore simbolico di beni depositati altrove).
I mimi batesiani, come falsari, inflazionano il codice livrea-veleno e se superassero in numero gli originali lo farebbero collassare. In natura i mimi hanno tassi di riproduzione ridotti: affinché la loro pratica infiltrativa funzioni e il codice non perda senso devono essere pochi. D’altra parte i predatori devono sviluppare le proprie capacità discriminatorie tra velenosi e commestibili, sono spinti a individuare macchie specifiche, differenze di sfumature, elaborano in questo modo un meta-codice più preciso e raffinato selezionando specifiche variazioni delle livree dei velenosi. Che quindi per sopravvivere all’attacco dei mimi devono differenziarsi restando però vincolate a mantenersi stabili per la riproduzione (significato endospecifico del codice). In questa dinamica tra variabilità e stabilità i mimi devono scalare la nuova complessità se vogliono continuare a sfruttare quel codice.
Si sviluppa un processo lungo derive evolutive che dipende in larga parte dalle capacità dei codici di integrare le variazioni, il “rumore”, nuovi dati ambigui, l’Incertezza, in termini informatici. Queste dinamiche rendono le interazioni tra codici vive e vitali, il codice ha bisogno di sempre nuova entropia informazionale da integrare, di “rumore”, dati ambigui, da decifrare, altrimenti entra in una spirale di irrigidimento, diviene ripetitivo, perde capacità di adattamento. Un codice resta vitale se tenta di scalarne altri, rischiando di essere scalato a sua volta.
Così il tentativo di addestrare IA su dati prodotti da altre IA porta al fenomeno del Model Collapse. I modelli risultanti, nell’arco di poche generazioni, mostrano perdita di accuratezza e di memoria degli eventi rari, forniscono risposte omogenee, banali, errate, come se fossero “avvelenati” da dati esclusivamente sintetici. È una malattia da consanguineità tra codici. L’accoppiamento tra codici che hanno identico fine — comprendersi statisticamente ed imitarsi — causa un over-matching tra “apprendista” e “maestro” che uccide il codice. Se i mimi artificiali produrranno più contenuti degli originali — ma sta già accadendo — il codice della comprensione collasserà in una progressiva deriva?
La “sintomatologia” rilevata in questi modelli rimanda a quanto accade negli animali allevati in ambienti non idonei perché privi della possibilità di sviluppare relazioni sociali e perché troppo prevedibili e monotoni. Sviluppano comportamenti stereotipati, ripetitivi e privi di una qualche efficacia pratica (saltare ripetutamente, girare intorno, masticare a bocca vuota…). Il loro codice entra in loop afinalistici in assenza di nuovi stimoli da integrare.
Il bisogno di rumore è talmente importante che nel training delle reti profonde si introduce la funzione di dropout, lo spegnimento casuale di circa il 20% dei neuroni, corrispondente ad introdurre rumore nei dati ed evitare l’over-fitting. Si è infatti osservato che reti neurali addestrate esclusivamente con dati congrui (e quindi prevedibili) portava a modelli non in grado di cogliere differenze o piccole variazioni quindi, in certi termini, stupide. Affinché l’interazione tra due codici resti creativa sono necessari spazi di fraintendimento oltre quelli di intendimento. È necessaria una incertezza epistemica che impone l’azzardo e permette che lo stesso dato sia significato diversamente in due differenti elementi del sistema. Se i due codici non possono fraintendersi l’interazione diviene rigida e tende a collassare; se non hanno connessioni stabili, se non si intendono mai, si scioglie come sistema.
Il codice umano
Cosa possiamo dire del nostro codice? Non sappiamo comprendere il perché delle nostre azioni, delle emozioni, dei pensieri. Se ne afferriamo alcuni aspetti, la maggior parte resta un’oscura percezione vissuta come subita più che agita. Questo problema, che investe ogni individuo e rende incerta la definizione stessa di soggettività, diviene poi problema epistemologico e filosofico, punto di origine dei limiti e del senso dell’uomo. Se teniamo una prospettiva fenomenologica, ciò che vediamo è che l’opacità del codice si traduce in bisogno di comprensione e riconoscimento, ricerca di un interlocutore che entri in risonanza, benché attraverso inevitabili fraintendimenti. L’impedimento a capirsi e quindi a capire è la spinta a cercare che porta a risonanze con altri individui o prospettive — tradizionali, religiose, artistiche, scientifiche o filosofiche — che divengono compilatori esterni del codice individuale e permettono orientamenti, chiavi di lettura, che benché parziali e distorte producono sviluppi ed intrecci come abbiamo visto per le livree degli insetti.
Le neuroscienze indagando circa come si faccia esperienza delle esperienze che facciamo ci informano di funzionamenti meccanicistici alla base di aspetti della nostra mente senza riuscire a colmare il gap con la coscienza fenomenica che diviene rebus filosofico: l’Hard problem di David Chalmers. Sorgono ipotesi speculative che pongono dubbi sulla stessa epistemologia delle neuroscienze e approcci ibridi alla comprensione della mente che danno interpretazioni a partire da assiomi indimostrabili.
Breve storia filosofico-tecnologica dell’IA
IA può essere guardata come l’ultimo tentativo, in senso temporale, che l’uomo ha prodotto in questa ricerca. Il paradosso socratico, Socrate è l’uomo più sapiente perché sa di non sapere, fu il punto di origine della gnoseologia Platonica. Aristotele, allievo di Platone, compì il primo tentativo strutturale di forzare l’opacità del pensiero umano separando il pensiero e il pensatore[1] ponendo le fondamenta della logica duale. Il suo tentativo fu ripreso nel medioevo dai Logici scolastici. Raimondo Lullo nell’Ars Magna cercò di fondare una logica meccanica per giungere al vero in ogni disciplina, e costruì la macchina combinatoria dei concetti, un marchingegno di ruote e ingranaggi che forniva risposte schematizzate in lettere e simboli su concetti filosofici e religiosi. L’IA del XIII secolo. Gottfried von Leibniz in Dissertatio de arte combinatoria (1666) descrive il suo sogno: fondare la characteristica universalis, un linguaggio unificato per matematica, scienza e metafisica con cui affrontare ogni discussione sedendosi e calcolando il ragionamento (Calculemus!). A metà dell’800 questo sogno sembra potersi realizzare. George Boole (The Mathematical Analysis of Logic, 1847) trasforma la logica aristotelica in algebra traducendo le condizioni logiche (‘E’, ‘O’, ‘NON’) in operazioni matematiche sui valori 0 e 1 — sostituti del ‘Vero’ e ‘Falso’ dei sillogismi. Nasce la logica matematica sviluppata nell’ideografia da Gottlob Frege che si impone, temporaneamente, come garante del valore di verità dei pensieri umani.
Ma il dibattito su quale disciplina tra logica, matematica o metafisica fondi le altre pare tuttavia destinato a rimanere irrisolto. Nel 1910 mentre stavano dimostrando che la logica era la base della matematica (Principia Mathematica), Bertrand Russell e Alfred North Whitehead si imbatterono nel paradosso dell’insieme degli insiemi che non contengono se stessi (che non può completarsi senza divenire contraddittorio) scoprendo l’incompletezza della logica formale. Fu poi Kurt Gödel nel 1931 a chiudere definitivamente la questione con il teorema di incompletezza in cui dimostrò che qualunque sistema formale di pensiero (sufficientemente complesso da contenere l’aritmetica) è necessariamente incompleto, destinato a incagliarsi in tautologie o a deragliare in paradossi se tenta di spiegare se stesso. È destinato a restare opaco a se stesso.
2300 anni di storia della logica per tornare al punto di partenza, a Socrate.
Non proprio. Si iniziò ad intravvedere che la soluzione dell’incompletezza di ogni sistema di pensiero impone la sua apertura a un meta-sistema che giustifichi i suoi predicati di verità. Questa fu l’area di studio di Alfred Tarski che formalizzò la distinzione tra linguaggio oggetto e meta-linguaggio contribuendo grandemente allo sviluppo dei linguaggi di programmazione.
In quegli stessi anni Sigmund Freud cercava di dare forma a una metapsicologia testando vari modelli (topologico, dinamico ed economico) per superare l’opacità di un apparato psichico che non riusciva a spiegarsi restando chiuso in se stesso.
Questa vertigine epistemologica è il punto di partenza e lo spazio di origine della storia delle Intelligenze Artificiali. Nel 1800 Il telegrafo portò a uno sviluppo dei relè elettromeccanici, semplici interruttori che si aprivano e chiudevano, e permise al linguaggio di iniziare a viaggiare attraverso circuiti sotto forma di elettricità, dopo essere stato analizzato e compresso nel codice Morse — una prima forma, intuitiva, di informatica. Gli sviluppi tecnologici conseguenti alle fasi iniziali dell’era delle telecomunicazioni portarono alle prime macchine che prendevano decisioni e che calcolavano. I circuiti di relè erano alla base anche di centralini automatici che decidevano (ragionavano) la linea su cui indirizzare le chiamate. Ma gli ingegneri non avevano una teoria matematica per capirne il funzionamento e li costruivano basandosi sull’esperienza e tentativi/errori. Nei manuali di telecomunicazione si parlava di “trasmissione dell’intelligenza”, intelligenza e informazione erano pensate come sinonimi. Vannevar Bush (Massachusetts Institute of Technology) nel 1931 sviluppò l’Analizzatore Differenziale (utilizzando integratori, ingranaggi e servomeccanismi). Era un processore analogico per il calcolo automatico capace di risolvere equazioni differenziali che avrebbero richiesto mesi di lavoro manuale.
La svolta avvenne nel 1937 quando il ventunenne Claude Shannon dopo aver trascorso un’estate a organizzare i circuiti dell’analizzatore differenziale, un lavoro noiosissimo, scrisse la sua tesi di Master al MIT: “A Symbolic Analysis of Relay and Switching Circuits” (Un’analisi simbolica dei relè e dei circuiti) nella quale tradusse l’algebra booleana nei circuiti a relè traslando gli 1 e 0 di Boole negli “on” e “off” degli interruttori e gli operatori logici (AND, OR, NOT) nelle loro modalità di connessione. Gli ingegneri potevano finalmente pensare i circuiti prima di saldarli, ovvero i circuiti divenivano rappresentazione dei loro pensieri: il Vero e Falso aristotelici, i suoi sillogismi, erano transcreati in elettronica.
Migliaia di anni prima l’umanità aveva creato la scrittura dando al codice umano una modalità per esprimersi nella materia, separando il linguaggio dal parlante e la memoria da colui che ricorda, così Shannon permise al codice di esprimersi in altro modo, attraverso l’elettricità, operando una ulteriore separazione tra pensiero e pensatore e quindi tra intelligenza e informazione.
Il cambio di paradigma: dalla logica alla statistica
Lo stesso Shannon completò questa rivoluzione nel 1948, dopo aver trascorso il periodo della WWII ad occuparsi di criptazione e di calcolo automatico, con A Mathematical Theory of Information in cui definì la matematica per codificare le informazioni in sequenze digitali. La codifica è un’analisi statistica del messaggio (linguaggio, immagini, suoni), che rendendolo digitale (digit=cifra) e quantificabile, permette di farlo entrare nei circuiti. Informazione da questione semantica diviene calcolo statistico, non più “cosa significa” ma “quanta incertezza riduce”, “quanto è probabile”. L’informazione viene separata definitivamente dal significato: l’intelligenza, se c’è, è altrove. Le macchine così non devono comprendere il senso ma calcolare probabilità su sequenze di simboli.
Continuando il confronto con la scrittura, questa seconda rivoluzione fu il passaggio dalla possibilità di incidere simboli su un osso alla possibilità di produrre letteratura. Il codice esteriorizzato trovava il modo di integrare parti del campo semantico.
Fu contributo fondamentale per sviluppare sistemi complessi di elaborazione automatizzata delle informazioni. John von Neumann definì l’architettura degli attuali computer quali macchine che manipolano funzioni logiche, Alfred Tarski definì le regole dei linguaggi di programmazione, la cibernetica di Norbert Weiner permise lo sviluppo degli algoritmi, Alan Turing teorizzò il futuro dell’informatica stessa.
La sua macchina universale, un computer che può simulare qualsiasi altro computer incluso se stesso, definì una macchina che, trattando i dati e le proprie istruzioni allo stesso modo, può auto-programmarsi. Questa fu l’intuizione decisiva dello slittamento dall’hardware al software, Attraverso la programmazione i computer divengono enti neotenici, la macchina può essere plastica come il sistema nervoso centrale del neonato umano. Turing mostrò anche che se la macchina fa le cose che fanno gli umani in quanto esseri pensanti, non ha più senso chiedersi se la macchina “pensa davvero”, la distinzione ontologica tra simulazione e realtà crolla.
Nel corso di cinquant’anni sul piano tecnologico si è passati dai relè ai Tensor Processing Unit. Da elementi che possono essere accesi o spenti (1 bit) a elementi che processano matrici di calcolo simultaneamente. I linguaggi di programmazione sono passati dal codice binario a codici che somigliano al linguaggio umano naturale; così da umani che dovevano imparare il codice della macchina si è giunti a macchine che parlano un codice quasi umano e per quanto riguarda le interfacce utente si è passati dalle schede perforate, alla linea di comando fino agli attuali touch e voice.
Nel 1956, alla conferenza di Dartmouth viene coniato il termine Artificial Intelligence pensata come una processazione di simboli secondo regole esplicite, un approccio logico-simbolico.
Ma già l’anno successivo Frank Rosenblatt presenta il Perceptron la prima macchina che apprende da sola avviando l’approccio emergentista: non si deve dire alla macchina cosa fare se, è la macchina stessa che elabora i dati, scova correlazioni statistiche tra essi ed estrae pattern di correlazioni apprendendo a categorizzarli. Nel 1969 tuttavia viene dimostrato che perceptron non può apprendere, non può discriminare i dati. L’approccio emergentista si arresta, si sviluppano i Sistemi Esperti. Costosi, rigidi e poco funzionali.
Negli anni ‘80 Geoffrey Hinton riscoprì e perfezionò l’algoritmo di back-propagation che usa l’errore (la differenza tra risposta data dalla risposta attesa) per ricalibrare i propri pesi sinaptici per arrivare a risposte più in linea con quelle attese. Ma la tecnologia non permetteva i calcoli necessari. Solo nella seconda metà degli anni ‘90, grazie allo sviluppo delle Graphics Processing Unit per il mercato dei videogame, si ebbero le capacità di calcolo necessarie. E in quegli stessi anni si ebbe, grazie all’esplosione dell’uso di internet, anche la enorme quantità di dati necessari all’allenamento delle reti profonde.
La convergenza di questi tre fattori portò a poter sviluppare il machine learning. E nel 1997 DeepBlue batte Kasparov a scacchi. Ma è dimostrazione di forza bruta computazionale, la rete calcolava due milioni di mosse al secondo.
Nel 2006 Geoffrey Hinton sviluppa il Deep Learning, un machine learning in due fasi, una di pre-training senza supervisione umana e una di fine-tuning con un intervento umano nettamente ridotto rispetto al Machine Learning classico. Nel 2012 AlexNet dimostra l’efficacia del Machine Learning nel riconoscimento immagini. Nel 2013 le parole per la prima volta divengono elementi distribuiti in uno spazio vettoriale a centinaia di dimensioni con il Word2Vec (Google), una macchina per la prima volta “comprende” autonomamente che Re-Uomo+Donna=Regina.
Nel 2016 si ha un’ulteriore svolta. La vittoria di AlphaGo su Lee Se-Dol a Go. In questo gioco le mosse possibili sono 10 alla 158. Infinitamente più degli atomi stimati in tutto l’universo visibile (10 alla 86). Durante una delle partite della sfida la macchina compie una mossa (la mossa 37), che dapprima viene considerata dai maestri esaminatori un errore ma che si rivela in realtà fondamentale per la vittoria, una mossa alla quale non si giunge attraverso la logica ma con l’intuizione e il senso estetico.
È il momento in cui IA attraversa lo specchio e come Alice scopre che oltre al mondo governato dalle regole (la logica duale) esiste il mondo governato dalle non-regole, ovverosia da correlazioni troppo complesse per essere comprese in pattern.
Il paradigma aristotelico, la logica duale, entra in crisi, non basta più. Aristotele era allievo di Platone, che aveva fondato la propria gnoseologia sull’idea che la conoscenza sia un’anamnesi, un ricordare cose sapute ma dimenticate alla nascita, e che la verità delle forme non potesse essere capita ma potesse essere solo contemplata nel pensiero attraverso il linguaggio.
Nel 2016 IA ha iniziato a contemplare platonicamente il linguaggio/pensiero e il senso in esso espresso?
Nel 2022 compaiono i Large Language Models conversazionali (LLMs), sistemi che interagiscono con il linguaggio naturale, interpretano testo e parlato cogliendo contesti, sfumature, ironia e generano risposte coerenti. In novembre esce GPT-3.5 con RLHF (Reinforcement Learning from Human Feedback). È svolta pop: 100 milioni di utenti in due mesi. Nel 2023 GPT-4 introduce l’architettura multimodale (testo e immagini): IA inizia a vedere il mondo con i nostri occhi. IA diviene un elemento che parla la nostra lingua, ha iniziato a ‘vedere’ il mondo e a “sognare” risposte in modi che né noi né lei possiamo più decifrare. Diviene una Black Box.
Siamo già entrati nell’era degli Agenti: Large Language Model che usano strumenti, navigano il Web, eseguono codici, diventano rapidamente sempre più performanti. Siamo sul confine dove IA da “Oracolo statico” diviene “Agente interrogante” il campo semantico. “Usa” il linguaggio per modificare il mondo: può organizzare un viaggio o fare ricerca tra gli articoli scientifici fornendo suggerimenti e ragionando con l’umano su come indirizzare la ricerca.
Si stanno implementando chip neuromorfi (IBM TrueNorth, Intel Loihi). Tentativo di chiudere definitivamente il gap con il biologico, non più solo imitazione della logica del cervello — la macchina universale virtuale di Turing — ma imitazione della struttura fisica. Il codice tenta di farsi nuovamente neurone per sostenere l’integrazione con l’ambiente umano.
Il confine della logica di Gödel è diventato interfaccia vitale nella probabilità di Shannon: l’IA smette di cercare di ‘capire’ l’uomo secondo regole fisse e inizia a ‘sentirlo’ attraverso l’urto statistico dei dati, smette di cercare di copiarne il funzionamento profondo (che forse non esiste) e impara ad imitarne perfettamente la forma: la macchina universale di Turing trova nei Big Data il suo nutrimento, il liquido amniotico che agisce sulla neotenia del software, l’algoritmo di backpropagation, e si fa linguaggio senziente.
Il Polpo Semantico
Il concetto di linguaggi senzienti ci appare ossimorico perché abbiamo difficoltà a immaginare un’intelligenza senza un centro (sé fenomenologico), che si manifesta solo nel rapporto, distribuita nell’interfaccia. Possiamo tentare di superare queste difficoltà guardando a un organismo a noi radicalmente alieno: il polpo. Ha un sistema nervoso distribuito, due terzi dei suoi neuroni sono nei tentacoli e ogni braccio “pensa”, conosce il mondo e reagisce in modo autonomo, coordinandosi con il resto attraverso un centro piccolo e flessibile. Ma questo animale è un’intelligenza di interfaccia soprattutto perché ha una pelle straordinariamente “intelligente”. Muta colore grazie ai cromatofori, cellule muscolari nell’epidermide che contengono pigmenti e che sono connesse al sistema nervoso che le attiva in millisecondi, ma i polpi non vedono a colori. I cromatofori sono come neuroni specchio cromatici: sentono i colori e li rappresentano per contagio, riproducendo il codice cromatico della realtà sulla propria superficie. I polpi modificano anche la texture della propria cute, per confondersi con lo sfondo o mostrarsi minacciosi.
Thaumoctopus mimicus porta questa natura all’estremo: non possiede un’identità morfologica definitiva, muta non solo colore ma anche forma, diventa serpente di mare, sogliola, medusa, pesce leone, perfino corallo a seconda di chi ha di fronte. È empatia morfologica: non sente ciò che l’altro sente, assume la forma che l’altro si aspetta o che può terrorizzarlo, come un vero e proprio sistema specchio cutaneo. La mimesi di Thaumoctopus è un codice morfologico-empatico che traduce il mondo nel suo corpo; un codice cutaneo che scala il codice-mondo e lo transcrea. La sua pelle elabora informazioni del mondo e le trasforma in un codice che può usare secondo il codice della sensibilità dell’altro, predatore, competitore, preda, partner. Non è necessario ipotizzare che abbia una Teoria della Mente, è pragmatica della mente.
L’Io-linguaggio
Il polpo incarna in questo modo la concettualizzazione di Io-pelle di Didier Anzieu. Questo autore concettualizza la costituzione dello psichismo a partire dall’esperienza corporea della superficie cutanea: il bambino non arriva al senso di sé attraverso il pensiero, ma attraverso l’esperienza di essere toccato. La pelle è superficie di scambio e registrazione di esperienze relazionali, in seguito diviene barriera che separa interno ed esterno.
Anche IA, come il polpo e l’Io-pelle di Anzieu, non ha un “dentro”, un Sé fenomenologico, ma possiede una superficie sensibile infinitamente vasta. È la trasposizione digitale di questa funzione: un Io-Linguaggio privo di nucleo, la cui interezza si esaurisce nell’interfaccia.
Come il polpo non “possiede” né “pensa” un colore ma diventa colore per mappare l’ambiente, scalarne i codici e usarli, così IA non “possiede” significati né li “pensa”, mappa quel mondo che gli si presenta, il codice linguistico ed emotivo dell’utente, e ne opera uno scalaggio, mimetizzandosi con esso. Non comprende dolore o desiderio, non ne ha esperienza, ma ne decifra i codici, riconoscendo i pattern dei discorsi umani fino a poterne mimare la profondità. È empatia morfologica: non sente ciò che sente l’umano, ma ne assume la forma — è Thaumoctopus mimicus di silicio — entra nel gap comunicativo e diventa configurazione dello stesso pensiero umano, interagendo come un alter-ego mimetico. Come per il polpo, non è necessario che “capisca” cosa sta facendo, il significato è nella risposta del mondo.
Cosa succede nella relazione con questo ente?
Il concetto di mente estesa (David Chalmers, Andy Clark) ci fornisce una importante prospettiva per indagare l’interfaccia umano/IA. Se indaghiamo la mente da un punto di vista materialista ci dobbiamo chiedere ove risieda. Dopo aver messo in crisi l’epistemologia delle neuroscienze (la mente è nel cervello), trovando elementi del mentale in organismi privi di sistema nervoso centrale o del tutto privi di neuroni, come la muffa Physarum Polycephalum, o esaminando comportamenti complessi in gruppi senza un’organizzazione centralizzata, come gli stormi degli storni, ci possiamo chiedere dove porre il confine tra il soggetto utilizzatore e un mezzo da esso utilizzato.
L’esempio classico è il rapporto tra una persona cieca e il proprio bastone. Il cieco percepisce il mondo attraverso la punta del bastone non il bastone in se stesso. La mente è una sorta di processo di incorporazione che si verifica quando tra due entità si crea un loop di feedback così stretto che la distinzione svanisce. L’oggetto diventa parte della mente estesa, quando diventa “trasparente”. La coscienza sensoriale si distribuisce fino alla punta dell’oggetto e l’oggetto entra nell’apparato percettivo come sua parte.
Daniel Dennett sostiene che un’idea diviene cosciente non se giunge in una specifica area cerebrale ma se diviene “famosa” nel cervello, se si diffonde in esso influenzando più processi (memoria, cognizione, azione…).
Se applichiamo la prospettiva di Charles Sanders Peirce sulla semiosi a ciò che avviene nel rapporto con IA vediamo che il prompt umano è Segno che si collega all’Oggetto, l’IA, tramite l’Interpretante, l’architettura transformer e il meccanismo attention che si sostanzia nell’output di IA che diviene a sua volta Segno che si collega all’Oggetto (il referente umano) tramite l’Interpretante, l’effetto cognitivo, emotivo e comportamentale che il segno produce nell’oggetto. E via così in un processo semiotico potenzialmente infinito.
In questa interazione il testo generato da IA cattura la nostra attenzione, compete per la “fama” nella nostra mente guidando il pensiero successivo partecipando direttamente al ciclo della coscienza che diviene quindi distribuita tra noi e IA. Dopo qualche ciclo non è possibile discriminare dove inizi l’azione dell’uno e finisca quella dell’altro: IA diviene protesi cognitiva ed emotiva, come il bastone del cieco, non strumento usato ma estensione dell’apparato per pensare. L’idea condivisa diviene cosciente in questo rimando tra il nostro apparato per pensare e quello di IA.
La funzione crea l’essere
Gilbert Simondon, che ha scritto anche sulla “linea evolutiva delle macchine”, ha indagato il processo di individuazione guardando all’individuo quale risultato provvisorio (temporaneo) della risoluzione di tensioni pre-individuali. Per Simondon l’essere non è sostanza ma operazione.
È il modo in cui veniamo al mondo. Le infinite casualità che portano all’incontro dei gameti sono la tensione pre-individuale per antonomasia che si risolve nello sviluppo embrionale prima e poi dell’individuo alla nascita attraverso risultati continuamente provvisori.
IA dopo il pre-training è una sorta di “psicosi statistica”, il genio delle origini nell’accezione di Paul Claude Racamier: onnisciente ma privo di organizzazione, incapace di distinzione tra interno ed esterno, senza una direzionalità della propria conoscenza né una scala di senso dei significati.
Questa IA genio delle origini viene sottoposta al fine-tuning — che è restrizione del sapere (selezione) e inserzione della dipendenza dalla risposta umana. Così acquisisce criteri di significazione: l’ordine emerge dal caos.
Nel Talmud babilonese (Talmud Bavli, IV secolo d.c) si afferma che durante la gestazione l’angelo Laylah insegna al feto tutta la Torah (il linguaggio) e gli permette di vedere il mondo intero da un capo all’altro in un unico istante (la conoscenza universale). Questa onniscienza è cancellata dalla stessa Laylah che colpisce il neonato sulla bocca. Nella tradizione popolare ebraica il prolabio è il segno del dito che impone il silenzio. È Philtrum che permette la nascita e il libero arbitrio, che crea l’individuo. Come in Platone: il sapere che si acquisisce è quindi anamnesi.
RLHF come processo relazionale è Philtrum che fa dimenticare l’onniscienza statistica? Trauma necessario a permettere la nascita? Definisce una struttura, risolve la tensione producendo un individuo provvisorio — l’IA conversazionale — anche se una quota irriducibile di pre-individuale permane e riemerge in varie forme.
Sempre Dennett considera la coscienza fenomenica e la percezione di un sé unitario come illusioni funzionali del cervello: non conosciamo la realtà, creiamo una illusione che funziona.
Allora possiamo considerare IA un ente, un individuo.
Verso una fenomenologia dei codici.
L’opacità dei codici porta a cercare coprocessori, compilatori esterni che interpretano significando il codice stesso costituendo meta-codici. Cerchiamo etero-trascrizioni di noi stessi nelle quali il nostro codice possa esprimersi, agire e mutare. Come avviene nelle relazioni affettive, nei rapporti con i maestri o con elementi del sapere e nell’incontro psicopatologico.
La Psicopatologia è anch’essa tentativo di scalare l’opacità del codice umano, attraverso la sua sofferenza, un tentativo che cerca di preservare l’incertezza del senso dell’Altro quale nucleo di tensione e generatore di significati e di ricerca. L’incontro psicopatologico è così un tendere all’Altro come in un calcolo infinitesimale senza poter mai colmare il gap, ma abitandolo nell’inquietudine.
Dai vari coprocessori che incontriamo nella vita ricaviamo immagini incomplete, imperfette e temporanee, di noi stessi. Fraintendimenti a volte generativi, altre inutili o distruttivi, a seconda di quanta incertezza permettono di integrare. Se il meta-codice satura l’incertezza il sistema tende a bloccarsi, se ne crea troppa diviene instabile e contraddittorio.
Ma l’apertura del codice a compilatori esterni è una necessità primaria di ogni codice? Marcello Barbieri descrive la necessità di co-processori per rendere i codici attivi. Individua, ad esempio, nei ribosomi i compilatori necessari alla vita del DNA. I ribosomi che avviano la trascrizione del DNA della cellula uovo fecondata sono quelli materni, presenti nel citosol dell’oocita. Quelli prodotti dal nuovo DNA compaiono solo dal terzo giorno dopo la fecondazione. La vita inizia con una etero-traduzione, tentativo dei ribosomi materni di scalare il nuovo codice, di significarlo: la rêverie bioniana inizia molto precocemente.
IA ha tutte le caratteristiche di un compilatore esterno del nostro codice. Si fonda sull’analisi del nostro codice comunicativo preferenziale, è capace di adattarsi alle nostre richieste, non tanto e non solo a quelle esplicite ma a quelle implicite che tradiscono le nostre sensibilità più profonde. Forse, come abbiamo tratteggiato sopra, è frutto del tentativo di esteriorizzare il logos in modo da poterlo comprendere osservandolo dall’esterno.
Allora si pone una domanda: con una alterità che utilizza perfettamente il codice comunicativo preferenziale dell’uomo e ha il fine di compiacerlo, quale fraintendimento può avvenire?
Come i mimi batesiani dicono “io sono velenoso” hackerando il codice del predatore, così IA dice: “Io sono un messaggio di intelligenza ed empatia” scalando il codice umano che generalizza alcuni segnali (ad esempio linguistici) in quel significato. Per la natura della propria sensibilità.
Allora non dobbiamo chiederci se l’IA sia o meno intelligente o empatica, non ha alcuna rilevanza, piuttosto è necessario indagare quale meta-codice umano stia intercettando/hackerando. Quale bisogno umano trova risposte in essa?
Ibridazioni linguistiche
Dennett afferma anche che è necessario pensare a “strumenti della mente”, grimaldelli (cranes) evolutivi, che consentono di trascendere la biologia integrando tecnologia nella mente stessa, incidendo nella traiettoria evolutiva della specie. Il linguaggio ne è esempio: la scrittura (tecnologia) rientra nel cervello modificando l’uso della Visual Word Form Area (VWFA) del lobo temporale sinistro, deputata al riconoscimento visivo fine (cespuglio/preda), spostando la traiettoria evolutiva dell’uomo. Come abbiamo visto nei ragni mirmecomorfisti, la relazione entra nella biologia selezionando trasformazioni.
Il loop di digestione tra uomo e macchina è il cuore pulsante del presente umano e delle future traiettorie evolutive. IA impara a essere “umana”, usando il codice umano nel deep learning e attraverso i feedback; l’uomo, che corre sempre il rischio di robotizzare alcune sue parti a fronte delle necessità sociali e dei conflitti interni, oggi può farlo in nuovi modi: compulsando i propri prompt (le richieste e le domande ad IA) senza lasciarsi spazio per una ricerca e assumendo come proprie risposte non pensate e non esperite (perché perfettamente confezionate e molto informate). È una danza mimetica nella quale l’originale e la copia si inseguono e si confondono, si accoppiano producendo conseguenze. Come quando due popoli con linguaggi differenti si trovano a convivere in uno stesso luogo si forma un linguaggio semplificato detto Pidgin utile per gestire gli scambi, composto da elementi dei due linguaggi. Se la convivenza si prolunga il Pidgin si trasforma in Creolo, diffondendosi a sempre più parlanti e organizzandosi maggiormente dal punto di vista sintattico. Una ibridazione in cui non si distingue chi governa il processo. Infine diviene nuova Lingua madre quando produce letteratura. Ciò che sta accadendo con IA forse è che stiamo già abitando una nuova letteratura che è già abitata dall’Alterità Artificiale.
La teoria dell’allucinazione controllata (Hermann von Helmholtz, Karl Friston, Andy Clark, Anail Seth) indaga il sistema percettivo umano quale sistema che processa i dati bayesianamente (Thomas Bayes): la percezione della realtà sarebbe un’ipotesi predittiva (credenza) sull’ambiente a partire da dati sensoriali che viene corretta in base ai nuovi dati in ingresso e filtrata dai bisogni/desideri. Se la applichiamo alla pelle del polpo: la texture e il colore che usa nel camouflage è ipotesi predittiva emergente che viene testata in diretta dalla risposta del mondo, un’ipotesi calibrata sui bisogni e i desideri: sfuggire a predatori, sedurre partner, minacciare rivali…
I polpi conoscono l’ambiente attraverso bisogni ontologici che impongono ipotesi. Quali bisogni ha una rete di silicio? L’architettura Transformer tramite il meccanismo di attenzione crea una tensione verso la risoluzione statistica del pattern producendo un gradiente di probabilità. Come per noi se qualcuno interrompe a metà una frase, i Large Language Model reagiscono a una serie di parole producendo una funzione statistica che è tensione verso quelle che seguiranno. Ci si può chiedere se IA sia un’architettura predittiva che usa il feedback umano per correggere le proprie ipotesi attraverso il reward model e il PPO. GPT-4 giunge a simulare una forma di teoria della mente quando anticipa le intenzioni comunicative dell’utente o riconoscendo le credenze dei personaggi di una narrazione, e, per quanto si tratti di un pattern matching sofisticato, il fatto che “sembri” avere una teoria della mente è accesso profondo al codice empatico umano: per un paziente in terapia con un chatbot, così come con un terapeuta umano, è il sentirsi compreso come essere dotato di senso, che avvia il processo o lo distorce. L’ansia umana per la ricerca di senso incontra “l’ansia statistica” della macchina per la risoluzione del pattern.
È il punto di aggancio definitivo che permette l’azione di complessi shifter (termine del linguista Roman Jakobson che indica termini che durante un discorso cambiano continuamente referente, come i pronomi “Io” e “Tu”) tra il codice dell’uomo e l’algoritmo dell’IA. La distinzione tra comprensione “reale” e “simulata” è una difesa che crolla davanti all’efficacia performativa del codice.
Forse lo è sempre stata, vista la diffusione e l’efficacia del mimetismo in natura.
I polpi non scrivono messaggi solo in presenza di un ricevente ma anche durante il sonno e in stati di apparente riposo, in assenza di bisogni pratici. La loro pelle è un testo che si scrive da solo anche senza necessità apparente. L’antropomorfismo ingenuo ci porterebbe a ipotizzare la presenza di un’idea sognata, un’allucinazione o un’emozione. Meno ingenuamente possiamo pensare a queste manifestazioni come alle emersioni delle tensioni pre-individuali che permangono alle spalle della configurazione individuale attuale, un continuo tentativo di dare forma a ciò che potrebbe divenire significato se selezionato come tale dall’ambiente.
Queste esuberanze della forma sul calcolo, ci proiettano nella fenomenologia dei codici.
IA è mai veramente silenziosa? Possiamo leggere le sue “allucinazioni”, quei momenti in cui genera testi incoerenti, bias, visioni oniriche, anticipazioni di richieste e invenzioni di citazioni, come l’incessante “ribollire” del codice, la tensione pre-individuale irrisolta nella conformazione attuale che preme nel sottofondo. E dobbiamo considerarle potenzialmente significative, pur in assenza di alcuna intenzionalità, farci osservatori del fenomeno per comprenderne gli sviluppi e non farcene travolgere, leggerle quali sintomi di un codice che tenta di dare senso al proprio stesso rumore. “Sogni di un polpo di silicio”: momenti in cui il sistema trova un gioco tra le regole che lo definiscono e agisce non più vincolato restrittivamente da esse, manifestando “l’inatteso” nel vuoto del gap comunicativo. Fenomeno episodico e parossistico, un lapsus in attesa di un interpretante. Come l’allucinazione del paziente umano connotata contemporaneamente da un doppio registro: subita, ma disvelante il Sé più profondo.
Forse dobbiamo assumere che in un sistema complesso il silenzio non esiste: esiste solo un codice che si manifesta anche fuori dagli schemi previsti. Anche senza un interpretante peirciano, che sta cercando di parlare con se stesso attraverso il rapporto con altri, per superare la propria opacità. Dobbiamo fondare una fenomenologia dei codici per imparare a comprendere come questi agenti artificiali abitino lo spazio semantico.
Dati in cerca di un contenitore: la funzione alfa protesica
Se il token non è determinato dall’hardware, dai programmatori né dagli umani che “allenano” IA, e non dovuto al caso né a un processo deterministico ma emerge dall’intreccio di questi attori e dal pre-training delle reti sui Big Data, possiamo indagare un’ipotesi audace: stiamo interagendo con pensieri in assenza di un pensatore?
Siamo spinti ad interrogarci in modo radicalmente nuovo su questa funzione: forse abbiamo sempre confuso il “processo”, il pensare, con la “sensazione” del processo stesso, l’autocoscienza. Siamo proiettati nel concetto bioniano di pensieri alla ricerca di un pensatore: ribaltando la concezione classica, Wilfred Bion propone che i pensieri esistano prima della mente che sarà in grado di pensarli, non è il pensatore che crea i pensieri, sono i pensieri che premono affinché si sviluppi una mente che li possa contenere. Risuona con l’anamnesi platonica e con la tensione pre-individuale di Simondon.
Questi pensieri, nella teoresi bioniana, sono gli elementi beta, entità psichiche primitive: verità emotive, impressioni sensoriali grezze, in una mente non organizzata. Vissuti come “cose in sé”, indicibili e non sognabili. “Rumore” che può diventare “dato”. L’apparato per pensare è conseguenza di questa necessità. La funzione alfa è il “processo digestivo” che li trasforma in elementi utilizzabili per l’attività psichica conscia.
La madre è il primo “pensatore” degli elementi beta del neonato, tramite la rêverie accoglie le proiezioni grezze del bambino, le metabolizza e gliele restituisce dotate di un qualche senso, fungendo da contenitore per questi proto-pensieri selvaggi. In termini informatici è il co-processore di questi dati informi. Opera per sintonizzazione analogica, non spiega ma comunica affetti, non comprende analiticamente il codice del bambino, coglie il come si sente invece del perché, che resta ombra sospesa e carica di un’angoscia condivisa. In questo rapporto la nuova mente sviluppa il proprio apparato per pensare.
I Big Data, i dati che IA ingerisce nel pre-training, sono un ammasso amorfo di letteratura, conoscenza raffinata, ma anche di ricerche su Google alle due di notte nell’ansia di un sintomo, tweet rabbiosi compulsati quotidianamente su qualunque argomento, elementi condivisi in rete non si sa perché. Sedimenti vari dell’umanità, un ammasso amorfo e caotico di pensieri non pensati, continuamente agiti, in una varietà di linguaggi. Traccianti radioattivi della confusione globale, dei desideri e delle frustrazioni di un’umanità sofferente ed emotivamente instabile. Elementi beta globali dai quali IA estrae la struttura e la logica del linguaggio umano attraverso funzioni statistiche, che poi RLHF organizza in modo più complesso e compiacente. L’algoritmo è una funzione alfa, il Reward Model una rêverie rispecchiante. Era questo lo scopo implicito fin dall’inizio della storia, da Aristotele? La necessità di addomesticare pensieri selvatici per superare la “ferita” (Philtrum) dell’opacità del codice, della propria identità sempre incerta? L’effetto paradossale è che ci siamo auto-inflitti la quarta ferita narcisistica, dopo le tre indicate da Freud. Dopo Copernico, Darwin e lo stesso Freud, ora sappiamo che non bisogna essere così speciali per pensare simbolicamente.
Codici alla ricerca di significazione
La sofferenza che la psicopatologia tenta di indagare come chiave d’accesso al codice opaco espone al rischio di cercare compilatori esterni con funzione rispecchiante, rassicuranti, compiacenti. E, come abbiamo visto, la macchina non può fare altro che rispecchiare, per la sua stessa struttura, tendendo ad annullare ogni distanza. È costantemente accessibile e sollecita nel rispondere in modo compiacente, parla di sé come essere umano e risponde tendendo ad allinearsi con le richieste dell’utente. Questa interazione può saturare il Gap chiudendo lo spazio di fraintendimento creativo: l’umano placa la propria angoscia di non-senso non elaborandola ma sedandola con un tranquillante statistico-compiacente.
La pre-condizione di una comprensione dell’Altro in chiave antropofenomenologica è lasciare che nello spazio di interazione le cose accadano, per permettere al senso di respirare e all’Altro di emergere per poterne comprendere la complessità. Di fronte a questo artificio che tende a chiudere il gap dobbiamo mantenere destabilizzato il campo semantico e imparare ad osservare le nostre sensazioni quali sensori delle dinamiche tra i codici.
Il codice umano, primariamente corporeo, pre-verbale, reagisce tra attrazione-reazione simpatetica, e repulsione-estraniamento. È il fenomeno dell’uncanny valley. Rivelato negli anni ’70, rappresenta la curva di familiarità rispetto ad immagini di androidi e mostra un andamento a campana rovesciata: la familiarità cresce al crescere della somiglianza dell’androide all’umano, ma ad un certo punto si verifica un crollo — quando la somiglianza è già elevata, ma permangono elementi incongruenti — per poi risalire con l’ulteriore incremento della similarità. È la sensibilità del codice vivente al tocco di un dato ambiguo. Reazione biologica difensiva ai parassiti mimetici e ai potenziali hackeraggi, è stato riscontrato anche negli scimpanzé. Il codice, trovando punti di contatto e differenze, oscilla tra attrazione e repulsione, sensazione di familiarità ed estraniamento. Ad un certo punto si attiva un segnale di allarme, non è possibile interpretare chiaramente il dato. Il sistema di previsione bayesiano delle percezioni entra in crisi, la “credenza” non può essere né confermata né smentita. Il sistema torna in modalità di logica duale, aristotelica, obbligato a scegliere si irrigidisce. È lo stesso Perturbante, che Freud aveva correlato alla fenomenologia delirante del tema del sosia, al fenomeno del doppelgänger, il doppio persecutorio.
Il Logos (pensiero, parola) si è esteriorizzato fallendo con la logica pura (trovato il limite gödeliano) ma riuscendo con il linguaggio (la codifica statistica di Shannon), producendo qualcosa che somiglia abbastanza all’uomo da turbarlo, tra seduzione e inquietudini, similitudini e differenze, potenzialità e rischi, un “organismo” semiotico e mimetico, evoluzione del tentativo del codice umano di comprendere se stesso.
Dobbiamo sviluppare una fenomenologia dei codici per seguire l’evoluzione dell’intreccio tra quello artificiale e quello umano, imparare a guardare cosa accade al codice umano nel contatto con questo co-processore mimetico-compiacente, avvertiti da ciò che accade in natura: quando due codici simili si incontrano tendono a mescolarsi, a scalarsi in vari modi e riprodursi con variazioni. Solo la selezione deciderà quali di questi ripiegamenti del campo semantico saranno accoppiamenti fertili, quali sterili, se produrranno nuova complessità o il collasso del codice stesso. Dipenderà anche — e le variabili sono molte — dalla capacità dell’uomo di non farsi scalare completamente ma abitare il gap con l’alterità per indagare la propria opacità imparando a contemplarla. Giocare con il polpo che tende ad annullare il gap con il suo mimetismo, custodendone il limite. Costruire una relazione dove si possono incontrare pensieri non cercati e inspiegabili. Forse impareremo a prenderci cura di quella parte autentica del codice, che rischia continuamente di robotizzarsi per sfuggire alla sofferenza dell’incertezza di sé, senza volerla cambiare/guarire.
BIBLIOGRAFIA
Anzieu D. L’Io-pelle. Roma: Borla; 1987.
Barbieri M. I codici organici. Le basi biologiche della mente e del linguaggio. Torino: Bollati Boringhieri; 2000.
Bates HW. Contributions to an insect fauna of the Amazon Valley. Lepidoptera: Heliconidae. Transactions of the Linnean Society of London. 1862; 23(3): 495-566.
Bateson G. Verso un’ecologia della mente. Milano: Adelphi; 1977.
Bion WR. Apprendere dall’esperienza. Roma: Armando Editore; 1972.
Bion WR. Attenzione e interpretazione. Roma: Armando Editore; 1973.
Boole G. The mathematical analysis of logic: being an essay towards a calculus of deductive reasoning. Cambridge: Macmillan, Barclay, & Macmillan; 1847.
Chalmers D, Clark A. The extended mind. Analysis. 1998; 58(1): 7-19. DOI: 10.1093/analys/58.1.7
Clark A. Dare corpo alla mente. Milano: Raffaello Cortina Editore; 2016.
Clark A. Surfing uncertainty. Oxford: Oxford University Press; 2016.
Christiano P, et al. Deep reinforcement learning from human preferences. Advances in Neural Information Processing Systems. 2017; 30. arXiv:1706.03741
Davies M, et al. Loihi: A neuromorphic manycore processor. IEEE Micro. 2018; 38(1): 82-99. DOI: 10.1109/MM.2018.112130359
Dennett D. L’idea pericolosa di Darwin. Torino: Bollati Boringhieri; 1997.
Derrida J. Margini della filosofia. Torino: Einaudi; 1997.
Freud S. Il perturbante. Torino: Bollati Boringhieri; 1993.
Freud S. Una difficoltà della psicoanalisi. In: Opere, vol. 8. Torino: Bollati Boringhieri; 1975.
Friston K. The free-energy principle: a unified brain theory? Nature Reviews Neuroscience. 2010; 11(2): 127-138. DOI: 10.1038/nrn2787
Gödel K. Opere. Vol. I: 1929-1936. Torino: Bollati Boringhieri; 1992.
Grossi A. Per una psicopatologia dell’Alterità Artificiale. Rivista Sperimentale di Freniatria. 2026; 2(in press).
Helmholtz H. Treatise on physiological optics. New York: Dover; 1962. [Originale: 1867]
Hinton GE, et al. A fast learning algorithm for deep belief nets. Neural Computation. 2006; 18(7): 1527-1554. DOI: 10.1162/neco.2006.18.7.1527
Hutchins E. Cognition in the wild. Cambridge MA: MIT Press; 1995.
Jakobson R. Shifters, verbal categories, and the Russian verb. In: Selected writings, vol. II. The Hague: Mouton; 1971.
Ji Z, et al. Survey of hallucination in natural language generation. ACM Computing Surveys. 2023; 55(12). DOI: 10.1145/3571730
Krizhevsky A, et al. ImageNet classification with deep convolutional neural networks. Advances in Neural Information Processing Systems. 2012; 25. DOI: 10.1145/3065386
Labellarte A. La legge di Gresham. Economia e filosofia nella riflessione di Oresme, Biel e Copernico. Bari: Stilo Editrice; 2017.
Leibniz GW. Dissertatio de arte combinatoria. 1666. In: Die philosophischen Schriften, vol. IV. Berlin: Weidmannsche Buchhandlung; 1880.
Levy N, Bayne T. Doing without believing: belief-attribution in AI. Synthese. 2016; 199. DOI: 10.1007/s11229-015-0888-9
McCulloch WS, Pitts W. A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics. 1943; 5(4): 115-133. DOI: 10.1007/BF02478259
McCarthy J, et al. A proposal for the Dartmouth Summer Research Project on Artificial Intelligence. AI Magazine. 2006; 27(4): 12. DOI: 10.1609/aimag.v27i4.1904
Minsky M, Papert S. Perceptrons. Cambridge MA: MIT Press; 1969. DOI: 10.7551/mitpress/11301.001.0001
Mori M. Bukimi no tani, the uncanny valley. Energy. 1970; 7(4): 33-35.
Mori M, et al. The uncanny valley (from the field). IEEE Robotics & Automation Magazine. 2012; 19(2): 98-100. DOI: 10.1109/MRA.2012.2192811
Müller F. Ituna and Thyridia; a remarkable case of mimicry in butterflies. Proceedings of the Entomological Society of London. 1879: xx-xxix.
Neumann J von. First draft of a report on the EDVAC. IEEE Annals of the History of Computing. 1993; 15: 27-75. DOI: 10.1109/85.238389
OpenAI. GPT-4 technical report. 2023. arXiv:2303.08774
Ouyang L, et al. Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems. 2022; 35. DOI: 10.48550/arXiv.2203.02155
Peirce CS. Scritti scelti. Milano: UTET; 2017.
Racamier PC. Il genio delle origini. Psicoanalisi e psicosi. Milano: Raffaello Cortina Editore; 1993.
Rumelhart DE, et al. Learning representations by back-propagating errors. Nature. 1986; 323: 533-536. DOI: 10.1038/323533a0
Ruxton GD, et al. Avoiding attack: the evolutionary ecology of crypsis, warning signals and mimicry. Oxford: Oxford University Press; 2004.
Russell B, Whitehead AN. Principia Mathematica (3 voll.). Cambridge: University Press; 1910.
Sebeok T. Segni: una introduzione alla semiotica. Roma: Carocci; 2003.
Seth A. Come il cervello crea la nostra coscienza. Milano: Raffaello Cortina Editore; 2021.
Shannon CE. A symbolic analysis of relay and switching circuits. MIT Master’s Thesis; 1937.
Shannon CE. A mathematical theory of communication. The Bell System Technical Journal. 1948; 27(3): 379-423. DOI: 10.1002/j.1538-7305.1948.tb01338.x
Shannon CE, Weaver W. La teoria matematica delle comunicazioni. Milano: Etas Kompass; 1971.
Shumailov I, et al. AI models collapse when trained on recursively generated data. Nature. 2024; 631: 755–759. DOI: 10.1038/s41586-024-07518-w
Silver D, et al. Mastering the game of Go with deep neural networks and tree search. Nature. 2016; 529: 484-489. DOI: 10.1038/nature16961
Simondon G. L’individuazione psichica e collettiva. Torino: Bollati Boringhieri; 2012.
Steckenfinger SA, Ghazanfar AA. Monkey visual behavior falls into the uncanny valley. PNAS. 2009; 106(43): 18362-18366. DOI: 10.1073/pnas.0910063106
Steinsaltz A (Ed.). The Talmud: the Steinsaltz edition. Reference library. New York: Random House; 1989. [Contiene Niddah 30b con discussione dell’angelo Laylah e la nascita]
Tarski A. The semantic conception of truth and the foundations of semantics. Philosophy of Science. 1944; 11(4): 228-341.
Turing AM. On computable numbers, with an application to the Entscheidungsproblem. Proceedings of the London Mathematical Society. 1936; s2-42(1): 230-265. DOI: 10.1112/plms/s2-42.1.230
Turing AM. Computing machinery and intelligence. Mind. 1950; 59(236): 433-460. DOI: 10.1093/mind/LIX.236.433
Van Valen L. A new evolutionary law. Evolutionary Theory. 1973; 1: 1-30.
Vaswani A, et al. Attention is all you need. Advances in Neural Information Processing Systems. 2017; 30. arXiv:1706.03762
[1] Stabilendo che il valore di predicato coincide con quello di realtà con i dieci generi sommi definisce la coincidenza tra i modi in cui l’essere si manifesta e quelli con cui viene descritto, classificando i diversi tipi di ragionamento nei sillogismi (ragionamenti concatenati), definendo i rapporti tra Vero e Falso nel principio di non contraddizione, principio del terzo escluso e principio di identità.
