È una nostra creazione, eppure ci inquieta

In un libro del 1949, George Kingsley Zipf scrive:

«Abbiamo presentato un gran numero di osservazioni tratte da una gamma davvero ampia di fenomeni viventi […] allo scopo di stabilire un unico principio unificante — il Principio del Minimo Sforzo — definito come segue: ogni individuo tenderà ad adottare una linea d’azione che comporti la spesa della minore quantità media di lavoro (per definizione, il minimo sforzo)»

Linguista e psicologo, nel suo libro “Human behavior and the principle of least effort. An introduction to human ecology”, Zipf espone una riflessione destinata a diventare il fulcro di molte ricerche successive. La teoria spiega come gli individui, messi di fronte a un qualsiasi problema, tendano sempre a scegliere strategie che richiedono uno sforzo cognitivo minore.

Piú recentemente, queste osservazioni sono state riprese dallo psicologo Daniel Kahneman, che sostiene come questa tendenza a minimizzare lo sforzo mentale sia un’ulteriore manifestazione di una strategia più generale, quella che governa i meccanismi di giudizio e di decisione. Anche qui, la mente sarebbe costantemente guidata dalla ricerca del percorso cognitivamente meno impegnativo.

Queste teorie ci dicono qualcosa sulla nostra tendenza a costruire strumenti di complessità crescente, un impulso che ha attraversato l’intera storia del genere umano, motore instancabile dell’innovazione. Quello che comunemente chiamiamo ingegno umano ha prodotto creazioni straordinarie, che oggi sono parte integrante della nostra vita quotidiana. Anche lasciando da parte le più evidenti, come quei manufatti che ci permettono di attraversare migliaia di chilometri in poche ore, comodamente seduti osservando le nuvole dal finestrino, la scoperta dell’elettricità e lo sviluppo dei sistemi per distribuirla in tutto il mondo, o gli algoritmi che governano il World Wide Web che sto consultando per scrivere questo pezzo, sono già da soli esempi sufficienti di ciò che la creatività umana sa concepire. Tutta la storia del genere umano è pervasa dal desiderio di migliorare e semplificare le condizioni di vita, un tentativo in cui risuona, ancora una volta, il principio del minimo sforzo di Zipf.  

Da queste considerazioni emerge un’idea più ampia: ognuna di queste invenzioni ha contribuito a potenziare ed estendere le capacità degli esseri umani. Dotati per natura di una retina i cui fotorecettori non percepiscono lunghezze d’onda superiori ai 700nm, abbiamo sviluppato telecamere e occhiali a infrarossi che ci permettono di vedere nella completa oscurità. Impossibilitati a spostarci a piedi per lunghe distanze o a trasportare grandi pesi, abbiamo inventato la ruota, poi la carrozza, infine l’automobile. Potremmo allora spingerci a dire che ciò che oggi concepiamo come essere umano comprende anche le sue invenzioni, gli strumenti di cui si è servito e di cui si serve ogni giorno.

La complessità degli artefatti umani è il prodotto dell’invenzione e quindi dell’invenire, verbo latino composto da in + venire, trovare qualcosa di nuovo investigando ciò che già esiste, radunando il necessario per creare ciò che non c’è ancora. Questa facoltà, a cui spesso pensiamo nei termini di “intelligenza”, sembra essere una prerogativa umana. Fermamente convinta che il termine intelligenza non sia univoco, visto che esistono moltissimi esempi di comportamenti intelligenti anche da parte di animali non umani, lo utilizzo qui per indicare quell’insieme di capacità e abilità, tra cui il pensiero astratto, la creatività, la furbizia, che ci hanno portato ad essere la specie dominante sul pianeta Terra. Il che non implica, necessariamente, che si tratti di un fatto positivo.

Siamo oggi davanti a un’invenzione che rischia di spodestare questo primato, non sostituendoci all’apice della piramide dell’intelligenza, ma sedendosi sullo stesso gradino per competere con noi. Una precisazione, però, è necessaria. Non intendo che un’altra forma di intelligenza, intesa come insieme di facoltà e abilità che possono condurre a diventare specie dominante su questo pianeta, sia in diretta competizione con noi. Voglio dire che alcuni aspetti di questa intelligenza, come la deduzione logica, il ragionamento probabilistico, o la cognizione numerica, non sono più ad esclusivo appannaggio dell’essere umano. Ciò che chiamiamo, un po’ genericamente, Intelligenza Artificiale (IA), nella sua forma più evoluta, è un insieme di modelli generativi che, allenati su enormi quantità di contenuti prodotti da esseri umani, selezionano le sequenze più plausibili a livello probabilistico. Gli algoritmi che governano la generazione dei contenuti sono di tale complessità ed efficienza che i processi di molti Large Language Models (LLMs) e altri sistemi generativi, sono comparabili alla capacità di ragionamento deduttivo umana. Non a caso si parla di co-reasoning con gli LLM, ovvero di collaborazione tra agenti umani e artificiali nell’esercizio di alcune delle facoltà riconducibili al concetto di intelligenza menzionato prima.

Viene da chiedersi dunque se, di fronte ad un collaboratore, un’entità che compete allo stesso livello di un essere umano in una determinata attività, si possa ancora parlare di un LLM in termini di strumento. In un certo senso, sì. Anche una calcolatrice, che esegue in pochi istanti calcoli che noi non saremmo in grado di svolgere altrettanto facilmente, viene definita strumento senza esitazione, pur superandoci di gran lunga sul suo terreno. Che cosa, allora, ci inquieta così profondamente in questo nuovo tipo di collaborazione con quella che chiamiamo intelligenza artificiale?

L’elemento di novità, ciò che segna uno stacco netto rispetto a tutti gli strumenti creati dall’essere umano nel corso della storia, è che questo nuovo collaboratore artificiale è in grado di produrre valore autonomamente. Come ha spiegato Marco Trombetti in un’intervista per il podcast L’altro zio Sam de Il Sole 24 Ore (puntata del 31 luglio 2024), fino ad ora abbiamo creato tecnologia capace di migliorare la produttività dell’ora di lavoro umana. Lo abbiamo fatto prima con la rivoluzione agricola, poi con quella industriale, infine con quella digitale. Quest’ultima, per la prima volta, ha permesso di creare qualcosa in grado di generare valore in modo indipendente e parallelo a noi. Questo significa che la capacità di creare e inventare non è più la cifra distintiva dell’essere umano: abbiamo creato qualcosa che può, in alcuni campi, eguagliarci.

Se mettiamo in relazione questa conclusione con il Principio del Minimo Sforzo discusso all’inizio, è facile intuire che questa innovazione è destinata a diventare pervasiva, non solo perché è in grado di trasformare energia in ricchezza in modo indipendente, ma perché è in grado di farlo in una frazione del tempo, risparmiandoci una gran fatica.

Nonostante la piega che questo discorso ha preso, l’intento non è fare la cronaca di un’apocalisse annunciata, ma ragionare sulla portata di questo cambiamento, per comprendere meglio l’invenzione di cui siamo testimoni. La prima osservazione da fare è che il soggetto di questo ragionamento è un essere umano: sono io, in carne e ossa, e con me moltissimi altri ricercatori, scienziati, filosofi che si interrogano sul significato di questa invenzione. Questo ci dice che, per quanto autonoma, l’IA è ancora sottomessa al dominio dell’essere umano, che non solo l’ha creata ma la pensa e la analizza. Il pericolo più reale non sta tanto nella possibilità che emerga una coscienza all’interno della macchina alla quale venga voglia di distruggere il genere umano. La preoccupazione risiede più nel fatto che, non sapendo bene con che cosa abbiamo a che fare, arriveremo a sovrastimare l’IA delegandole la gestione di quei valori e quei principi che invece rappresentano la cifra distintiva dell’essere umano. I principi morali, la capacità di comprendere la sofferenza dell’altro e di farcene carico, la compassione, la sensibilità.

Vale la pena, invece, comprendere bene che i soggetti responsabili delle conseguenze siamo solo e soltanto noi. È molto comodo, quando il danno è ormai fatto, far ricadere la colpa su un’entità autonoma, fuori controllo, troppo intelligente e troppo al di là della nostra portata per poterne regolare gli sviluppi. La verità è che ogni artefatto umano mantiene un legame con chi lo ha prodotto perché senza quella mente che lo ha concepito non esisterebbe. Possiamo affermare che l’IA rientra nella categoria degli strumenti perché, se anche avesse già eguagliato la nostra capacità di produrre valore autonomamente, quello a cui non arriva ancora, è la possibilità di analizzare e giudicare il significato del suo prodotto e la possibilità, in principio, di sacrificare parte della sua efficienza per renderlo più sicuro. Questo sarebbe un ragionamento che implica la valutazione di valori morali e questa capacità è ancora prerogativa esclusiva dell’essere umano.

Il legame che ogni artefatto umano conserva con il suo produttore è l’espressione di un insieme di pratiche, valori e credenze legate ad una intera società. In queste creazioni sono in gioco i nostri valori e le pratiche con cui diamo forma e senso al mondo. Nel caso dell’IA generativa, questi elementi vengono manipolati e ci sono restituiti in una forma che non riconosciamo. Eppure, anche se ci sembra una forma estranea, rimane una nostra creazione. La disposizione delle parti che la compongono non è più riconoscibile perché è profondamente diversa da quando vi abbiamo riversato i nostri valori. È questa forma insolita che ci spinge ad attribuire il prodotto dell’IA a qualcosa di artificiale, senza renderci conto che quell’origine è attribuibile a noi. Il senso e i valori in gioco in quella creazione che crediamo artificiale, ci appartengono.

L’esortazione è quella di cambiare prospettiva e guardare all’intelligenza artificiale non come qualcosa di autonomo e fuori controllo ma come qualcosa di profondamente umano. Lasciamoci stupire della grandezza del nostro ingegno che è riuscito a concepirla e costruirla, consapevoli che la responsabilità delle sue conseguenze appartiene solo a noi.