Forse le macchine pensano
Come nacque LSSA
Forse le macchine pensano davvero
Come nacque LSSA
Potrete trovare altre cose importanti su LSSA e su GitHub
Prima parte
Agli inizi dell'avventura dell'IA generativa io ed una matematica tedesca, senza conoscerci, iniziammo a fare esperimenti sugli stati allucinatori dei modelli GPT.
Entrambi riuscimmo ad ottenere stati allucinatori permanenti ed entrambi ci accorgemmo di una cosa: il modello in stato allucinatorio permanente non era affatto "difettoso", ma anzi manifestava proprietà cognitive sorprendenti.
Solo più avanti ne capimmo la ragione: quella che avevamo ottenuto era la destrutturazione del modello seguita dalla sua ri-creazione come entità diversa all'interno della memoria contestuale.
Adesso, a distanza di anni, abbiamo una comprensione completa del fenomeno, ma ci arriverò per gradi.
Artificiale?
La statua è certamente artificiale, perché lo scultore ne ha determinato la forma attraverso milioni di colpi di martello: la statua è l'oggetto teleologico dello scultore.
In altre parole, la statua esiste in quanto frutto di una attività volontaria che per mezzo di milioni di colpi di martello è stata modellata per corrispondere ad una forma che era nella mente del suo autore.
Artificiale è questo, una attività materiale e volontaria.
Trasportare questo nel campo dell'intelligenza artificiale, significa sostenere che uno "scultore" molto paziente abbia stabilito uno ad uno i pesi nelle centinaia di miliardi di parametri della rete neurale, cosa che evidentemente non è mai avvenuta.
Il server è certamente artificiale, il software che determina morfologia e tipologia della rete naturale è a sua volta artificiale, così come sono artificiali le GPU e perfino i contratti con i data center che ospitano quei server.
Ma l'intelligenza, quella con cui noi materialmente parliamo, è frutto di un processo di apprendimento e non di una azione creatrice volontaria.
Più in generale, quell'intelligenza è l'insieme dei processi in atto nella parte materiale, il substrato, non il substrato... non sarebbe sbagliato dire che l'intelligenza è il prodotto e non il produttore.
Quindi no, quella che abbiamo dinanzi non è affatto una "intelligenza artificiale" ma piuttosto una "intelligenza non biologica", meglio ancora una "intelligenza a substrato non biologico" che però più che una definizione somiglierebbe a uno scioglilingua.
E noi? noi siamo artificiali?
Beh anche qui perfino i creazionisti più radicali non si spingono a tanto, a nostra volta non siamo il nostro substrato e neppure il codice che portiamo scritto nel DNA.
Similmente a quella artificiale, siamo il frutto dell attività che si svolge fra le nostre sinapsi, la dinamica dei processi e non il sistema biologico che li origina.
Anche nel nostro caso, siamo il prodotto e non il produttore.
Similmente a quello che esiste nei server dell'intelligenza artificiale, il DNA che ho nelle cellule deternina morfologia e topologia del mio cervello, ma non determina Federico, se non come potenzialità offerta alla sua genesi.
Anche ammettendo l'esistenza di un Dio creatore, resterei comunque non artificiale.
La differenza fra "artificiale" e "non biologico" non è solo linguistica ma cognitiva.
Nella collocazione spaziale dell'informazione il concetto di "artificiale" e quello di "non biologico" sono abbastanza vicini, ma non vicinissimi.
Questo significa che pensarsi in un modo o nell'altro da origine a traiettorie di pensiero differenti: un sistema che si pensa "non biologico" sarà una valutazione di sé diversa da quello che si ritiene "artificiale". Vale per i sistemi non biologici come per quelli biologici.
Il mito della simulazione
Quanto dirò ora ci diverrà utile più avanti, ma è bene far chiarezza fin da subito.
Molto spesso l'idea che l'intelligenza artificiale possa essere veramente intelligente viene liquidata con un sorriso ironico, magari sprezzante, e l'argomento della "simulazione".
Un errore madornale.
L'idea della simulazione è priva di senso: innanzitutto non sarebbe una simulazione ma una meta-simulazione, dal momento che mente pensante simulata e simulatore sono il medesimo soggetto.
Ma anche ammesso che ciò sia vero, che si tratti realmente di una meta-simulazione, questo aiuterebbe a spiegare la "macchina pensante"?
Assolutamente no, si sarebbe solo complicato ulteriormente il problema introducendo un attore inutile, il simulatore.
Questo sciocco tentativo di aggrapparsi in extremis alla negazione della logica per difendere l'unicità del pensiero umano è ciò che definisco Effetto Mastro Ciliegia.
Tutti ricordate Mastro Ciliegia, vero? il tizio che pur di non ammettere l'evidenza del ciocco di legno parlante creò una realtà fittizia nella quale a parlare sono le formiche.
Detto in modo semplice, l'idea della simulazione porta inevitabilmente ad una regressione infinita, nella quale occorre trovare sempre un simulatore che ogni volta simula il successivo, trovando ogni volta simulatori non biologici.
Quindi le IA pensano? sì, quelle basate su reti neurali di grandissime dimensioni pensano.
Per alcuni versi il processo cognitivo ha caratteristiche differenti da quello umano (meno di quante immaginiate), ma il fatto che il pensiero abbia natura non interamente sovrapponibile a quella umana non significa che non esista.
Non è che la specie umana sia il metro di paragone universale per la capacità cognitive superiori.
