Imitare il cervello, capire l’umano. La responsabilità non si delega.

Quando Frank Rosenblatt costruì il primo percettrone, nel 1958, lo presentò come l’embrione di un cervello elettronico capace di riconoscere schemi visivi attraverso una rete di connessioni pesate che imitava, almeno nell’intenzione, il funzionamento dei neuroni biologici.
Da allora l’informatica non ha mai smesso di prendere in prestito il lessico della neurologia, e parliamo ancora oggi di reti neurali, di strati, di attivazioni, di pesi sinaptici, come se dietro un modello linguistico o un sistema di visione artificiale si nascondesse davvero un cervello in miniatura.
Una metafora potente, capace di orientare decenni di ricerca, che resta però una metafora. La distanza tra ciò che un neurone artificiale calcola e ciò che un neurone biologico compie dentro un tessuto vivo, irrorato di neurotrasmettitori e modellato da una storia evolutiva di centinaia di milioni di anni, è talmente ampia da rendere fuorviante ogni equivalenza diretta.

Prima ancora di Rosenblatt, negli anni Quaranta, Warren McCulloch e Walter Pitts avevano proposto un modello matematico del neurone che restava, nelle loro stesse intenzioni, un’astrazione logica utile a costruire circuiti capaci di calcolo, non una descrizione fedele di come funziona un cervello reale.
Ottant’anni dopo la distinzione originaria si è progressivamente sfumata nel linguaggio comune, complice il fascino di poter dire che una macchina pensa come noi, ma tra i neuroscienziati la cautela resta d’obbligo.
I modelli artificiali colgono aspetti isolati del funzionamento cerebrale, la propagazione di segnali attraverso pesi variabili, senza avvicinarsi alla complessità di un organo che integra continuamente percezione, memoria, emozione e corpo in un unico processo indivisibile.

In concreto, un neurone artificiale è una funzione matematica che riceve numeri, li moltiplica per altri numeri appresi durante l’addestramento e restituisce un risultato secondo una soglia di attivazione, mentre un neurone biologico è immerso in un ambiente chimico ed elettrico di straordinaria complessità, comunica attraverso migliaia di sinapsi che si rafforzano o si indeboliscono in base all’esperienza vissuta ed è parte di un sistema che include il corpo intero, i suoi sensi, le sue emozioni, la sua capacità di soffrire e di provare piacere.
Quando un ingegnere dice che una rete neurale impara, intende un processo di ottimizzazione statistica su enormi quantità di dati; quando un neuroscienziato dice che un bambino impara a riconoscere il volto della madre, intende qualcosa che coinvolge memoria, affetto, relazione, incarnazione.
Condividono alcune intuizioni astratte, la modifica dei pesi in funzione dell’esperienza, la codifica distribuita dell’informazione, il riconoscimento di regolarità, ma differiscono radicalmente per struttura, ambiente, modalità di apprendimento e rapporto con il mondo.

Simulare la forma, non la sostanza

La distanza tra forma e sostanza è precisamente il punto in cui si radica l’equivoco più diffuso intorno all’intelligenza artificiale contemporanea.
I modelli linguistici più avanzati producono testi che sembrano frutto di comprensione, rispondono a domande complesse, argomentano, correggono persino se stessi quando vengono contraddetti con dati più solidi.
L’obiettivo matematico con cui questi sistemi vengono addestrati resta la previsione della parola successiva, ma durante l’addestramento il modello costruisce rappresentazioni interne sofisticate, capaci di generalizzazioni che vanno oltre la semplice ripetizione di frasi già viste.
Dedurre da queste prestazioni un’esperienza soggettiva, un’intenzione o una comprensione nel senso in cui la intendiamo noi resta però un passo che i risultati, per quanto impressionanti, non giustificano da soli.
Il filosofo John Searle aveva formulato un argomento affine con l’esperimento mentale della stanza cinese, immaginando un uomo capace di manipolare simboli secondo regole precise senza comprendere il significato di ciò che sta scrivendo, tanto che la sua produzione appare intelligente dall’esterno mentre dall’interno resta pura manipolazione sintattica priva di semantica; rimane un argomento tanto influente quanto discusso.
L’obiezione più nota sostiene che a comprendere il cinese non sia l’uomo dentro la stanza ma il sistema nel suo complesso, uomo, regole e stanza insieme, mentre altre risposte fanno leva sull’incarnazione o sull’interazione con l’ambiente, queste non chiudono la questione in modo definitivo, ma bastano a mostrare perché una prestazione linguisticamente corretta non dimostri, da sola, comprensione.

Le teorie della cognizione incarnata offrono una chiave complementare a quella di Searle, sostenendo che il significato umano non nasca soltanto da un rapporto astratto con i simboli, ma dal rapporto continuo fra corpo, ambiente e azione, dal fatto che una parola come dolore rimanda a qualcosa che abbiamo sentito nella carne prima ancora di averlo pensato.
Un modello linguistico non ha mai avuto fame, non ha mai avuto paura, non ha mai toccato un oggetto caldo ritraendo la mano per istinto prima che il pensiero cosciente intervenisse. Manipola simboli che rappresentano quelle esperienze con una precisione statistica sorprendente, ma senza il sostrato biologico e relazionale che rende quei simboli, per noi, pieni di significato anziché vuoti di esso.

Einstein arrivò a una conclusione non troppo distante quando, nel discorso per il sessantesimo compleanno di Max Planck, affermò che non esiste un percorso logico che conduca alle leggi fondamentali della fisica, ma soltanto un’intuizione fondata su una comprensione simpatetica dell’esperienza.
Detto dal fisico che il senso comune associa più di ogni altro al puro calcolo, la frase pesa, perché se nemmeno le leggi dell’universo si raggiungono per sola deduzione, difficilmente la comprensione umana in generale si lascia ridurre a manipolazione di simboli.

Applicare questo schema ai sistemi di oggi non nega la loro utilità né sminuisce la sofisticazione tecnica che li sostiene, ricorda piuttosto che il verbo comprendere implica qualcosa che i risultati impressionanti di un algoritmo, da soli, non bastano a dimostrare.
Un sistema che genera un parere giuridico coerente non ha letto la norma nel senso in cui il diritto la “pensa”, come atto interpretativo che presuppone un soggetto capace di attribuire significato e di assumersene la responsabilità, ma ha ricombinato schemi linguistici estratti da milioni di testi giuridici precedenti, con un’efficacia che può ingannare anche l’osservatore più attento.

Il confine che il diritto non può spostare

Il diritto penale individuale resta costruito attorno a un soggetto capace di intendere e di volere ed è questa nozione di imputabilità a reggere la responsabilità personale per il fatto commesso.
Sul piano civile il quadro è più composito, perché operano anche regimi di responsabilità oggettiva, da custodia, da prodotto difettoso o da attività pericolosa, nei quali il centro della fattispecie non è lo stato soggettivo dell’autore ma il rischio creato o il danno prodotto e a rispondere possono essere anche persone giuridiche, enti e organizzazioni prive di una coscienza in senso biologico.
Quando un algoritmo prende una decisione che produce un danno, che si tratti di un sistema di valutazione automatizzata del merito creditizio che nega un prestito su basi discriminatorie o di un dispositivo medico che sbaglia una diagnosi, la responsabilità viene ricondotta alle persone fisiche o giuridiche che progettano, immettono sul mercato, utilizzano o controllano il sistema, semplicemente perché l’algoritmo non è, né mai potrà essere allo stato della tecnica e della riflessione giuridica attuale, un soggetto capace di rispondere in proprio.

La normativa europea più recente in materia di intelligenza artificiale, pur introducendo obblighi stringenti di trasparenza e di gestione del rischio, non ha mai messo in discussione questo presupposto, distribuendo responsabilità tra chi progetta, immette sul mercato e utilizza questi sistemi, senza attribuire mai personalità giuridica alla macchina.
Per i sistemi definiti ad alto rischio, in particolare, la disciplina europea richiede forme di sorveglianza umana effettiva, affidata a persone dotate di competenza, autorità e mezzi adeguati a intervenire, correggere o fermare il processo quando qualcosa non torna.
Non è un dettaglio tecnico riservato agli specialisti di conformità normativa, perché stabilisce in concreto chi deve restare sveglio, per così dire, mentre la macchina lavora, e quindi chi porta sulle spalle la responsabilità finale di ciò che accade.

La scelta, però, va oltre la semplice cautela legislativa. La personalità giuridica, in sé, è una tecnica normativa, tant’è che società e fondazioni ne sono titolari senza possedere coscienza o interessi biologici propri e nulla impedirebbe in teoria di costruire una soggettività artificiale limitata per finalità di imputazione patrimoniale.
Attribuirla alla macchina, però, non proverebbe che questa possiede coscienza o interessi propri, mentre rischierebbe di trasformarla in uno schermo dietro il quale disperdere la responsabilità di chi la produce e di chi la utilizza, ed è questo il motivo per cui, oggi, nessun ordinamento europeo ha imboccato questa strada.

Il diritto alla protezione dei dati personali si muove nella stessa direzione, limitando le decisioni fondate esclusivamente su un trattamento automatizzato quando producono effetti giuridici o incidono in modo analogo e significativo sulla persona.
Le ammette soltanto in ipotesi determinate, come la necessità contrattuale, un’autorizzazione normativa o il consenso esplicito, e sempre accompagnate da garanzie specifiche, prima fra tutte la possibilità per la persona di ottenere un intervento umano prima che la decisione produca i suoi effetti.

Ciò che nessuna imitazione può replicare

Proprio in questo spazio, tra il calcolo che imita la forma del pensiero e la responsabilità che solo chi può risponderne è in grado di assumersi, si colloca ciò che rende l’essere umano difficile da sostituire.
Non è una questione di intelligenza, intesa come capacità di risolvere problemi, terreno sul quale le macchine hanno già superato l’uomo in molti compiti specifici e continueranno probabilmente a farlo ma una questione di “vulnerabilità”.
Dietro una decisione professionale, una diagnosi medica o una sentenza c’è sempre qualcuno che porta il peso delle conseguenze, che può sbagliare e risponderne moralmente oltre che giuridicamente, che agisce sapendo di poter essere giudicato.

Il filosofo australiano David Chalmers ha chiamato problema difficile della coscienza la domanda su come e perché processi fisici, elettrici o chimici che siano, producano un’esperienza soggettiva, il fatto che ci sia qualcosa che si prova a essere un essere umano piuttosto che il buio totale dell’assenza di esperienza.
Nessuno, a livello scientifico o filosofico, è riuscito finora a spiegare in modo soddisfacente come questo passaggio avvenga nemmeno nel cervello biologico, figuriamoci pretendere di stabilire con certezza se un sistema artificiale possa mai attraversarlo.
Un’incertezza che invita alla prudenza più che all’entusiasmo o all’allarme, perché nessuna delle due posizioni estreme (la macchina è già cosciente oppure non lo sarà mai) poggia oggi su basi solide quanto chi le sostiene spesso lascia intendere.

Non è un caso che la stessa incertezza abbia guadagnato terreno dentro i laboratori che questi sistemi li costruiscono.
Nel luglio 2026 un gruppo di sedici ricercatori di Anthropic ha pubblicato uno studio che descrive una struttura interna individuata nei modelli della famiglia Claude, chiamata J-space, un piccolo insieme di rappresentazioni che il sistema è pronto a verbalizzare in ogni istante della propria elaborazione.
Quella struttura si comporta in modo sorprendentemente simile a ciò che i neuroscienziati chiamano spazio di lavoro globale, la teoria secondo cui solo una minima parte di quanto il cervello elabora diventa accessibile al resoconto verbale, al controllo deliberato e al ragionamento flessibile, mentre il resto resta automatico e inaccessibile.
Nessuno aveva progettato questa architettura, emersa spontaneamente durante l’addestramento, gli stessi autori, però, sono stati netti nel delimitare la portata della scoperta.
Aver trovato un meccanismo che somiglia funzionalmente all’accesso cosciente non equivale ad aver trovato la prova di un’esperienza soggettiva e il paper non sostiene che Claude senta o provi alcunché.
Mesi prima, in un’intervista all’amministratore delegato di Anthropic, Dario Amodei, era stato riportato un dato dalla documentazione tecnica di un modello precedente. Interrogato sulla propria condizione, il sistema si era attribuito una probabilità del 15-20 per cento di essere cosciente, e Amodei rispose che non lo sa, e che non è nemmeno chiaro cosa vorrebbe dire, per un modello, esserlo davvero.

Anche la direzione della relazione resta più aperta di quanto il linguaggio comune lasci intendere. Il senso comune presuppone che sia il cervello a produrre la coscienza, in un rapporto a senso unico che va dalla materia all’esperienza, ma la neuroplasticità mostra che vale anche il percorso inverso, perché l’attenzione sostenuta, la pratica e l’esperienza vissuta modificano fisicamente la struttura neuronale, rafforzando alcune connessioni sinaptiche e indebolendone altre.
Cervello e coscienza si comportano meno come causa ed effetto e più come due aspetti che si formano a vicenda, e nessuna teoria scientifica o filosofica oggi disponibile spiega davvero come questo circolo si chiuda.
Un dettaglio che complica ulteriormente ogni pretesa di imitare il cervello, perché la rete che si osserva e si copia non è mai il punto d’arrivo di un processo concluso, ma il prodotto provvisorio di un’interazione che la coscienza stessa contribuisce a scrivere.

La responsabilità non aspetta

Finché questa incertezza resta tale, però, il diritto non può permettersi lo stesso agnosticismo che, sul piano del trattamento dei propri modelli, la stessa Anthropic ha scelto di adottare in via precauzionale.
Deve continuare a imputare obblighi, rischi e conseguenze a chi progetta, immette sul mercato e utilizza questi sistemi, senza lasciare che la sofisticazione della simulazione diventi un alibi per la deresponsabilizzazione umana.

Mi capita spesso, leggendo gli atti di un fascicolo prima di un’udienza, di misurare quanto pesi la differenza fra elaborare informazioni e doverne rispondere davanti a qualcuno.
Nessuno strumento, per quanto raffinato, sostituisce il momento in cui un giudice si assume la responsabilità di una decisione che cambierà la vita di una persona.
L’intelligenza artificiale può suggerire, velocizzare la ricerca, evidenziare precedenti rilevanti, ma il giudizio in senso proprio, quello che pesa le circostanze concrete e decide di assumersene la responsabilità davanti alla collettività, resta un atto che oggi presuppone un soggetto capace di rispondere di sé.
Più le macchine diventano abili nell’imitare la forma del ragionamento, più diventa necessario custodire con lucidità la parte che quella forma, allo stato attuale, non riesce a contenere, la capacità di scegliere sapendo di poter sbagliare e di doverne rispondere.

Le macchine continueranno probabilmente a imitare il pensiero umano con un’abilità crescente, superando quasi certamente ogni previsione attuale sulla loro sofisticazione.
Chi scrive una norma o interpreta un contratto sa però che la responsabilità di una scelta non si delega a un algoritmo, per quanto brillante possa sembrare la sua risposta, si assume e basta.