Nella PA, il funzionario risponde, l’algoritmo no.

A giugno dell’anno scorso scrivevo che l’intelligenza artificiale nella pubblica amministrazione avrebbe avuto bisogno di un presidio umano competente, capace di leggere gli algoritmi invece di subirli, senza il quale qualunque promessa di efficienza sarebbe rimasta un esercizio retorico.

Era un auspicio, perché a quella data la legge italiana sull’intelligenza artificiale non esisteva ancora.

Il 23 settembre 2025 il Parlamento ha approvato la legge n. 132, entrata in vigore il 10 ottobre, e l’articolo 14 ha trasformato quell’auspicio in una norma vera e propria.
Il funzionario resta l’unico responsabile del provvedimento anche quando a suggerirglielo è stato un sistema automatizzato, e l’amministrazione deve dotarsi di misure tecniche, organizzative e formative per garantirne un utilizzo consapevole.

Fin qui la parte facile.

Sull’articolo 14 c’è poco da discutere quanto ai principi.
L’intelligenza artificiale può essere usata “in funzione strumentale e di supporto” all’attività provvedimentale e non può sostituirsi al potere decisionale della persona, che resta responsabile sia quando un algoritmo assegna un indice di rischio fiscale sia quando un sistema smista le domande di un bando pubblico.

È lo stesso principio che il decreto legislativo 36 del 2023 aveva già introdotto nel Codice dei contratti pubblici per le procedure di gara, quindi il legislatore non ha inventato granché quanto a impostazione, ha esteso a tutta la pubblica amministrazione una regola che negli appalti esisteva da prima, dove però l’automazione riguardava spesso fasi vincolate da criteri matematici, come le graduatorie.

L’attività provvedimentale generale a cui si rivolge l’articolo 14 tocca invece la discrezionalità amministrativa vera e propria, e questo rende il problema molto più delicato di quanto il parallelismo con il Codice dei contratti lasci intuire.

Immaginare come un funzionario possa esercitare un controllo reale su un sistema che non ha progettato, non capisce nel dettaglio e usa perché un fornitore esterno glielo ha messo davanti con un’interfaccia rassicurante, è già un esercizio meno scontato di quanto la norma lasci intendere.

La legge gli attribuisce la responsabilità della decisione, ma quella responsabilità ha senso solo se il funzionario può intervenire sull’indicazione dell’algoritmo, correggendola o respingendola quando serve, e questa possibilità esiste solo se il sistema è spiegabile a chi lo usa.

Spiegabile, però, non basta da solo, perché un algoritmo può essere tecnicamente trasparente nei suoi passaggi logici e restare comunque incomprensibile per chi non ha competenze statistiche, il che sposta il problema dalla progettazione del sistema alla formazione di chi dovrà leggerlo.

Non si tratta di una questione inedita, dato che già gli articoli 13, 14 e 15 del GDPR, insieme al considerando 71, riconoscono il diritto di ricevere informazioni significative sulla logica di un trattamento automatizzato quando produce effetti significativi sulla persona, anche se la dottrina discute ancora quanto quel diritto equivalga a una vera spiegazione tecnica.

La legge 132/2025 non tocca questo impianto, lo richiama e lo rafforza sul piano dei principi, però lascia alle amministrazioni il compito di renderlo operativo, e a ciascun ente quello di capire da sé cosa significhi davvero, nella pratica quotidiana, “controllo umano”.

Quello che a giugno 2025 non potevo ancora raccontare, perché non esisteva, è arrivato nel frattempo.

Con la determinazione n. 43 del 2026 AGID ha adottato la bozza delle linee guida per lo sviluppo di sistemi di intelligenza artificiale nella pubblica amministrazione, messa in consultazione pubblica dal 12 marzo all’11 aprile di quest’anno insieme a quella sull’acquisizione di sistemi di IA.
La consultazione si è chiusa da mesi e il testo prosegue ora verso i pareri della Conferenza Unificata e del Garante Privacy, senza che esista ancora una data certa per l’adozione definitiva.

Questo è il seguito diretto delle prime linee guida circolate in bozza nel febbraio 2025, quelle che gli osservatori del settore avevano criticato perché imponevano alle amministrazioni un apparato documentale così ampio da rischiare di scoraggiare l’adozione dell’IA invece di orientarla.

Il punto, davanti alla nuova bozza, non riguarda se AGID abbia scritto principi condivisibili, che chiunque si occupi di IA pubblica scrive ormai da anni tra tracciabilità e supervisione umana, riguarda piuttosto se le amministrazioni più piccole, quelle senza un ufficio legale interno né un responsabile della transizione digitale a tempo pieno, saranno davvero in grado di trasformare quei principi in procedure che qualcuno segue sul serio.

È qui che si annida la vera differenza tra efficienza e opacità, una differenza che non passa tanto per la buona fede del legislatore, che pure c’è, quanto per le risorse concrete di chi la norma deve applicarla ogni giorno.

Un “ufficio innovazione” strutturato, quello che un comune capoluogo può permettersi, rende possibile formare il personale e documentare le valutazioni di impatto con un minimo di sistematicità, mentre tre dipendenti amministrativi in un comune di provincia raramente hanno lo stesso margine, e la legge non distingue tra i due casi.

L’articolo 14, al comma 4, chiede che gli adempimenti siano assolti con le risorse umane, strumentali e finanziarie già disponibili a legislazione vigente, quindi senza fondi dedicati che accompagnino l’obbligo, e in pratica l’ente più piccolo rischia di scegliere tra due strade ugualmente insoddisfacenti, rinunciare all’IA e perdere l’efficienza che la norma promette, oppure adottarla senza le competenze per controllarla davvero, ottenendo sulla carta un funzionario “responsabile” e nei fatti un funzionario che firma quello che il sistema gli propone.

C’è poi un piano che la norma lascia scoperto e che riguarda l’esposizione più che la responsabilità in senso stretto, perché sono due cose diverse.
Il sistema lo propone un fornitore, lo acquista un dirigente, lo usa un funzionario, e quando qualcosa va storto è quest’ultimo a risponderne, pur essendo l’anello della catena con minore potere di scelta su cosa e come viene comprato.

Questa è un’asimmetria di cui si parla poco, forse perché richiede di guardare oltre il momento dell’uso e chiedersi cosa succede prima, quando il capitolato di gara stabilisce già, implicitamente, quanto quel sistema sarà davvero controllabile da chi dovrà poi firmare i provvedimenti.

Non credo che questo renda l’articolo 14 una norma inutile e sarebbe ingeneroso liquidarla così dopo che per anni si è chiesto proprio un intervento di questo tipo; ciò che conta davvero è che una legge che pone il controllo umano come condizione di legittimità dell’azione amministrativa funziona solo se quel controllo è reale, e per essere reale ha bisogno di una spiegabilità tecnica che nessuna norma può imporre da sola, poiché dipende dalla qualità del sistema acquistato e dalla formazione con cui viene effettivamente accompagnato chi dovrà maneggiarlo ogni giorno.

Le linee guida AGID, ancora in attesa di adozione definitiva, sono il primo banco di prova concreto per capire se chi scrive le regole ha previsto anche questo aspetto, oppure se ha formulato un principio ineccepibile destinato a scontrarsi con la stessa disomogeneità di risorse che affligge la pubblica amministrazione italiana da molto prima che qualcuno si inventasse l’intelligenza artificiale.

Il controllo umano di cui parla l’articolo 14, però, nasce molto prima del momento in cui un funzionario apre lo schermo e legge un output, perché un algoritmo è davvero controllabile solo se è stato progettato per esserlo, e questo si decide quando il capitolato di gara stabilisce, attraverso i requisiti tecnici imposti al fornitore, quanto quel sistema sarà comprensibile a chi dovrà poi validarne i risultati.

L’articolo 14 e il Codice dei contratti pubblici dovrebbero dialogare su questo punto molto più di quanto non facciano oggi, includendo i requisiti di spiegabilità che l’AI Act impone ai sistemi considerati ad alto rischio, perché finché restano discipline pensate separatamente, il controllo umano promesso a valle rischia di poggiare su scelte fatte a monte da chi, in quella fase, non ha alcun obbligo di pensare al funzionario che dovrà rispondere del risultato.

La consultazione sulle linee guida si è chiusa da mesi e il testo definitivo non ha ancora una data, ma nel frattempo chi lavora dentro un ufficio pubblico e vede arrivare un sistema di IA da adottare farebbe bene a chiedersi non se la legge lo tuteli, perché sulla carta lo fa, ma se qualcuno, già nella fase in cui quel sistema è stato scelto, si sia posto il problema di renderlo comprensibile a chi lo utilizzerà ogni giorno.

Perché il giorno in cui non saprà spiegare una decisione, non sarà l’algoritmo a doverne rispondere.