1. L'ingresso dei sistemi automatizzati nella gestione e nell'organizzazione pubblica
Il diritto amministrativo e la scienza dell'organizzazione delle pubbliche amministrazioni costituiscono, oggi più che mai, il terreno d'elezione su cui misurare la tenuta dei principi costituzionali dell'azione pubblica dinanzi a una trasformazione tecnologica tanto rapida quanto pervasiva. Nelle strutture complesse e nei procedimenti di maggiore rilevanza economico-sociale - la programmazione delle risorse sanitarie, la gestione della contrattualistica pubblica, l'istruttoria dei sinistri da responsabilità civile, la stima dei fondi rischi e del contenzioso - l'impiego di soluzioni automatizzate e di sistemi capaci di elaborare grandi masse di dati non rappresenta più un'opzione teorica, ma un modulo organizzativo ormai radicato e in costante espansione.[1]
Il giudice amministrativo ne ha colto con tempestività la portata, ammettendo l'uso di procedure istruttorie e decisionali automatizzate quale diretta attuazione dei principi costituzionali di buon andamento e imparzialità sanciti dall'art. 97 della Costituzione, nonché dei criteri di economicità ed efficacia - dei quali l'efficienza costituisce espressione - che l'art. 1 della legge 7 agosto 1990, n. 241, pone a fondamento dell'attività amministrativa.[2] Nella lettura offerta in origine da Palazzo Spada, l'algoritmo si presenta come un formidabile strumento di semplificazione procedimentale, capace di alleggerire il carico burocratico, di abbreviare i tempi di attesa e di garantire la parità di trattamento attraverso la standardizzazione dell'azione amministrativa.
Un'apertura, tuttavia, non incondizionata: la giurisprudenza ne ha tracciato il perimetro entro confini concettuali assai precisi. In una prima fase, l'uso dello strumento informatico è stato consentito soltanto in presenza di attività vincolate o fortemente standardizzate, ossia laddove l'istruttoria sia guidata da parametri certi, oggettivamente verificabili e privi di margini di apprezzamento discrezionale.[3] L'algoritmo, in altri termini, va correttamente inteso come modulo organizzativo e come strumento procedimentale e istruttorio, soggetto alle medesime verifiche di legittimità cui è sottoposto ogni altro atto amministrativo.
Questa apertura condizionata può essere efficacemente colta, sul piano euristico e descrittivo, alla luce del modello del Gartner Hype Cycle - schema di lettura mutuato dalla consulenza strategica in materia di innovazione tecnologica, privo di pretese esplicative in senso proprio, ma utile a cogliere la dinamica ricorrente con cui la pubblica amministrazione si accosta alle nuove tecnologie. Nella prima fase (Peak of Inflated Expectations), la spinta verso la digitalizzazione porta spesso a dipingere l'IA generativa o predittiva come una soluzione miracolosa e immediata per la pubblica amministrazione. Tuttavia, in mancanza di una corretta governance procedimentale, l'entusiasmo iniziale rischia di cedere il passo a una fase di disillusione (Trough of Disillusionment), laddove emergono i limiti operativi, i vizi di istruttoria e il rischio di contenzioso. Per giungere a un utilizzo maturo e sostenibile della tecnologia (Plateau of Productivity), occorre che la pubblica amministrazione superi la narrazione del semplice automatismo e integri lo strumento informatico entro precisi confini di legittimità. Le ragioni profonde di tale illusione iniziale, come si vedrà, risiedono in un più ampio mito manageriale che investe la cultura organizzativa dell'amministrazione digitale (infra, § 2.5).[4]
Dietro la spinta verso l'efficientamento organizzativo si annida, però, un'insidia non trascurabile per la legittimità degli atti. L'uso improprio di strumenti di elaborazione predittiva o generativa - specie quando travalica la funzione di ausilio istruttorio o di supporto conoscitivo per sostituirsi indebitamente alla valutazione della dirigenza pubblica - incide sulla struttura stessa della decisione amministrativa. L'agire pubblico, infatti, non si riduce mai al risultato di un calcolo probabilistico, né alla semplice estrazione di ricorrenze storiche da un archivio di precedenti: esso si sostanzia in un'attività dinamica e valoriale di discernimento critico, di ricerca e di visione prospettica - funzioni imprescindibili di governo dell'interesse pubblico, che richiedono la presenza, la sensibilità e la responsabilità insostituibili della persona umana.
2. L'improprio utilizzo e il fallimento della delega decisionale: il condizionamento dell'atto e la motivazione apparente
2.1. La patologia della delega di potere alla macchina
Nel contesto procedimentale, l'uso improprio delle tecnologie avanzate si manifesta quando il sistema automatizzato cessa di essere strumento servente e si trasforma in alter ego decisionale. Nella struttura del procedimento disegnata dalla legge n. 241 del 1990, l'istruttoria, la ponderazione dei fatti, la valutazione dei presupposti e la formalizzazione del provvedimento finale devono restare saldamente incardinate nella responsabilità del responsabile del procedimento e del dirigente competente ad adottare l'atto.[5]
Il trasferimento implicito, o anche solo latente, della funzione valutativa allo strumento di calcolo configura un vizio di eccesso di potere per difetto assoluto di istruttoria e travisamento dei fatti, e svuota l'obbligo generale di motivazione previsto dall'art. 3 della medesima legge. La motivazione dell'atto amministrativo, infatti, non è una giustificazione formale apposta in calce al provvedimento, ma il percorso logico-giuridico attraverso cui l'amministrazione rende conto del bilanciamento operato tra l'interesse pubblico primario e gli interessi secondari coinvolti.
2.2. Il fenomeno delle “allucinazioni” dell'intelligenza artificiale e l'invalidità del provvedimento
Particolarmente delicata si rivela la diffusione dei sistemi di intelligenza artificiale generativa nella redazione di atti, relazioni istruttorie e pareri interni. Tali sistemi restano esposti al fenomeno, ormai ben noto, delle cosiddette “allucinazioni”: la generazione spontanea, ma formalmente verosimile, di norme inesistenti, di citazioni giurisprudenziali inventate o di ricostruzioni fattuali prive di riscontro nella realtà.
Un caso emblematico è stato di recente affrontato dalla Corte di cassazione, che con l'ordinanza n. 11431 del 2026 (Sez. VII penale, ud. 27 febbraio 2026, dep. 26 marzo 2026, Pres. Gentili, Rel. Scarcella)[6] ha dichiarato inammissibile un ricorso i cui richiami giurisprudenziali si sono rivelati frutto di una probabile “allucinazione informatica” conseguente all'utilizzo di applicativi di intelligenza artificiale generativa: le pronunce citate, pur esistenti, risultavano in larga parte attribuite a sezioni diverse da quelle che le avevano emesse e, in ogni caso, non affermavano i principi che il ricorso attribuiva loro.[7] Pochi mesi più tardi, la Terza sezione penale della medesima Corte, con la sentenza n. 23006 dell'11 giugno 2026 (dep. 22 giugno 2026, Pres. Ramacci, Rel. Scarcella), ha ulteriormente precisato che l'impiego di uno strumento di intelligenza artificiale non esonera il difensore dal dovere professionale di verificare l'esistenza e la pertinenza delle fonti richiamate: la citazione di precedenti inesistenti o alterati costituisce un indice significativo di colpa nella determinazione della causa di inammissibilità e giustifica la condanna al versamento, in favore della Cassa delle ammende, di una somma più elevata, poiché rivela l'inosservanza del dovere minimo di controllo che grava su chi sottoscrive e deposita l'atto.[8]
Quando il funzionario o il responsabile istruttorio recepisce acriticamente un'elaborazione viziata da simili errori, senza condurre un rigoroso riscontro delle fonti, il provvedimento adottato risulta irrimediabilmente affetto da una patologia invalidante. Non un semplice difetto formale, dunque, ma un vizio radicale, che si traduce in motivazione apparente e in difetto dei presupposti di fatto e di diritto, tale da rendere l'atto pienamente annullabile in sede di sindacato giurisdizionale di legittimità.
2.3. Le garanzie elaborate dalla giurisprudenza amministrativa
Per prevenire simili degenerazioni e arginare la tentazione di sostituire il giudizio umano con la convenienza dell'automazione, il Consiglio di Stato ha elaborato, sin dal 2019, un nucleo di garanzie ormai consolidato, tradizionalmente ricondotto a tre principi:[9]
1. Principio di conoscibilità: l'amministrazione ha l'obbligo di rendere conoscibili e comprensibili l'esistenza del processo automatizzato, i criteri di funzionamento, la regola logica e la sequenza posta a base dell'operazione, così da consentire la tracciabilità dell'intero percorso valutativo; ne discende, quale corollario, la piena sindacabilità della decisione, poiché il giudice amministrativo deve poter ripercorrere il processo logico applicato per verificarne la correttezza.
2. Principio di non esclusività della decisione algoritmica: la decisione non può fondarsi su un processo interamente automatizzato; nel processo decisionale deve comunque esistere un contributo umano capace di controllare, validare ovvero smentire l'esito prodotto dalla macchina.
3. Principio di non discriminazione algoritmica: l'amministrazione deve adottare misure tecniche e organizzative adeguate a correggere i fattori che determinano inesattezze nei dati, a ridurre al minimo il rischio di errori e a impedire effetti discriminatori nei confronti delle persone interessate.
2.4. L'evoluzione giurisprudenziale e il contributo della dottrina
La citata sentenza n. 2270 del 2019 ha suscitato un ampio dibattito in dottrina, non privo di rilievi critici. Si è osservato, in particolare, come la regola tecnica sottesa all'algoritmo resti sempre una regola amministrativa generale, costruita dall'uomo e non dalla macchina, e come tale soggetta ai principi di pubblicità e trasparenza; nondimeno, proprio l'estensione di tali principi al dato informatico ha posto interrogativi nuovi, che la giurisprudenza successiva ha dovuto affrontare passo dopo passo.[10]
Con le sentenze gemelle nn. 8472, 8473 e 8474 del 13 dicembre 2019, il Consiglio di Stato ha esteso l'ammissibilità del ricorso all'algoritmo anche all'attività connotata da discrezionalità amministrativa, affermando tuttavia - e questo è il punto dirimente - che occorre sempre l'individuazione di un centro di imputazione e di responsabilità, in grado di verificare la legittimità e la logicità della decisione dettata dall'algoritmo. La dottrina ha colto in questo passaggio un tentativo di sintesi tra le esigenze di semplificazione e le garanzie procedimentali, non privo di implicazioni problematiche.[11]
La sentenza n. 881 del 4 febbraio 2020[12] ha ulteriormente precisato che la “caratterizzazione multidisciplinare” dell'algoritmo non esime l'amministrazione dal tradurre la formula tecnica in una regola giuridica leggibile e comprensibile, sia per il cittadino sia per il giudice. Sul solco di questa giurisprudenza, la dottrina ha elaborato la nozione di “legalità algoritmica”, quale corollario diretto del principio di legalità sostanziale applicato al procedimento informatizzato.[13] La sentenza n. 7891 del 25 novembre 2021[14] ha poi compiuto un passo ulteriore, distinguendo in modo netto la nozione di “algoritmo” - sequenza di istruzioni che applica regole e parametri predeterminati - da quella di “intelligenza artificiale”, la quale elabora costantemente nuovi criteri di inferenza attraverso un processo di apprendimento automatico, con un margine di imprevedibilità che il primo, per definizione, non possiede.
Il Tribunale amministrativo regionale della Campania, infine, con la sentenza n. 7003 del 14 novembre 2022, ha collocato queste garanzie all'interno di un quadro europeo più ampio, chiarendo che il rispetto del principio di trasparenza impone un obbligo di motivazione rafforzato, e non attenuato, a carico dell'amministrazione che si avvalga di sistemi automatizzati.[15]
2.5. Il condizionamento decisionale, l'illusione della “Magic Bullet” e l'insufficienza della firma di ratifica
Sul piano della dinamica organizzativa e dirigenziale, la minaccia più insidiosa è costituita dal cosiddetto condizionamento decisionale: la tendenza, comprensibile ma pericolosa, del responsabile ad adagiarsi sulle risultanze fornite dal sistema automatico per risparmio di tempo o per una presunta infallibilità della tecnologia. Tale atteggiamento patologico trova spiegazione, a monte, nel mito manageriale della “Magic Bullet”, individuato dalla letteratura sui sistemi informativi organizzativi:[16] la falsa convinzione - già colta, sul piano macro-organizzativo, nella parabola del Gartner Hype Cycle (supra, § 1) - che la tecnologia possa, per virtù propria e in modo istantaneo, risolvere problemi complessi e razionalizzare l'azione amministrativa senza richiedere uno sforzo riorganizzativo o di ponderazione critica. Se il Gartner Hype Cycle descrive, sul piano collettivo, la parabola dell'aspettativa tecnologica nella pubblica amministrazione, il mito della Magic Bullet ne isola, sul piano individuale, il meccanismo cognitivo sotteso: la tentazione del singolo responsabile del procedimento di attribuire alla macchina virtù salvifiche che dispensino dallo sforzo interpretativo e organizzativo. Come evidenziato dalla letteratura sulla scienza dell'organizzazione in relazione al cosiddetto Productivity Paradox, l'impiego dell'intelligenza artificiale non genera reali benefici né garanzie di buon andamento se l'organizzazione non investe parallelamente in competenze, ridefinizione dei processi istruttori e formazione del personale.[17]
In assenza di questo investimento metodologico, il ricorso all'IA degrada in una ratifica meramente burocratica - ovvero nell'apposizione della firma digitale a un provvedimento integralmente predisposto dal sistema -, un'operazione soltanto apparente, che non sana l'illegittimità dell'atto. L'ordinamento, a più livelli, rifiuta la mera finzione di controllo: l'art. 22 del Regolamento (UE) 2016/679 (GDPR) e l'art. 14 del Regolamento (UE) 2024/1689 (il cosiddetto AI Act) esigono una supervisione umana realmente effettiva, intesa come controllo critico, consapevole e autonomo, capace di comprendere il percorso seguito dal sistema, di disattenderlo o di riformularlo integralmente.[18]
2.6. Trasparenza, conoscibilità e audit del sistema automatizzato
Un ulteriore profilo, che merita di essere valorizzato, riguarda la trasparenza tecnica del sistema. La conoscibilità dell'algoritmo non coincide necessariamente con la divulgazione integrale del codice sorgente: ciò che rileva, ai fini del controllo amministrativo e giurisdizionale, è che siano conoscibili la finalità del sistema, i criteri che orientano l'elaborazione, i dati rilevanti, le modalità essenziali di funzionamento e il soggetto responsabile della programmazione e della supervisione. La giurisprudenza amministrativa ha chiarito, in questo senso, che l'algoritmo deve essere conoscibile in tutti i suoi aspetti - dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate e dei dati selezionati come rilevanti - e, più di recente, che quando lo strumento informatico svolge un ruolo di mero supporto alla decisione l'accesso al codice sorgente può essere consentito soltanto se strettamente indispensabile alla difesa in giudizio. In questa prospettiva, la trasparenza non costituisce un adempimento meramente documentale, ma una condizione di effettività del controllo sulla legalità dell'azione amministrativa.[19]
Particolarmente significativo è il tema dell'audit. L'esistenza di un centro di imputazione della responsabilità non è sufficiente se il sistema che ha supportato o prodotto la decisione non è sottoposto a verifiche periodiche di funzionamento, qualità e conformità. L'audit del sistema e, quando necessario, del codice sorgente consente infatti di precostituire la prova del corretto funzionamento dello strumento e di verificare che la decisione non sia stata condizionata da errori di programmazione, dati inadeguati o anomalie del modello. Ne deriva una conseguenza organizzativa importante: la supervisione umana deve essere preceduta e accompagnata da procedure di controllo tecnico, perché non è ragionevole pretendere dal dirigente una valutazione critica di un risultato senza assicurargli gli strumenti per conoscere l'affidabilità del sistema che lo ha prodotto.[20]
La trasparenza assume poi una particolare intensità quando la tecnologia opera come supporto, e non come sostituto, della decisione umana. Anche in questo caso il risultato algoritmico può esercitare un effetto di condizionamento sul decisore, inducendolo ad aderire alla raccomandazione del sistema senza verificarne autonomamente presupposti e attendibilità. La motivazione dell'atto dovrebbe allora rendere percepibile non soltanto l'esistenza dell'ausilio algoritmico, ma anche il modo in cui il decisore umano ne ha valutato criticamente l'esito. In tal modo la motivazione torna ad essere ciò che deve essere: la rappresentazione intelligibile del percorso che conduce dalla ricostruzione dei fatti alla scelta amministrativa, e non la semplice trascrizione del risultato prodotto dalla macchina.[21]
Questa impostazione trova un ulteriore elemento di rafforzamento nel diritto dell'Unione europea. La Corte di giustizia ha chiarito che il diritto dell'interessato a ricevere «informazioni significative sulla logica utilizzata» nelle decisioni automatizzate impone di spiegare, in termini comprensibili, la procedura e i principi concretamente applicati, e che a tal fine non è sufficiente la mera comunicazione di una formula matematica complessa. Il rischio, in altri termini, è che una motivazione tecnicamente accessibile soltanto alla macchina o allo specialista non sia idonea a garantire l'effettivo diritto di difesa dell'interessato. La motivazione algoritmica deve dunque essere calibrata sul destinatario e consentire, in termini comprensibili, di ricostruire i criteri decisivi della scelta. Tale prospettiva si integra coerentemente con la “riserva di umanità” qui sostenuta: quanto più il sistema tecnologico incide sulla formazione della decisione, tanto più rigorosa deve essere la possibilità di comprenderne e contestarne il percorso.[22]
3. Discernimento, ricerca e visione prospettica: i limiti del calcolo automatizzato
Il confronto tra il funzionamento delle tecnologie di calcolo e l'attività di chi amministra la cosa pubblica rivela una distanza difficilmente colmabile. La scienza dell'organizzazione e la riflessione giuridica indicano tre dimensioni proprie della mente umana che nessuna architettura statistica è in grado di replicare: il discernimento critico, la ricerca della soluzione più giusta e la visione prospettica.[23] Prima di approfondirle singolarmente, può essere utile fissarne i tratti salienti, ponendo a confronto, per ciascuna delle quattro dimensioni dell'agire amministrativo, il modo di operare dei sistemi di calcolo con quello dell'intelletto umano nell'esercizio della funzione dirigenziale pubblica:
a) quanto al processo cognitivo, i sistemi di calcolo estraggono correlazioni tra masse di dati storici, mentre l'intelletto umano esercita il discernimento critico del fatto e individua la ragion d'essere della norma;
b) quanto alla metodologia decisionale, all'elaborazione probabilistica e al calcolo di frequenze statistiche si contrappongono la sintesi critica, il bilanciamento degli interessi e il giudizio di proporzionalità;
c) quanto alla prospettiva temporale, all'analisi statica e retrospettiva, ancorata al passato (ex post), si contrappone la visione prospettica, orientata alla cura dell'interesse pubblico futuro (ex ante);
d) quanto, infine, alla responsabilità e al controllo, all'assenza di responsabilità propria e all'opacità del percorso decisionale si contrappongono la responsabilità dirigenziale personale, la trasparenza e il pieno controllo giurisdizionale.
3.1. Il discernimento giuridico-economico e la frequenza statistica
I sistemi automatizzati operano su base essenzialmente probabilistica: individuano ricorrenze tra enormi masse di dati storici, riconoscono regolarità numeriche, ma restano strutturalmente insensibili al significato profondo del testo normativo e al valore sociale della regola che applicano. Un sistema può rilevare che una certa combinazione di fattori si è ripresentata più volte nel passato; non può comprendere perché quella regola esiste, né valutare se, nel caso concreto, la sua applicazione meccanica tradisca lo scopo per cui la norma è stata pensata.
Il discernimento è, all'opposto, un'operazione di sintesi e di interpretazione propria di chi conosce il diritto e amministra l'interesse pubblico. Esso consente di isolare gli elementi rilevanti del fatto storico, di depurarli dal superfluo e di ricondurli alla fattispecie astratta prevista dalla legge. Un processo di qualificazione giuridica che non è mai meccanico, ma richiede la comprensione della ragion d'essere della norma e l'adattamento della regola generale alle esigenze concrete del caso singolo: la macchina calcola frequenze ed elabora dati passati, la persona che amministra qualifica la realtà orientandosi secondo i principi guida della ragionevolezza, della proporzionalità e dell'equità.
3.2. La ricerca come attività di gestione e di bilanciamento
La ricerca della soluzione amministrativa, della stima contabile o della valutazione di un sinistro non si esaurisce nell'estrazione massiva di dati o di precedenti da un archivio. È un'attività critica e sistematica, volta a ricomporre in un quadro coerente la frammentarietà dell'ordinamento: un esercizio che presuppone la capacità di soppesare argomenti contrastanti, di riconoscere le eccezioni e di scegliere, tra più soluzioni astrattamente plausibili, quella più giusta per il caso concreto.
Se l'algoritmo si limita a riproporre soluzioni coerenti con i modelli su cui è stato addestrato, la valutazione umana compie una sintesi ben più complessa: individua le sottili peculiarità che rendono un caso unico rispetto ai precedenti storici, distinguendolo quando le apparenti somiglianze non reggono a un esame più attento; pondera gli interessi pubblici e privati, primari e secondari, coinvolti nella vicenda; sottopone infine la scelta al vaglio della sostenibilità economico-finanziaria e delle esigenze di tutela dell'incolumità pubblica. Un esercizio di giudizio che presuppone consapevolezza del contesto, sensibilità per le conseguenze e capacità di assumersi la responsabilità della scelta compiuta - tutti elementi estranei a un sistema privo di esperienza, di intenzionalità e di responsabilità propria.
3.3. La visione prospettica e la cura dell'interesse pubblico
L'aspetto di maggiore divergenza risiede nella dimensione temporale dell'azione amministrativa. I sistemi di calcolo automatizzato sono per loro natura rivolti al passato: la loro capacità di previsione altro non è che la proiezione matematica di andamenti già osservati, e restano privi della capacità di anticipare l'inedito, ossia ciò che non trova riscontro in alcuna serie storica precedente.
L'attività di direzione e di governo della pubblica amministrazione è invece intrinsecamente orientata verso il futuro. La cura dell'interesse pubblico primario richiede una visione strategica: chi dirige deve saper cogliere le trasformazioni sociali ed economiche in atto, governare l'incertezza e ponderare le conseguenze di lungo periodo della propria decisione. Un giudizio prospettico che comporta l'assunzione diretta di responsabilità amministrativa, civile e contabile - una responsabilità personale e valoriale della quale nessun sistema automatizzato può essere investito, perché nessun sistema automatizzato può rispondere delle proprie scelte davanti al cittadino, al giudice o alla propria coscienza professionale.
4. L'istituto della “riserva di umanità” alla luce dei canoni dell'ermeneutica giuridica
Giunti a questo punto della trattazione, appare utile sottoporre l'istituto della riserva di umanità - quale limite alla piena automazione della decisione amministrativa discrezionale - ai canoni classici dell'interpretazione giuridica, così da verificarne la tenuta sistematica e da ricondurre a coerenza le diverse fonti sin qui richiamate.
4.1. Criterio letterale
Sul piano letterale, occorre muovere dalla distinzione, ormai consolidata nella giurisprudenza amministrativa, tra “algoritmo” e “intelligenza artificiale”. Il primo termine designa una sequenza finita e ordinata di istruzioni, applicativa di regole e parametri predeterminati dall'uomo; il secondo indica invece un sistema che elabora costantemente nuovi criteri di inferenza attraverso un processo di apprendimento automatico, con un margine di imprevedibilità del risultato che l'algoritmo tradizionale, per definizione, non possiede.[24] Questa distinzione lessicale non è meramente descrittiva: essa segna il discrimine tra ciò che può essere legittimamente delegato al calcolo automatico - l'esecuzione di una regola già scritta dall'uomo - e ciò che, per sua natura, eccede tale delega, ossia la formazione stessa del giudizio.
4.2. Criterio logico
Sul piano logico, la premessa da cui muove l'intera costruzione giurisprudenziale è che «la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall'uomo e non dalla macchina, per essere poi (solo) applicata da quest'ultima».[25] Da questa premessa discende, per stretta consequenzialità logica, che la macchina non può mai essere titolare di un potere proprio: essa applica una regola eteronoma, e la sua eventuale opacità non può mai tradursi in un'esenzione dal sindacato, bensì, all'opposto, ne rafforza l'esigenza.
4.3. Criterio teleologico
Sul piano teleologico, la ratio dell'intero impianto normativo e giurisprudenziale non è ostativa all'innovazione tecnologica, ma finalizzata a comporre l'esigenza di efficienza - di cui l'art. 97 della Costituzione e l'art. 1 della legge n. 241 del 1990 sono espressione - con l'esigenza, di pari rango, che il potere autoritativo resti imputabile a un soggetto responsabile e sia sorretto da una motivazione autentica. L'automazione, in questa prospettiva, è uno strumento e non un fine: la sua legittimità si misura sulla capacità di preservare, e non di erodere, le garanzie del cittadino.
4.4. Criterio sistematico
Sul piano sistematico, la riserva di umanità emerge dal coordinamento tra fonti di rango diverso, che convergono su un medesimo nucleo di garanzie: l'art. 22 del Regolamento (UE) 2016/679, l'art. 14 del Regolamento (UE) 2024/1689 e l'art. 30 del D.Lgs. n. 36 del 2023 disegnano, ciascuno nel proprio ambito, un sistema di supervisione umana effettiva che si integra, senza sovrapporsi, con le garanzie procedimentali della legge n. 241 del 1990. Nessuna di queste fonti, letta isolatamente, esaurirebbe la portata del principio; è la loro lettura congiunta a restituirne la piena consistenza sistematica.
4.5. Criterio storico
Sul piano storico, l'istituto è il prodotto di un percorso giurisprudenziale che si è progressivamente affinato: dall'apertura condizionata della sentenza n. 2270 del 2019, riservata alle sole attività vincolate, all'estensione alla discrezionalità amministrativa operata dalle sentenze gemelle nn. 8472, 8473 e 8474 del medesimo anno; dal consolidamento delle garanzie di conoscibilità nella sentenza n. 881 del 2020 fino alla distinzione concettuale tra algoritmo e intelligenza artificiale operata dalla sentenza n. 7891 del 2021 e alla sintesi europea offerta dal Tribunale amministrativo della Campania nel 2022.[26] Un percorso che rivela, nel suo complesso, non un ripensamento ma un progressivo affinamento dello stesso nucleo di garanzie.
4.6. Criterio costituzionale
Sul piano costituzionale, la riserva di umanità trova il proprio fondamento non soltanto nell'art. 97, ma anche negli artt. 24 e 113 della Costituzione, che garantiscono la piena tutela giurisdizionale contro gli atti della pubblica amministrazione. Una decisione sottratta alla piena comprensibilità del suo iter logico si sottrarrebbe, correlativamente, a un sindacato giurisdizionale realmente effettivo, in violazione del diritto di difesa e del principio del giusto processo di cui all'art. 111 della Costituzione.
4.7. Criterio comparativo
Sul piano comparativo, occorre segnalare che la stessa espressione “riserva di umanità” trae origine dalla dottrina amministrativistica spagnola, che ha elaborato la nozione di reserva de humanidad quale limite alla piena automazione dell'esercizio di potestà discrezionali, fondato sulla necessità di un apprezzamento empatico ed extragiuridico che nessuna macchina, allo stato attuale della tecnica, è in grado di offrire.[27] L'esperienza italiana muove da premesse normative diverse: manca una disciplina generale delle decisioni amministrative automatizzate, giacché l'art. 30 del D.Lgs. n. 36 del 2023 costituisce una disciplina di settore, limitata ai contratti pubblici, e il vuoto è stato colmato in via pretoria dalla giurisprudenza. Essa converge, tuttavia, nel risultato con l'elaborazione dottrinale iberica, a conferma della natura non contingente, ma strutturale, del principio.
5. Il principio della “riserva di umanità” nel quadro normativo d'insieme
Dall'impossibilità di equiparare la scelta discrezionale della dirigenza pubblica al risultato di una procedura informatica discende l'affermazione di un principio di rilievo costituzionale ed europeo. Un principio che rappresenta la garanzia che il potere autoritativo resti ancorato alla ragione umana e sia sorretto da una legittimazione democratica e responsabile.
5.1. L'assetto del diritto dell'Unione europea
Il principio trova una solida consacrazione nelle fonti dell'Unione europea. L'art. 22 del Regolamento (UE) 2016/679 sancisce il diritto di ogni persona a non essere sottoposta a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, quando tale decisione produca effetti giuridici o incida in modo analogamente significativo sulla sua persona.[28] La Corte di giustizia dell'Unione europea, con la sentenza della Prima Sezione del 7 dicembre 2023 nella causa C-634/21, Schufa Holding AG, ha chiarito che rientra nella nozione di “decisione” rilevante ai sensi dell'art. 22 anche l'attribuzione automatizzata di un punteggio di affidabilità creditizia, quando esso incida in modo determinante sulla conclusione, sull'esecuzione o sulla cessazione di un rapporto contrattuale - un'interpretazione estensiva, destinata a orientare anche la lettura delle fattispecie di profilazione algoritmica nel settore pubblico.[29]
L'art. 14 del Regolamento (UE) 2024/1689 (AI Act) impone, dal canto suo, che i sistemi ad alto rischio siano progettati e sviluppati in modo da consentire alle persone fisiche di esercitare su di essi una sorveglianza effettiva. La norma attribuisce espressamente al supervisore umano il potere di comprendere la logica del sistema, di ignorarne, annullarne o sostituirne il risultato, e persino di interromperne il funzionamento.[30]
5.2. Il recepimento nell'ordinamento nazionale
Nel diritto interno, oltre alla copertura offerta dall'art. 97 della Costituzione e alle garanzie procedimentali della legge n. 241 del 1990, l'art. 30 del D.Lgs. 31 marzo 2023, n. 36 (Codice dei contratti pubblici) - disciplina di settore, riferita al ciclo di vita dei contratti pubblici - ha espressamente disciplinato l'impiego delle decisioni automatizzate da parte delle stazioni appaltanti e degli enti concedenti, subordinandone la legittimità al rispetto di tre principi:[31]
1. il principio di conoscibilità e comprensibilità, per cui l'operatore economico ha diritto di conoscere l'esistenza di processi decisionali automatizzati che lo riguardino e di ricevere informazioni significative sulla logica utilizzata;
2. il principio di non esclusività della decisione algoritmica, per cui deve comunque sussistere, nel processo decisionale, un contributo umano capace di controllare, validare ovvero smentire la decisione automatizzata;
3. il principio di non discriminazione algoritmica, che impone l'adozione di misure tecniche e organizzative idonee a impedire effetti discriminatori nei confronti degli operatori economici.
La riserva di umanità impone, in definitiva, che il nucleo valutativo del provvedimento resti nell'alveo della responsabilità del funzionario persona fisica. Le tecnologie avanzate possono legittimamente fungere da supporto istruttorio, ma la decisione e la sua motivazione devono restare il frutto dell'elaborazione consapevole, razionale e imputabile della dirigenza pubblica.
6. Conclusioni
L'integrazione delle tecnologie avanzate di elaborazione dei dati nelle pubbliche amministrazioni rappresenta un passaggio ormai ineludibile per l'ammodernamento dei processi, la contrazione dei tempi di risposta e la razionalizzazione dell'impiego delle risorse pubbliche. La ricerca della massima efficienza, tuttavia, non può spingersi fino a compromettere le garanzie costituzionali del cittadino e la legittimità dell'azione amministrativa.
L'uso improprio dei sistemi automatizzati - che si manifesta nell'accettazione passiva dei risultati del calcolo, nella delega indebita delle scelte discrezionali o nella tolleranza verso motivazioni fittizie ed errate - si traduce in un grave snaturamento della legalità amministrativa. Il diritto e l'amministrazione, quali ambiti in cui si esercitano il discernimento critico, la ricerca della soluzione più giusta e la visione prospettica, richiedono una capacità di bilanciamento e di sintesi che la macchina, per sua natura, non possiede.
La difesa del principio della “riserva di umanità” assicura che la decisione pubblica conservi la propria legittimazione democratica e la propria motivazione razionale. La persona deve rimanere saldamente al centro del processo decisionale, affinché l'azione della pubblica amministrazione continui a esprimere imparzialità, equità, responsabilità e piena tutela giurisdizionale.