Pubbl. Ven, 20 Set 2024
L´incidenza del principio di legalità algoritmica nel procedimento amministrativo
Modifica pagina
Angelo Brofferio
Il presente contributo si propone di esaminare l´introduzione degli algoritmi nel procedimento amministrativo ed i limiti normativi e giurisprudenziali della loro applicazione con particolare riferimento alla tutela del principio di legalità
The impact of the principle of algorithmic legality in the administrative procedure
This paper aims to examine the introduction of algorithms in the administrative procedure and the regulatory and jurisprudential limits of their application with particular reference to the protection of the principle of legalitySommario: 1. L’evoluzione del fenomeno e risvolti normativi; 2. L’evoluzione della giurisprudenza; 3. Il principio di trasparenza; 4. Il principio di non esclusività algoritmica; 5. Il principio di non discriminazione algoritmica; 6. L’accesso agli atti; 7. La motivazione dell’atto; 8. La sindacabilità dell’atto; 9. Algoritmi automatici ed algoritmi di trattamento; 10. Dal concetto di “Human in the loop” a quello di “Human in command”; 11. La giurisprudenza di merito; 12. Brevi cenni all'applicazione dell’Intelligenza Artificiale in ambito giudiziario; 13. Conclusioni.
1. L’evoluzione del fenomeno e risvolti normativi
L’esame del procedimento amministrativo alla luce dell’utilizzo degli algoritmi dimostra che si è passati, forzatamente, da una prospettiva di utilizzo dell’informatica come strumento atto a snellire i procedimenti ed implementarne la performance, ad una diversa prospettiva in cui la stessa e, più precisamente, gli algoritmi, finivano, essi stessi, per sostituirsi progressivamente all’uomo nella massima espressione del proprio potere, che è quella decisoria. A ben considerare, si è trattato, con ogni probabilità, di una svolta non prevedibile e, verosimilmente, nemmeno pienamente voluta all’inizio di questo percorso ma che, comunque, ha necessitato di un importante intervento giurisprudenziale che aggiustasse il tiro di una normativa spesso lacunosa rispetto alle problematiche.
Si è resa pertanto necessaria, quantomeno, una interazione fra uomo e macchina, in maniera che il primo comunque rimanga sempre al centro del processo decisionale. È di tutta evidenza che, mentre la cornice normativa del CAD risulta servente alla gestione del procedimento amministrativo, l’utilizzo degli algoritmi genera una operazione di evoluzione, sia sotto il profilo tecnico che normativo, in quanto si realizza una attività che, piuttosto che essere prodromica al provvedimento amministrativo, si fa essa stessa provvedimento.
Naturalmente, maggiore è il profilo di rischio, quanto più ci si allontani da una attività amministrativa vincolata in favore di una discrezionale sotto il profilo tecnico o, a maggior ragione, amministrativo. In effetti è esemplare, come tanta parte della dottrina abbia ripetutamente evidenziato, come l’attività amministrativa vincolata sia stata il “cavallo di Troia[1] che ha consentito l’introduzione degli algoritmi nel procedimento amministrativo, ma che, nello stesso tempo, gli algoritmi, chiaramente con l’ausilio più o meno consapevole degli uomini, si siano sostanzialmente emancipati, erodendo, sempre di più, gli spazi di discrezionalità. Proprio questo aspetto pone l’esigenza di una seria riflessione di quanto l’algoritmo sia funzionale al principio di buona amministrazione di all’art. 97 Cost., qualora il prezzo da pagare sia il rischio che, in nome dell’automazione dei processi, il provvedimento possa sfuggire al controllo dell’uomo. Il legislatore italiano, consapevole della inadeguatezza della normativa vigente rispetto all’evoluzione tecnico normativa, iniziò a prenderne ufficialmente atto con il c.d. “Libro Bianco” dell’AgiD, sin dall’anno 2018.
In buona sostanza si è progressivamente giunti alla conclusione che la mediazione di una figura umana in grado di ponderare gli interessi amministrativi risulti imprescindibile ed irrinunciabile, quanto più ci si allontani dalla categoria dell’atto vincolato a quello discrezionale, e quanto più si passi dalla categoria dell’accertamento tecnico (che prevede l’utilizzo delle scienze esatte) a quello della discrezionalità tecnica (che prevede un parziale margine di opinabilità tecnica) fino a giungere a quello della discrezionalità amministrativa (che prevede il massimo livello di potere discrezionale in capo all’amministrazione)[2]. L’aspetto più estremo e problematico di questo percorso evolutivo appare, inevitabilmente, quello che porta alla conclusione che, ritenendo l’algoritmo sostitutivo dell’intero procedimento amministrativo, si finisca per riconoscere l’assorbimento delle varie fasi di iniziativa, istruttoria, decisoria ed integrativa dell’efficacia in un unico processo logico-matematico.
2. L’evoluzione della giurisprudenza
I primi orientamenti giurisprudenziali si sono rivelati piuttosto prudenti, se non addirittura avversi, all’applicazione dell’intelligenza artificiale al procedimento amministrativo[3]. Il Tar del Lazio, in particolare, sez. III bis- sent. n. 9224 del 10/09/2018 e, successivamente, sent. n. 6606 del 2019, ha ritenuto non accettabile l’utilizzo di un algoritmo per determinare decisioni amministrative, in quanto sostanzialmente la pubblica amministrazione abdicherebbe dall’esercizio della sua funzione. Il proposito di innovazione del procedimento amministrativo, che pur trova una via di ingresso attraverso l’ art. 3-bis L. 241/90 ss.mm.ii., laddove opera un espresso riferimento all’utilizzo di strumenti informatici nei rapporti fra le varie amministrazioni, e fra queste ed i cittadini, non può rischiare di sacrificare il valore primario del principio di legalità, devolvendo ad uno strumento di tipo automatizzato, non solo la espressione esterna dell’ atto medesimo, ma anche la ponderazione degli interessi. In tal senso anche la anche la sent. n. 10964/2019 Tar Lazio, che afferma come l’utilizzo di strumenti informatici così invasivi comprometta i principi di trasparenza, partecipazione ed accesso agli atti del procedimento.
Il primo vero intervento significativo di apertura nei confronti dell’utilizzo degli algoritmi nell’ambito del procedimento amministrativo si è realizzato con la nota sentenza n. 2270 del 08/04/2019 del Consiglio di Stato che ha cercato di realizzare una apprezzabile sintesi del dibattito in corso, delineando una soluzione mediana fra le opposte tesi. Vale a dire che, secondo i giudici amministrativi, i principi che informano l’attività amministrativa, quali quelli di trasparenza, partecipazione, conoscibilità e legalità in genere, devono essere garantiti[4]. Lo stesso principio di legalità assurge poi a principio fondante ed elettivo di tutto il procedimento come dato evincersi anche dalla successiva sentenza del Consiglio di Stato n. 8472 del 13/12/2019, che, sullo stesso solco di pensiero, ha equiparato l’utilizzo dell’algoritmo considerandolo pienamente legittimo, sia in merito all’attività vincolata, che a quella discrezionale.
Ovviamente, al crescere del potere discrezionale, dovrà esponenzialmente accrescersi il grado di tutela ed attenzione degli operatori del diritto. I giudici di Palazzo Spada partono dunque dal principio generale di legalità e ne descrivono una cornice applicativa dettagliata, che ne costituisce il portato attuativo, in misura da scolpire una serie di corollari del principio generale sopra descritto. L’amministrazione è tenuta a monitorare l’utilizzo dello strumento logico matematico, sia sotto il profilo tecnico, che sotto quello sostanziale di ponderazione dell’interesse amministrativo. Questa circostanza appare in tutta la sua evidenza, soprattutto, per quanto concerne gli algoritmi idonei all’autoapprendimento o specificamente qualificabili nella categoria del deep-learning o, addirittura, atti a qualificarsi come imprevedibili nei risultati (machine-learning). Questo comporta uno sforzo di adeguamento dei principi della L. 241/90 ss.mm.ii., ai nuovi esiti tecnologici di strumenti sempre più performanti. Tutto ciò non può che avvenire che tramite la mediazione e la valutazione del responsabile del procedimento, nella sua fase fisiologica, e del sindacato del giudice, nel momento in cui si rappresenti un potenziale patologia dell’atto.
3. Il principio di trasparenza
Il principio di trasparenza è uno dei cardini del procedimento amministrativo, in misura tale da assurgere a ruolo di vero e proprio paradigma della relazione istituzionale fra pubblica amministrazione e cittadini.
L’affermazione di principio della esigenza di trasparenza deve trovare un suo immediato campo di applicazione sostanziale, concretandosi nei derivanti principi di conoscibilità e comprensibilità dell’algoritmo[5]. In materia il Consiglio di Stato, sez. VI, si è definitivamente pronunciato con la sent. n. 2270 dell’08/04/2019, ritenendo che i cittadini abbiano diritto di conoscere procedimenti automatizzati da cui siano interessati, con la specifica di avere cognizione del loro autore e del relativo dettaglio tecnico, al fine di ricostruire i meccanismi decisionali ed il trattamento dei dati rilevanti che ne consegue.
La conoscibilità, pertanto, nasce da una presunzione di parallelismo fra la norma giuridica e la regola tecnica che la applica, per il tramite dell’algoritmo decisionale. La regola tecnica, essendo funzionale ad un procedimento amministrativo, che è elettivamente retto dal principio di trasparenza, non può che essere soggetta alle medesime regole attraverso delle specifiche che la rendano in concreto conoscibile. La giurisprudenza inoltre ha chiarito come, quando il trattamento dei dati personali, funzionale ad una decisione amministrativa, sia basato sul consenso dell’interessato, il requisito della consapevolezza, tale da qualificare il consenso, non può ritenersi soddisfatto se lo schema esecutivo dell’algoritmo e gli elementi di cui si compone restino ignoti o non conoscibili dagli interessati (Cass. Sent. n. 14381 del 25/05/2021).
4. Il principio di non esclusivita’ algoritmica
Il principio di non esclusività algoritmica è una diretta derivazione di quanto sopra considerato, in quanto la tutela dei cittadini non può prescindere da un intervento dell’uomo. In questo contesto, non si può, troppo semplicisticamente, ritenere il procedimento amministrativo che si avvale di algoritmi, come una mera interazione fra uomo e macchina, laddove, addirittura, il processo automatizzato divenga in concreto dominante rispetto all’ attività dell’uomo; ma, più correttamente, un processo logico automatizzato concepito e validato dall’ uomo, in ossequio ad una chiara ratio normativa, che si avvale degli strumenti logico-matematici. Per quanto riguarda il rapporto con l’art. 22, par. 1, GDPR, lo sforzo dei giudici amministrativi è stato dunque rivolto principalmente a disinnescare, almeno in parte, la portata generale della norma sulla protezione dei dati, nel timore, per certi versi fondato, che possa ingessare l’ingresso delle tecnologie più innovative a favore di un più delicato gioco di pesi e contrappesi. L’utilizzo di algoritmi deve concretarsi, da una parte, come doverosa declinazione dell’art. 97 Cost., in coerenza con l’attuale evoluzione tecnologica (Cons. di Stato, Sez.VI sent. N. 2270 del 08/04/2019) e, dall’altro, qualificando addirittura l’algoritmo decisionale come modulo organizzativo e strumento istruttorio, in misura da inserirlo, a pieno titolo, in un contesto decisionale predefinito e retto dall’uomo (Cons. di Stato, sez. VI, sent. N. 881 del 04/02/2020).
5. Il principio di non discriminazione algoritmica
Il Consiglio di Stato ha considerato che l’attività algoritmica è ontologicamente caratterizzata dal forte rischio di generare un pregiudizio e, pertanto, implica, in prima battuta, un controllo preventivo sulla concreta applicazione dei principi di ragionevolezza, imparzialità e proporzionalità e, in fase successiva, sulla attendibilità del dato su cui si fonda la decisione, al fine di evitare provvedimenti erronei. Lo sforzo deve essere quello di incardinare correttamente il procedimento, analizzando severamente la correttezza dei dati su cui si fonda, per evitare che presupposti erronei, in termini di affidabilità del dato, possano generare degli esiti inevitabilmente altrettanto erronei. Viene pertanto introdotto il concetto logico-normativo della “qualità” del dato, che si tramuta automaticamente in qualità del procedimento e del provvedimento amministrativo.
6. L’accesso agli atti
Sotto l’aspetto dell’accesso agli atti in materia, la fa da padrone l’opera ermeneutica dei giudici amministrativi. Questi innanzitutto si sono sforzati di definire il ruolo del controinteressato nel contenzioso avente ad oggetto la legittimità e correttezza dell’algoritmo utilizzato, individuandolo nel proprio inventore e/o gestore fatte salve le problematiche di segreto industriale che potrebbero sorgere (Cons. di Stato, sez. VI, sent. N. 30 del 02/01/2020)[6].Nello stesso tempo però, gli stessi giudici amministrativi hanno precisato che la tutela della proprietà intellettuale ed industriale non può essere ostativa all’accesso agli atti del codice sorgente del programma, se ciò viene valutato in concreto funzionale e proporzionato all’interesse legittimo oggetto del giudizio (Tar Lazio -Roma- sez. III bis sent. n. 3742 del 21/03/2017 e 3769 del 22/03/2017)[7].
7. La motivazione dell’atto
La decisione amministrativa adottata sarà pienamente imputabile all’autorità ed all’organo competente in base alla norma attributiva del potere (Tar Campania- Napoli- sez. I sent. n. 3769 del 22/03/2017). Analogamente, sotto il profilo connesso della motivazione del provvedimento, partendo dal medesimo presupposto che l’algoritmo non vive di vita propria ma è il portato tecnico di una regola amministrativa, si giunge alla analoga conclusione che il provvedimento amministrativo dovrà, sempre e comunque, essere motivato dall’amministrazione procedente, anche nella parte nata dalla elaborazione algoritmica, indicando i dati e l’iter tecnico-logico attraverso cui sono state compiute le valutazioni presenti nella motivazione e nella decisione (Cons. di Stato, sez. VI, sent. n. 2270 del 08/04/2019).
8. La sindacabilita’ dell’atto
Il dibattito dottrinale sulla natura tecnica o amministrativa dell’algoritmo ha trovato un suo esito in senso favorevole ad una sua piena legittimità come provvedimento amministrativo, anche in ordine al profilo patologico della sua impugnabilità, che la giurisprudenza ha ormai fatto proprio in senso unanime. Difatti, il Consiglio di Stato, sez. VI, sent. n. 2270 del 08/04/2019, fra i vari aspetti già disaminati, ha posto un principio di chiusura del sistema affermando che l’algoritmo deve essere soggetto alla piena cognizione ed al pieno sindacato del giudice amministrativo[8]. In tal senso il giudice adito dovrà garantire la logicità e ragionevolezza del principio che sta alla base della regola tecnica, ovvero la coerenza rispetto al fine normativo che deve essere raggiunto. Alcuni criteri quali quelli della conoscibilità e comprensibilità dell’algoritmo potranno essere utili come indici di legittimità. Analogamente, le inesattezze relative al dato implicano un effetto inevitabilmente erroneo, nonostante la correttezza del processo, per effetto di una altrettanto inevitabile distorsione cognitiva (bias). A conti fatti, si giunge alla conclusione che, se si ammettesse che il processo decisionale attraverso l’uso di algoritmi decisionali possa sfuggire alle logiche giurisdizionali di tutela dei provvedimenti avversi, si verrebbe a creare una vera e propria zona franca che è inammissibile.
9. Algoritmi automatici ed algoritmi di trattamento
Un primo mattone su cui costruire delle categorie concettuali ben distinte fra di loro nasce dalla sentenza del Consiglio di Stato, sez. III, n. 7891 del 25/11/2021 in cui si opera, per la prima volta, un netto distinguo fra il concetto di algoritmo e quello di intelligenza artificiale. In un contenzioso relativo alla fornitura di dispositivi medici/pacemaker avverso la Azienda Regionale per l’innovazione e gli acquisti della Regione Lombardia, una azienda privata ha impugnato la aggiudicazione, sulla base del presupposto che non le fossero stati attribuiti dalla Commissione di Gara i punteggi dovuti per aver predisposto un algoritmo di prevenzione del trattamento delle tachiaritmie atriali. La caratteristica di questo algoritmo era quella di essere attivato da un operatore, piuttosto che essere generato automaticamente. La Commissione, dunque, aveva fatto una distinzione fra “algoritmi automatici” rispetto agli “algoritmi di trattamento”, qualora non fossero completamente automatizzati, attribuendo il massimo del punteggio solo ai primi. Il Tar inizialmente aveva dato ragione al ricorrente, in quanto il bando faceva riferimento al semplice concetto di “algoritmo” (secondo lo schema base input-elaborazione- risposta) e non di “algoritmo di intelligenza artificiale”. Il Consiglio di Stato invece ha finito per dissentire con le considerazioni dei giudici di prime cure, dando ragione all’originario aggiudicatario, sulla base della considerazione che la nozione di algoritmo, quando è applicata ai sistemi tecnologici, è ineludibilmente legata al concetto di automazione. I giudici di Palazzo Spada hanno ritenuto di focalizzare l’attenzione non sulla automazione del procedimento, ma sul fatto che l’Intelligenza Artificiale utilizza delle tecniche di “machine learning”, per cui non si segue più il comune schema logico input – elaborazione - effetto, ma si utilizzano tecniche che “elaborano costantemente nuovi criteri di interferenza tra dati e assumono decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico”.
10. Dal concetto di “Human in the loop” a quello di “Human in command”
Il pronunciamento probabilmente più famoso ed innovativo della giurisprudenza più recente è quello elaborato dal Consiglio di Stato con sent. 7003/2022, tramite la quale venivano annullate le note di AGEA - Agenzia per le erogazioni in agricoltura - con cui si comunicava la rielaborazione delle domande di pagamento per la Misura 13.1.1. “Indennità compensative per la zona montana” del PSR Campania 2014-2020, in seguito all’applicazione di un algoritmo di calcolo degli importi di riduzioni e sanzioni. In particolare, AGEA si era limitata ad esternare la applicazione di un nuovo algoritmo, senza dettagliarne i fondamenti ed il meccanismo informatico utilizzato, violando, secondo la parte ricorrente, i principi di motivazione funzionale ad un corretto contraddittorio procedimentale, nonché operando una modifica ex post del bando attuativo, senza espressa revoca ex art. 21 quinquies L.241/90. Il punto focale che rende esemplare la sentenza in parola è quello che declina, con una chiarezza estrema, il principio giuridico della necessità di assicurare il governo del procedimento amministrativo al controllo umano, in misura che questo si riveli come limite invalicabile di garanzia degli amministrati [9]. Questa giurisprudenza, così chiaramente espressa nei suoi principi portanti, rimane nel solco della sent. 2270/2019 e, ancor più in particolare, della sent. 881/2020 del Consiglio di Stato in cui viene già effettuato, anche se in misura più incidentale, un primo rimando al concetto matematico definito come HITL (Human in the loop) in cui si definiscono processi logici nei quali la interazione dell’uomo è descritta come imprescindibile a pena di inefficacia degli stessi.
Il Consiglio di Stato effettua peraltro un forte richiamo al più volte citato art. 22 GDPR, che è fondamento del più volte esplicato concetto di non esclusività della decisione algoritmica, per evitare il rischio che l’algoritmo possa incidere sulla sfera personale dell’uomo, senza una supervisione di un funzionario in grado di verificarne legittimità e logicità nella sua applicazione. In questo senso, si passa dal già espresso concetto di “Human in the loop” a quello ulteriore di “Human in Command” che evidenzia il dovere di intervento, in qualsiasi momento, del funzionario onerato di verificare la legittimità del procedimento amministrativo in essere, che ovviamente coincide, nella normativa nazionale, con la figura giuridica del responsabile del procedimento. Occorre comunque considerare che è progressivamente più complicato garantire una efficace azione del funzionario incaricato, a mano a mano che si passi, da algoritmi c.d. model based, ad algoritmi caratterizzati dal machine learning o dal deep learning[10].
Analogamente, la detta attività risulterà sempre più complessa passando da attività di carattere vincolato a quelle puramente discrezionali, per cui l’intervento del funzionario incaricato implicherà la conoscibilità delle specifiche tecniche, l’imputabilità della decisione all’amministrazione procedente e la natura non discriminatoria dell’algoritmo esaminato.
È emblematico, infine, come la più innovativa dottrina evidenzi che, se l’algoritmo presenta delle problematiche di conoscibilità, data la sua natura tecnico-matematica, ciò avvenga, a maggior ragione, con l’applicazione della intelligenza artificiale, che è, per sua essenza strutturale, non conoscibile e, pertanto, si aprono degli scenari inquietanti sulla effettività della tutela, in quanto il nucleo essenziale dei meccanismi di IA viene qualificato come black box, proprio per significarne la impossibilità di analisi[11].
11. La giurisprudenza di merito
Sotto il profilo della giurisprudenza di merito, il Tribunale del Lavoro di Velletri ha emesso l’ordinanza n. 5211 del 07/12/2022, con cui ha dichiarato illegittimo un algoritmo utilizzato dal MIUR che non considerava il punteggio come elemento fondante della attribuzione dell’incarico, con l’effetto di incardinare lo stesso a favore di aspiranti in posizione inferiore rispetto a quella riportata in graduatoria dal ricorrente. Analogamente, il Tribunale di Cassino, con la recente ordinanza collegiale n. 23 del 14/03/2023, condannava l’Ufficio Scolastico di Latina ad assegnare una sede scolastica, fatto salvo il risarcimento del danno ed il riconoscimento del punteggio maturato, ad un docente aspirante ad un incarico annuale ingiustamente pretermesso rispetto ad altri candidati recanti una posizione più bassa di graduatoria, in quanto ingiustamente considerato rinunciatario dal sistema informatico.
Tutto ciò scolpisce il principio per cui i processi logico - matematici vanno applicati nel limite della verifica della loro congruità alla norma giuridica sottesa e del criterio generale di ragionevolezza[12].
12. Brevi cenni all’ applicazione dell’Intelligenza Artificiale in ambito giudiziario.
Nel contesto sopra considerato, appare necessario dedicare un breve cenno finale a quella che è in assoluto l’ultima e più rischiosa frontiera dell’Intelligenza Artificiale, vale a dire la sua applicazione in ambito processuale[13]. L’utilizzo degli algoritmi decisionali in ambito giudiziario, da un lato, potrebbe offrire uno strumento deflattivo del contenzioso, di cui sono oberate le aule di giustizia, assolutamente prezioso, addestrandolo in procedimenti che possano conferire all’utente finale un elevato grado di attendibilità, fatta salva la garanzia di un intervento dell’uomo nei casi problematici. Tuttavia, la semplice acquisizione di testi di Legge pone un ostacolo non indifferente, considerando la tecnica normativa dei rimandi, oltre la necessità, diffusissima, di una interpretazione sistematica delle norme. Ma il vero ostacolo, probabilmente insormontabile, è costituito dalla interpretazione giurisprudenziale, a partire dai giudizi di merito, fino a quelli delle più alte giurisdizioni di legittimità, aventi valore c.d. nomofilattico, e pertanto difficilmente sussumibili in processi logico – matematici, persino con la mediazione dell’uomo[14].
Addestrare un algoritmo su banche dati di sentenze e decisioni giudiziarie sarebbe difficilissimo, ancor più nei giudizi di merito, in quanto manca, in genere, la enunciazione di un principio di legge. L’unico ambito in cui, al momento, si ritiene di poter valutare uno spiraglio di applicazione degli algoritmi è, esclusivamente, quello della giustizia predittiva, ossia la valutazione preventiva della opportunità di intraprendere un’azione giudiziaria effettuando un disamina, in termini statistici, dei precedenti in materia, prediligendo la giurisdizione di merito piuttosto che quella di legittimità, che implica delle valutazioni in punto di diritto che sfuggono ad una macchina, sia pure massimamente performante, anche in considerazione che nel nostro ordinamento, differentemente da quelli caratterizzati dalla common law anglosassone, il precedente giudiziario non è comunque vincolante. Cosa diversa è invece un utilizzo degli algoritmi in sede istruttoria per favorire l’esame incrociato di una pluralità di dati, che difficilmente sarebbe gestibile dall’uomo, in misura funzionale ad un giudizio comunque gestito in via ordinaria.
Il rischio più devastante di un algoritmo decisorio di natura giurisdizionale sarebbe quello del c.d. bias algoritmico, ovvero una distorsione cognitiva derivante da un errore nella predisposizione dello stesso, con un effetto di una altrettanto distorta elaborazione in una materia super sensibile in cui si pretende che il margine di errore debba tendere allo zero, con effetti facilmente immaginabili. È singolare pertanto concludere considerando come la materia giudiziaria rappresenti l’ultimo baluardo in cui l’uomo, indiscutibilmente, prevale sulla macchina, grazie alla sua capacità di costruzione del pensiero, al momento, insostituibile[15].
13. Conclusioni
L’utilizzo dei nuovi sistemi informatici automatizzati ha oggi posto le amministrazioni, ed il cittadino stesso, di fronte ad un bivio. Infatti, se da un lato sono innegabili i benefici e le potenzialità di applicazione in termini di efficienza ed efficacia del servizio, dall’altro ci si trova a confrontare con uno scenario totalmente nuovo in cui è necessario assumere le opportune cautele affinché l’uomo non rimanga al margine del sistema che lui stesso ha generato. Ritenere lo strumento informatico non più soltanto un mezzo di ausilio dell’amministrazione procedente ma, addirittura, fonte di automazione della decisione amministrativa, costringe a ripensare tutte le categorie del procedimento amministrativo in una chiave totalmente nuova e totalizzante, con importanti implicazioni sotto il profilo della valutazione di legittimità.
Si pensi semplicemente alla descritta difficoltà di garantire l’equilibrio fra l’utilizzo degli algoritmi e la conformità ai principi costituzionali di cui all’ art. 97 Cost. o agli istituti di partecipazione del procedimento amministrativo, ovvero agli obblighi di motivazione e conclusione del procedimento di cui alla L. 241/90 e ss.mm.ii., che appaiono sempre più impegnativi da contemperare, a mano a mano che si passa dalla fase istruttoria a quella decisoria e dall’ attività vincolata a quella discrezionale. Si è delineato così uno sforzo di innovazione che ha messo a dura prova le varie amministrazioni che hanno dovuto adeguarsi ad un cambiamento epocale, in termini di strumenti e formazione, ma anche e soprattutto in termini di forma mentis, rispetto al rapporto fra amministratori ed amministrati e che, inevitabilmente, costituisce una sfida per gli anni a venire.
[1] Questa metafora così efficace è stata utilizzata da L. VIOLA, L’intelligenza artificiale nel procedimento e nel processo amministrativo:lo stato dell’arte, in Foro Amministrativo, 2018, pag. 1619 ss.
[2] Questi principi sono sostanzialmente legati alla prima applicazione del CAD che ha inciso profondamente, sia sotto l’aspetto formale dell’atto, che del procedimento amministrativo in genere, nella misura descritta da E. CARLONI, I principi della legalità algoritmica. Le decisione automatizzate di fronte al giudice amministrativo, in Diritto Amministrativo, 2020, pag. 505 ss.
[3] Sulla rilevanza dell’iter giurisprudenziale nell’introduzione degli algoritmi in ambito amministrativo vedasi E. CARLONI, I principi della legalità algoritmica. Le decisione automatizzate di fronte al giudice amministrativo, in Diritto Amministrativo, 2020 , pag. 300 ss.
[4] Sul rapporto di compatibilità fra i tradizionali principi del diritto amministrativo e gli algoritmi vedasi E. CARLONI, Algoritmi su carta. Politiche di digitalizzazione e trasformazione digitale della amministrazioni in Diritto Pubblico, n. 2, 2019, pp.363 ss.
[5] Appare esiziale la valutazione di V. BRIGANTE, Evolving pathways of administrative decisions, Editoriale scientifica, Napoli, 2019, pag. 165 ss., in cui si afferma “transparency seems to be the kay of resolution”.
[6] Viene chiarito come l’utilizzo di sistemi informativi non sia sufficiente ad evitare l’accesso agli atti, in quanto la riservatezza dei loro produttori deve ritenersi interesse di minore rilevanza giuridica rispetto alla trasparenza del procedimento amministrativo. In tal senso è importante la sent. 8472/2019 del Consiglio di Stato.
[7] La sentenze citate dettano degli spunti fondamentali sul rapporto fra l’accesso agli atti ed il diritto di proprietà intellettuale, riconoscendone la diversa funzione teleologica, con l’esito che il diritto di ostensione degli atti, sotto forma di visione o estrazione copia, è comunque concesso nella misura in cui sia funzionale al perseguimento di un interesse legittimo ed esercitato in misura proporzionale allo stesso.
[8] Vedasi F. SAITTA, Le patologie dell’ atto amministrativo elettronico e il sindacato del giudice amministrativo, in Rivista di Diritto Amministrativo Elettronico, 2003.
[9] Come autorevolmente ha fatto notarei B. MARCHETTI, in The algorithmic administrative decision and the human in the loop, in BioLaw Journal, 2021, 2, 13, per rendere il principio di effettiva applicazione, si richiedono adeguate competenze tecniche da parte dell’uomo, anche al fine di scongiurare: “la cattura dell’umano da parte della macchina (c.d. effetto aggancio)”.
[10] B. MARCHETTI, The algorithmic administrative decision and the human in the loop, in BioLaw Journal, 2021, 2, pag.13
[11] Fondamentale in argomento F. PASQUALE, The black box society, The secret algorithms that control money and information, Londra, 2015, pag.144 ss.
[12] Importanti le riflessioni di M. CORRADINO sulla Intelligenza artificiale e pubblica amministrazione:sfide concrete e prospettive future, in www.giustizia-amministrativa.it, 2021
[13] A. GARDNER, An artificial Intelligence Approch to Legal Reasoning, 1987
[14] Appare illuminante la distinzione operata da A. VALITUTTI, Il valore vincolante del precedente di legittimità. La Corte di Cassazione fra nomofiliachia e nomopoietica, in Nuova Procedura Civile, 6, 2017, il quale afferma che : “Il ruolo della Cassazione è anche nomopoietico, ossia creativo, in quanto produce il diritto concreto, con aderenza allo specifico contesto fattuale e seguendo le esigenze di tutela che si muovono nel fondo di essa, un diritto che troverà applicazione in una molteplicità indeterminata di casi, ma sempre nei limiti della norma, sia pure nella sua massima potenzialità espressiva ed applicativa”.
[15] In ultima analisi si torna ad un rapporto fra uomo e macchina in cui quest’ultima deve essere strumento al servizio della società per razionalizzare i comportamenti e le relazioni umane. Vedasi F. BELLOMO, Il metodo scientifico in Diritto e scienza, 2015