L’assenza dell’intervento umano in alcuni procedimenti amministrativi, totalmente delegati all’intelligenza artificiale, non è soltanto legittima ma anche desiderabile, perché rafforza il buon andamento e l’imparzialità. Tuttavia la procedura amministrativa informatizzata deve utilizzare degli algoritmi che siano trasparenti, per permetterne il sindacato da parte del giudice amministrativo
Consiglio di Stato, sez. VI, 8 aprile 2019, n. 2270
Dopo la sentenza n. 9227/2018 del Tar Lazio, che riaffermava la necessità di un apporto “umano” al procedimento amministrativo, il Consiglio di Stato (sentenza n. 2270/2019), che si è dovuto pronunciare sulle medesime procedure del MIUR per l’assegnazione dei posti ai docenti (c.d. piano straordinario), spinge l’acceleratore sull’informatizzazione della PA, pur individuando diverse cautele e problematicità nel passaggio tra procedure tradizionali e procedure informatiche.
I docenti contestavano che l’intera procedura di assegnazione dei posti del MIUR era stata gestita da un sistema informatico per mezzo di un algoritmo (il cui funzionamento sarebbe rimasto sconosciuto) ed era sfociata in provvedimenti privi di alcuna motivazione, senza l’individuazione di un funzionario dell’amministrazione che abbia valutato le singole situazioni ed abbia correttamente esternato le relative determinazioni provvedimentali.
Il Consiglio di Stato ha ritenuto illegittimo il procedimento amministrativo informatizzato del Ministero dell’Istruzione, ma non perché (come aveva ritenuto il TAR Lazio) l’intervento umano sia essenziale nella procedura.
Al contrario, nell’ottica di una maggiore digitalizzazione dell’amministrazione pubblica, il fatto che l’intera procedura sia demandata ad un sistema informatizzato è corretto e auspicabile nell’ottica di una maggiore efficienza ed economicità, con riferimento a procedura dove non vi sia l’esercizio di un potere discrezionale.
E non solo: l’esclusione dell’intervento umano, per operazioni meramente ripetitive e prive di discrezionalità, serve a evitare interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata.
Tuttavia tale digitalizzazione deve essere conforme ai principi fondamentali dell’attività amministrativa, che devono applicarsi alla regola tecnica seguita dall’algoritmo automatizzato.
Ciò vuol dire, in pratica, che l’algoritmo “delegato” alla decisione amministrativa deve essere pienamente conoscibile, e quindi sindacabile dal giudice amministrativo.
Il che comporta, tra le altre conseguenze, che la formula tecnica, che di fatto rappresenta l’algoritmo, deve essere corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice.
In mancanza della totale trasparenza e conoscibilità dell’algoritmo, nelle modalità dettagliate dalla sentenza in commento, la procedura informatizzata è illegittima e il provvedimento finale da annullare.
La premessa: la digitalizzazione dell’amministrazione pubblica è fondamentale per la qualità dei servizi ai cittadini e per l’efficienza ed economicità
Il Consiglio di Stato sottolinea quelli che ritiene gli indiscutibili vantaggi derivanti dalla automazione del processo decisionale dell’amministrazione mediante l’utilizzo di una procedura digitale ed attraverso un “algoritmo” – ovvero di unasequenza ordinata di operazioni di calcolo–che in via informatica sia in grado di valutare e graduare una moltitudine di domande.
L’utilità di tale modalità operativa di gestione dell’interesse pubblico è particolarmente evidente con riferimento a procedure seriali o standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale.
Ciò sarebbe, invero, conforme ai canoni di efficienza ed economicità dell’azione amministrativa (art. 1 l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale.
L’amministrazione-robot non solo è legittima, può essere anche preferibile all’intervento umano
Per questa ragione, in tali casi – ivi compreso quello di specie, relativo ad una procedura di assegnazione di sedi in base a criteri oggettivi – l’utilizzo di una procedura informatica che conduca direttamente alla decisione finale non deve essere stigmatizzata, ma anzi, in linea di massima, incoraggiata: essa comporterebbe, infatti, numerosi vantaggi quali, ad esempio, la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata.
Pertanto, secondo il Consiglio di Stato, non solamente l’esclusione dell’intervento del funzionario persona fisica rispetta i principi dell’attività amministrativa, ma addirittura serve a rinforzarne l’imparzialità.
Niente di più lontano da quanto affermato dal Tar Lazio citato, sentenza n. 9227/2018, secondo cui le procedure amministrative informatiche, nonostante il loro maggior grado di precisione e addirittura alla perfezione, non possono mai soppiantare l’attività cognitiva, acquisitiva e di giudizio che solo un’istruttoria affidata ad un funzionario persona fisica è in grado di svolgere.
Al contrario, secondo i giudici di Palazzo Spada, l’assenza di intervento umano in un’attività di mera classificazione automatica di istanze numerose, secondo regole predeterminate (che sono, queste sì, elaborate dall’uomo), e l’affidamento di tale attività a un efficiente elaboratore elettronico appaiono come doverose declinazioni dell’art. 97 Cost. coerenti con l’attuale evoluzione tecnologica.
Il procedimento amministrativo informatico e le regole fondamentali dell’attività amministrativa da applicare anche all’algoritmo
L’utilizzo di procedure “robotizzate” non può, tuttavia, essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa.
Pertanto il provvedimento del Consiglio di Stato si sforza di individuare il rapporto tra le regole amministrative e l’algoritmo.
Difatti, la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva.
Questa regola algoritmica, quindi, deve rispettare le quattro condizioni previste dalla sentenza:
- possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale, come si è detto, deve soggiacere ai principi generali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 l. 241/90), di ragionevolezza, di proporzionalità, etc.;
- non può lasciare spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili (e ciò la rende in parte diversa da molte regole amministrative generali): la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è quindi da rintracciarsi al momento dell’elaborazione dello strumento digitale
- vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning);
- deve contemplare la possibilità che sia il giudice a dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica, con la conseguenza che la decisione robotizzata impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti.
In definitiva, secondo i giudici di Palazzo Spada, l’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”, con i conseguenti corollari di questa qualificazione.
La prima cautela nel passaggio alla procedura informatizzata: la regola della piena trasparenza e conoscibilità dell’algoritmo
L’applicazione delle regole di cui sopra all’algoritmo, ad avviso della Sesta Sezione del Consiglio di Stato, comporta un duplice ordine di conseguenze, che sono altrettante cautele che devono essere seguite nel passaggio dal procedimento amministrativo tradizionale a quello informatico.
In primo luogo, il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola, anche se espressa in un linguaggio differente da quello giuridico.
Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti.
Ciò al fine di poter verificare che gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato.
In altri termini, il Consiglio di Stato rammenta che la “caratterizzazione multidisciplinare” dell’algoritmo (che richiede conoscenze tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la “formula tecnica” del medesimo sia comprensibile.
Tale formula tecnica, che di fatto rappresenta l’algoritmo, deve essere corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice.
La seconda cautela: la sindacabilità dell’algoritmo da parte del giudice amministrativo
In secondo luogo, oltre a essere conoscibile in sé, l’algoritmo deve anche essere soggetto alla piena cognizione, e al pieno sindacato, del giudice amministrativo.
La suddetta esigenza risponde infatti all’irrinunciabile necessità di poter sindacare come il potere sia stato concretamente esercitato, ponendosi in ultima analisi come declinazione diretta del diritto di difesa del cittadino, al quale non può essere precluso di conoscere le modalità (anche se automatizzate) con le quali è stata in concreto assunta una decisione destinata a ripercuotersi sulla sua sfera giuridica.
Solo in questo modo è possibile svolgere, anche in sede giurisdizionale, una valutazione piena della legittimità della decisione; valutazione che, anche se si è al cospetto di una scelta assunta attraverso una procedura informatica, non può che essere effettiva e di portata analoga a quella che il giudice esercita sull’esercizio del potere con modalità tradizionali.
In questo senso, la decisione amministrativa automatizzata impone al giudice di valutare in primo luogo la correttezza del processo informatico in tutte le sue componenti: dalla sua costruzione, all’inserimento dei dati, alla loro validità, alla loro gestione.
In secondo luogo, conseguente al primo, il giudice deve poter sindacare la stessa logicità e ragionevolezza della decisione amministrativa robotizzata, ovvero della “regola” che governa l’algoritmo.
La conseguenza pratica: il procedimento amministrativo è illegittimo se il funzionamento dell’algoritmo non è conoscibile e comprensibile
Alla luce delle riflessioni che il Consiglio di Stato ha realizzato sul procedimento amministrativo informatico, è stata ritenuta illegittima la procedura messa in atto dal Miur per l’assegnazione dei posti, sussistendo nel caso di specie la violazione dei principi di imparzialità, pubblicità e trasparenza, poiché, in particolare, non è dato comprendere per quale ragione le legittime aspettative di soggetti collocati in una determinata posizione in graduatoria siano andate deluse.
Infatti, coerentemente con le premesse di cui sopra, l’impossibilità di comprendere le modalità con le quali, attraverso il citato algoritmo, siano stati assegnati i posti disponibili, costituisce di per sé un vizio tale da inficiare la procedura.
L’art. 1, comma 100, della legge n. 107/15, prevede che: “i soggetti interessati dalle fasi di cui al comma 98, lettere b) e c), se in possesso della relativa specializzazione, esprimono l’ordine di preferenza tra posti di sostegno e posti comuni.
Esprimono, inoltre, l’ordine di preferenza tra tutte le province, a livello nazionale”; al successivo comma 101 si prevede che: “la provincia e la tipologia di posto su cui ciascun soggetto è assunto sono determinate scorrendo, nell’ordine, le province secondo le preferenze indicate e, per ciascuna provincia, la tipologia di posto secondo la preferenza indicata”.
I risultati scaturiti dalla procedura automatizzata, secondo la sentenza, paiono porsi in contrasto con le disposizioni, che ai fini dell’assegnazione dei posti prevedono lo scorrimento dei posti secondo le preferenze indicate da ciascun aspirante, che invece sembrerebbero essere state ignorate.
Il robot è meglio dell’umano: una china scivolosa?
La sentenza del Consiglio di Stato, pur apprezzabile nello sforzo di estendere i principi generali di diritto amministrativo anche alla creazione e al funzionamento dei logaritmi informatici, presenta diversi passaggi discutibili.
Tra tutti, quello in cui afferma che “l’utilizzo di una procedura informatica che conduca direttamente alla decisione finale non deve essere stigmatizzata, ma anzi, in linea di massima, incoraggiata: essa comporta (…) l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata”.
Ma il principio generale qui affermato con leggerezza, per cui l’informatica è superiore all’uomo, quanto meno sotto il profilo della garanzia di assoluta imparzialità dell’amministrazione, porta con sé delle conseguenze enormi, almeno potenzialmente.
Proprio nello stesso periodo della pubblicazione della sentenza veniva diffusa dalla stampa la notizia dell’utilizzo, da parte di una grande multinazionale, di un sistema informatico per determinare in modo automatico la produttività dei singoli dipendenti, e conseguentemente il licenziamento di quelli meno produttivi.
Se il principio è quello affermato dal Consiglio di Stato, per cui l’I.A. garantisce maggiore imparzialità e buon andamento rispetto alle persone fisiche, cosa impedisce di utilizzare un software del genere per i dipendenti pubblici, magari sotto l’insegna della lotta ai “fannulloni”?
