19 Luglio 2019

L'intelligenza artificiale si tinge di diritto

STEFANO CRISCI

Immagine dell'articolo: <span>L'intelligenza artificiale si tinge di diritto</span>

Abstract

La Sentenza del Consiglio di Stato Sez. VI dell’8 aprile 2019 n. 2270, tratta il delicato problema dell’automazione delle procedure amministrative, fissando dei principi cardine sulla interpretazione e declinazione dei provvedimenti adottati mediante le stesse e sui conseguenti profili di responsabilità amministrativa. L’affidamento di processi decisionali ad un algoritmo comporta che il risultato derivante da tale applicazione debba essere considerato un “atto amministrativo informatico”, con conseguente rispetto dei princìpi che formano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa, con conseguenti obblighi di trasparenza e conoscibilità.

***

Necessità di una disciplina normativa e di una regolazione del fenomeno

«L’assenza dell’intervento umano in alcuni procedimenti amministrativi, totalmente delegati all’Intelligenza Artificiale, non è soltanto legittima ma anche desiderabile, perché rafforza il buon andamento e l’imparzialità. Tuttavia la procedura amministrativa informatizzata deve utilizzare degli algoritmi che siano trasparenti, per ammettere il sindacato da parte del giudice amministrativo»[1].

Il diritto amministrativo non poteva non essere coinvolto dai temi di intelligenza artificiale e dagli algoritmi che la governano, unitamente al controllo etico dello stesso che necessariamente deve essere compiuto dall’uomo, in un ineludibile approccio antropocentrico, così come auspicato nella Comunicazione della Commissione Europea al Parlamento di quest’anno[2].

Il pur apprezzabile tentativo di organizzare la mole di dati che l’IA può mettere in correlazione, non può essere lasciato incontrollato, ma è necessaria una sua regolazione[3]. È indispensabile un suo controllo da parte dell’uomo, è necessario che vi sia il rispetto dei diritti fondamentali e, quindi, che il risultato dell’attuazione tecnologica contenga in sé tutti gli elementi necessari affinché il comportamento della P.A. sia conforme all’art. 97 della Costituzione e, quindi, sia sostanzialmente immune da vizi di legittimità.

Con due distinte decisioni, prima il TAR Lazio e poi il Consiglio di Stato, hanno dimostrato di essere assolutamente nel perimetro indicato dall’Unione Europea e, a livello nazionale, hanno immediatamente colto nel segno.

 

Il diritto di accesso si estende all’algoritmo: trasparenza, accessibilità e giustiziabilità.

Dopo la sentenza del TAR Lazio Roma, Sez. n. 9227 del 2018[4], che riaffermava la necessità di un “apporto umano” al procedimento amministrativo, il Consiglio di Stato con Sentenza  del 2019, sottolinea l’importanza dell’informatizzazione della PA, pur individuando diverse cautele e problematicità nel passaggio tra procedure tradizionali e procedure informatiche.

Nel caso di specie, i ricorrenti hanno proposto appello dinanzi al Consiglio di Stato nei confronti del Ministero dell’Istruzione, per avere quest’ultimo gestito la formazione delle graduatorie tramite uno specifico processo automatizzato (il c.d. algoritmo), il quale avrebbe prodotto una erronea lavorazione delle informazioni.

In particolare, docenti con diversi anni di servizio si sono ritrovati destinatari in ambiti territoriali non richiesti, mentre altri docenti con minori anni di servizio e con meno qualifiche, hanno beneficiato della classe di concorso prescelta.

I giudici di Palazzo Spada hanno ritenuto illegittimo il procedimento amministrativo informatizzato del MIUR, non per mancato “intervento umano” nella procedura digitale, bensì per l’assenza di spiegazioni in merito alla “regola giuridica” ad essa sottesa, che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice.

Sebbene, infatti, un’intera procedura sia demandata ad un sistema informatizzato e ciò sia corretto e auspicabile nell’ottica di una maggiore efficienza ed economicità della PA, la “caratterizzazione multidisciplinare” dell’algoritmo non esime, comunque, dalla necessità che la “formula tecnica” sia di fatto “accessibile” ai fini di un sindacato sulla propria legittimità.

L’esclusione dell’intervento umano, in particolare per operazioni meramente ripetitive e prive di discrezionalità, serve a evitare interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano), all’uopo garantendo maggiore garanzia di imparzialità della decisione automatizzata.

Resta inteso che, la digitalizzazione deve essere conforme ai principi fondamentali dell’attività amministrativa, i quali devono applicarsi alla regola tecnica seguita dall’algoritmo automatizzato. Ciò vuol dire, che l’algoritmo “delegato” alla decisione amministrativa deve essere pienamente conoscibile, e quindi sindacabile dal giudice amministrativo.

 

Conclusioni

Nonostante, i giudici amministrativi abbiano ben apprezzato delle tecnologie informatiche nei procedimenti amministrativi, ivi incluso l’utilizzo di algoritmi coerenti con i principi di efficienza ed economicità dell’azione amministrativa e con il principio di buon andamento posti dalla Costituzione, essi hanno, altresì, espressamente precisato che l’eventuale provvedimento derivante dall’uso di algoritmi e di procedure automatizzate debba essere considerato, a tutti gli effetti, come un «atto amministrativo informatico», regola amministrativa costruita dall’uomo; che dovrà necessariamente conformarsi a principi di ragionevolezza, proporzionalità, pubblicità e trasparenza.

In ogni caso, gli algoritmi dovranno comunque essere sottoposti «al pieno sindacato del giudice amministrativo».

In conclusione, può dirsi che è più corretto affermare almeno una breve serie di principi cardine per il futuro “tecnologico” della nostra convivenza civile e per l’Amministrazione: che l’algoritmo sia progettato correttamente; che vi sia un controllo ex ante ed ex post su di esso, al fine di garantire, che le applicazioni di Intelligenza Artificiale si conformino anche a criteri, rispondenti a consolidate garanzie costituzionali, nazionali ed euro-unitarie; che, quindi, l’algoritmo sia accessibile, conoscibile, e possa essere oggetto della piena cognizione da parte del Giudice.

 

 

Altri Talks