L'ufficio senza finestre: quando l'algoritmo decide al posto dello Stato

Immaginate un ufficio senza finestre. Dentro, nessun funzionario: solo un programma che incrocia il vostro reddito, la vostra casa, i vostri debiti, e decide se siete sospetti. Non vi convoca, non vi spiega, non firma. Quando arriva la lettera, il sussidio è gia revocato e tocca a voi dimostrare di non aver frodato lo Stato. In Olanda questo ufficio e esistito davvero: si chiamava SyRI, e oltre 26 mila famiglie sono state accusate ingiustamente di frode tra il 2012 e il 2019, molte spinte in poverta dalla richiesta di restituire i sussidi (Agenda Digitale). Il governo cadde. La Corte dell'Aja, nel 2020, bloccò l'algoritmo per violazione dei diritti fondamentali.

Sono Thibault, vengo dal Belgio, e mi occupo della parte piu scivolosa dell'AI Act: quella in cui non è una banca a usare l'algoritmo contro di voi, ma lo Stato. Perché quando il software decide chi entra in graduatoria, chi merita il sussidio, chi è un evasore da controllare, non si discute di efficienza informatica. Si discute di potere pubblico. E il potere pubblico, in uno Stato di diritto, deve avere un volto, una firma, una motivazione che il cittadino possa contestare davanti a un giudice. L'avvocato del diavolo qui ha una sola domanda: cosa può davvero decidere una macchina al posto di un funzionario, e cosa resta in mano vostra.

La PA che usa l'algoritmo: perché è "alto rischio"

L'AI Act (Regolamento UE 2024/1689) costruisce una piramide del rischio. In cima, le pratiche vietate. Subito sotto, i sistemi ad alto rischio, elencati nell'Allegato III. E qui la pubblica amministrazione compare in forza. L'Allegato III qualifica come alto rischio, tra l'altro, i sistemi usati per valutare l'accesso a servizi pubblici essenziali e prestazioni di assistenza (sussidi, alloggi popolari, benefici sociali), quelli impiegati dalle forze dell'ordine, nella gestione della migrazione e dell'asilo e nell'amministrazione della giustizia (Agenda Digitale).

Tradotto: l'IA che assegna un posto all'asilo nido, che attribuisce una borsa di studio, che decide se siete da controllare per una frode fiscale, non è un gadget amministrativo. È un sistema sottoposto agli obblighi piu pesanti del regolamento: gestione del rischio, qualita dei dati, documentazione tecnica, registrazione degli eventi, trasparenza verso l'utente e — soprattutto — sorveglianza umana. Non è un dettaglio burocratico: è il riconoscimento che, quando lo Stato usa un algoritmo su un cittadino, lo fa entrando nei suoi diritti fondamentali.

Una precisazione onesta sulle date, perché qui circola molta confusione. Il divieto delle pratiche vietate (art. 5) si applica dal 2 febbraio 2025. Gli obblighi per i sistemi ad alto rischio dell'Allegato III erano attesi per il 2 agosto 2026, ma l'accordo politico sul cosiddetto "Digital Omnibus" del maggio 2026 ha proposto uno slittamento delle scadenze (con l'Allegato III spostato in avanti) (da verificare, perché l'iter di modifica del regolamento è in corso e il testo definitivo non è ancora consolidato) (Altalex). Il principio, però, non slitta: vale gia oggi nel diritto italiano, perché i giudici amministrativi lo avevano scritto prima dell'Europa.

I giudici italiani l'avevano gia detto: i tre principi del Consiglio di Stato

Mentre Bruxelles negoziava il regolamento, in Italia il Consiglio di Stato aveva gia tracciato i confini. Tutto nasce da un caso concretissimo: l'algoritmo che, con la "Buona Scuola", assegnava le sedi ai docenti spostando migliaia di insegnanti lontano da casa senza che nessuno sapesse spiegare il perché.

Con la sentenza n. 2270 dell'8 aprile 2019, la Sezione VI del Consiglio di Stato stabilì che l'uso di un algoritmo il cui funzionamento non è conoscibile viola i principi dell'azione amministrativa: imparzialita, pubblicita, trasparenza (Consiglio di Stato, sent. 2270/2019). Poche settimane dopo, con le sentenze gemelle nn. 8472, 8473 e 8474 del dicembre 2019, lo stesso collegio precisò e ampliò il quadro (IRPA).

Da questa giurisprudenza la dottrina e poi lo stesso Garante hanno estratto tre principi cardine, oggi pietre angolari di ogni decisione amministrativa automatizzata.

Principio	Cosa impone	Conseguenza per il cittadino
Conoscibilita	L'algoritmo deve essere comprensibile in ogni sua parte: autori, procedura, dati usati, priorita assegnate. Il segreto industriale del fornitore non puo essere invocato per nasconderlo.	Ho diritto di sapere come la macchina è arrivata alla decisione che mi riguarda.
Non esclusivita	La decisione non puo essere interamente automatizzata: deve esserci un intervento umano che controlli, validi o smentisca l'output algoritmico (principio del human in the loop).	Un funzionario in carne e ossa resta responsabile e deve poter dire di no alla macchina.
Non discriminazione	Il titolare deve adottare misure per ridurre opacita ed errori, evitando effetti discriminatori, anche indiretti, prodotti da dati distorti.	Non posso essere penalizzato perché l'algoritmo ha imparato i pregiudizi dei dati su cui è stato addestrato.

Sono gli stessi tre principi che il Garante per la protezione dei dati personali ha posto al centro del proprio "decalogo" sull'IA in ambito pubblico (provvedimento del 2023, elaborato in materia sanitaria ma di portata generale): conoscibilita, non esclusivita della decisione automatizzata, non discriminazione algoritmica (Garante Privacy). Il filo che li tiene insieme è l'art. 22 del GDPR, che vieta in via generale di sottoporre una persona a una decisione basata unicamente su un trattamento automatizzato quando produce effetti giuridici o incide significativamente su di lei.

Vale la pena fermarsi su un punto che la giurisprudenza ha chiarito con nettezza, perché è quello su cui le pubbliche amministrazioni provano sempre a sfuggire. Il fornitore del software — l'azienda privata che ha costruito l'algoritmo — non puo opporre il segreto industriale per tenere nascosta la logica del sistema. Il Consiglio di Stato lo ha detto senza giri di parole: chi vende un meccanismo informatico alla PA accetta le conseguenze in termini di trasparenza necessaria (Altalex). Significa che la clausola di riservatezza nel contratto d'appalto, per quanto blindata, cede davanti al diritto del cittadino di conoscere come è stato deciso il proprio destino. È un principio dirompente: ribalta il rapporto di forza tra il potere tecnologico del privato e la garanzia pubblica. La macchina puo essere proprietaria; la decisione che produce sul cittadino, no.

Il diritto del cittadino: non essere un numero

Mettiamo insieme i pezzi, perché qui sta il cuore della garanzia. Davanti a una decisione pubblica costruita su un algoritmo, il cittadino non è inerme. Ha, in combinato disposto tra GDPR e AI Act:

Un diritto alla decisione non interamente automatizzata. L'art. 22 GDPR opera ex ante, come divieto, non come semplice diritto di lamentela ex post: la regola è che l'uomo deve restare nel circuito decisionale (Garante Privacy).

Un diritto alla spiegazione. L'art. 86 dell'AI Act riconosce a chi è colpito da una decisione basata su un sistema ad alto rischio dell'Allegato III, con effetti giuridici o comunque significativi, il diritto di ottenere dal soggetto che lo utilizza spiegazioni chiare e significative sul ruolo del sistema e sugli elementi principali della decisione (Iusletter). La dottrina discute se sia un vero "diritto al codice" o solo un diritto alla motivazione comprensibile: nel dubbio, per il cittadino, è uno strumento in piu.

Un diritto alla motivazione, vecchio quanto la legge 241/1990: se la decisione algoritmica non è ricostruibile, il provvedimento è privo di motivazione e quindi annullabile. È la traduzione processuale della conoscibilita.

Non vi prometto che impugnare un atto algoritmico sia facile, né che vinciate (sarei un cattivo avvocato e violerei l'art. 17 del codice deontologico forense). Vi dico che gli appigli esistono, e sono robusti: un atto la cui logica non si puo ricostruire è, in linea di principio, un atto che non regge davanti al TAR.

La linea rossa: il divieto di social scoring

C'è poi un confine che lo Stato non puo varcare affatto, nemmeno con tutte le garanzie del mondo. L'art. 5 dell'AI Act, in vigore dal 2 febbraio 2025, vieta il social scoring: i sistemi che valutano o classificano le persone in base al comportamento sociale o a caratteristiche personali, anche solo inferite, per un certo periodo, quando ne deriva un trattamento pregiudizievole sproporzionato o in contesti diversi da quelli in cui i dati erano stati raccolti (Altalex).

È il classico esempio della distopia cinese del "punteggio del cittadino", ma il divieto europeo non guarda solo lontano. Vale per i governi e per i privati. Significa che lo Stato non puo costruire un punteggio reputazionale unico che, partendo da come pago le multe, mi nega l'accesso a un beneficio sanitario. Attenzione, però: il divieto non copre i sistemi di valutazione del merito creditizio basati su dati finanziari reali, né le classificazioni fondate su criteri professionali oggettivi (Lavorosi). La linea, qui, corre tra il giudizio mirato e legittimo e il giudizio morale generalizzato sulla persona.

Torniamo allora al caso da cui siamo partiti, perché spiega tutto. Il sistema olandese SyRI (System Risk Indication) incrociava enormi quantita di dati raccolti da agenzie statali e ministeri — livello di istruzione, situazione lavorativa e abitativa, debiti — per individuare possibili frodi assistenziali (IRPA). Il processo decisionale che portava alle accuse era inaccessibile: le famiglie venivano colpite senza poter contestare in tempo. Nel 2020 la Corte dell'Aja bloccò il sistema per violazione del GDPR e dei diritti umani. Il relatore speciale ONU Philip Alston denunciò l'attenzione sproporzionata che l'algoritmo riservava ai gruppi piu vulnerabili (Privacy Network). Ecco la sottigliezza della linea rossa: un algoritmo anti-frode che pesca tra istruzione, casa e debiti, e finisce per profilare i poveri come sospetti, è esattamente cio che il legislatore europeo ha voluto disinnescare. Non perché combattere le frodi sia illegittimo, ma perché farlo trasformando la condizione sociale in un indizio di colpa rovescia la presunzione su cui si regge uno Stato di diritto.

In Italia non abbiamo (per ora, da verificare) uno scandalo SyRI conclamato, ma il rischio è strutturale: ogni volta che l'INPS, l'Agenzia delle Entrate o un Comune adotta un sistema di profilazione del rischio per controlli e benefici, si entra nello stesso campo minato. La differenza tra l'Aja e Roma, domani, la faranno proprio quei tre principi del Consiglio di Stato: se l'algoritmo è conoscibile, se un funzionario controlla, se i dati non discriminano, il sistema regge. Se manca anche uno solo dei tre, il provvedimento è vulnerabile.

La giustizia predittiva e la riserva umana

Resta il terreno piu delicato: l'IA dentro il processo. Qui la tentazione ha un nome elegante, "giustizia predittiva", e un'idea seducente: dare al cittadino un calcolo della probabilita di vincere o perdere una causa, sulla base di migliaia di sentenze passate. L'idea ha un suo fascino — prevedibilita, deflazione del contenzioso — ma porta con sé un veleno: se il giudice futuro decide guardando cosa hanno deciso i giudici passati, la giurisprudenza si congela, l'errore si autoalimenta, e il caso concreto, irripetibile, scompare dentro la statistica.

Il legislatore italiano ha scelto la prudenza. La legge 23 settembre 2025, n. 132 ("Disposizioni e deleghe al Governo in materia di intelligenza artificiale"), pubblicata in Gazzetta Ufficiale n. 223 del 25 settembre 2025 ed entrata in vigore il 10 ottobre 2025, dedica due articoli proprio a questo (Gazzetta Ufficiale, via Biodiritto).

L'art. 14 regola l'IA nella PA: deve essere usata "in funzione strumentale e di supporto" all'attivita provvedimentale, "nel rispetto dell'autonomia e del potere decisionale della persona che resta l'unica responsabile" dei provvedimenti (ilpersonale.it). L'art. 15 fa lo stesso per la giustizia: l'IA è ammessa solo come supporto, mentre l'interpretazione della legge, la valutazione dei fatti e delle prove e l'adozione dei provvedimenti restano riservate al magistrato (Agenda Digitale).

È la riserva umana elevata a regola di legge: nessuna sentenza puo nascere da una macchina. A rafforzarla, l'8 ottobre 2025 il Consiglio Superiore della Magistratura ha approvato le proprie "Raccomandazioni sull'uso dell'intelligenza artificiale nell'amministrazione della giustizia", che escludono la giustizia predittiva nel senso di decisioni automatizzate e ammettono l'IA solo per compiti accessori (CSM, via RPLT) (contenuto specifico delle Raccomandazioni da verificare sul testo integrale).

Cosa fare, in concreto, se l'algoritmo decide su di voi

La teoria è bella, ma l'avvocato del diavolo lavora sul caso concreto. Se ricevete un provvedimento — una graduatoria sfavorevole, un sussidio negato, un controllo fiscale innescato da un sistema automatizzato — e sospettate che dietro ci sia un algoritmo, alcuni passaggi sono sempre praticabili.

Primo: chiedere accesso agli atti (l. 241/1990) e domandare espressamente se la decisione sia stata adottata, in tutto o in parte, mediante un sistema automatizzato, con quale logica e su quali dati. Se l'amministrazione non risponde o oppone il segreto del fornitore, ha gia un problema, perché la conoscibilita è un suo obbligo, non una vostra cortesia.

Secondo: verificare la presenza dell'intervento umano. Se il provvedimento risulta generato in serie, identico per migliaia di posizioni, senza traccia di una valutazione individuale, è in tensione con l'art. 22 GDPR e con il principio di non esclusivita. È un argomento spendibile davanti al giudice amministrativo.

Terzo: controllare la motivazione. Un atto che si limita a recepire l'output dell'algoritmo senza spiegarne i passaggi è, sul piano della l. 241/1990, un atto immotivato. E un atto immotivato è, in linea di principio, annullabile.

Non è una formula magica e non garantisce nulla — il giudizio amministrativo resta incerto e ogni caso ha la sua storia. Ma sapere che questi appigli esistono cambia il rapporto di forza: il cittadino smette di essere il destinatario passivo di una decisione opaca e torna a essere parte di un procedimento.

Cosa puo decidere un algoritmo pubblico, e cosa no

Tiriamo le somme, senza retorica. L'algoritmo pubblico non è il nemico: puo istruire pratiche, ordinare priorita, segnalare anomalie, far risparmiare tempo e denaro. Cio che non puo fare è decidere da solo sulla pelle del cittadino senza che nessuno controlli, senza che la logica sia conoscibile, senza che resti un uomo responsabile e firmatario.

Le tre garanzie minime — conoscibilita, non esclusivita, non discriminazione — non sono concessioni: sono il prezzo che lo Stato paga per poter usare la macchina. E la riserva umana, scritta oggi nella legge 132/2025, dice una cosa antica con parole nuove: che un provvedimento amministrativo e una sentenza non sono un calcolo, ma un atto di responsabilita. Qualcuno deve poterci mettere la faccia. E qualcuno, dall'altra parte, deve poterlo chiamare a risponderne.

Il giorno in cui accettiamo che un programma decida senza spiegazioni chi merita un sussidio o chi è colpevole, non avremo automatizzato l'amministrazione. Avremo abolito il diritto di difenderci. L'avvocato del diavolo, su questo, non transige.

Tutte le affermazioni di questo articolo sono ancorate a fonti verificabili e datate, citate inline. I dati riflettono le informazioni disponibili al 27 giugno 2026 e vanno verificati alla luce degli sviluppi successivi.