Le linee guida AgID e problematiche di responsabilità

Nel quadro della regolazione europea dell’Intelligenza Artificiale emerge una tensione di fondo ancora irrisolta: da un lato l’evoluzione di un sistema normativo sempre più orientato alla prevenzione e alla gestione del rischio, dall’altro la persistente difficoltà di individuare con chiarezza l’effettiva allocazione delle responsabilità quando il rischio si concretizza. È su questa asimmetria che si innesta la serie di approfondimenti dedicata a Contrattualizzazione e allocazione delle responsabilità nei modelli di IA: AI Act, NIS2 e profili critici, di Chiara De Filippo.

Dopo aver introdotto il quadro generale, questo contributo si concentra in particolare sulla NIS2, pilastro della nuova cybersicurezza europea, che ridefinisce obblighi, governance e resilienza delle infrastrutture digitali e dei servizi essenziali attraverso una logica di gestione continua del rischio e rafforzamento della supply chain.

Accanto all’AI Act e alla Direttiva (UE) 2024/2853, la NIS2 contribuisce così a delineare un ecosistema regolatorio sempre più strutturato sul piano della prevenzione, ma ancora in evoluzione sul versante della responsabilità.

Il ruolo di AgID nella governance dell’IA

Nel sistema italiano di governance della trasformazione digitale della Pubblica Amministrazione, un ruolo centrale è attribuito all’Agenzia per l’Italia Digitale (AgID), cui il Legislatore ha affidato funzioni di indirizzo strategico, coordinamento tecnico e supporto operativo nell’attuazione delle politiche di digitalizzazione. Il fondamento normativo di tali competenze è rinvenibile nel Codice dell’Amministrazione Digitale (D.Lgs. 82/2005), che attribuisce all’Agenzia il compito di promuovere l’innovazione tecnologica nella Pubblica Amministrazione e di garantire l’omogeneità dei processi di digitalizzazione attraverso l’adozione di standard tecnici, linee guida e raccomandazioni rivolte alle amministrazioni pubbliche[1].

In particolare, ai sensi dell’art. 71 del CAD, l’AgID è competente ad adottare linee guida volte a definire regole tecniche e operative per l’attuazione delle disposizioni in materia di amministrazione digitale, strumenti che assumono una funzione di indirizzo e coordinamento nell’ambito dell’azione amministrativa.

L’azione di AgID si colloca in una dimensione di regolazione prevalentemente tecnico-organizzativa, volta a fornire alle Amministrazioni indicazioni operative per un utilizzo responsabile e consapevole delle tecnologie di IA: l’Agenzia mira a orientare l’adozione di sistemi di Intelligenza Artificiale nella Pubblica Amministrazione secondo principi di sicurezza, qualità dei dati, tracciabilità delle decisioni algoritmiche e controllo umano sui processi automatizzati.

La funzione svolta da AgID può essere ricondotta a un modello di soft regulation, nel quale l’intervento regolatorio non assume la forma di norme primarie o secondarie, ma si realizza attraverso strumenti di indirizzo tecnico-amministrativo. Tali strumenti assumono particolare rilevanza in ambiti tecnologici caratterizzati da rapida evoluzione, come appunto quello dell’IA, nei quali il ricorso a regole tecniche flessibili consente di accompagnare l’innovazione senza irrigidire eccessivamente il quadro normativo.

Il ruolo di AgID deve inoltre essere letto nel quadro della più ampia governance multilivello dell’Intelligenza Artificiale, che vede l’interazione tra fonti e attori a livello europeo e nazionale. In particolare, le iniziative dell’Agenzia si inseriscono nel contesto delle politiche europee in materia di regolazione dell’IA, nonché nel più ampio sistema di norme relative alla sicurezza informatica e alla gestione del rischio digitale. In questo quadro, AgID svolge una funzione di raccordo tra il livello sovranazionale e quello nazionale, contribuendo alla traduzione operativa dei principi normativi europei in indicazioni applicative rivolte alle Amministrazioni Pubbliche italiane.

Le Linee Guida AgID sull’uso dell’IA nella Pubblica Amministrazione

Le Linee Guida per l’adozione di sistemi di Intelligenza Artificiale nella Pubblica Amministrazione elaborate dall’AgID rappresentano uno dei principali strumenti tecnico-organizzativi in materia, destinati a orientare le Amministrazioni nell’impiego di tecnologie algoritmiche.

Il documento dedicato all’adozione dei sistemi di IA nella PA ha attraversato una fase di consultazione pubblica, ed è ora in attesa di pubblicazione del testo in via definitiva; la consultazione è stata avviata il 18 febbraio 2025 con Determinazione n. 17/2025[2] ed è terminata il 20 marzo 2025, consentendo a istituzioni, operatori e cittadini di presentare osservazioni e proposte[3].

Le Linee Guida si inseriscono inoltre nel più ampio contesto strategico delineato dal Piano Triennale per l’informatica nella Pubblica Amministrazione 2024-2026[4], adottato con D.P.C.M. 12 gennaio 2024, e trovano ulteriore fondamento nell’art. 2 del CAD, che definisce l’ambito soggettivo di applicazione della disciplina dell’amministrazione digitale.

Il documento si rivolge infatti a tutti i soggetti indicati al comma 2 di tale articolo – Amministrazioni centrali, Enti territoriali e altri Organismi pubblici – e si occupa delle modalità di progettazione, acquisizione e utilizzo dei sistemi di Intelligenza Artificiale all’interno delle loro attività istituzionali.

Dal punto di vista strutturale, le Linee Guida sono corredate da nove allegati tecnici, qualificati come “strumenti”, progettati per essere aggiornati con maggiore rapidità rispetto al testo principale, in modo da consentire un adeguamento continuo all’evoluzione tecnologica e normativa.

Uno degli elementi centrali del documento è rappresentato dall’approccio alla gestione del rischio connesso all’impiego dell’Intelligenza Artificiale nei processi amministrativi. In tale prospettiva, le Linee Guida non si limitano a promuovere l’innovazione tecnologica, ma definiscono un quadro metodologico volto a garantire che l’adozione dei sistemi di IA avvenga in modo controllato e conforme ai principi dell’azione amministrativa.

A partire dal capitolo 3 del documento si sviluppano, infatti, un insieme di principi fondamentali con lo scopo di guidare le Pubbliche Amministrazioni nell’adozione, nell’acquisto e nello sviluppo di sistemi di IA, e di assicurare che tali tecnologie siano impiegate in modo etico, responsabile e conforme alle normative vigenti, massimizzando al contempo i benefici per i cittadini e per l’efficienza amministrativa. In particolare, le Amministrazioni sono invitate ad adottare sistemi di Intelligenza Artificiale perseguendo obiettivi chiari e verificabili, quali l’automazione delle attività ripetitive, il miglioramento della personalizzazione dei servizi pubblici, il rafforzamento delle capacità predittive dei processi decisionali e la promozione dell’innovazione organizzativa.

L’IA è quindi concepita come uno strumento volto a liberare il personale da compiti meramente ripetitivi, consentendo una maggiore concentrazione su attività a più alto valore aggiunto, nonché a rendere i servizi pubblici più efficaci, tempestivi e proattivi attraverso l’analisi dei dati e l’utilizzo di modelli predittivi.

Le Linee Guida adottano inoltre come modello di riferimento il ciclo di vita dei sistemi di Intelligenza Artificiale elaborato dall’Organisation for Economic Co-operation and Development (OCSE), articolato in diverse fasi che accompagnano l’intero sviluppo e utilizzo del sistema: dalla pianificazione e progettazione iniziale, alla raccolta e preparazione dei dati, fino alla costruzione e all’addestramento dei modelli, alle attività di testing, validazione e messa in esercizio del sistema. A queste fasi seguono la fase di operatività e monitoraggio continuo – volta a verificare il corretto funzionamento del modello, l’eventuale insorgenza di bias e il raggiungimento degli obiettivi prefissati – e, infine, la fase di ritiro o disattivazione del sistema, che prevede la gestione sicura dei dati e la documentazione delle operazioni finali.

L’adozione di tale modello consente di inquadrare l’utilizzo dell’IA come un processo strutturato, nel quale le attività di controllo e valutazione devono essere integrate lungo tutto il ciclo di vita del sistema.

Il Capitolo 4 introduce, poi, un modello strutturato per l’adozione dei sistemi di Intelligenza Artificiale che si basa sul ciclo di miglioramento continuo Plan-Do-Check-Act (PDCA)[5] e sulle pratiche gestionali previste dallo standard internazionale ISO/IEC 42001:2023[6], che definisce i requisiti per i sistemi di gestione dell’IA.

L’obiettivo è fornire alle Amministrazioni un metodo organizzativo sistematico per pianificare, implementare, controllare e migliorare nel tempo l’utilizzo dell’IA. Le Linee Guida raccomandano che le PA adottino questo modello adattandolo alle proprie caratteristiche organizzative e al ruolo ricoperto nell’ecosistema dell’IA, ad esempio come fornitori del sistema o come soggetti che lo utilizzano (deployer). Nei casi in cui i sistemi presentino un livello di rischio limitato, minimo o nullo, le diverse fasi del processo possono essere semplificate o accorpate, in modo da evitare oneri organizzativi eccessivi.

L’elemento centrale di questo modello è l’adozione di un approccio iterativo e basato sul rischio. Ciò significa che l’introduzione e l’utilizzo dei sistemi di IA non devono essere considerati come un processo lineare, concluso una volta completata la fase di implementazione, ma come un ciclo continuo di pianificazione, verifica e miglioramento.

Di conseguenza – coerentemente con la logica risk-based adottata dall’AI Act – anche la valutazione dei rischi e degli impatti non è concepita come un’attività da svolgere una sola volta nella fase iniziale, ma come un processo costante, che accompagna l’intero ciclo di vita del sistema e si adatta all’evoluzione tecnologica, organizzativa e normativa.

In questa prospettiva, le Linee Guida raccomandano l’adozione di strumenti di audit e di meccanismi di monitoraggio continuo delle prestazioni dei modelli, finalizzati a individuare eventuali errori, distorsioni o effetti discriminatori derivanti dall’uso degli algoritmi.

Per ciò che riguarda la valutazione d’impatto dei sistemi, in particolare quelli qualificabili come ad alto rischio andrebbero sottoposti a specifiche procedure di analisi preventiva. Tali valutazioni comprenderebbero, ad esempio, la valutazione d’impatto sui diritti fondamentali (FRIA) e la valutazione d’impatto sulla protezione dei dati personali (DPIA), già previsti ai sensi del GDPR e dall’AI Act, i cui risultati andrebbero adeguatamente documentati e integrati nei processi decisionali dell’Amministrazione. In attesa dell’adozione di standard tecnici armonizzati a livello europeo, le Linee Guida suggeriscono inoltre di fare riferimento a standard internazionali in materia di gestione del rischio, quali la norma UNI ISO 31000 e la ISO/IEC 23894.

L’impostazione complessiva delle Linee Guida riflette, dunque, una logica regolatoria abbastanza dinamica e adattiva: da un lato, la previsione di una consultazione pubblica e di strumenti tecnici aggiornabili evidenzia la volontà di costruire un quadro regolatorio flessibile; dall’altro, l’attenzione posta sulla governance, sulla valutazione d’impatto e sulla gestione dei rischi mostra un approccio improntato nel concepire l’innovazione tecnologica come un processo che deve essere costantemente governato attraverso adeguati presidi organizzativi e procedurali.

La responsabilità della Pubblica Amministrazione nell’adozione di modelli di IA

Alla luce dei succitati principi, l’utilizzo di sistemi di Intelligenza Artificiale non può essere considerato un elemento idoneo ad escludere o attenuare la responsabilità dell’Amministrazione. Anche qualora una decisione sia supportata da un algoritmo, essa resta parte integrante dell’attività amministrativa e continua a essere imputabile alla Pubblica Amministrazione che ha scelto di adottare quello specifico strumento tecnologico.

A tal proposito, le Linee Guida invitano chiaramente a considerare l’Intelligenza Artificiale principalmente come uno strumento di supporto all’attività decisionale e non come un soggetto autonomo capace di sostituire la volontà dell’Amministrazione. Tale impostazione è coerente sia con il principio di supervisione umana previsto dal diritto europeo sia con le garanzie riconosciute dall’art. 22 del GDPR, che tutela gli individui rispetto alle decisioni basate unicamente su trattamenti automatizzati.

Le Linee guida attribuiscono un ruolo centrale alla governance interna dell’ente. In particolare, la sezione dedicata alla governance individua negli organi direttivi della Pubblica Amministrazione il livello decisionale responsabile dell’approvazione della strategia di adozione dell’IA, dell’assegnazione delle responsabilità organizzative e dell’allocazione delle risorse necessarie per la sua implementazione.

Secondo le raccomandazioni dell’AgID, gli organi direttivi sono inoltre chiamati a supervisionare l’intero processo di integrazione delle tecnologie di IA nei servizi pubblici, garantendo che tali strumenti siano utilizzati in modo conforme alla normativa vigente e ai principi di buona amministrazione.

All’interno di questo assetto organizzativo, il Responsabile per la Transizione al Digitale (RTD) è individuato dalle Linee Guida come figura di coordinamento e la responsabilità della strategia di Intelligenza Artificiale dell’ente. L’AgID suggerisce che il RTD sia il soggetto predisposto ad assicurare la conformità dei sistemi di IA alle prescrizioni normative e alle stesse Linee guida, a riferire agli organi direttivi sull’andamento delle attività e a garantire la presenza di adeguati meccanismi di supervisione umana, soprattutto nei casi di sistemi classificati come ad alto rischio. Accanto a tale figura opererebbe poi l’Ufficio per la Transizione al Digitale (UTD), che supporta il RTD nella gestione operativa delle soluzioni di IA e nello sviluppo delle competenze tecniche necessarie.

Un ulteriore soggetto coinvolto nel processo è il Responsabile della Protezione dei Dati (RPD) che, sempre secondo le Linee Guida, sarebbe chiamato a partecipare alla definizione della strategia di utilizzo dell’IA per garantire il rispetto della normativa in materia di protezione dei dati personali. Il suo ruolo include, tra l’altro, la conduzione delle valutazioni di impatto sulla protezione dei dati (DPIA) e la verifica della conformità dei trattamenti effettuati dai sistemi di IA alla disciplina europea in materia di privacy.

La responsabilità dell’Amministrazione emergerebbe dunque in modo particolarmente evidente in tutte le diverse fasi del ciclo di vita dei sistemi di Intelligenza Artificiale: selezione e classificazione in base al rischio (cioè verificare che la tecnologia adottata rientri nella definizione di “sistema di IA” prevista dall’AI Act e procedere alla sua classificazione in base al livello di rischio); configurazione; addestramento con dati tracciabili; valutazione dell’impatto sui diritti; utilizzo operativo con monitoraggio continuo; supervisione umana.

In questo contesto assumono particolare rilievo i modelli di controllo denominati human-in-the-loop[7], human-on-the-loop e human-in-command, che assicurano rispettivamente la possibilità di influenzare l’output del sistema, di intervenire sui parametri che lo determinano e di determinarne l’utilizzo nei processi decisionali.

Un ulteriore, fondamentale, profilo di responsabilità riguarda il rapporto tra l’Amministrazione e i fornitori esterni di tecnologie di IA.

Anche quando il sistema è sviluppato da soggetti privati, AgID raccomanda che le Pubbliche Amministrazioni effettuino, ove possibile, una verifica preliminare della conformità dei sistemi di IA ai requisiti applicabili (ad es. AI Act, NIS2) – verifica che costituisce una best practice tecnico‑amministrativa volta a rafforzare la compliance – e che richiedano ai fornitori adeguate garanzie, anche attraverso certificazioni e documentazione tecnica.

Tale ultima previsione – di dubbia praticità ed efficacia applicativa – oltre a presupporre un grado di preparazione piuttosto elevato del personale pubblico coinvolto, non sembra ammettere, dunque, alcuna ipotesi di delega di responsabilità pubblica né limitazione di responsabilità nei confronti dei cittadini, poiché l’Amministrazione resterebbe titolare dei dati trattati e assicurerebbe a questi ultimi la tutela dei loro diritti anche qualora si avvalesse di soluzioni tecnologiche sviluppate da terzi.

In aggiunta a ciò, i principi di trasparenza e informazione richiedono che le Amministrazioni indichino in modo chiaro quali sistemi di IA vengono utilizzati, con quali finalità e con quali modalità vengono trattati i dati personali. In particolare, si raccomanda che quando un cittadino interagisca con un sistema automatizzato, egli debba essere informato del fatto che la comunicazione avviene tramite un sistema di IA e che è comunque garantita la possibilità di richiedere l’intervento di un operatore umano[8].

Questi principi, già elaborati dalla giurisprudenza e dal diritto sovranazionale, trovano conferma nella L. 23 settembre 2025, n. 132, che pone al centro di ogni attività di sviluppo e utilizzo dei sistemi IA l’autodeterminazione umana[9]. Il legislatore italiano, in linea con quello europeo, adotta un approccio prudenziale basato sulla cosiddetta “riserva di umanità”[10], qualificando l’IA come strumento al servizio della Pubblica Amministrazione: utile al supporto istruttorio ma non destinato a sostituirla nel processo decisionale, che resta prerogativa dell’intervento umano.

Nel complesso, emerge come la responsabilità della Pubblica Amministrazione non derivi dall’esistenza dell’algoritmo in quanto tale, ma dalle modalità con cui esso viene selezionato, configurato e utilizzato nel contesto dell’attività amministrativa.

Il quadro normativo italiano sull’IA nella PA: l’art. 30 del Codice dei contratti pubblici e la legge 23 settembre 2025, n. 132

I principi appena richiamati hanno trovato di recente una specifica declinazione normativa nell’ordinamento italiano, attraverso due interventi che si muovono su piani distinti ma convergenti: l’art. 30 del nuovo Codice dei contratti pubblici (D.Lgs. 31 marzo 2023, n. 36)[11] e la legge 23 settembre 2025, n. 132, recante Disposizioni e deleghe al Governo in materia di intelligenza artificiale[12].

L’art. 30 del Codice dei contratti pubblici è la prima disposizione di rango primario nell’ordinamento italiano a disciplinare in modo espresso l’utilizzo di procedure automatizzate, ivi inclusi i sistemi di Intelligenza Artificiale e le tecnologie di registri distribuiti, nel ciclo di vita dei contratti pubblici.

La norma riconosce alle stazioni appaltanti e agli enti concedenti la facoltà di automatizzare le proprie attività al fine di migliorarne l’efficienza (comma 1), ma ne subordina l’esercizio a precisi obblighi tecnici e procedurali.

In fase di acquisto o sviluppo delle soluzioni tecnologiche il comma 2 impone, da un lato, la disponibilità del codice sorgente, della relativa documentazione e di ogni elemento utile a comprenderne le logiche di funzionamento; dall’altro, l’inserimento, negli atti di indizione delle gare, di clausole volte ad assicurare le prestazioni di assistenza e manutenzione necessarie alla correzione degli errori e degli effetti indesiderati derivanti dall’automazione.

Particolarmente significativo è il comma 3, che positivizza i tre principi cardine già elaborati dalla giurisprudenza amministrativa³ e ai quali devono conformarsi le decisioni assunte mediante automazione. Il principio di conoscibilità e comprensibilità riconosce a ogni operatore economico il diritto di sapere se è coinvolto in un processo decisionale automatizzato e di ricevere informazioni significative sulla logica utilizzata. Il principio di non esclusività della decisione algoritmica esige che nel processo decisionale sia sempre presente un contributo umano in grado di controllare, validare o smentire la decisione automatizzata.

Il principio di non discriminazione algoritmica impone l’adozione di misure tecniche e organizzative idonee a impedire effetti discriminatori nei confronti degli operatori economici. Il comma 4 chiude il quadro prescrivendo alle amministrazioni l’obbligo di adottare ogni misura tecnica e organizzativa atta a rettificare i fattori che comportano inesattezze dei dati e a minimizzare il rischio di errori, configurando un vero e proprio dovere di gestione del rischio algoritmico calibrato sulla ratio dell’AI Act.

L’art. 30 si segnala come la prima positivizzazione, nell’ordinamento italiano, della c.d. «riserva di umanità» e dei correlati principi di trasparenza, sindacabilità e non discriminazione delle decisioni automatizzate. La norma anticipa, in chiave settoriale, alcuni dei nodi affrontati dal Regolamento (UE) 2024/1689 e assume rilievo anche sul piano contrattuale: l’obbligo di disponibilità del codice sorgente e della documentazione tecnica, unitamente alle clausole di assistenza e manutenzione, fornisce un primo modello di clausole inderogabili nei rapporti tra stazione appaltante e fornitore di soluzioni di IA, suscettibile di estensione, in via interpretativa o per progressivi interventi normativi, ad altri ambiti dell’azione amministrativa.

Su un piano più generale interviene la legge 23 settembre 2025, n. 132, in vigore dal 10 ottobre 2025. Si tratta del primo quadro normativo organico italiano in materia di Intelligenza Artificiale: la legge si propone di disciplinare i settori rimessi alla competenza degli Stati membri dal diritto dell’Unione e di dare attuazione coordinata al Regolamento (UE) 2024/1689. Articolata in sei capi, introduce principi generali in materia di ricerca, sperimentazione, sviluppo, adozione e applicazione dei sistemi di IA, in una dimensione espressamente antropocentrica e nel rispetto dei diritti fondamentali (artt. 1-6).

Di particolare rilievo, ai fini della presente trattazione, è l’art. 14, dedicato all’utilizzo dell’IA nella Pubblica Amministrazione. La disposizione finalizza l’impiego di tali sistemi all’incremento dell’efficienza dell’attività amministrativa, alla riduzione dei tempi procedimentali e al miglioramento dei servizi resi a cittadini e imprese, ma precisa che esso deve avvenire «in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti in cui sia stata utilizzata l’intelligenza artificiale». La norma ribadisce inoltre il principio di conoscibilità del funzionamento dei sistemi e di tracciabilità del loro utilizzo, ponendo a carico delle amministrazioni l’adozione delle misure tecniche, organizzative e formative necessarie a un impiego responsabile.

A completamento del quadro intervengono altre disposizioni di sistema. L’art. 13 disciplina l’uso dell’IA nelle professioni intellettuali, qualificandola come strumento di supporto e ribadendo la prevalenza del lavoro umano e intellettuale. L’art. 20 designa l’Agenzia per l’Italia digitale (AgID) e l’Agenzia per la cybersicurezza nazionale (ACN) quali autorità nazionali competenti per l’attuazione della normativa europea e nazionale, con una distribuzione di funzioni che attribuisce ad AgID compiti di promozione e sviluppo e ad ACN compiti di vigilanza, anche ispettiva e sanzionatoria, e di sicurezza. L’art. 26, infine, introduce il nuovo art. 612-quater del codice penale, finalizzato a reprimere la diffusione di contenuti generati o alterati con sistemi di IA che cagionino un danno ingiusto alla persona rappresentata.

La legge n. 132/2025 contiene, inoltre, una delega al Governo (art. 24) per l’adozione, entro dodici mesi dall’entrata in vigore, di decreti legislativi destinati a introdurre, fra l’altro, una disciplina organica relativa all’uso di dati, algoritmi e metodi matematici per l’addestramento dei sistemi di IA, nuove fattispecie di reato in caso di uso illecito dell’IA e strumenti di tutela civile per i soggetti danneggiati. Si tratta di una delega particolarmente significativa: è destinata, almeno in parte, a colmare la lacuna nazionale sulla responsabilità civile da sistemi di IA, ferma restando la cornice europea derivante dalla Direttiva (UE) 2024/2853.

Letti congiuntamente, l’art. 30 del Codice dei contratti pubblici e la legge n. 132/2025 configurano un assetto regolatorio italiano coerente con i principi europei di responsabilizzazione, trasparenza e supervisione umana[13]. Permangono, tuttavia, profili di incertezza non secondari: l’attesa dei decreti delegati di attuazione, la mancanza di un coordinamento espresso con le Linee guida AgID di cui al paragrafo precedente e la perdurante indeterminatezza, sul piano applicativo, dei criteri di ripartizione della responsabilità tra Pubblica Amministrazione e fornitore tecnologico. Sono nodi che, come si vedrà nel capitolo successivo, lo strumento contrattuale è chiamato a contribuire a sciogliere.

IA, sicurezza e responsabilità per incidenti e malfunzionamenti. Applicazioni pratiche

Nonostante le previsioni di carattere teorico-normativo appena enunciate, resta fondamentale considerare che, sul piano sostanziale, i sistemi di IA presentano rischi piuttosto eterogenei.

Tra i principali si segnalano gli errori algoritmici, che possono derivare da bug, cattiva progettazione o comportamenti imprevisti del modello; i bias nei dati, che rischiano di generare discriminazioni o decisioni distorte; i malfunzionamenti tecnici, inclusi errori di configurazione o di aggiornamento; e le vulnerabilità informatiche, che espongono dati e sistemi ad attacchi esterni.

La responsabilità nell’uso di sistemi algoritmici si dimostra dunque, nella pratica, complessa e multilivello. Quando un sistema di IA produce un errore, le conseguenze possono tradursi in decisioni amministrative illegittime e in danni concreti per i cittadini. Risulta, quindi, altrettanto complicato, in certi casi, individuare un unico soggetto responsabile in caso di danno[14].

Possono individuarsi, a tal proposito, tre principali aree di responsabilità[15]:

La prima riguarda la scelta e la gestione dei dati immessi nell’algoritmo: la Pubblica Amministrazione, in quanto titolare del procedimento e dei dati, come abbiamo avuto modo di analizzare, è tenuta, nei casi previsti dalla normativa applicabile, a garantire la correttezza e la completezza degli input. AgID e le best practices raccomandano che la PA adotti procedure documentate di selezione e controllo dei dati: la fase di selezione dei dati è cruciale, perché ogni errore negli input produce inevitabilmente output viziati. Si tratta di un ambito in cui la responsabilità ricadrebbe in maniera chiara sulla PA, che si fa carico di assicurare che l’algoritmo operi secondo le regole amministrative già stabilite.

La seconda area concerne il malfunzionamento del sistema stesso: questa area riguarderebbe esclusivamente i soggetti privati, quali l’ideatore del software o il produttore del sistema. Anche in presenza di input corretti, l’algoritmo può generare errori, ad esempio per fenomeni noti come “allucinazioni”, ossia produzione di dati non veritieri o inconsistenti. Il mancato inserimento di blocchi di sicurezza nei modelli self-learning costituirebbe un ulteriore esempio di possibile responsabilità del fornitore[16].

La terza area riguarda, invece, l’irragionevolezza del risultato prodotto: in questo caso, il sistema funziona correttamente e i dati sono corretti, ma la soluzione proposta risulta ingiustificata o incoerente.

In tale ultimo caso risulta fondamentale garantire il diritto alla conoscibilità e comprensibilità della decisione algoritmica da parte del soggetto umano[17] e, soprattutto, fornire una motivazione del provvedimento adeguata: la Pubblica Amministrazione manterrebbe, infatti, la possibilità di conformarsi oppure di discostarsi dal risultato prodotto dall’algoritmo; di conseguenza, la responsabilità della decisione finale rimarrebbe in capo alla stessa[18].

In ogni caso, sul punto, la giurisprudenza amministrativa sembra aver adottato un’impostazione di tipo antropocentrico nell’utilizzo dell’IA, ritenendo indispensabile individuare un centro di imputazione della decisione e della responsabilità capace di verificare la legittimità e la coerenza logica del risultato prodotto dall’algoritmo: la Pubblica Amministrazione che utilizza un algoritmo risponde del danno eventualmente subito dal soggetto destinatario degli effetti negativi del provvedimento algoritmico, ferma restando la possibilità di rivalersi sui singoli responsabili[19].

La responsabilità amministrativa si intreccia, poi, con gli obblighi di sicurezza digitale derivanti dalle normative esaminate: protezione dei dati e dei sistemi, misure di sorveglianza continua e tracciabilità di ogni operazione.

Nonostante però il nuovo quadro normativo in proposito, il problema della responsabilità, correlato alla difficoltà nella gestione del rischio, sul piano pratico, non scompare. Alcuni casi recenti illustrano la complessità della questione.

In Italia, ad esempio, l’utilizzo di algoritmi nei sistemi di valutazione delle offerte negli appalti pubblici ha sollevato questioni rilevanti circa i limiti del controllo giurisdizionale sulle decisioni automatizzate, come evidenziato in alcune pronunce del TAR Lazio, nelle quali il giudice amministrativo ha dovuto confrontarsi con la difficoltà di ricostruire il funzionamento dell’algoritmo e di individuare con precisione il soggetto responsabile dell’eventuale errore[20].

Problematiche analoghe sono emerse anche in altri contesti europei.

In Francia, l’algoritmo di risk scoring utilizzato dalla Caisse Nationale d’Allocations Familiales (CNAF) per individuare potenziali frodi nelle prestazioni sociali ha sollevato un caso particolarmente emblematico. Il sistema, addestrato su un insieme eterogeneo di variabili individuali, determina in modo automatizzato quali beneficiari sottoporre a controllo, senza che i criteri di selezione siano resi accessibili agli interessati. Nel 2024–2025, La Quadrature du Net e altre ventiquattro organizzazioni hanno contestato il meccanismo davanti al Conseil d’État, denunciandone i profili discriminatori e la totale opacità. Il Défenseur des Droits ha formalmente confermato che il sistema presenta caratteristiche strutturalmente discriminatorie, esercitando un impatto sproporzionato sulle fasce più vulnerabili della popolazione. Il contenzioso è attualmente pendente (2026)[21].

La difficoltà di ricostruire il funzionamento dell’algoritmo rende in questi casi particolarmente problematico dimostrare l’esistenza di un errore, individuare il nesso causale tra il sistema e il danno subìto dal cittadino e, di conseguenza, accertare la responsabilità della Pubblica Amministrazione.

Tale opacità non è peraltro un fenomeno isolato: un precedente rilevante è rappresentato dal caso SyRI nei Paesi Bassi, sistema automatizzato di rilevazione delle frodi nel welfare dichiarato illegittimo dalla District Court dell’Aja nel 2020 per violazione dei diritti fondamentali e mancanza di trasparenza[22].

Rilevante in tal senso può considerarsi la recente nomina di un software di IA denominato “Diella” quale Ministra di Stato per l’intelligenza artificiale del governo Rama (Albania), con il compito di supportare l’esecutivo nella gestione dei contratti pubblici e nell’analisi dei dati amministrativi[23].

L’esempio assume rilievo anche al di là del perimetro applicativo del diritto dell’Unione (l’Albania è Stato candidato all’adesione, ma non Stato membro, sicché il Regolamento (UE) 2024/1689 non si applica direttamente): il caso illustra in modo paradigmatico la difficoltà di controllare in modo completo il funzionamento di sistemi complessi anche quando l’IA è formalmente qualificata come strumento di supporto alle decisioni, e di prevenire ogni possibile errore, con conseguenze non di poco conto sotto il profilo della responsabilità pubblica.

La responsabilità formale delle decisioni resta comunque in capo all’Amministrazione, ma risultano evidenti le difficoltà che l’impiego di sistemi di IA comporta nella gestione e nella prevenzione dei rischi, nonché nell’individuazione delle conseguenze dannose eventualmente derivanti dal loro utilizzo.

Coordinamento tra Linee Guida AgID, AI Act e NIS2: dove si arresta la norma e interviene il contratto

Alla luce della regolazione normativa appena descritta, il coordinamento tra le Linee Guida AgID, il Regolamento europeo AI Act e la Direttiva NIS2 contribuisce a delineare un sistema normativo stratificato, complesso e indubbiamente articolato.

Le Linee guida AgID svolgono in particolare una funzione di raccordo operativo tra il quadro normativo europeo e l’attività concreta delle Amministrazioni Pubbliche, traducendo i principi generali stabiliti dall’AI Act in indicazioni organizzative e procedurali relative al ciclo di vita dei sistemi di IA, alla qualità dei dati, alla tracciabilità delle operazioni e alla supervisione umana.

Parallelamente, l’AI Act introduce una disciplina armonizzata a livello europeo fondata su un approccio basato sul rischio, imponendo specifici obblighi ai soggetti che sviluppano o utilizzano sistemi di IA, mentre la Direttiva NIS2 rafforza il profilo della sicurezza informatica, imponendo alle Amministrazioni e agli operatori di servizi essenziali l’adozione di adeguate misure di gestione dei rischi e di prevenzione degli incidenti informatici.

Nonostante l’apparente completezza di questo sistema regolatorio, permangono, tuttavia, criticità significative, soprattutto con riferimento al tema della responsabilità e la gestione del rischio che deriva da tali sistemi.

In particolare, come già evidenziato, né l’AI Act né la NIS2, così come le stesse Linee Guida AgID, si occupano di disciplinare in modo diretto il regime risarcitorio applicabile nei casi in cui l’utilizzo di tali sistemi produca effetti dannosi. La materia del risarcimento del danno resta infatti affidata ancora una volta alle discipline civilistiche nazionali, con la conseguenza che il quadro giuridico europeo sembra concentrarsi prevalentemente sull’imposizione di obblighi organizzativi e tecnici, senza incidere in modo determinante sulla ripartizione della responsabilità nei casi di danno già verificatosi e senza fornire indicazioni pragmatiche realmente utili sul piano applicativo.

In questo contesto emerge inoltre un ulteriore profilo problematico relativo alla distribuzione della responsabilità tra la Pubblica Amministrazione e il fornitore tecnologico. Le normative esaminate tendono infatti a soffermarsi prevalentemente sulla responsabilità dell’Amministrazione nei confronti del cittadino destinatario del provvedimento amministrativo, ribadendo l’impostazione antropocentrica secondo cui la decisione finale deve comunque essere imputabile a un soggetto umano. Rimane, invece, meno definito il rapporto “a monte” tra Amministrazione e sviluppatore del sistema di IA, soprattutto nei casi in cui il danno derivi da comportamenti o risultati dell’algoritmo che non erano pienamente prevedibili né evitabili al momento della progettazione o dell’adozione del sistema.

In queste situazioni, nonostante l’esistenza di un quadro regolatorio complesso, spesso risulta difficile risalire con precisione all’origine del malfunzionamento, lasciando una lacuna normativa che non viene colmata dalle attuali disposizioni.

Proprio in tali situazioni emerge con particolare evidenza il limite dell’intervento normativo: la regolazione dei rapporti tra Amministrazione e fornitore tecnologico viene spesso rimessa alla disciplina contrattuale che governa l’acquisizione e la gestione delle soluzioni di Intelligenza Artificiale.

In questa prospettiva, il contratto assume un ruolo centrale quale strumento di gestione del rischio tecnologico. Attraverso le clausole negoziali le Amministrazioni possono infatti disciplinare in modo più puntuale aspetti quali la manutenzione del sistema, gli aggiornamenti software, le garanzie di funzionamento, gli obblighi di sicurezza e le modalità di gestione degli eventuali malfunzionamenti. Tuttavia, proprio perché tali profili vengono affidati alla regolazione contrattuale, soprattutto nel contesto degli appalti pubblici possono determinarsi situazioni tra loro eterogenee, dipendenti dal contenuto concreto dell’accordo negoziale e dal grado di precisione delle clausole relative alla responsabilità e alla gestione dei rischi tecnologici.

Ne deriva che, pur in presenza di un articolato quadro normativo europeo e nazionale, la concreta allocazione del rischio connesso all’utilizzo dei sistemi di IA continua a dipendere in larga misura dalla struttura e dal tipo di tali rapporti contrattuali.

Questo dato conferma come il contratto possa assumere una funzione sempre più rilevante non soltanto nella regolazione dei rapporti economici tra Amministrazione e operatori tecnologici, né esclusivamente nei rapporti tra soggetti privati, ma più in generale quale strumento giuridico essenziale attraverso cui governare l’incertezza e le criticità che derivano dalla natura complessa e solo parzialmente prevedibile dei sistemi di Intelligenza Artificiale.

L’analisi della NIS2 conferma la direzione ormai consolidata del diritto europeo della cybersicurezza: un sistema sempre più orientato alla prevenzione del rischio, alla resilienza operativa e alla responsabilizzazione diffusa lungo la catena tecnologica. Tuttavia, proprio l’ampiezza e la complessità di questo impianto normativo lasciano aperti interrogativi centrali sulla concreta individuazione delle responsabilità quando gli strumenti di prevenzione non sono sufficienti a evitare l’evento dannoso.

Su queste premesse si innesta il prossimo approfondimento dedicato al ruolo del contratto come spazio di traduzione operativa delle regole europee e come possibile risposta alle zone grigie lasciate dal diritto regolatorio.

Per un inquadramento più ampio e sistematico, si invita inoltre a scaricare il white paper “Contrattualizzazione e allocazione delle responsabilità nei modelli di IA: AI Act, NIS2 e profili critici”, di Chiara De Filippo, che offre una ricostruzione organica dei rapporti tra AI Act, NIS2 e disciplina della responsabilità, chiarendo perché il tema della contrattualizzazione non è solo una scelta tecnica, ma uno snodo decisivo per comprendere come il rischio digitale viene oggi distribuito, governato e, in ultima istanza, giuridicamente imputato.

Fonti:

[1] Cfr. art. 14-bis D.Lgs. 82/2005 (CAD): “L’Agenzia per l’Italia Digitale (AgID) è preposta alla realizzazione degli obiettivi dell’Agenda Digitale Italiana, in coerenza con gli indirizzi dettati dal Presidente del Consiglio dei ministri o dal Ministro delegato, e con l’Agenda digitale europea. AgID, in particolare, promuove l’innovazione digitale nel Paese e l’utilizzo delle tecnologie digitali nell’organizzazione della pubblica amministrazione e nel rapporto tra questa, i cittadini e le imprese, nel rispetto dei principi di legalità, imparzialità e trasparenza e secondo criteri di efficienza, economicità ed efficacia. Essa presta la propria collaborazione alle istituzioni dell’Unione europea e svolge i compiti necessari per l’adempimento degli obblighi internazionali assunti dallo Stato nelle materie di competenza.” (co.1).

[2]https://trasparenza.agid.gov.it/page/103/details/5299/determinazione-n-17-del-17-febbraio-2025-avvio-delliter-di-consultazione-e-informazione-delle-linee-guida-per-ladozione-dellintelligenza-artificiale-nella-pubblica-amministrazione.html.

[3] La funzione di indirizzo e supporto svolta da AgID è esercitata in maniera permanente e continuativa: dal 12 marzo 2026 all’11 aprile 2026 sono state sottoposte a consultazione pubblica anche le “Linee Guida per lo sviluppo di sistemi di Intelligenza Artificiale nella Pubblica Amministrazione” e le “Linee Guida per il procurement di IA nella Pubblica Amministrazione”, adottate con la Determinazione n. 43/2026 (consultabile al sito: https://trasparenza.agid.gov.it/page/103/details/5557/determinazione-del-direttore-generale-n-43-del-10-marzo-2026-avvio-delliter-di-consultazione-e-informazione-delle-linee-guida-per-lo-sviluppo-e-il-procurement-dellintelligenza-artificiale-nella-pubblica-amministrazione.html).

[4] https://www.agid.gov.it/it/agenzia/piano-triennale.

[5] Il Plan–Do–Check–Act (PDCA) è un modello di gestione e miglioramento continuo dei processi, diffuso nella gestione della qualità e nei sistemi organizzativi. Il ciclo si articola in quattro fasi: Plan, in cui si pianificano obiettivi e attività; Do, in cui le azioni pianificate vengono attuate; Check, che consiste nella verifica dei risultati ottenuti rispetto agli obiettivi; e Act, fase in cui si adottano misure correttive o di miglioramento. Il processo è ciclico, poiché le informazioni raccolte nella fase finale alimentano una nuova pianificazione, consentendo un adattamento costante delle attività e una progressiva ottimizzazione dei risultati.

[6] “ISO/IEC 42001:2023 è uno standard internazionale che specifica i requisiti per stabilire, implementare, mantenere e migliorare continuamente un sistema di gestione dell’intelligenza artificiale (AIMS) all’interno delle organizzazioni. È progettato per le entità che forniscono o utilizzano prodotti o servizi basati sull’IA, garantendo uno sviluppo e un uso responsabili dei sistemi di intelligenza artificiale. È destinato a tutte le organizzazioni di qualsiasi dimensione coinvolte nello sviluppo, nella fornitura o nell’utilizzo di prodotti o servizi basati sull’IA. È applicabile in tutti i settori e pertinente per le agenzie del settore pubblico, nonché per le aziende o senza scopo di lucro.”, consultabile al sito: https://www.iso.org/standard/42001.

[7] Secondo l’approccio “human-in-the-loop”, i sistemi di IA devono essere utilizzati come strumenti di supporto all’attività amministrativa, senza sostituire il ruolo decisionale dell’essere umano. Ne deriva un modello di utilizzo dell’IA nella Pubblica Amministrazione fondato su un equilibrio tra efficienza algoritmica e tutela dei diritti fondamentali, che richiede la progettazione di sistemi trasparenti e controllabili, nonché la formazione del personale pubblico affinché possa esercitare in modo consapevole la funzione di supervisione.

[8] Anche l’art. 30 del d.lgs. n. 36/2023 (Codice dei contratti pubblici) richiede la disponibilità del codice sorgente e di ogni elemento idoneo a comprendere le logiche algoritmiche, nonché il rispetto dei principi di non discriminazione, conoscibilità, comprensibilità e della non esclusività della decisione algoritmica, prevedendo comunque l’intervento umano capace di controllare, validare o disattendere l’esito automatizzato. AgID la raccomanda nelle Linee Guida come misura di trasparenza.

[9] L’art. 14 della L. n. 132 del 2025, nel disciplinare l’uso dell’IA nelle Pubbliche Amministrazioni, precisa che queste «utilizzano l’intelligenza artificiale allo scopo di incrementare l’efficienza della propria attività, di ridurre i tempi di definizione dei procedimenti e di aumentare la qualità e la quantità dei servizi erogati ai cittadini e alle imprese, assicurando agli interessati la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo». Puntualizza, inoltre, che «[l]’utilizzo dell’intelligenza artificiale avviene in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti in cui sia stata utilizzata l’intelligenza artificiale»

[10] Sulla riserva di umanità si veda: Gallone G., Riserva di umanità e funzioni amministrative. Indagine sui limiti dell’automazione decisionale tra procedimento e processo, Padova, 2023.

[11] D.Lgs. 31 marzo 2023, n. 36, Codice dei contratti pubblici, consultabile al sito: https://www.normattiva.it/uri-res/N2Ls?urn:nir:stato:decreto.legislativo:2023;36.

[12] Legge 23 settembre 2025, n. 132, Disposizioni e deleghe al Governo in materia di intelligenza artificiale, consultabile al sito: https://www.normattiva.it/uri-res/N2Ls?urn:nir:stato:legge:2025-09-23;132.

[13] vd. Cons. St., sez. VI, Sent. nn. 2270/2019, 8472/2019, 881/2020.

[14] Sul punto: Ruffolo U. (a cura di), Intelligenza artificiale e responsabilità, Milano, 2017; Scognamiglio C., Responsabilità civile ed intelligenza artificiale: quali soluzioni per quali problemi?, in Resp. civ., n. 4/2023, 1073 ss.

[15] Del Vecchio P., Bignoli V., Le responsabilità amministrative da algoritmo e intelligenza artificiale. la responsabilità da provvedimento algoritmico sia ai fini del risarcimento del danno in sede civilistica che in sede contabile come responsabilità erariale, cit., 330 e ss.

[16] Ruffolo U., La responsabilità da artificial intelligence, algoritmo e smart product: per i fondamenti di un diritto dell’intelligenza artificiale self learning, cit., 107.

[17] Cons. St., Sez. VI, 4 febbraio 2020, n. 881.

[18] Cimini S., La responsabilità civile e amministrativa di fronte alle sfide dell’intelligenza artificiale, in CERIDAP, 2026.

[19] Cons. St., Sez. VI, 13 dicembre 2019, n. 8472: “[..] anche al fine di applicare le norme generali e tradizionali in tema di imputabilità e responsabilità, occorre garantire la riferibilità della decisione finale all’autorità ed all’organo competente in base alla legge attributiva del potere”.

[20] TAR Lazio-Roma (sez. II), Sent. 3 marzo 2025, n. 4546. Sul punto: Cesareo T., Intelligenza artificiale, discrezionalità tecnica e limiti del controllo giurisdizionale negli appalti pubblici italiani, in CERIDAP, n. 4/2025, 180 ss.: “Il rischio concreto è che la discrezionalità tecnica si trasformi in una sorta di schermo, quasi una cortina fumogena, dietro la quale l’opacità dell’intelligenza artificiale diventa sostanzialmente insindacabile. E questo [..] potrebbe costituire un vero e proprio “paradosso della deferenza”: quanto più complessa e opaca è la tecnologia, tanto meno efficace diventa, di fatto, il controllo giurisdizionale”.

[21] Sul punto: CNAF’s discriminatory scoring algorithm: 10 new organisations join the case before the Conseil d’État in France, 20 gennaio 2026, consultabile al sito: https://www.laquadrature.net; Discriminatory welfare risk-scoring algorithm, consultabile al sito: https://digitalfreedomfund.org.

[22] District Court dell’Aja, 5 febbraio 2020, ECLI:NL:RBDHA:2020:1878.

[23] Atelli M., Il ministro albanese fatto con l’Ai, legalità ed estremismi, in IlSole24Ore, 25 ottobre 2025, 14.