AI Act e NIS2: responsabilità, gestione del rischio e contratti nell’Intelligenza Artificiale

L’Intelligenza Artificiale è ormai entrata stabilmente nei processi aziendali, professionali e istituzionali, rendendo sempre più urgente la definizione di regole capaci di governarne rischi, responsabilità e modalità di utilizzo. In questo contesto, il legislatore europeo ha avviato un importante percorso normativo volto a coniugare innovazione, sicurezza e tutela dei diritti.

Con questo articolo inauguriamo una serie di approfondimenti dedicati al nuovo quadro regolatorio europeo dell’IA, prendendo le mosse dal white paper “Contrattualizzazione e allocazione delle responsabilità nei modelli di IA: AI Act, NIS2 e profili critici” di Chiara De Filippo.

L’analisi si concentra su una questione centrale: se AI Act e NIS2 definiscono obblighi, standard e misure di gestione del rischio, chi determina concretamente la distribuzione delle responsabilità tra i soggetti coinvolti? È proprio in questo spazio che il contratto assume un ruolo sempre più rilevante, integrando la disciplina normativa e contribuendo all’allocazione dei rischi lungo l’intera filiera dell’Intelligenza Artificiale.

Negli ultimi anni l’Intelligenza Artificiale ha assunto un ruolo sempre più centrale nei processi economici, sociali e istituzionali, incidendo profondamente sulle modalità di produzione, gestione e utilizzo delle informazioni.

I sistemi di IA, in particolare quelli basati su tecniche di apprendimento automatico e su architetture di deep learning, sono oggi impiegati in una pluralità di ambiti – dai servizi digitali alla ricerca scientifica, dalla sanità alla pubblica amministrazione – contribuendo a trasformare in modo significativo l’organizzazione delle attività economiche e delle relazioni giuridiche tra gli operatori.

La crescente diffusione di tali tecnologie ha posto il Legislatore di fronte alla necessità di elaborare strumenti normativi idonei a governare i rischi connessi al loro utilizzo, garantendo al tempo stesso lo sviluppo dell’innovazione tecnologica.

In questo contesto si inserisce il progressivo consolidamento di una disciplina europea dell’intelligenza artificiale, culminato nell’adozione del Regolamento (UE) 2024/1689 (AI Act), primo intervento organico volto a regolamentare i sistemi di IA attraverso un approccio basato sul rischio. A tale disciplina si affianca la Direttiva (UE) 2022/2555 (NIS2), che rafforza il quadro europeo di sicurezza informatica e introduce obblighi di gestione del rischio e di resilienza digitale per un ampio numero di operatori economici e istituzioni pubbliche.

Sebbene tali strumenti normativi perseguano finalità in parte differenti, essi concorrono a delineare un sistema di governance delle tecnologie digitali fondato su principi di prevenzione, sicurezza e responsabilizzazione degli operatori.

Tuttavia, la complessità tecnica dei sistemi di Intelligenza Artificiale e la pluralità di soggetti coinvolti nella loro progettazione, sviluppo e utilizzo rendono difficile per la sola regolazione pubblica disciplinare in modo esaustivo tutte le possibili configurazioni operative di tali tecnologie. In particolare, i modelli di IA si caratterizzano spesso per un funzionamento dinamico ed evolutivo, che può generare risultati non pienamente prevedibili e che si inserisce all’interno di ecosistemi tecnologici articolati, nei quali interagiscono diversi livelli della supply chain digitale.

In questo scenario emergono con particolare evidenza alcune questioni giuridiche relative alla distribuzione delle responsabilità tra i soggetti coinvolti nello sviluppo e nell’utilizzo dei sistemi di Intelligenza Artificiale. Il quadro normativo europeo appare infatti prevalentemente orientato alla prevenzione e alla gestione del rischio, attraverso l’introduzione di obblighi di sicurezza, trasparenza e controllo, mentre rimangono in parte aperti i problemi relativi alla concreta allocazione delle responsabilità nei rapporti tra gli operatori.

Proprio in tale contesto assume particolare rilievo il ruolo degli strumenti contrattuali.

I contratti di fornitura dei servizi di Intelligenza Artificiale e le condizioni d’uso delle piattaforme digitali rappresentano infatti uno dei principali strumenti attraverso i quali i soggetti coinvolti nella filiera tecnologica definiscono la distribuzione degli obblighi e delle responsabilità connesse all’utilizzo di tali sistemi.

La contrattualizzazione consente, in questo senso, di adattare la gestione del rischio alle specificità dei singoli contesti operativi, integrando e rendendo concretamente applicabili i principi generali stabiliti dalla normativa europea.

Alla luce di tali premesse, la presente ricerca si propone di analizzare il rapporto tra regolazione pubblica e autonomia negoziale nella disciplina dei sistemi di Intelligenza Artificiale, con particolare attenzione ai profili di responsabilità che emergono dall’interazione tra AI Act, direttiva NIS2 e prassi contrattuali adottate dai fornitori di servizi di IA.

L’obiettivo è quello di verificare in che misura il contratto possa svolgere una funzione integrativa rispetto al quadro normativo europeo, contribuendo alla gestione dei rischi connessi all’utilizzo di tecnologie caratterizzate da elevata complessità e da un grado fisiologico di imprevedibilità.

L’AI Act: struttura, finalità e ambito di applicazione. L’approccio risk-based.

Lo sviluppo e l’impiego dei modelli di Intelligenza Artificiale hanno sollevato negli ultimi anni questioni giuridiche nuove, inedite e particolarmente spinose, riconducibili inevitabilmente alla natura intrinsecamente probabilistica e non deterministica di tali strumenti digitali.

La sfida è stata da subito raccolta dalle Istituzioni Europee, che hanno manifestato particolare attenzione nell’evitare un’eccessiva frammentazione tra gli Stati membri, individuando la necessità di stabilire un quadro normativo di riferimento capace, da un lato, di garantire la protezione dei diritti e, dall’altro, di accompagnare il progresso tecnologico, regolamentandolo senza comprometterne lo sviluppo[1].

In questo contesto si inserisce il Regolamento (UE) 2024/1689 (AI Act)[2], primo tentativo a livello sovranazionale di regolazione dell’IA, in vigore dal 1° agosto 2024[3].

Tale atto normativo adotta un approccio fondato sulla valutazione, categorizzazione e gestione del rischio[4] e riflette la particolare scelta del Legislatore europeo di non neutralizzare l’incertezza dei sistemi di IA, ma di prevenirne e mitigarne gli effetti potenzialmente dannosi mediante l’imposizione di obblighi organizzativi, tecnici e procedurali ai soggetti coinvolti nello sviluppo e nell’utilizzo dei diversi sistemi.

L’imprevedibilità, infatti benché non espressamente definita dalla normativa, viene assunta come dato strutturale dei sistemi di IA e ne costituisce presupposto implicito: il Legislatore prende atto del fatto che in presenza di determinati sistemi, come quelli basati su tecniche di machine learning o come i modelli c.d. general-purpose, gli esiti prodotti non risultano determinabili né controllabili ex ante.

Da tale assunto prendono vita le disposizioni del Regolamento, la cui struttura riflette un approccio graduale alla gestione del rischio: la normativa riconosce – secondo una logica c.d. top-down – diversi “livelli” di rischio ai quali fa corrispondere differenti obblighi e procedure di segnalazione a carico dei vari operatori, imponendo dunque non solo una valutazione iniziale di potenziale rischio, ma un monitoraggio continuo e costante nel tempo[5].

Il testo normativo interessa, dal punto di vista oggettivo, i sistemi di IA – classificati diversamente in base al grado di rischio – immessi nel mercato UE, indipendentemente dal luogo di sviluppo, limitandosi ad escludere alcune categorie di sistemi finalizzati a particolari attività militari o di ricerca[6].

La previsione di un’entrata in vigore progressiva delle disposizioni, inoltre, tramite termini di applicazione differenziati, consente sia agli Stati membri che agli operatori destinatari della normativa di adeguarsi al nuovo quadro normativo: in proposito, il 2 agosto 2026 segnerà l’entrata in vigore integrale del Regolamento, salvo alcune eccezioni; dal 2 agosto 2027 saranno pienamente applicabili tutte le disposizioni relative agli obblighi per i sistemi “ad alto rischio”; ai sensi dell’art. 112, invece, la Commissione Europea potrà periodicamente effettuare modifiche all’elenco dei suddetti sistemi e procedere alla revisione del Regolamento alla luce dell’effettiva incidenza delle sue disposizioni e dei risultati prodotti in sede applicativa[7].

Questo assetto regolatorio, incentrato su un’implementazione graduale degli obblighi, trova giustificazione nella sua applicazione nei confronti di un’ampia e articolata platea di soggetti che intervengono lungo l’intero ciclo di vita dei sistemi di IA, distinguendo tra fornitori, deployers e altri operatori coinvolti nello sviluppo, nella messa a disposizione e nell’utilizzo dei sistemi.

L’ambito soggettivo dell’AI Act: fornitori, deployers e gli altri soggetti destinatari della disciplina

La normativa non solo individua una pluralità di soggetti destinatari della disciplina, ma ne definisce i ruoli e i relativi obblighi in funzione delle attività svolte lungo il ciclo di vita dei sistemi di IA.

In particolare, il Regolamento distingue tra fornitori (providers), utilizzatori (deployers), importatori, distributori, rappresentanti autorizzati e persone interessate che si trovano nell’UE, secondo le definizioni contenute nell’art.3.

Tale articolazione soggettiva riflette l’intento del Legislatore europeo di monitorare il rischio lungo l’intera catena di produzione e utilizzo dell’IA, evitando che esso venga ricondotto esclusivamente al soggetto che ha sviluppato il modello.

All’interno di questo quadro, la distinzione tra provider e deployer assume un rilievo centrale. La normativa si rivolge al provider che sviluppa un sistema o modello di Intelligenza Artificiale e lo immette sul mercato UE[8], (art. 2, par. 1, lett. a) e al deployer che abbia il proprio luogo di stabilimento o sede all’interno dell’Unione[9] (art. 2, par. 1, lett. b).

Sono menzionati dalla normativa anche i fornitori che integrano sistemi di IA nei propri prodotti[10] – che immettono nel mercato UE con il proprio nome o marchio commerciale – la cui rilevanza emerge in relazione a determinati settori oggetto di direttive di armonizzazione (art. 2, par. 1, lett. e).

Accanto a tali figure, il Regolamento attribuisce specifici obblighi anche a importatori e distributori[11] (art. 2, par. 1, lett. d), in particolare con riferimento alla conformità dei sistemi immessi sul mercato UE, nonché al rappresentante autorizzato[12] del fornitore stabilito al di fuori dell’Unione (art. 2, par. 1, lett. f).

Il testo normativo individua, inoltre, un’ulteriore categoria di soggetti i quali, pur non assumendo un ruolo attivo nello sviluppo o nell’utilizzo dei sistemi di Intelligenza Artificiale, risultano ugualmente destinatari della disciplina in quanto meritevoli di tutela: si tratta delle persone fisiche i cui diritti fondamentali possono essere potenzialmente incisi dall’impiego di sistemi di IA all’interno dell’Unione, indipendentemente dalla loro cittadinanza o dal luogo di stabilimento del fornitore o del deployer (art. 2, par. 1, lett. g).

Queste distinzioni soggettive non hanno un valore meramente formale, ma rispondono ad una precisa logica di gestione del rischio. Il rischio connesso al funzionamento di tali sistemi, infatti, non coincide necessariamente con il controllo tecnico del modello, né si concentra in un unico momento del suo ciclo di vita.

Al contrario, esso si distribuisce lungo la filiera dei diversi operatori, manifestandosi sia nelle fasi di progettazione che di adattamento ed utilizzo concreto del sistema.

Coerentemente con tale impostazione, l’AI Act attribuisce obblighi differenziati – tra cui compiti di valutazione e mitigazione dei rischi, offrendo degli standard cui fare riferimento[13] – in funzione, da un lato, della posizione occupata dai diversi soggetti all’interno della filiera, dall’altro, dal tipo di sistema in questione.

Classificazione dei modelli e dei sistemi di IA

Una prima distinzione concettuale e normativa fondamentale viene introdotta dal Regolamento (UE) 2024/1689 tra sistemi di Intelligenza Artificiale e modelli di Intelligenza Artificiale[14], snodo essenziale per comprendere la logica della conformità regolatoria e la conseguente distribuzione delle responsabilità lungo il ciclo di vita dell’IA.

Con riferimento al sistema di Intelligenza Artificiale, l’AI Act fornisce una definizione ampia all’art. 3, n. 1, qualificandolo come un sistema automatizzato progettato per operare con diversi livelli di autonomia, in grado di adattarsi al contesto in cui opera e capace di generare output quali previsioni, contenuti, raccomandazioni o decisioni che influenzano ambienti fisici o virtuali.

La nozione di sistema si caratterizza per il suo inserimento in un contesto applicativo concreto, nel quale l’IA interagisce con utenti, dati e processi decisionali.

La definizione adottata dalla normativa valorizza una serie di elementi strutturali del sistema: in particolare, la capacità di operare senza un intervento umano continuo, la presenza di gradi di autonomia variabili a seconda della complessità del sistema, l’insieme dei dati di input da elaborare e l’infrastruttura tecnica alla base, dai quali dipendono gli effetti giuridicamente rilevanti del sistema stesso.

Diversa è la nozione di modello di Intelligenza Artificiale, introdotta dal Regolamento con riferimento ai “modelli di IA per finalità generale”, che presentino, cioè, le principali caratteristiche “di generalità e di capacità di svolgere con competenza un’ampia gamma di compiti distinti” (art. 3, n. 63; cons. 97).

Il modello di IA viene definito dalla normativa come il risultato di un processo di addestramento su dati, basato su una specifica architettura algoritmica, idoneo a essere integrato in una pluralità di sistemi o applicazioni e a generare output diversificati. A differenza del sistema, il modello non è di per sé necessariamente destinato a un uso specifico, ma costituisce quindi una componente tecnica – seppur esistente come entità software autonoma – suscettibile di riutilizzo, adattamento e integrazione in contesti diversi[15].

La distinzione tra modelli e sistemi di IA non ha un rilievo meramente terminologico, ma incide direttamente sugli effetti della disciplina e sulla ripartizione delle responsabilità delineata dall’AI Act. Mentre la pericolosità del sistema è valutata in relazione allo specifico contesto d’uso e agli effetti prodotti, il modello può costituire un centro autonomo di rischio, soprattutto quando venga riutilizzato o modificato da soggetti diversi dal fornitore originario.

In tal senso, il Regolamento riconosce che l’integrazione o la modifica sostanziale di un modello può determinare uno spostamento del centro di imputazione degli obblighi, con conseguenze rilevanti sul piano giuridico.

La particolare attenzione riservata ai modelli di Intelligenza Artificiale per finalità generali (general-purpose AI models) con rischio sistemico – disciplinati dagli artt. 51 ss. dell’AI Act – si giustifica per la loro elevata capacità di generalizzazione e per la possibilità di essere impiegati in una molteplicità di applicazioni, anche non previste in origine dal fornitore.

Proprio in ragione di tali caratteristiche, il Regolamento prevede per questi modelli un regime di obblighi differenziato rispetto a quello dei sistemi di IA, concentrato prevalentemente su requisiti di trasparenza, documentazione e gestione del rischio, nonché sulla valutazione ex ante degli specifici contesti applicativi.

Una volta operata la distinzione tra modello e sistema, la normativa procede a strutturare – come già anticipato – la disciplina della conformità dei sistemi di IA sulla base di un approccio risk-based, articolando diversi livelli di rischio.

In particolare, il Regolamento distingue tra pratiche di IA vietate (art. 5), considerate una chiara minaccia per la sicurezza, i mezzi di sussistenza e i diritti fondamentali delle persone e quindi esplicitamente proibite; sistemi di IA ad alto rischio (artt. 6 ss.), in quanto possono comportare rischi significativi per la salute, la sicurezza o i diritti fondamentali; sistemi a rischio limitato (art. 50), soggetti a specifici obblighi di trasparenza e sistemi a rischio minimo o nullo, per lo più esenti da normative stringenti.

La qualificazione di un sistema come «ad alto rischio» segue, ai sensi dell’art. 6, due percorsi alternativi.

Il primo (par. 1) si applica ai sistemi destinati a essere utilizzati come componenti di sicurezza di prodotti coperti dalla normativa di armonizzazione UE elencata nell’Allegato I del Regolamento (dispositivi medici, macchine, giocattoli, ascensori, equipaggiamenti radio, autoveicoli e così via), quando il prodotto è soggetto a valutazione di conformità da parte di terzi.

Il secondo (par. 2) qualifica come ad alto rischio i sistemi impiegati negli ambiti tassativamente individuati dall’Allegato III, fra cui rientrano l’identificazione biometrica e la categorizzazione delle persone fisiche, la gestione delle infrastrutture critiche, l’istruzione e la formazione professionale, l’occupazione e la gestione dei lavoratori, l’accesso a servizi essenziali pubblici e privati (incluso il credit scoring), le attività di law enforcement, la migrazione e il controllo delle frontiere, l’amministrazione della giustizia e i processi democratici.

L’art. 6, par. 3, introduce tuttavia un correttivo di proporzionalità: un sistema rientrante nelle aree dell’Allegato III non è considerato ad alto rischio se non presenta un rischio significativo per la salute, la sicurezza o i diritti fondamentali, ovvero se svolge compiti meramente accessori, preparatori o di rilevamento di pattern decisionali umani. La Commissione è inoltre competente, ai sensi dell’art. 7, ad aggiornare l’elenco dell’Allegato III mediante atti delegati. Tale architettura, fondata su criteri tassativi ma dinamicamente aggiornabili, rende la qualifica di «alto rischio» l’esito di una valutazione concreta che incrocia il settore di impiego, la finalità del sistema e l’incidenza sui diritti fondamentali.

Nel complesso, è rilevante sottolineare che tale classificazione è funzionale all’imposizione di obblighi graduati di conformità e prevenzione, anche in virtù dei potenziali effetti pregiudizievoli del sistema, ma non è finalizzata alla disciplina dell’impatto economico del danno eventualmente prodotto.

Il Regolamento, infatti, si concentra sulla gestione preventiva del rischio e sulla conformità dei sistemi, lasciando totalmente impregiudicata la regolazione delle conseguenze risarcitorie.

Proprio questa scelta di fondo, che separa la disciplina della conformità dalla regolazione delle conseguenze patrimoniali del danno, rende centrale l’analisi dei meccanismi attraverso i quali il rischio e le responsabilità vengono allocati tra i diversi soggetti coinvolti e degli obblighi a loro attribuiti.

Obblighi di gestione del rischio, trasparenza e accountability

L’AI Act introduce un sistema organico di obblighi finalizzati a garantire un elevato livello di gestione del rischio, trasparenza e accountability lungo l’intero ciclo di vita dei sistemi, indirizzati a ciascuna delle figure prese in considerazione dalla normativa[16].

Il fulcro della disciplina è rappresentato dagli obblighi posti in capo ai fornitori, ai sensi degli articoli 16 e ss. del Regolamento, i quali sono tenuti a immettere sul mercato o mettere in servizio esclusivamente sistemi conformi ai requisiti tecnici stabiliti dal Capo III, Sezione 2.

Tali requisiti includono principalmente l’adozione di un sistema di gestione del rischio, la qualità e governance dei dati, la documentazione tecnica, la trasparenza, la supervisione umana, nonché adeguati livelli di accuratezza, robustezza e cybersicurezza.

In questa prospettiva, il fornitore deve essere chiaramente identificabile e deve istituire un sistema di gestione della qualità conforme all’art. 17, che sia idoneo a garantire il controllo continuo della conformità normativa.

Centrale è, inoltre, l’obbligo di predisporre e conservare la documentazione tecnica (art. 18) e i log automatici generati dal sistema (art. 19), strumenti essenziali ai fini della tracciabilità e della verificabilità delle decisioni automatizzate.

Prima dell’immissione sul mercato, il sistema deve essere sottoposto a una procedura di valutazione di conformità ai sensi dell’art. 43, cui seguono la redazione della dichiarazione UE di conformità (art. 47), l’apposizione della marcatura CE (art. 48) e la registrazione nella banca dati europea dei sistemi di IA ad alto rischio (art. 49).

Il Regolamento prevede inoltre obblighi di intervento attivo in caso di non conformità, imponendo al fornitore l’adozione di misure correttive, nonché obblighi informativi verso le autorità competenti e gli altri operatori della catena di fornitura (art. 20), rafforzando così il principio di accountability.

Obblighi analoghi si applicano anche ai fornitori che integrano sistemi di IA ad alto rischio all’interno dei propri prodotti, i quali, come già anticipato, assumono la responsabilità della conformità del sistema integrato.

Accanto ai fornitori, un ruolo fondamentale è attribuito ai deployers.

L’art. 26 stabilisce che essi debbano utilizzare i sistemi in conformità alle istruzioni d’uso, garantire una supervisione umana qualificata, assicurare la qualità dei dati di input sotto il loro controllo e monitorare costantemente il funzionamento del sistema, sospendendone l’uso in caso di rischio per la salute, la sicurezza o i diritti fondamentali e informando il fornitore o distributore e la pertinente autorità di vigilanza.

A ciò si aggiungono obblighi di conservazione dei log, di informazione nei confronti dei lavoratori e delle persone fisiche interessate, di cooperazione con le autorità competenti e, nei casi previsti, di registrazione del sistema nella banca dati UE.

Particolarmente rilevante è inoltre l’obbligo di svolgere una valutazione di impatto sui diritti fondamentali ai sensi dell’art. 27, che rafforza l’approccio preventivo e human-centric della normativa.

L’AI Act disciplina, poi, gli obblighi di altri soggetti della catena del valore, quali importatori, distributori e rappresentanti autorizzati, cui è richiesto di verificare e preservare la conformità dei sistemi, e riconosce anche specifiche tutele alle persone interessate dall’uso dell’IA.

L’importatore è tenuto, prima dell’immissione sul mercato, ad assicurarsi che il sistema sia conforme al Regolamento verificando l’esecuzione della valutazione di conformità, la preparazione della documentazione tecnica, la presenza della marcatura CE e della dichiarazione di conformità UE, nonché la nomina di un rappresentante autorizzato. Deve, inoltre, indicare i propri dati identificativi sul sistema o sulla documentazione, garantire che le condizioni di trasporto e stoccaggio non compromettano la conformità, conservare determinati documenti per almeno 10 anni e cooperare con le autorità competenti (Art. 23).

Il distributore, a sua volta, prima di rendere disponibile un sistema ad alto rischio sul mercato, deve verificare che il prodotto rechi la marcatura CE, sia accompagnato dalla dichiarazione di conformità UE e dalle istruzioni per l’uso, e che il fornitore e l’importatore abbiano adempiuto ai propri obblighi. In caso di rischio o non conformità accertata, il distributore deve immediatamente informare il fornitore o l’importatore e le autorità competenti, fornendo le relative informazioni e cooperando con tali autorità (Art. 24).

Il rappresentante autorizzato, invece, nominato dal fornitore extra-UE, è incaricato di verificare che il fornitore abbia predisposto la documentazione tecnica richiesta e adempiuto agli obblighi applicabili, di mantenere la documentazione a disposizione delle autorità per un certo periodo[17], di fornire informazioni su richiesta e di cooperare con le autorità competenti nell’ambito delle attività di vigilanza e conformità, compresa la comunicazione della cessazione del mandato se il fornitore agisce in violazione degli obblighi normativi (Art. 22).

Infine, l’Articolo 25 disciplina la responsabilità “a catena”: importatori, distributori, deployers o altri terzi possono essere considerati come provider di un sistema ad alto rischio e soggetti agli obblighi dell’art. 16 qualora appongano il proprio nome o marchio sul sistema, apportino modifiche sostanziali o ne alterino la destinazione d’uso, rendendo il sistema stesso ad alto rischio.

La definizione di «modifica sostanziale» è offerta dall’art. 3, n. 23, e richiede una variazione non prevista dal fornitore originario nella sua valutazione di conformità che incida sulla rispondenza ai requisiti del Capo III, Sezione 2, ovvero sulla destinazione d’uso.

Si tratta di una nozione destinata ad assumere centralità soprattutto rispetto ai modelli di IA per finalità generali, soggetti a fine-tuning, riaddestramento o specializzazione da parte di soggetti diversi dal provider originario: in tali ipotesi il deployer può trasformarsi, sul piano regolatorio, in fornitore di un sistema ad alto rischio, con conseguente assunzione degli obblighi di documentazione tecnica, gestione della qualità, valutazione di conformità e marcatura CE.

Di particolare rilievo è il paragrafo 4 dell’art. 25, che chiarisce come la ripartizione degli obblighi tra i diversi operatori possa essere oggetto di accordi contrattuali, fermo restando il rispetto degli obblighi inderogabili previsti dal Regolamento.

In questo contesto, assume un ruolo centrale la possibilità, delineata dalla normativa, che l’Ufficio per l’IA[18] promuova o faciliti l’elaborazione di clausole contrattuali tipo, funzionali a garantire un’allocazione chiara e coerente delle responsabilità lungo la catena del valore, rafforzando la certezza giuridica per gli operatori senza incidere sul nucleo cogente degli obblighi di conformità, trasparenza e accountability fissati dall’AI Act.

Per i sistemi non qualificati come ad alto rischio, il Regolamento prevede invece un regime più flessibile, incentrato prevalentemente su obblighi di trasparenza e informazione.

In linea generale, tali sistemi non sono soggetti ai requisiti stringenti del Capo III, Sezione 2, ma restano comunque assoggettati a specifici obblighi orizzontali.

In primo luogo, assumono rilievo gli obblighi di trasparenza previsti dall’art. 50 del Regolamento, applicabili ai c.d. sistemi “a rischio limitato”.

In particolare, quando un sistema di IA interagisce direttamente con una persona fisica (ad esempio chatbot o assistenti virtuali), il deployer deve informare chiaramente l’utente che sta interagendo con un sistema di IA (art. 50, par. 1).

Analoghi obblighi informativi sono previsti per i sistemi di riconoscimento delle emozioni, di categorizzazione biometrica e per i sistemi che generano o manipolano contenuti audio, visivi o audiovisivi (c.d. deepfake), rispetto ai quali è richiesto che il contenuto sia chiaramente etichettato come artificialmente generato o alterato (art. 50, parr. 2–4), salvo specifiche eccezioni.

Per i sistemi che non rientrano né tra quelli vietati né tra quelli a rischio alto o limitato, il Regolamento configura un’area di rischio minimo, nella quale non sono imposti obblighi giuridicamente vincolanti ex ante.

Tuttavia, l’art. 95 incoraggia in ogni caso fornitori e deployers ad adottare codici di condotta volontari, volti a promuovere l’applicazione dei principi generali dell’AI Act – quali affidabilità, equità, supervisione umana e sicurezza – anche al di fuori dei casi formalmente regolati.

Resta fermo che anche i sistemi non ad alto rischio sono soggetti agli obblighi generali di cooperazione con le autorità competenti, nonché al rispetto della normativa UE applicabile ratione materiae (ad es. GDPR, tutela dei consumatori, sicurezza dei prodotti).

Inoltre, qualora un sistema inizialmente non ad alto rischio venga modificato o utilizzato in modo tale da rientrare nelle fattispecie dell’allegato III, potrà trovare applicazione il regime più stringente previsto per i sistemi ad alto rischio, secondo la logica dinamica del Regolamento.

La regolazione europea dell’Intelligenza Artificiale non si limita a introdurre nuovi obblighi di conformità, ma apre interrogativi sempre più rilevanti sulla concreta distribuzione delle responsabilità tra sviluppatori, fornitori e utilizzatori dei sistemi di IA. Comprendere il rapporto tra norme e strumenti contrattuali sarà quindi essenziale per affrontare le sfide poste dalle tecnologie emergenti.

Nel prossimo approfondimento analizzeremo la Direttiva NIS2, soffermandoci sulle sue finalità, sulle principali novità introdotte rispetto alla NIS1 e sul suo impatto in materia di cybersecurity e gestione del rischio.

Per approfondire questi temi, è possibile scaricare il white paper “Contrattualizzazione e allocazione delle responsabilità nei modelli di IA: AI Act, NIS2 e profili critici” di Chiara De Filippo che offre un’analisi dettagliata del quadro normativo europeo, dei principali profili di compliance e del ruolo degli strumenti contrattuali nella governance dell’IA.

Fonti:

[1] D’Antino V., L’approccio basato sul rischio nell’AI Act: un nuovo paradigma di regolazione dell’intelligenza artificiale, in federalismi.it, 2025, 16.

[2] Regolamento (UE) 2024/1689 (AI Act): https://eur-lex.europa.eu/eli/reg/2024/1689/oj.

[3] Il testo legislativo dell’AI Act rappresenta il culmine di un processo graduale e di un lungo dibattito, in cui si inseriscono dapprima la Comunicazione COM(2018) 237, “Artificial Intelligence for Europe”, con il quale si inizia a delineare un quadro etico e giuridico per l’utilizzo dell’IA che garantisca il rispetto dei diritti fondamentali; in seguito, nel 2019, la pubblicazione delle “Ethics Guidelines for Trustworthy AI” da parte delll’AI HLEG (High-Level Expert Group on AI), le quali definiscono i requisiti chiave per garantire un sufficiente grado di affidabilità dei sistemi IA, successivamente trasposti nel testo dell’AI Act.

Nel febbraio 2020 viene poi presentato dalla Commissione il Libro Bianco sull’IA (“White Paper on Artificial Intelligence – A European Approach to Excellence and Trust” COM(2020) 65 final) che vede la partecipazione e la consultazione di numerosi soggetti sia pubblici che privati e getta le basi per il futuro regolamento.

[4] Pascucci S., AI Act: la legge europea sull’intelligenza artificiale, in Il diritto, quotidiano Dike, 2025, consultabile al sito: https://ildiritto.it/professioni-primo-piano/ai-act-la-legge-europea-sullintelligenza-artificiale.

[5] Cfr. art. 9 del Regolamento (UE) 2024/1689 (AI Act).

[6] Cfr. art. 2 del Regolamento (UE) 2024/1689 (AI Act).

[7] AI Act, in https://digital-strategy.ec.europa.eu.

[8] Anche fornitori stabiliti fuori dall’UE devono rispettare l’AI Act se immettono i loro prodotti nel mercato europeo.

[9] Anche se il sistema di IA è stato sviluppato altrove, l’uso che avviene all’interno dell’Unione è sufficiente per far scattare l’applicazione del Regolamento.

[10] In questi casi, il sistema di IA è considerato componente di sicurezza del prodotto, quando l’output del sistema di IA viene utilizzato nell’Unione.

[11] Questi soggetti non sono sviluppatori né utilizzatori diretti, ma sono comunque responsabili del rispetto di determinati obblighi di conformità e sorveglianza (artt. 23–25). Il Distributore è il soggetto che compra il sistema di IA e lo rivende a terzi (c.d. messa a disposizione) (vedi art. 3 par. 7). L’importatore è una figura che interviene nel ciclo di vita dei sistemi di intelligenza artificiale ad alto rischio esclusivamente nei casi in cui il fornitore, o il soggetto che appone il marchio commerciale sul sistema, sia stabilito al di fuori dell’Unione europea.

Tale soggetto provvede all’immissione del sistema sul mercato dell’Unione, acquistandolo dal fornitore extra-UE, in quanto è colui che, per la prima volta, rende il prodotto disponibile per il consumo o l’uso nel mercato europeo (vedi art. 3 par. 6).

[12] Questa figura è obbligatoria per i fornitori extra-UE (vedi art. 25): garantisce un interlocutore stabile e responsabile nei confronti delle autorità europee.

[13] D’Antino V., L’approccio basato sul rischio nell’AI Act: un nuovo paradigma di regolazione dell’intelligenza artificiale, 20. La complessità della gestione delle informazioni sui rischi associati ai sistemi di intelligenza artificiale, nonché la pluralità di soggetti coinvolti, ha indotto il legislatore europeo a promuovere l’adozione di standard comuni volti a ridurre gli oneri di conformità. In tale prospettiva, il Regolamento (UE) 2024/1689 favorisce strumenti idonei a semplificare le attività di documentazione, verifica e scambio informativo tra fornitori, deployers e autorità competenti.

Un esempio significativo di questo orientamento è rappresentato dall’AI Risk Ontology (AIRO), sviluppata per supportare le organizzazioni nell’adeguamento ai requisiti dell’AI Act e agli standard ISO 31000 in materia di gestione del rischio. Concepite secondo un’impostazione flessibile e adattiva, tali soluzioni sono pensate per mantenere la propria utilità anche in un contesto normativo in evoluzione, offrendo un riferimento operativo stabile per i soggetti destinatari della disciplina. Cfr. Golpayegani D., Pandit H.J., Lewis D., AIRO: An Ontology for Representing AI Risks Based on the Proposed EU AI Act and ISO Risk Management Standards, Dublino, 2022.

[14] Cfr. cons. 97 del Regolamento (UE) 2024/1689 (AI Act): “la nozione di modelli di IA per finalità generali dovrebbe essere chiaramente definita e distinta dalla nozione di sistemi di IA per consentire la certezza del diritto”.

[15] Cfr. cons. 97 del Regolamento (UE) 2024/1689 (AI Act): “sebbene i modelli di IA siano componenti essenziali dei sistemi di IA, essi non costituiscono di per sé sistemi di IA. I modelli di IA necessitano dell’aggiunta di altri componenti, ad esempio un’interfaccia utente, per diventare sistemi di IA. I modelli di IA sono generalmente integrati nei sistemi di IA e ne fanno parte”.

[16] Conditi N., I soggetti coinvolti dall’AI ACT: uno sguardo d’insieme, 2024, consultabile al sito: https://www.studiolegalestefanelli.it.

[17] Cfr. art. 22 del Regolamento (UE) 2024/1689 (AI Act): il rappresentante è tenuto a conservare per 10 anni dopo la data di immissione in commercio: i dati di contatto del fornitore; copia della dichiarazione di conformità UE; documentazione tecnica; certificato CE (se presente).

[18] Cfr. art. 64 del Regolamento (UE) 2024/1689 (AI Act): l’articolo 64 istituisce presso la Commissione europea l’Ufficio per l’IA, attribuendogli funzioni di coordinamento, supporto e vigilanza nell’attuazione del Regolamento, con particolare riferimento ai sistemi di IA e ai modelli di IA di uso generale. Tra i suoi compiti rientrano, oltre al monitoraggio dell’applicazione uniforme dell’AI Act e al supporto alle autorità nazionali competenti, anche attività di indirizzo regolatorio e soft law, quali la predisposizione di orientamenti, raccomandazioni e strumenti di supporto alla conformità.

In tale prospettiva, l’Ufficio per l’IA assume un ruolo centrale anche nel favorire la standardizzazione delle pratiche contrattuali, inclusa la possibile elaborazione o promozione di clausole contrattuali tipo, funzionali a una corretta allocazione delle responsabilità lungo la catena del valore dell’IA, ferma restando l’inderogabilità degli obblighi sostanziali previsti dal Regolamento.