Responsabilità dei sistemi AI e decisioni automatizzate: il nuovo paradigma giuridico dell’era algoritmica
Un’analisi approfondita del framework normativo europeo, delle sfide interpretative e delle prospettive evolutive nella governance dell’intelligenza artificiale
L’espansione pervasiva dei sistemi di intelligenza artificiale nelle infrastrutture decisionali pubbliche e private solleva interrogativi fondamentali sulla distribuzione della responsabilità giuridica. Questo articolo esamina l’architettura normativa emergente, con particolare riferimento al Regolamento europeo sull’Intelligenza Artificiale (AI Act), analizzando le tensioni tra autonomia algoritmica e imputabilità umana. Attraverso un approccio interdisciplinare che integra diritto, informatica e filosofia della tecnologia, si propone un modello interpretativo innovativo basato sulla responsabilità distribuita adattiva.
Introduzione: la crisi del paradigma tradizionale di responsabilità
L’irruzione dell’intelligenza artificiale nei processi decisionali che impattano diritti fondamentali — dalla valutazione del merito creditizio alla diagnostica medica, dalla selezione del personale alla determinazione delle misure cautelari in ambito giudiziario — ha innescato una profonda crisi epistemologica nei sistemi giuridici contemporanei. Il tradizionale trinomio soggetto-condotta-danno, pilastro della responsabilità civile e penale occidentale, vacilla di fronte a entità computazionali capaci di apprendere, adattarsi e generare output non interamente prevedibili neppure dai loro creatori.
La questione non è meramente tecnica. Come evidenziato dalla Raccomandazione UNESCO sull’etica dell’intelligenza artificiale, adottata il 23 novembre 2021 quale primo strumento normativo globale in materia, siamo di fronte a una trasformazione antropologica che ridefinisce i confini dell’agency umana e, conseguentemente, le categorie fondamentali della responsabilità morale e giuridica.
Il presente contributo si propone di attraversare questo territorio concettuale con rigore analitico, mappando le risposte normative emergenti e avanzando una proposta teorica originale che superi le dicotomie tradizionali tra responsabilità oggettiva e soggettiva, tra determinismo tecnologico e volontarismo giuridico.
L’Architettura normativa europea: un sistema a geometria variabile
Il GDPR e il diritto alla spiegazione algoritmica
Il Regolamento Generale sulla Protezione dei Dati (GDPR), entrato in vigore nel 2018, ha costituito il primo tentativo organico di disciplinare l’impatto delle decisioni automatizzate sui diritti individuali. L’articolo 22 stabilisce che l’interessato ha il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici significativi. Questa disposizione, apparentemente lineare, cela complessità interpretative notevoli.
Le Linee guida del Comitato Europeo per la Protezione dei Dati (EDPB) sul processo decisionale automatizzato e sulla profilazione hanno chiarito che il concetto di decisione basata unicamente sul trattamento automatizzato deve essere interpretato in senso sostanziale e non formalistico: la mera presenza di un supervisore umano che si limiti a ratificare meccanicamente l’output algoritmico non è sufficiente a sottrarre il trattamento all’ambito applicativo della norma. Si configura così un principio di meaningful human involvement che anticipa le formulazioni più elaborate dell’AI Act.
Il considerando 71 del GDPR introduce inoltre il controverso diritto alla spiegazione, la cui natura giuridica — se diritto soggettivo azionabile o mero principio programmatico — rimane oggetto di dibattito dottrinale. La giurisprudenza della Corte di Giustizia dell’Unione Europea non ha ancora fornito un’interpretazione definitiva, sebbene la sentenza Schrems II (causa C-311/18 del 16 luglio 2020) abbia indirettamente rafforzato l’esigenza di trasparenza algoritmica nel contesto dei trasferimenti transfrontalieri di dati.
L’AI Act: tassonomia del rischio e responsabilità differenziate
Il Regolamento (UE) 2024/1689 sull’Intelligenza Artificiale, comunemente noto come AI Act, approvato il 13 giugno 2024 ed entrato in vigore il 1° agosto 2024, rappresenta il più ambizioso tentativo mondiale di regolamentazione orizzontale dell’intelligenza artificiale. La sua architettura si fonda su un approccio basato sul rischio (risk-based approach) che stratifica gli obblighi in funzione del potenziale impatto sui diritti fondamentali.
La classificazione quadripartita — rischio inaccettabile, alto, limitato e minimo — determina un regime di responsabilità differenziato. I sistemi ad alto rischio, elencati nell’Allegato III del Regolamento, includono applicazioni critiche quali l’identificazione biometrica remota in tempo reale, i sistemi di scoring creditizio, gli algoritmi di selezione del personale, gli strumenti di valutazione del rischio di recidiva in ambito giudiziario e i sistemi di triage e supporto diagnostico in ambito sanitario.
Per questi sistemi, l’AI Act impone un articolato sistema di obblighi che si distribuiscono lungo l’intera catena del valore: dai fornitori (providers) che sviluppano e immettono sul mercato i sistemi, ai deployer che li implementano in contesti operativi specifici, fino agli importatori e distributori.
L’articolo 14 introduce il requisito della sorveglianza umana (human oversight), declinato secondo tre modalità progressive: human-in-the-loop (intervento umano decisionale), human-on-the-loop (monitoraggio continuo con facoltà di interruzione) e human-in-command (controllo strategico complessivo). Questa tripartizione, ispirata alla tassonomia elaborata dal Comitato sull’Intelligenza Artificiale (CAI) del Consiglio d’Europa, segna un’evoluzione concettuale significativa rispetto al binomio automatizzato/non automatizzato del GDPR.
La Direttiva sulla responsabilità da prodotto e il problema dell’intangibilità
La Direttiva (UE) 2024/2853 sulla responsabilità per danno da prodotti difettosi, adottata il 23 ottobre 2024 e pubblicata nella Gazzetta Ufficiale dell’Unione Europea il 18 novembre 2024, completa il quadro normativo affrontando il problema della risarcibilità del danno. Gli Stati membri dovranno recepirla entro il 9 dicembre 2026.
La Direttiva originaria del 1985 (85/374/CEE), concepita per beni tangibili, incontrava difficoltà applicative rispetto a software e algoritmi. La nuova Direttiva estende esplicitamente il concetto di prodotto ai software e ai sistemi di intelligenza artificiale, superando l’obiezione tradizionale dell’intangibilità. Particolarmente innovativa è la previsione relativa alle modifiche sostanziali: un sistema di intelligenza artificiale che si modifica autonomamente attraverso l’apprendimento continuo può generare responsabilità indipendenti rispetto a quelle del produttore originario.
La Direttiva introduce inoltre meccanismi di facilitazione probatoria per le vittime di danni causati da prodotti difettosi, inclusi i sistemi AI. La presunzione di difettosità — attivabile in determinate circostanze quando il danneggiato dimostri la plausibilità del nesso causale — inverte parzialmente l’onere della prova, riconoscendo l’asimmetria informativa strutturale tra operatori tecnologici e soggetti interessati.
È opportuno segnalare che la proposta di Direttiva sulla responsabilità da intelligenza artificiale (AILD), presentata dalla Commissione nel settembre 2022 quale complemento specifico per la responsabilità extracontrattuale da sistemi AI, è stata ritirata nel febbraio 2025, lasciando la nuova Direttiva sui prodotti difettosi come principale strumento per la tutela risarcitoria.
L’opacità algoritmica come sfida epistemologica
Black Box, Explainability e il paradosso della trasparenza
Il concetto di black box è divenuto emblema delle sfide poste dall’intelligenza artificiale contemporanea. I sistemi basati su reti neurali profonde (deep learning), in particolare, generano decisioni attraverso processi computazionali la cui logica interna risulta opaca persino agli sviluppatori. Come documentato nel Framework per la gestione del rischio AI del NIST, questa opacità non è un difetto contingente ma una caratteristica intrinseca di determinate architetture algoritmiche: la potenza predittiva del sistema è inversamente correlata alla sua interpretabilità.
Si configura così quello che potremmo definire il paradosso della trasparenza: i sistemi più efficaci — e quindi più appetibili per applicazioni ad alto impatto — sono spesso quelli meno spiegabili. La comunità scientifica ha risposto sviluppando tecniche di Explainable AI (XAI), dalla LIME (Local Interpretable Model-agnostic Explanations) alla SHAP (SHapley Additive exPlanations), che tuttavia producono approssimazioni post-hoc piuttosto che genuine spiegazioni del processo decisionale.
La Raccomandazione del Consiglio OCSE sull’intelligenza artificiale, adottata nel 2019 e aggiornata nel 2024, riconosce questa tensione proponendo un approccio pragmatico: la trasparenza deve essere appropriata al contesto, bilanciando l’esigenza di accountability con la protezione della proprietà intellettuale e la prevenzione di gaming strategico da parte degli utenti.
Bias Algoritmico e siscriminazione sistemica
L’opacità algoritmica assume dimensioni particolarmente critiche quando si interseca con il problema del bias. I sistemi di machine learning apprendono da dati storici che incorporano, cristallizzandole, le diseguaglianze preesistenti. L’analisi condotta da ProPublica nel 2016 sul sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), software di valutazione del rischio di recidiva utilizzato nel sistema giudiziario statunitense, ha dimostrato come algoritmi apparentemente neutrali possano produrre disparità razziali significative: i defendant afroamericani risultavano quasi il doppio delle volte erroneamente classificati come ad alto rischio di recidiva rispetto ai defendant bianchi.
L’AI Act affronta questa problematica attraverso l’articolo 10, dedicato alla governance dei dati, che impone obblighi specifici di esame dei possibili bias che potrebbero influire sulla salute e sicurezza delle persone, avere un impatto negativo sui diritti fondamentali o condurre a discriminazioni vietate dal diritto dell’Unione, nonché l’adozione di misure appropriate per individuare, prevenire e attenuare tali distorsioni. Il Regolamento prevede inoltre requisiti di documentazione tecnica che includano l’analisi delle metriche di equità (fairness metrics).
Il rapporto dell’Agenzia dell’Unione Europea per i Diritti Fondamentali (FRA) sulle discriminazioni algoritmiche evidenzia tuttavia come la definizione stessa di equità sia contestata: equità individuale e di gruppo possono essere matematicamente incompatibili, costringendo a scelte valoriali che non possono essere delegate alla tecnica.
Verso un modello di responsabilità distribuita adattiva
I limiti dei paradigmi tradizionali
I modelli tradizionali di responsabilità — colposa, oggettiva, vicaria — mostrano limiti strutturali di fronte all’intelligenza artificiale. La responsabilità per colpa presuppone la prevedibilità del danno, ma come può configurarsi negligenza rispetto a comportamenti emergenti non prevedibili neppure con la massima diligenza? La responsabilità oggettiva, d’altro canto, rischia di trasformarsi in un deterrente eccessivo all’innovazione se applicata indiscriminatamente.
La proposta di attribuire personalità giuridica ai sistemi AI più avanzati, avanzata in alcuni documenti preliminari del Parlamento Europeo ma successivamente abbandonata, solleva obiezioni insuperabili: un’entità priva di patrimonio autonomo e di capacità di sofferenza non può essere destinataria significativa di sanzioni, e la sua interposizione rischierebbe di creare uno schermo di irresponsabilità per gli attori umani.
La proposta: responsabilità distribuita adattiva
Proponiamo un modello alternativo che denominiamo responsabilità distribuita adattiva (RDA), articolato su tre principi fondamentali.
Il primo è il principio di tracciabilità causale: ogni decisione algoritmica deve essere ricostruibile attraverso una catena documentale che identifichi i contributi causali dei diversi attori — dal data provider al model developer, dal system integrator al deployer finale. L’AI Act pone le basi per questo attraverso i requisiti di logging e documentazione tecnica, ma occorre un’implementazione più stringente che preveda standard interoperabili di audit trail.
Il secondo è il principio di responsabilità proporzionale al controllo: la distribuzione della responsabilità tra i diversi attori della catena del valore deve riflettere non la loro posizione formale, ma l’effettivo grado di controllo esercitabile sul sistema e sui suoi output. Un deployer che si limiti a implementare un sistema preconfezionato senza possibilità di personalizzazione avrà responsabilità ridotte rispetto a chi modifichi parametri critici o selezioni i dati di addestramento.
Il terzo è il principio di adattività dinamica: il regime di responsabilità deve evolversi nel ciclo di vita del sistema. Un algoritmo che apprende continuamente modifica nel tempo la distribuzione delle responsabilità: il provider originario vede attenuarsi la propria responsabilità proporzionalmente all’incidenza dei dati e degli interventi del deployer. Questo principio richiede meccanismi di versioning e documentazione continua che l’AI Act prefigura ma non sviluppa compiutamente.
Implicazioni operative: assicurazione e certificazione
L’implementazione del modello RDA presuppone lo sviluppo di strumenti complementari. Il mercato assicurativo per il rischio AI è ancora embrionale, ma lo standard ISO/IEC 42001 sui sistemi di gestione dell’intelligenza artificiale fornisce un framework per la valutazione del rischio che può supportare la tariffazione attuariale. Parimenti, i meccanismi di certificazione previsti dall’AI Act per i sistemi ad alto rischio potrebbero evolvere verso un sistema di rating dinamico che influenzi sia i premi assicurativi sia la distribuzione della responsabilità.
Prospettive future: governance algoritmica e democrazia
AI Generale e la frontiera della responsabilità
L’emergere di sistemi di intelligenza artificiale generativa e i progressi verso l’Artificial General Intelligence (AGI) pongono sfide che trascendono i framework attuali. Un sistema capace di ragionamento generalizzato e comportamento goal-directed autonomo non può essere gestito con la tassonomia risk-based dell’AI Act, concepita per sistemi narrow.
La Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto, adottata nel maggio 2024 e aperta alla firma nel settembre dello stesso anno quale primo trattato internazionale giuridicamente vincolante in materia, tenta di affrontare questa prospettiva introducendo principi di compatibilità con la dignità umana e rispetto dell’autonomia che potrebbero fondare limiti intrinseci allo sviluppo tecnologico. Il principio di precauzione, codificato nel diritto ambientale europeo, potrebbe trovare applicazione analogica per imporre moratorie su sviluppi potenzialmente irreversibili.
Algorithmic Constitutionalism
La dimensione individuale della responsabilità deve essere integrata da una riflessione di livello costituzionale. I sistemi AI che determinano l’accesso a servizi essenziali, influenzano la formazione dell’opinione pubblica o supportano decisioni amministrative esercitano di fatto un potere pubblico che richiede legittimazione democratica.
Il concetto di algorithmic constitutionalism, elaborato in ambito accademico, propone di sottoporre i sistemi AI di rilevanza pubblica a vincoli analoghi a quelli che limitano l’esercizio del potere statale: principi di proporzionalità, non discriminazione, motivazione delle decisioni, sindacabilità giurisdizionale. L’AI Act recepisce parzialmente questa prospettiva attraverso il diritto di reclamo e l’accesso ai documenti, ma un’evoluzione più radicale richiederebbe forme di partecipazione pubblica alla governance algoritmica che attualmente non esistono.
Conclusioni
La responsabilità dei sistemi AI e delle decisioni automatizzate rappresenta uno dei banchi di prova cruciali per la capacità del diritto di governare la trasformazione tecnologica senza soffocarla. L’Unione Europea ha assunto una posizione di leadership mondiale attraverso un corpus normativo articolato che bilancia tutela dei diritti e promozione dell’innovazione.
Permangono tuttavia lacune significative che richiedono sviluppi ulteriori, come testimonia il ritiro della proposta di Direttiva specifica sulla responsabilità da intelligenza artificiale. Il modello di responsabilità distribuita adattiva qui proposto intende contribuire al dibattito offrendo una cornice concettuale che superi i limiti dei paradigmi tradizionali, riconoscendo la natura intrinsecamente distribuita e dinamica dei processi decisionali algoritmici.
La sfida ultima, tuttavia, trascende la dimensione tecnico-giuridica per investire la sfera politica e antropologica: quale ruolo vogliamo riservare all’autonomia umana in un mondo di decisioni automatizzate? La risposta a questa domanda determinerà non solo l’evoluzione dei regimi di responsabilità, ma il volto stesso delle società che abiteremo.
