Oltre la triade CIA: la dignità come quarto requisito di sicurezza nell’era degli agenti AI

Cosa dice l’enciclica Magnifica Humanitas a chi progetta governance, accountability e controllo degli algoritmi.

Quando un Pontefice dedica la sua prima enciclica alla custodia della persona “nel tempo dell’intelligenza artificiale”, chi lavora nella sicurezza farebbe bene a leggerla. Non per ragioni di fede, ma perché Magnifica Humanitas, firmata da Leone XIV il 15 maggio 2026, descrive con un vocabolario diverso le stesse vulnerabilità che proviamo a contenere ogni giorno. Quando il testo osserva che un potere tecnologico concentrato in poche mani tende a diventare opaco e a sfuggire al controllo pubblico (n. 95), non sta facendo sociologia: sta nominando la concentrazione del potere decisionale in sistemi incomprensibili, la stessa che in un threat model classifichiamo tra i rischi sistemici più gravi.

Ho passato decenni a costruire perimetri, scrivere regole di rilevamento e dare la caccia a minacce invisibili. Con la diffusione dei modelli generativi e degli agenti autonomi, però, il perimetro ha cambiato natura. Non difendiamo più soltanto reti e dispositivi: difendiamo la capacità delle persone di comprendere, scegliere e contestare decisioni prese da sistemi che non vedono. Questa enciclica offre, a chi si occupa di sicurezza, una categoria che ai nostri framework spesso manca: un fine ultimo rispetto al quale misurare le scelte tecniche.

Il limite della triade CIA

Il nostro mestiere ruota da sempre attorno a tre obiettivi: confidentiality, integrity, availability. Sono necessari, ma non sufficienti. Un sistema può essere perfettamente riservato, integro e disponibile, e al tempo stesso essere eticamente inaccettabile. L’esempio più chiaro è un apparato di sorveglianza di massa che funziona alla perfezione: rispetta la triade e calpesta le persone.

È qui che l’enciclica aggiunge una dimensione che i requisiti tecnici non contemplano. Afferma che non possiamo considerare l’IA moralmente neutra, e che un sistema il quale tratti alcune vite come meno degne introduce già un criterio contrario alla dignità della persona (n. 104). La domanda di controllo, allora, non è più soltanto “il sistema è sicuro?”, ma “il sistema rispetta e promuove la dignità di chi tocca?”. Chiamiamola la quarta dimensione: accanto a riservatezza, integrità e disponibilità, la dignità.

Per chi progetta, questo non è un richiamo morale astratto. È un requisito che si traduce in scelte verificabili: punti di attrito etico nei flussi automatizzati, soglie decisionali contestabili, meccanismi che impediscono di ridurre una persona al suo profilo statistico.

La fine della neutralità tecnica

Il primo ostacolo, nel dialogo tra tecnica ed etica, è l’illusione che il codice sia neutro. Uno strumento non è mai sospeso nel vuoto: riflette intenzioni, priorità e modelli economici di chi lo ha costruito. L’enciclica lo dice senza giri di parole: l’uso dell’IA non è mai un fatto puramente tecnico, e i sistemi che si presentano come neutrali e oggettivi finiscono per rispecchiare e rafforzare gli orientamenti di chi li ha progettati e addestrati (n. 102).

Quello che noi chiamiamo bias algoritmico, qui assume la sua piena profondità. Un modello non è neutro perché incorpora una serie di decisioni: quali dati entrano nel dataset e quali restano fuori, quale funzione di costo viene minimizzata, quale errore è accettabile e su quale gruppo ricade. Sono domande etiche travestite da equazioni. Un classificatore con accuratezza del 95 per cento nella previsione del rischio creditizio è un dato tecnico; chiedersi se quel 5 per cento di errore colpisca in modo sproporzionato categorie già fragili è il punto in cui la sicurezza incontra la responsabilità.

Accountability: la responsabilità non si dissolve

Se i sistemi non sono neutri, qualcuno deve rispondere delle loro decisioni. L’enciclica insiste sulla necessità di quadri giuridici adeguati, di vigilanza indipendente e di una politica che non abdichi al proprio compito (n. 106), perché senza questi argini il cambiamento viene governato solo da logiche tecnocratiche. E avverte di un rischio più sottile: che chi controlla l’IA finisca per imporre la propria visione, trasformandola nell’infrastruttura invisibile dei sistemi (n. 107).

Tradotto nel nostro linguaggio, è il problema dell’accountability. La catena delle responsabilità deve restare identificabile e verificabile end-to-end: chi progetta, chi addestra, chi autorizza, chi impiega deve poter rendere conto delle proprie scelte. Gli strumenti di Explainable AI non sono un lusso da convegno: sono la condizione perché una decisione automatizzata resti contestabile, e quindi correggibile. Un sistema che incide su lavoro, credito o accesso ai servizi e non sa spiegare le proprie scelte non è semplicemente poco trasparente: è un sistema in cui la responsabilità evapora.

Sovranità del dato e sussidiarietà digitale

Il potere, oggi, non è più nelle mani dei soli Stati. L’enciclica riconosce che, nel contesto digitale, il livello che esercita il potere di fatto è costituito dai grandi attori economici e tecnologici, che fissano condizioni di accesso, regole di visibilità e possibilità di partecipazione (n. 71). La risposta che propone è ciò che la dottrina sociale chiama sussidiarietà, e che noi possiamo leggere come architettura: processi che non si impongano dall’alto in modo opaco, ma siano orientati al bene comune attraverso trasparenza sugli algoritmi, accesso equo ai dati e strumenti di ricorso (nn. 108, 109).

Qui il libro recupera due immagini bibliche che funzionano sorprendentemente bene come metafora di architettura di sicurezza. Babele è il modello centralizzato: un’unica lingua, un’unica tecnologia, un unico punto di fallimento che, quando crolla, crolla per tutti. Neemia è il modello distribuito: ogni famiglia ricostruisce il tratto di muro davanti alla propria casa, in una logica di responsabilità condivisa. Per chi disegna sistemi, è la differenza tra concentrare dati e capacità di calcolo in pochi nodi opachi e distribuire controllo, ridondanza e capacità di verifica. La sovranità del dato, in questa luce, non è solo difendere confini nazionali dagli attacchi: è preservare la capacità delle comunità di decidere come i dati che le riguardano vengono usati.

Sanità digitale: la sicurezza come protezione della fragilità

C’è un ambito in cui questa riflessione smette di essere teorica e tocca direttamente la vita delle persone: la sanità. L’enciclica ricorda che la tecnologia può curare, connettere ed educare, ma anche dividere, scartare e generare nuove ingiustizie (n. 9). Nel digitale sanitario l’ambivalenza della tecnica non riguarda soltanto l’efficienza dei sistemi, ma l’esistenza di chi da quei sistemi dipende.

Ospedali, cartelle cliniche elettroniche, dispositivi medici, piattaforme diagnostiche e strumenti di IA sono ormai parte dell’infrastruttura della cura. Quando vengono compromessi non si blocca soltanto un servizio digitale: si rallenta una terapia, si espone una vulnerabilità, si incrina la fiducia tra paziente, medico e struttura. Per questo, in sanità, la sicurezza non è semplice difesa tecnica, ma una responsabilità verso la persona fragile. Un dato clinico non è mai solo un’informazione: è una diagnosi, una storia, una paura, una possibilità di cura. Proteggerlo significa impedire che la fragilità si trasformi in esposizione, ricatto, discriminazione o abbandono.

L’enciclica invita ad accogliere il limite umano senza trattarlo come un errore da correggere, e lega il vero progresso a responsabilità, cura reciproca, solidarietà e dignità (n. 12). Applicato alla sanità, questo significa che la sicurezza serve a garantire che l’innovazione resti al servizio di chi dipende da quei sistemi per essere curato. Il testo richiama i malati tra le “pietre scartate” che una società più giusta è chiamata a riportare al centro (n. 16): da qui nasce la funzione più profonda della sicurezza sanitaria, impedire che chi è più vulnerabile sia anche il più esposto.

Con l’IA il tema diventa ancora più delicato. Quando algoritmi e sistemi automatizzati incidono sull’accesso ai servizi, sui diritti, sulle opportunità e sulla libertà delle persone, servono responsabilità chiare, trasparenza, possibilità di contestazione e rimedi effettivi (nn. 102-105). In sanità nessuna decisione tecnologica può diventare una scatola nera davanti alla quale il paziente resta senza voce. L’IA può simulare empatia e accompagnamento, ma non sostituisce una relazione autentica (n. 100). Anche per questo la sicurezza non protegge soltanto sistemi: protegge la continuità delle cure, la riservatezza, la libertà, la fiducia e la dignità.

Armi autonome: dove la soglia morale si abbassa

Il punto più netto riguarda l’ambito bellico, ed è quello che dovrebbe interessare più da vicino chi si occupa di sistemi critici. L’enciclica osserva che la crescente facilità d’impiego di sistemi d’arma ad autonomia operativa rende il ricorso alla forza più “praticabile” e meno soggetto al controllo umano (n. 197), in un quadro in cui l’IA accelera processi e rende sfumato il confine tra difesa e offesa (n. 183).

Il principio che ne ricava è formulato in modo che un ingegnere può apprezzare: il giudizio morale non è riducibile a un calcolo (n. 198). Da qui discendono requisiti concreti che somigliano molto a buone pratiche di sicurezza. La catena delle responsabilità deve restare tracciabile, così che colpe ed errori non si dissolvano “nella macchina” (n. 200). La decisione di impiegare forza letale non può essere delegata a processi opachi o automatizzati, ma deve restare sotto un controllo umano effettivo e consapevole (n. 200). Sono, in fondo, gli stessi criteri che applichiamo quando rifiutiamo di lasciare che un sistema automatizzato prenda decisioni irreversibili senza supervisione: tracciabilità, human-in-the-loop, possibilità di ricostruzione a posteriori.

Disarmare l’IA, custodire la persona

Il libro usa un verbo che merita di essere preso sul serio anche fuori da un contesto teologico: “disarmare”. Disarmare l’IA, nel senso dell’enciclica, significa sottrarla alla logica della competizione, oggi non più solo militare ma economica e cognitiva, e renderla contestabile, verificabile e quindi abitabile (n. 110). Non è un rifiuto della tecnologia: è impedirle di diventare criterio al posto di restare strumento.

Per chi fa sicurezza, è un cambio di prospettiva concreto. Significa passare dalla sola difesa del perimetro alla custodia della persona che sta dietro i dati. Non proteggiamo soltanto bit: proteggiamo la libertà, la riservatezza e l’autonomia delle persone che quei bit rappresentano. La triade CIA ci dice se un sistema è solido. La quarta dimensione ci dice se merita di esistere.

Si può discutere a lungo della cornice da cui questa riflessione proviene. Ma il nucleo operativo resta valido a prescindere: in un’epoca di agenti autonomi, accountability, trasparenza degli algoritmi, sovranità del dato e controllo umano sulle decisioni irreversibili non sono questioni etiche separate dalla tecnica. Sono requisiti di sicurezza. E forse il contributo più utile di un documento come questo è ricordarci che la domanda decisiva, davanti a ogni sistema che costruiamo, non è soltanto se funziona, ma chi serve.