Agenti AI: non un vuoto di responsabilità, ma un eccesso di autori

Gli agenti AI hanno smesso di parlare e hanno cominciato ad agire. Dall’ottobre 2024 un modello di Anthropic può guardare uno schermo, muovere il cursore e cliccare al posto nostro, la capacità che chiamano computer use; dal gennaio 2025 Operator di OpenAI ha cominciato a prenotare, acquistare e compilare moduli per conto dell’utente, capacità poi confluita in ChatGPT agent. Intorno a questa capacità la regolazione si è mossa in fretta. L’AI Act europeo, in vigore dall’agosto 2024 e ad applicazione scaglionata, distribuisce gli obblighi tra chi fornisce e chi utilizza il sistema, impone sorveglianza umana e segnalazione degli incidenti gravi; a febbraio 2026 il NIST ha aperto un’iniziativa sugli standard per gli agenti, centrata su sicurezza, identità e interoperabilità; a gennaio 2026 Singapore ha varato il primo quadro di governance dedicato, con una dimensione esplicita di responsabilità umana. Tutti questi testi corrono a fare la stessa cosa: cercare, dietro l’atto della macchina, qualcuno che ne risponda. Ed è la fretta a tradire il problema. Dove qualcuno agisce, di solito il responsabile non va stabilito: lo trovi ripercorrendo l’azione fino a chi l’ha compiuta. Che ora serva una legge a indicarlo significa che questo percorso si è interrotto, che in fondo alla catena non c’è più una persona ma un elenco. La norma non colma la falla: la segnala, come la febbre segnala il male senza esserlo. Lo chiamiamo vuoto di responsabilità. È il nome sbagliato, e nasconde ciò che davvero si incrina: non l’assenza di un responsabile, ma il suo eccesso.

Chi ha agito?

Un agente non compie un gesto, ne compie una catena. Sceglie, apre, scrive, conferma, e ogni anello si appoggia al precedente. Quando qualcosa va storto, un acquisto sbagliato, un record cancellato, un messaggio partito, e chiedi chi è stato, non ricevi un nome ma un elenco: chi ha addestrato il modello, chi lo ha messo a punto, chi lo ha installato, chi gli ha dato gli strumenti, chi ha scritto l’istruzione, chi ha approvato l’azione. L’AI Act lo riconosce quando spacca l’atto tra fornitore e utilizzatore; Singapore quando aggiunge sopra uno strato di responsabilità umana; il dibattito tecnico quando parla di catene di delega. Sono tutti tentativi di rimettere un autore dietro il gesto.

Ma l’autore non manca. È moltiplicato. E un autore moltiplicato è la prima cosa che si dissolve. Il diritto se ne accorge nel momento concreto in cui prova ad acquisire i log dai provider per ricostruire l’autore del fatto, e trova una catena che attraversa giurisdizioni e mani senza un punto in cui fermarsi a dire: ecco, qui qualcuno ha deciso.

Gli agenti AI e il governo di Nessuno

La letteratura ha chiamato questa difficoltà responsibility gap: già nel 2004 Andreas Matthias osservava che l’azione di un sistema che apprende non si lascia imputare per intero a chi l’ha costruito, perché non poteva prevederla né controllarla. È un buco aperto dall’autonomia e dall’opacità. L’agente però vi somma un secondo meccanismo, di segno opposto: non l’assenza di un autore, ma la sua moltiplicazione. È ciò che la teoria politica chiama il problema delle molte mani: quando un esito nasce da molte azioni, ciascuna piccola e nessuna decisiva, non resta più nessuno a cui addebitarlo. L’agente AI sovrappone i due, l’opacità dell’autonomia e l’eccesso di autori, e per questo la parola “vuoto” non basta: nomina solo metà del problema, quella di Matthias, e tace l’altra.

Hannah Arendt lo aveva detto della burocrazia, definendola il governo di Nessuno. E avvertiva che non è affatto un non-governo: può essere la più tirannica delle forme, perché non c’è più nessuno con cui discutere, nessuno da chiamare a rispondere. L’agente autonomo non inventa questa condizione. La automatizza. È la burocrazia portata a velocità di macchina, il governo di Nessuno che ora non ha bisogno nemmeno degli impiegati. Una responsabilità di tutti è la forma più efficiente di irresponsabilità che si sia mai costruita.

Si obietterà che il diritto risolve a modo suo, assegnando la responsabilità d’ufficio: il fornitore o l’utilizzatore paga comunque, a prescindere dalla colpa. Ma nominare un pagatore non è trovare un autore. È un’assicurazione: distribuisce il costo, non individua chi ha deciso. E nel farlo dà ragione proprio alla nostra tesi: designare in anticipo chi paga significa ammettere che un colpevole, da cercare, non c’è. La copertura conferma il vuoto, non lo colma.

Agire senza poter rispondere

Più a fondo, c’è una parola che la macchina spezza in due. Responsabilità, prima di significare causa, significa poter rispondere: respondere, essere chiamati a rendere conto, avere qualcosa in gioco, una reputazione, un futuro, una pena da temere. L’agente agisce ma non può rispondere. Non ha nulla da perdere, nessun conto da rendere, nessuna vergogna che lo trattenga. E intorno a lui collochiamo esseri umani che potrebbero rispondere ma non hanno agito: hanno approvato una politica, scelto un fornitore, accettato delle condizioni, non compiuto il gesto.

Qui la categoria si rompe per davvero. La responsabilità presupponeva che l’agire e il rispondere stessero nello stesso soggetto: chi fa è chi risponde. L’agente li separa. Da una parte l’azione, che è tutta sua; dall’altra la risposta, che resta a chi non ha mosso un dito. Non a caso la prima reazione tecnica ha riguardato l’identità: il punto, come è stato notato, non è l’agente singolo ma l’eccesso di privilegi delle identità non umane che agiscono per conto di qualcuno. Moltiplicare le identità che agiscono mentre nessuna può rispondere è il modo più concreto di staccare l’atto dalla sua risposta.

Quello che resta da pensare

Avevamo temuto la macchina che agisce senza di noi, l’autonomia come pericolo. Il pericolo è più sottile, e più antico: un mondo in cui l’azione e la risposta si separano, in cui c’è sempre un atto e quasi mai qualcuno che ne risponda. Gli agenti AI non tolgono la responsabilità a nessuno. Rivelano che la responsabilità era un nodo tra l’agire e il rispondere che avevamo già allentato dentro le nostre organizzazioni, e che ora consegniamo a una macchina capace solo della prima metà. Non abbiamo costruito un atto senza autore. Ne abbiamo costruito uno con troppi autori, ed è la stessa cosa: il governo di Nessuno, che adesso sa anche agire.

Riferimenti di pensiero:

• Andreas Matthias, “The responsibility gap: Ascribing responsibility for the actions of learning automata”, in Ethics and Information Technology, vol. 6, n. 3, 2004.
• Dennis F. Thompson, “Moral Responsibility of Public Officials: The Problem of Many Hands”, in American Political Science Review, vol. 74, n. 4, 1980.
• Hannah Arendt, Sulla violenza (On Violence, 1970), e Vita activa (The Human Condition, 1958).