Se un’intelligenza artificiale può pianificare e agire da sola, chi risponde delle sue azioni? È la domanda al centro del webinar «Agentic AI: tra autonomia e responsabilità», organizzato da AgID Academy il 13 aprile 2026.
Al confronto, moderato da Paola Liberace, hanno partecipato Giuseppe Italiano, prorettore per l’AI della LUISS Guido Carli, e Mario De Caro, titolare della Cattedra UNESCO in Ethics of AI all’Università Roma Tre. Con loro Mario Nobile, direttore generale di AgID.
Tre prospettive diverse, tecnica, etica e istituzionale, che arrivano a una conclusione comune: l’autonomia delle macchine va accompagnata da regole chiare su chi decide e chi risponde. Ripercorriamo i punti principali e cosa significano per chi, come noi, porta l’AI in azienda e in sanità.
Da agente AI ad AI agentica#
Giuseppe Italiano parte da una distinzione che spesso si perde nel dibattito pubblico. Un agente AI usa un modello linguistico come motore, ma non si ferma alla conversazione: agisce su risorse esterne come database, motori di ricerca e piattaforme digitali.
Tre elementi lo definiscono: un perimetro d’azione fissato da chi gli assegna gli obiettivi, un’interfaccia per dialogare con gli utenti e l’accesso a strumenti specifici. Italiano lo paragona a un dipendente digitale a cui affidiamo una scrivania virtuale per sbrigare una pratica.
L’AI agentica è un’altra cosa: è l’organizzazione del lavoro, cioè il modo in cui più agenti vengono coordinati per raggiungere un obiettivo. L’esempio sono gli assistenti alla programmazione. Scrivono una prima bozza di codice, la analizzano, la eseguono in un ambiente protetto, correggono gli errori e ricominciano finché il risultato funziona.
Questo salto porta con sé tre sfide nuove:
- Certificazione. Un singolo agente si certifica come un prodotto. Un sistema agentico richiede di certificare processi e comportamenti che cambiano nel tempo.
- Responsabilità distribuita. Quando più agenti collaborano, diventa difficile stabilire chi ha eseguito un’azione, perché e con quali effetti.
- Governance. Qualcuno deve decidere cosa fa ogni agente, chi li coordina e a chi attribuire ogni singolo passaggio.
In sintesi, si passa dal gestire informazioni al gestire processi. E più gli agenti sono bravi a muoversi da soli, più è difficile seguire il percorso che li porta a una conclusione.
Italiano non ne fa un motivo di allarme. Abbiamo usato il fuoco molto prima di capirne la chimica e la macchina a vapore prima della termodinamica. Ma ricorda che anche un servizio pubblico proattivo, come uno Stato che si attiva da solo alla nascita di un figlio, prende iniziative, usa dati personali e coordina più enti. Per questo servono regole, trasparenza e responsabilità chiare.
Agenti morali senza diritti#
Mario De Caro sposta la discussione sull’etica. Un agente morale è un’entità autonoma le cui decisioni possono fare del bene o del male agli altri.
Nella storia la sfera morale si è allargata più volte. Prima gli schiavi, poi le donne, che hanno votato per la prima volta solo nel 1893, in Nuova Zelanda. Oggi riconosciamo doveri anche verso gli animali, i bambini e le generazioni future. Sono entità che hanno diritti ma non doveri: in termini filosofici, sono «pazienti morali» ma non agenti.
Con l’AI agentica accade per la prima volta il contrario. Questi sistemi agiscono e incidono sulla vita delle persone, quindi devono rispettare vincoli morali. Ma non hanno diritti, perché non hanno coscienza e non possono soffrire. Sulla possibilità di una coscienza artificiale futura, osserva De Caro, gli esperti sono divisi a metà.
Perché servono vincoli? Perché questi sistemi sono autonomi, poco prevedibili e difficili da spiegare. Non sono deterministici come la vecchia AI, ma probabilistici. Il caso estremo citato da De Caro sono i droni militari autonomi: un sistema con un solo obiettivo e nessun limite su ciò che può colpire per raggiungerlo.
Decisioni giuste per i motivi sbagliati#
Il punto più concreto dell’intervento di De Caro riguarda la spiegabilità. Un sistema può dare spesso la risposta giusta senza che sappiamo se ci arriva per le ragioni giuste.
L’esempio è diventato un classico. Un modello addestrato a distinguere lupi e husky indovinava nel 95% dei casi. Analizzando gli errori, si è scoperto che nelle foto dei lupi c’era quasi sempre la neve sullo sfondo. Il sistema non riconosceva l’animale: riconosceva la neve.
Con lupi e husky l’errore è innocuo. In medicina no. De Caro cita uno studio recente secondo cui, nelle malattie rare, i sistemi AI azzeccano la diagnosi molto più spesso dei medici. Ma se un modello basa la diagnosi su un sintomo collaterale, dovuto magari a un’altra causa, prima o poi sbaglierà senza che nessuno se ne accorga in tempo.
Da qui la domanda che attraversa tutto il webinar: quando un sistema autonomo sbaglia, di chi è la responsabilità? Dello sviluppatore, di chi lo adotta, dell’utente o dell’istituzione?
La lezione della guida autonoma#
Mario Nobile risponde con un paragone ormai familiare: i livelli della guida autonoma, da 1 a 5. L’auto che guida da sola è forse l’agente AI per eccellenza.
Il suo punto di partenza è provocatorio. In Italia muoiono circa 3.000 persone l’anno sulle strade. Lasciare tutto all’essere umano, senza strumenti che impediscano di guidare in stato di alterazione, ha un costo. E non garantisce nemmeno la responsabilità: senza scatole nere a bordo, obbligatorie in altri mercati, spesso non si può stabilire se un incidente sia dovuto a un errore umano o a un guasto.
Lo stesso vale per la pubblica amministrazione. Quando un contributo o una casa popolare finiscono alla persona sbagliata, la colpa non è chiaramente né del funzionario né dell’algoritmo. Ma qualcuno deve risponderne.
La posizione di Nobile è netta:
- Fino al livello 4, sì. La macchina aiuta, riduce errori e danni, ma l’essere umano mantiene la responsabilità. Il volante e il cambio restano al loro posto.
- Il livello 5 è lontano. L’autonomia totale significa affidare alla macchina scelte morali su cui gli esseri umani non sono d’accordo.
Lo dimostra Moral Machine, il progetto del MIT sul dilemma del carrello. Se un’auto senza freni deve scegliere chi investire, le risposte cambiano con la cultura, la religione e il coinvolgimento personale. Come possiamo delegare a una macchina ciò che non siamo riusciti a definire tra noi?
Cosa significa per chi costruisce AI#
Per chi sviluppa sistemi di AI ogni giorno, il messaggio del webinar si traduce in scelte di progetto concrete. Sono le stesse che guidano il nostro lavoro.
- L’essere umano resta al volante. KOI supporta gli anestesisti nella classificazione ASA-PS dei pazienti, ma la decisione finale resta al medico. È il «livello 4» di cui parla Nobile: la macchina riduce gli errori, la persona ne risponde.
- Ogni azione deve essere tracciabile. Negli agenti di TIDE, come in qualsiasi sistema agentico, bisogna poter ricostruire chi ha fatto cosa e perché. Senza tracciabilità la responsabilità distribuita diventa responsabilità di nessuno.
- I dati restano sotto controllo. Un agente che usa dati personali e coordina più sistemi deve farlo dentro un perimetro definito. È il motivo per cui la nostra infrastruttura PRISMA gira on-premise o su cloud europeo, in linea con GDPR e AI Act.
- I casi critici passano da una persona. Quando un sistema automatizza un flusso, le anomalie vanno segnalate per una revisione umana, non risolte in silenzio.
L’AI agentica può rendere organizzazioni e pubbliche amministrazioni più efficienti e, come ha detto Italiano, perfino più presenti nella vita delle persone. Ma l’autonomia funziona solo se è chiaro, prima, chi decide e chi risponde.