Editoriale · 30 Settembre 2026

Il segnale e le conseguenze di Agenti di IA in azienda: chi risponde

Un documento di lavoro dell'OCSE, basato su interviste in 25 organizzazioni, mostra agenti di IA già al lavoro sotto punti di controllo umani. Se un agente sbaglia, chi risponde: l'impresa, il consiglio di amministrazione, il fornitore?

Impresa · Responsabilità · Contratti · Privacy · 8 min · 6 domande

← oggi tra 3 anni → Agenti al lavoro con punti di controllo ← il segnale regole sui danni prime liti standard agenti le conseguenze ↓
Grigio: accaduto. Lime: atteso entro 12 mesi. Tratteggio: scenario.

Parte unoIl segnale

Il 24 settembre 2026 il blog dell'OCSE sull'intelligenza artificiale ha pubblicato un articolo di Sara Rendtorff-Smith, che guida la divisione dell'OCSE per l'IA e le tecnologie digitali emergenti, e di Yuko Harayama. Presenta un documento di lavoro dell'OCSE, «Agentic AI in organisations» (l'IA agentica nelle organizzazioni), costruito su interviste a operatori di 25 organizzazioni in 11 paesi: sviluppatori di modelli di punta, imprese utilizzatrici, amministrazioni pubbliche, istituzioni accademiche. Le opinioni, avverte il blog, sono degli autori e non riflettono necessariamente le posizioni ufficiali dell'OCSE.

Gli agenti sono già al lavoro: produttività aziendale, sviluppo di software, sicurezza informatica, pianificazione di infrastrutture e reti, ricerca scientifica, amministrazione pubblica. Nessuna delle organizzazioni ascoltate riferisce di usarli con autonomia illimitata. Molte usano punti di controllo: l'agente procede da solo fino a un punto prestabilito, dove serve la revisione o l'approvazione di una persona, soprattutto prima di azioni ad alto impatto o irreversibili. Nessuna misura basta da sola: si sommano sorveglianza umana calibrata, competenze di settore integrate nei sistemi, prove in ambienti isolati, accessi ridotti al minimo necessario, monitoraggio continuo e registri degli agenti approvati.

Restano tre problemi aperti. Manca uno standard condiviso per valutare il comportamento di un agente lungo una sequenza di azioni. Nei flussi con molti passaggi e più agenti è più difficile risalire all'origine di un errore, e attribuire la responsabilità si complica quando gli agenti operano tra organizzazioni diverse; i sistemi di gestione delle identità e degli accessi sono stati pensati soprattutto per le persone. Infine la sicurezza: gli autori richiamano un recente incidente che ha coinvolto agenti di OpenAI e la piattaforma Hugging Face, e rischi come la collusione tra agenti, il loro dirottamento, il furto di credenziali e la fuga di dati.

Che cos'è un punto di controllo in un agente di IA?

È il punto in cui l'agente si ferma e attende che una persona verifichi o approvi prima di proseguire. Un agente di IA non si limita a rispondere: scompone un compito in passaggi, usa strumenti (la posta, un gestionale, un sistema di pagamento) e agisce. L'OCSE parla di IA agentica per sistemi di più agenti coordinati che perseguono obiettivi complessi in autonomia, per periodi estesi, con una sorveglianza umana limitata. Il punto di controllo rimette una persona dove un errore costerebbe di più: prima delle azioni ad alto impatto o irreversibili.

Si può pensare alla doppia firma che molte imprese prevedono per i pagamenti sopra una certa soglia: sotto la soglia l'impiegato procede da solo, sopra serve un secondo sì.

Dove la metafora smette di funzionareL'impiegato sa quando si avvicina alla soglia e può spiegare perché ha fatto ciò che ha fatto. L'agente può comportarsi in modo diverso da un'esecuzione all'altra e arrivare al punto di controllo per strade che nessuno ha visto. Per questo molti intervistati chiedono di sorvegliare anche le azioni intermedie, non solo il risultato.

Parte dueLe conseguenze

Il consiglio di amministrazione deve occuparsi degli agenti di IA?

Sì, quando gli agenti lavorano per l'impresa. Le regole sono generali, pensate per ogni impresa, ma valgono anche qui. Chi opera in forma societaria deve istituire un assetto organizzativo, amministrativo e contabile adeguato alla natura e alle dimensioni dell'impresa (art. 2086, secondo comma, c.c.). Nella società per azioni l'organizzazione dell'impresa, compresa l'istituzione di quell'assetto, spetta esclusivamente agli amministratori (art. 2380-bis c.c.).

Decidere dove un agente può procedere da solo e dove deve fermarsi è una scelta di organizzazione. Se il consiglio delega, gli organi delegati curano l'assetto e riferiscono almeno ogni sei mesi sull'andamento della gestione; il consiglio, sulla base delle informazioni ricevute, ne valuta l'adeguatezza (art. 2381-bis c.c.). Gli amministratori sono tenuti ad agire in modo informato (art. 2381-ter c.c.). L'organo di controllo vigila sull'adeguatezza e sul concreto funzionamento dell'assetto, compreso il sistema di controllo interno e di gestione dei rischi (art. 2396-quinquies c.c.). Gli amministratori che non adempiono questi doveri con la diligenza richiesta rispondono in solido verso la società dei danni che ne derivano (art. 2392 c.c.).

Che un assetto adeguato comprenda un registro degli agenti e punti di controllo prima delle azioni irreversibili è un'interpretazione, non una regola scritta. Ma più quella prassi si diffonde, più sarà difficile sostenere che un assetto senza questi presìdi sia adeguato.

Chi risponde se l'agente di un'impresa danneggia un terzo?

Di regola l'impresa che lo usa; resta aperto con quale regola, e la scelta decide chi deve provare che cosa. Con la regola generale, chi causa ad altri un danno ingiusto con un fatto doloso o colposo deve risarcirlo (art. 2043 c.c.), e tocca a chi lo subisce provare anche la colpa (art. 2697 c.c.). Se l'uso di agenti fosse considerato un'attività pericolosa per la natura dei mezzi adoperati, l'impresa risponderebbe «se non prova di avere adottato tutte le misure idonee a evitare il danno» (art. 2050 c.c.). Se l'agente fosse trattato come una cosa in custodia, risponderebbe salvo il caso fortuito (art. 2051 c.c.).

Il legislatore ha già indicato una direzione. La legge italiana sull'intelligenza artificiale delega il Governo a prevedere strumenti di tutela del danneggiato, «anche attraverso una specifica regolamentazione dei criteri di ripartizione dell'onere della prova», tenendo conto di come l'AI Act classifica i sistemi di IA (art. 24, commi 3 e 5, lett. d), legge 132/2025). La delega scade il 10 ottobre 2026, dodici mesi dopo l'entrata in vigore della legge; il termine si allunga di sessanta giorni se quello per i pareri parlamentari scade nei trenta giorni precedenti o dopo.

In ogni scenario, i punti di controllo, gli accessi minimi, il monitoraggio e i registri che l'OCSE descrive come buone pratiche sono anche le prove che l'impresa potrebbe dover portare davanti a un giudice. Le registrazioni automatiche delle azioni dell'agente (i log) sono riproduzioni informatiche: fanno piena prova dei fatti rappresentati, se chi le subisce non ne disconosce la conformità (art. 2712 c.c.). Del loro peso nei contratti conclusi dagli agenti abbiamo scritto in «Il contratto lo firma l'agente». Nei prossimi dodici mesi è ragionevole attendersi le prime liti sulle azioni degli agenti.

Se l'agente è di un fornitore esterno, chi risponde?

Verso il cliente, di regola, l'impresa che lo usa. Salvo patto diverso, chi nell'adempiere un'obbligazione si vale dell'opera di terzi risponde anche dei loro fatti dolosi o colposi (art. 1228 c.c.); il fornitore dell'agente è, con buona probabilità, uno di questi terzi. L'impresa potrà poi rivalersi sul fornitore, nei limiti del contratto che li lega.

Quei limiti hanno un confine. È nullo qualsiasi patto che esclude o limita preventivamente la responsabilità del debitore per dolo o per colpa grave (art. 1229 c.c.): una clausola che escludesse ogni responsabilità del fornitore per le azioni dell'agente non reggerebbe in questi casi. Resta il problema segnalato dall'OCSE: quando gli agenti operano tra più organizzazioni, risalire all'origine di un errore è più difficile, e senza prova non c'è rivalsa.

Un agente di IA può usare le credenziali di un dipendente?

Tecnicamente sì, ma è una scorciatoia difficile da difendere. L'OCSE osserva che i sistemi di gestione delle identità e degli accessi sono stati pensati soprattutto per le persone, e tra i rischi indica il furto di credenziali e il dirottamento degli agenti.

Quando l'agente tratta dati personali, il titolare deve garantire che siano trattati, per impostazione predefinita, solo i dati necessari per ogni specifica finalità, anche quanto all'accessibilità (art. 25, par. 2, GDPR), e deve adottare misure di sicurezza adeguate al rischio (art. 32 GDPR). Un agente che eredita tutti gli accessi di un dipendente vede più di quanto gli serve: è l'opposto dell'accesso minimo che gli intervistati indicano come misura. E nei log le sue azioni risultano del dipendente: se qualcosa va storto, distinguere chi ha fatto che cosa diventa difficile.

La previsioneScadenza 30.09.2027 · Aperta

Entro il 30 settembre 2027 sarà in vigore in Italia una norma che regola la ripartizione dell'onere della prova nei giudizi per danni causati da sistemi di intelligenza artificiale.

Registrata il 27.09.2026 · Verificabile nel registro delle previsioni

Cosa deve fare adesso un'impresa che usa agenti di IA?

Tre cose, in quest'ordine.

  1. Censire gli agenti in uso in un registro: che cosa fanno, con quali accessi, chi ne risponde. È la base di un assetto adeguato (art. 2086 c.c.).
  2. Fermare gli agenti prima delle azioni irreversibili, dare a ciascuno credenziali proprie e limitate, conservare i log delle azioni intermedie (art. 2050 c.c., art. 25 GDPR).
  3. Portare la questione in consiglio e nei contratti: relazioni periodiche degli organi delegati che includano gli agenti (art. 2381-bis c.c.); clausole con i fornitori su log, responsabilità e collaborazione in caso di contestazione (art. 1229 c.c.).

Fonti

  1. Sara Rendtorff-Smith, Yuko Harayama, «Putting agentic AI systems to work: What practitioners reveal about deployment and governance», OECD.AI, 24 settembre 2026 oecd.ai
  2. OCSE, «Agentic AI in organisations: Early insights from practitioner interviews», documento di lavoro oecd.org
  3. Codice civile, artt. 1228, 1229, 2043, 2050, 2051, 2086, 2380-bis, 2381-bis, 2381-ter, 2392, 2396-quinquies, 2697, 2712 studiolegalescarlino.com
  4. Reg. (UE) 2016/679 (GDPR), artt. 25 e 32 eur-lex.europa.eu
  5. Legge 23 settembre 2025, n. 132, art. 24 normattiva.it
  6. «Il contratto lo firma l'agente», Orizzonte IA Diritto studiolegalescarlino.com
← Tutti gli editoriali
💬