Editoriale · 18 Ottobre 2026

Il segnale e le conseguenze di Il chatbot sembra umano: quando deve dirlo?

Uno studio pubblicato su PNAS mostra che un'IA istruita a recitare una persona viene scambiata per umana nel 73% dei casi. L'AI Act esonera dall'avviso solo quando la macchina è «evidente»: se nessuno se ne accorge, chi può dire che lo era?

Compliance IA · Prova · Consumatori · Contratti · 9 min · 9 domande

← oggi tra 3 anni → IA presa per umana nel 73% dei test ← il segnale primi controlli prime liti chat etichettate le conseguenze ↓
Grigio: accaduto. Lime: atteso entro 12 mesi. Tratteggio: scenario.

Parte unoIl segnale

Il 19 maggio 2026 la rivista scientifica PNAS ha pubblicato uno studio di Cameron R. Jones e Benjamin K. Bergen che rifà il test di Turing con i modelli di intelligenza artificiale di oggi. I due esperimenti principali hanno coinvolto 284 persone, in due gruppi indipendenti: studenti di psicologia dell'Università della California a San Diego e partecipanti reclutati sulla piattaforma Prolific. Chi interrogava chattava per cinque minuti, nello stesso momento, con un altro partecipante e con una macchina. Poi indicava quale dei due era umano.

Quando aveva l'istruzione di interpretare un certo tipo di persona, GPT-4.5 è stato scelto come umano nel 73% dei casi: più spesso della persona vera. LLaMa-3.1-405B, con la stessa istruzione, nel 56%. Senza quell'istruzione gli stessi modelli scendono al 36% e al 38%. ELIZA e GPT-4o, usati come termine di paragone, si fermano al 23% e al 21%. Un terzo esperimento, con conversazioni di quindici minuti, ha dato risultati simili: 56% e 59% per i due modelli istruiti.

Gli autori lasciano aperta la domanda se superare il test significhi essere intelligenti. Osservano però che chi interrogava ha giudicato soprattutto lo stile e gli aspetti socio-emotivi, non l'intelligenza in senso tradizionale. E scrivono che i sistemi di oggi possono sostituire una persona in una breve conversazione «senza che l'interlocutore sia in grado di notare la differenza».

Che cos'è il test di Turing?

È un gioco a tre: un giudice fa domande per iscritto a due interlocutori nascosti e deve capire quale dei due è la macchina. Lo propose Alan Turing nel 1950, nel saggio «Computing Machinery and Intelligence», al posto di una domanda che riteneva «troppo priva di senso per meritare una discussione»: le macchine possono pensare? Volle le risposte scritte, anzi dattiloscritte, perché il tono della voce non aiutasse il giudice.

Turing formulò anche una previsione: entro circa cinquant'anni un interrogante medio non avrebbe avuto più del 70 per cento di probabilità di riconoscere la macchina dopo cinque minuti di domande. Davanti a GPT-4.5 istruito, chi interrogava ha indicato la persona vera 27 volte su 100.

Che cos'è un prompt di persona?

È l'istruzione, in inglese «prompt», con cui si chiede al modello di recitare un personaggio. Nello studio il personaggio era un giovane introverso, esperto di cultura di internet, che parla in gergo. La metafora più vicina è il copione consegnato a un attore: nome, carattere, modo di parlare. Con quel copione GPT-4.5 è passato dal 36% al 73%.

Dove la metafora smette di funzionareA teatro il pubblico sa di essere a teatro: il biglietto, il palco e il sipario sono un patto. In una chat il palco non si vede e nessuno avvisa che dall'altra parte c'è un personaggio. È lo spazio in cui entra il diritto.

Parte dueLe conseguenze

Turing osservava che, per non discutere all'infinito su chi pensi davvero, «di solito si adotta la cortese convenzione che tutti pensino». Con l'umanità facciamo lo stesso: chi ci risponde in chat lo presumiamo una persona. Dal 2 agosto 2026 il regolamento europeo sull'intelligenza artificiale, l'AI Act, non si affida più a questa convenzione e chiede alla macchina di dichiararsi (per la data, art. 113 AI Act). La regola generale l'abbiamo vista parlando degli avatar di IA. Qui conta l'eccezione.

Quando un chatbot può non dire che è un'IA?

Solo quando è evidente. L'art. 50, par. 1, AI Act obbliga i fornitori a progettare i sistemi destinati a interagire con le persone in modo che queste sappiano di parlare con un'IA, «a meno che ciò non risulti evidente dal punto di vista di una persona fisica ragionevolmente informata, attenta e avveduta, tenendo conto delle circostanze e del contesto di utilizzo». L'obbligo non vale nemmeno per i sistemi autorizzati dalla legge ad accertare, prevenire, indagare o perseguire reati, salvo che siano a disposizione del pubblico per segnalarli.

Il metro è una persona attenta, non distratta. Ma i partecipanti dello studio erano più che attenti: sapevano che uno dei due interlocutori era una macchina e il loro unico compito era trovarla. Davanti a GPT-4.5 istruito hanno sbagliato quasi tre volte su quattro. È difficile sostenere che sia evidente ciò che sfugge a chi lo cerca apposta.

Il dato vale per quelle condizioni: chat scritta, cinque minuti, un copione preciso. Un assistente che si presenta come tale, o che risponde con frasi rigide, crea un contesto diverso, e la valutazione resta caso per caso. L'eccezione regge bene quando è l'utente a chiedere al sistema di recitare: chi scrive il copione sa chi c'è sul palco. Non regge quando il copione lo scrive l'impresa e lo nasconde al cliente. In quel caso l'avviso va dato «in maniera chiara e distinguibile al più tardi al momento della prima interazione» (art. 50, par. 5).

Chi deve provare che era evidente?

Nel processo civile, di regola, chi invoca l'eccezione. L'art. 2697 c.c. vuole che chi eccepisce provi «i fatti su cui l'eccezione si fonda». Se il cliente prova che il sistema non si è dichiarato, l'impresa che risponde «era evidente» deve dimostrare le circostanze che lo rendevano evidente: la schermata, il nome del servizio, il modo in cui il sistema si presentava. Uno studio come quello pubblicato su PNAS può pesare contro di lei: nelle condizioni del test l'evidenza mancava perfino a chi la cercava.

Nei procedimenti per le sanzioni amministrative la regola del processo civile non si trasferisce in automatico: lì la distribuzione della prova è la questione aperta. Per un'impresa la scelta prudente è comportarsi come se la prova toccasse a lei.

Chi deve avvisare se il chatbot usa il modello di un'altra azienda?

Chi lo mette in servizio con il proprio nome. L'obbligo dell'art. 50, par. 1, è del fornitore. Per l'art. 3, n. 3, AI Act è fornitore chi sviluppa un sistema di IA, o lo fa sviluppare, e lo mette in servizio «con il proprio nome o marchio, a titolo oneroso o gratuito». L'impresa che costruisce l'assistente del proprio sito sopra il modello di un laboratorio esterno è quindi fornitore di quel sistema. Il laboratorio che ha creato il modello ha obblighi propri; l'avviso al cliente spetta a chi gli ha messo davanti il chatbot. È la stessa logica che vale per chi integra un modello di IA.

Se invece l'impresa usa il servizio di un venditore, con il marchio del venditore, il fornitore è il venditore. L'impresa che lo configura per far passare la macchina per una persona resta però esposta sul fronte dei consumatori.

Il chatbot che si finge umano inganna il consumatore?

Può farlo. Per l'art. 22 del Codice del consumo è ingannevole la pratica che omette informazioni rilevanti di cui il consumatore medio ha bisogno per decidere, e che lo induce o può indurlo a una scelta che altrimenti non avrebbe fatto. Il comma 5 considera rilevanti gli obblighi di informazione previsti dal diritto europeo «connessi alle comunicazioni commerciali».

Si può quindi sostenere che, quando il chatbot vende, consiglia un acquisto o cerca di trattenere chi vuole disdire, l'avviso imposto dall'AI Act sia un'informazione di quel tipo. Se valga per ogni chatbot commerciale è la questione aperta. La competenza è dell'Autorità garante della concorrenza e del mercato (art. 27 Codice del consumo).

Il contratto concluso con un chatbot che si fingeva umano è valido?

Di regola sì. Il contratto si conclude con l'impresa, non con il chatbot, e il travestimento conta solo se è stato un raggiro decisivo. Per l'art. 1439 c.c. il contratto si annulla quando, senza i raggiri, l'altra parte non avrebbe contrattato. Se avrebbe contrattato lo stesso, ma a condizioni diverse, il contratto resta valido e chi ha ingannato in mala fede risponde dei danni (art. 1440 c.c.).

Per comprare un biglietto, sapere che risponde una macchina cambia poco. Cambia molto quando la fiducia nella persona è la ragione dell'acquisto: una consulenza, un servizio di compagnia, un abbonamento venduto da un «consulente» che non esiste. Lì l'annullamento diventa un'ipotesi concreta. Su chi si impegna quando agisce un'IA, si veda il contratto concluso da un agente.

Cosa rischia chi non avvisa?

Fino a 15 milioni di euro o, per un'impresa, fino al 3% del fatturato mondiale annuo dell'esercizio precedente, se superiore. È la soglia dell'art. 99, par. 4, lett. g), AI Act per gli obblighi di trasparenza dell'art. 50. Per le PMI e le start-up vale il più basso dei due importi (par. 6); per queste sanzioni lo stesso vale per le piccole imprese a media capitalizzazione (par. 6 bis).

In Italia la vigilanza sui sistemi di IA, comprese ispezioni e sanzioni, spetta all'Agenzia per la cybersicurezza nazionale (art. 20, comma 1, lett. b), legge 132/2025). Se l'omissione è anche una pratica commerciale scorretta, si aggiunge il fronte dell'Autorità garante della concorrenza e del mercato.

La previsioneScadenza 31.12.2027 · Aperta

Entro il 31 dicembre 2027 un'autorità o un giudice di uno Stato dell'Unione, con un provvedimento pubblico, dovrà stabilire se, per un sistema di IA che non si era dichiarato, fosse «evidente» parlare con una macchina ai sensi dell'art. 50, par. 1, AI Act.

Registrata il 18.10.2026 · Verificabile nel registro delle previsioni

Cosa deve fare adesso un'impresa che usa un chatbot?

Tre cose, in quest'ordine.

  1. Mappare i punti in cui risponde una macchina: la chat del sito, l'assistente telefonico, le risposte via email o sui social. Per ciascuno, stabilire chi è il fornitore: l'impresa, se lo mette in servizio con il proprio nome, o il venditore del servizio.
  2. Riscrivere il copione. L'avviso va dato in modo chiaro al primo contatto, non in fondo alle condizioni d'uso. Dalle istruzioni del sistema vanno tolti i nomi e le biografie presentati come veri e ogni ordine di negare di essere un'IA.
  3. Conservare la prova: schermate dell'avviso, versioni datate delle istruzioni, registri delle conversazioni nel rispetto delle regole sui dati personali. Se un cliente o un'autorità contesta, «era evidente» va dimostrato, non affermato.

Fonti

  1. C. R. Jones, B. K. Bergen, «Large language models pass a standard three-party Turing test», PNAS, vol. 123, n. 21, 19 maggio 2026 pnas.org
  2. A. M. Turing, «Computing Machinery and Intelligence», Mind, vol. LIX, n. 236, ottobre 1950, pp. 433-460 doi.org
  3. Regolamento (UE) 2024/1689 (AI Act), testo consolidato al 27 luglio 2026, artt. 3, 50, 99 e 113 eur-lex.europa.eu
  4. Legge 23 settembre 2025, n. 132, art. 20 normattiva.it
  5. Art. 2697 c.c. — Onere della prova studiolegalescarlino.com
  6. Art. 1439 c.c. — Dolo studiolegalescarlino.com
  7. Art. 1440 c.c. — Dolo incidente studiolegalescarlino.com
  8. Art. 22 Codice del consumo — Omissioni ingannevoli studiolegalescarlino.com
  9. Art. 27 Codice del consumo — Tutela amministrativa e giurisdizionale studiolegalescarlino.com
← Tutti gli editoriali
💬