Per responsabili tecnici e IT
Deterministico o generativo: che cosa non può sbagliare il supporto tecnico basato sull’IA
Un chatbot che improvvisa è un rischio quando la risposta è un passaggio di cablaggio. Che cosa significano per i produttori la sentenza Air Canada, la ricerca sulle allucinazioni e l’AI Act dell’UE.
Lingo
4 min di lettura
Quando un chatbot basato sull’IA sbaglia una politica di rimborso, il costo è di qualche centinaio di dollari e un titolo di giornale. Quando sbaglia il collegamento di una costa di sicurezza, la porta non si ferma davanti al bambino che ci sta sotto. Ai produttori serve un’IA diversa da quella di cui parlano i giornali, e vale la pena essere precisi sulla differenza.
In breve
- I sistemi generativi compongono ogni volta una nuova risposta. I sistemi deterministici danno una risposta approvata per ogni situazione che riconoscono e passano tutto il resto a una persona.
- Un tribunale canadese ha considerato il chatbot di un’azienda come l’azienda che parla: Air Canada ha dovuto onorare una politica inventata dal suo chatbot.
- Anche i migliori modelli linguistici introducono ancora errori quando riassumono un documento che viene loro fornito. Per il cablaggio e i passaggi di sicurezza, la risposta deve essere quella approvata dai vostri tecnici.
Due modi di rispondere a una domanda
Due architetture per rispondere a un installatore
La stessa domanda, due percorsi verso la risposta
Generativo
- L’installatore fa una domanda
- Il modello trova i brani che sembrano pertinenti
- Da quelli scrive una nuova risposta
- La formulazione, e a volte la sostanza, può cambiare da un installatore all’altro
Deterministico
- L’installatore fa una domanda
- Il sistema la abbina a una risposta approvata dall’azienda
- Pone la domanda successiva prevista dalla documentazione, oppure indica la soluzione documentata
- Nessuna risposta approvata: la domanda passa a una persona
I modelli linguistici sono molto bravi nella prima metà del percorso deterministico: capire che “la porta non si chiude e c’è un E12” e “E12, serranda bloccata a metà” sono la stessa situazione. La scelta progettuale riguarda ciò che accade dopo. È il modello a scrivere la risposta, oppure passa la parola a una risposta che i vostri tecnici hanno già verificato?
Il chatbot è l’azienda
Nel febbraio 2024 un tribunale canadese si è pronunciato sul caso Moffatt v. Air Canada. Il chatbot del sito della compagnia aerea aveva detto a un cliente che avrebbe potuto chiedere il rimborso previsto dalla tariffa per lutto dopo aver viaggiato. La politica effettiva della compagnia diceva il contrario. Air Canada ha sostenuto, in sostanza, che il chatbot fosse responsabile delle proprie parole. Il tribunale non è stato d’accordo, ha riconosciuto una dichiarazione inesatta per negligenza e ha ritenuto la compagnia responsabile di tutte le informazioni presenti sul suo sito. Ha condannato Air Canada a pagare 650,88 dollari canadesi di risarcimento, 812,02 con interessi e spese.
La somma era modesta. Il principio no.
Un produttore che lascia improvvisare a un assistente i consigli di installazione risponde di quei consigli, e le conseguenze di chi li segue sono raramente il rimborso di un biglietto.
Quanto spesso sbagliano i modelli?
Non esiste un unico tasso di errore per l’IA, e chi ne cita uno sta vendendo qualcosa. Una misurazione pubblica molto citata è la classifica delle allucinazioni di Vectara, che fornisce ai modelli un documento e chiede loro di riassumerlo, poi verifica se il riassunto afferma qualcosa che il documento non dice. Nell’aggiornamento del 22 settembre 2026 comprendeva 108 modelli. Il migliore ha aggiunto qualcosa che non era nella fonte nell’1,8% dei riassunti, il peggiore nel 24,2%. Vectara valuta i riassunti con un proprio modello su un set di dati privato, e ha cambiato quel set di dati nel novembre 2025, quindi i dati precedenti non sono confrontabili.
Ne derivano due cose. I modelli migliori sono ormai molto buoni, e anche i migliori aggiungono ancora qualcosa che non era nella fonte in circa un riassunto su cinquanta. Va bene per la bozza di un’email. Non va bene per la coppia di serraggio di un freno, per i morsetti dello sgancio da allarme antincendio o per l’ordine dei passaggi che rende sicura una porta.
Usate il modello per capire la domanda. Usate la risposta approvata dai vostri tecnici per rispondere.
Cinque domande da fare a qualsiasi fornitore di supporto basato sull’IA
| Domanda | Una buona risposta |
|---|---|
| Da dove proviene ogni risposta? | Da un documento e una pagina precisi, o da un percorso approvato dal vostro team. Non “dal modello”. |
| Chi approva una risposta prima che gli installatori la vedano? | Una persona del vostro team tecnico, con nome e cognome, e con la modifica registrata. |
| Che cosa succede quando il sistema non sa rispondere? | Lo dice e passa la domanda a una persona, con la conversazione allegata. Non ci prova comunque. |
| Due installatori che fanno la stessa domanda riceveranno la stessa risposta? | Dovrebbero: gli stessi passaggi pubblicati, finché il vostro team non li modifica. |
| Dice all’installatore che si tratta di un servizio automatizzato? | Dovrebbe, fin dal primo messaggio. Nell’UE il fornitore è tenuto a garantirlo dal 2 agosto 2026. |
Lingo si basa sulla seconda architettura: le guide vengono redatte in bozza a partire dalla vostra documentazione, e nulla viene pubblicato finché il vostro team tecnico non lo ha confrontato con il documento di origine. Un installatore può chiedere di parlare con una persona in qualsiasi momento. Il nostro articolo su come Lingo trasforma un manuale in una guida illustra ogni passaggio.
Fonti
- Moffatt v. Air Canada, 2024 BCCRT 149British Columbia Civil Resolution Tribunal, 14 febbraio 2024. Paragrafi 27, 40 e 44.
- AI gone wild: airline has to honor a refund policy its chatbot fabricatedManatt, Phelps and Phillips, febbraio 2024.
- Air Canada chatbot decisionDaily Hive, febbraio 2024. Importi riconosciuti.
- Hallucination leaderboardVectara, aggiornamento del 22 settembre 2026. Benchmark gestito dal fornitore. Riassunto di un documento dato, valutato dal modello di Vectara.
- Transparency obligations under Article 50 AI ActCommissione europea, luglio 2026.
- AI Act, Article 113: entry into force and applicationAI Act Service Desk della Commissione europea, luglio 2026.
Le domande più comuni
Qual è la differenza tra IA deterministica e IA generativa nel supporto tecnico?
Un sistema generativo scrive ogni volta una nuova risposta a partire da ciò che ha appreso o recuperato, quindi la formulazione, e a volte la sostanza, può cambiare. Un sistema deterministico dà una risposta fissa e approvata in anticipo per ogni situazione che riconosce, e passa tutto il resto a una persona. Per il cablaggio, le impostazioni di sicurezza e la ricerca guasti, la seconda è l’architettura più sicura.
Un’azienda può essere ritenuta responsabile di ciò che dice il suo chatbot?
Sì. Nel caso Moffatt v. Air Canada (febbraio 2024), un tribunale canadese ha ritenuto la compagnia aerea responsabile di una politica di rimborso descritta in modo errato dal chatbot del suo sito, e l’ha condannata a versare al cliente 650,88 dollari canadesi a titolo di risarcimento. Il tribunale ha considerato il chatbot parte del sito dell’azienda.
Il regolamento europeo sull’IA impone ai chatbot di dichiarare che sono un’IA?
Sì. L’articolo 50, paragrafo 1, del regolamento europeo sull’IA (AI Act) si applica dal 2 agosto 2026. Impone ai fornitori di sistemi di IA che interagiscono direttamente con le persone di garantire che queste siano informate del fatto che stanno interagendo con un sistema di IA, a meno che ciò non sia evidente.
