Dla szefów działów technicznych i IT
Deterministyczna czy generatywna: co AI we wsparciu technicznym musi robić dobrze
Chatbot, który improwizuje, staje się obciążeniem, gdy odpowiedzią jest krok okablowania. Co wyrok w sprawie Air Canada, badania nad halucynacjami i unijny akt w sprawie sztucznej inteligencji oznaczają dla producentów.
Lingo
4 min czytania
Gdy chatbot AI pomyli się co do zasad zwrotu pieniędzy, kosztuje to kilkaset dolarów i nagłówek w prasie. Gdy pomyli się co do podłączenia listwy bezpieczeństwa, brama nie zatrzyma się przed dzieckiem, które pod nią stoi. Producenci potrzebują innego rodzaju AI niż ta, o której piszą media, i warto precyzyjnie określić, na czym polega różnica.
W skrócie
- Systemy generatywne za każdym razem układają nową odpowiedź. Systemy deterministyczne podają zatwierdzoną odpowiedź w każdej sytuacji, którą rozpoznają, a wszystko inne przekazują człowiekowi.
- Kanadyjski trybunał potraktował słowa firmowego chatbota jak słowa firmy: Air Canada musiała dotrzymać zasad, które zmyślił jej chatbot.
- Nawet najlepsze modele językowe wciąż wprowadzają błędy, gdy streszczają dokument, który dostały. Przy okablowaniu i czynnościach związanych z bezpieczeństwem odpowiedź powinna być tą, którą zatwierdzili wasi inżynierowie.
Dwa sposoby odpowiadania na pytanie
Dwie koncepcje odpowiadania instalatorowi
To samo pytanie, dwie drogi do odpowiedzi
Generatywny
- Instalator zadaje pytanie
- Model znajduje fragmenty, które wyglądają na pasujące
- Pisze na ich podstawie nową odpowiedź
- Sformułowanie, a czasem także treść, może być inne dla każdego kolejnego instalatora
Deterministyczny
- Instalator zadaje pytanie
- System dopasowuje je do odpowiedzi zatwierdzonej przez firmę
- Zadaje kolejne udokumentowane pytanie albo podaje udokumentowane rozwiązanie
- Brak zatwierdzonej odpowiedzi: pytanie trafia do człowieka
Modele językowe bardzo dobrze radzą sobie z pierwszą połową drogi deterministycznej: rozumieją, że „brama się nie zamyka i wyświetla E12” oraz „E12, roleta stanęła w połowie” to ta sama sytuacja. Pytanie projektowe brzmi: co dalej. Czy model sam pisze odpowiedź, czy przekazuje sprawę do odpowiedzi, którą wasi inżynierowie już sprawdzili?
Chatbot to firma
W lutym 2024 r. kanadyjski trybunał rozstrzygnął sprawę Moffatt v. Air Canada. Chatbot na stronie linii lotniczej powiedział klientowi, że o zwrot w ramach taryfy żałobnej może wystąpić już po podróży. Rzeczywiste zasady przewoźnika mówiły co innego. Air Canada dowodziła w gruncie rzeczy, że chatbot sam odpowiada za swoje słowa. Trybunał się z tym nie zgodził, stwierdził wprowadzenie w błąd wskutek niedbalstwa i uznał, że linia odpowiada za wszystkie informacje na swojej stronie. Nakazał Air Canada zapłacić 650,88 C$ odszkodowania, a z odsetkami i opłatami 812,02 C$.
Kwota była mała. Zasada już nie.
Producent, który pozwala asystentowi improwizować porady montażowe, odpowiada za te porady, a skutki zastosowania się do nich rzadko kończą się na zwrocie ceny biletu.
Jak często modele się mylą?
Nie ma jednego wskaźnika błędów dla AI, a kto taki podaje, ten coś sprzedaje. Często cytowanym publicznym pomiarem jest ranking halucynacji Vectary: modele dostają dokument z poleceniem streszczenia, po czym sprawdza się, czy streszczenie mówi coś, czego w dokumencie nie ma. W aktualizacji z 22 września 2026 r. ranking obejmował 108 modeli. Najlepszy dodał coś, czego nie było w źródle, w 1,8% streszczeń, najgorszy w 24,2%. Vectara ocenia streszczenia własnym modelem na niepublicznym zbiorze danych, a w listopadzie 2025 r. ten zbiór zmieniła, więc wcześniejszych wyników nie da się porównywać.
Wynikają z tego dwie rzeczy. Najlepsze modele są dziś bardzo dobre, a mimo to nawet najlepsze dodają coś, czego nie było w źródle, mniej więcej w jednym streszczeniu na pięćdziesiąt. Przy szkicu e-maila to wystarczy. Nie wystarczy przy nastawie momentu hamulca, zaciskach do wyzwalania z centrali pożarowej ani przy kolejności czynności, od której zależy bezpieczeństwo bramy.
Model niech rozumie pytanie. Odpowiada zatwierdzona odpowiedź waszych inżynierów.
Pięć pytań do każdego dostawcy AI do wsparcia
| Pytanie | Dobra odpowiedź |
|---|---|
| Skąd pochodzi każda odpowiedź? | Z konkretnego dokumentu i strony albo ze ścieżki zatwierdzonej przez wasz zespół. Nie „z modelu”. |
| Kto zatwierdza odpowiedź, zanim zobaczą ją instalatorzy? | Wskazana z imienia i nazwiska osoba z waszego zespołu technicznego, a zmiana jest odnotowana. |
| Co się dzieje, gdy system nie wie? | Mówi o tym i przekazuje pytanie człowiekowi razem z zapisem rozmowy. Nie próbuje odpowiadać mimo wszystko. |
| Czy dwóch instalatorów, którzy zadadzą to samo pytanie, dostanie tę samą odpowiedź? | Powinni: te same opublikowane kroki, dopóki wasz zespół ich nie zmieni. |
| Czy informuje instalatora, że jest usługą automatyczną? | Powinien, od pierwszej wiadomości. W UE dostawca ma obowiązek to zapewnić od 2 sierpnia 2026 r. |
Lingo opiera się na drugiej koncepcji: przewodniki powstają jako wersje robocze na podstawie waszej dokumentacji i nic nie jest publikowane, dopóki wasz zespół techniczny nie porówna tego z dokumentem źródłowym. Instalator może w każdej chwili poprosić o kontakt z człowiekiem. Każdy krok opisuje nasz artykuł o tym, jak Lingo zamienia instrukcję w przewodnik.
Źródła
- Moffatt v. Air Canada, 2024 BCCRT 149British Columbia Civil Resolution Tribunal, 14 lutego 2024 r. Punkty 27, 40 i 44.
- AI gone wild: airline has to honor a refund policy its chatbot fabricatedManatt, Phelps and Phillips, luty 2024 r.
- Air Canada chatbot decisionDaily Hive, luty 2024 r. Zasądzone kwoty.
- Hallucination leaderboardVectara, aktualizacja z 22 września 2026 r. Benchmark prowadzony przez dostawcę. Streszczanie zadanego dokumentu, oceniane własnym modelem Vectary.
- Transparency obligations under Article 50 AI ActKomisja Europejska, lipiec 2026 r.
- AI Act, Article 113: entry into force and applicationAI Act Service Desk Komisji Europejskiej, lipiec 2026 r.
Pytania, które padają najczęściej
Czym różni się AI deterministyczna od generatywnej we wsparciu technicznym?
System generatywny za każdym razem pisze nową odpowiedź na podstawie tego, czego się nauczył lub co wyszukał, więc sformułowanie, a czasem także treść, może się zmieniać. System deterministyczny podaje stałą, wcześniej zatwierdzoną odpowiedź w każdej sytuacji, którą rozpoznaje, a wszystko inne przekazuje człowiekowi. Przy okablowaniu, nastawach bezpieczeństwa i szukaniu usterek bezpieczniejsza jest ta druga koncepcja.
Czy firma może odpowiadać za to, co mówi jej chatbot?
Tak. W sprawie Moffatt v. Air Canada (luty 2024 r.) kanadyjski trybunał uznał, że linia lotnicza odpowiada za zasady zwrotu błędnie opisane przez chatbota na jej stronie, i nakazał jej wypłacić klientowi 650,88 C$ odszkodowania. Trybunał potraktował chatbota jako część strony internetowej firmy.
Czy unijny akt w sprawie AI wymaga, by chatboty informowały, że są AI?
Tak. Art. 50 ust. 1 unijnego aktu w sprawie AI stosuje się od 2 sierpnia 2026 r. Zobowiązuje on dostawców systemów AI wchodzących w bezpośrednią interakcję z ludźmi do zapewnienia, by osoby te były informowane, że mają do czynienia z systemem AI, chyba że jest to oczywiste.
