Asystent podający nieprawdziwą informację o cenie albo terminie tworzy zobowiązanie firmy. To nie jest problem techniczny.
Skąd się biorą
Z braku informacji w bazie i ze skłonności modelu do udzielenia odpowiedzi za wszelką cenę. Drugie jest groźniejsze, bo trudniej zauważalne.
Dochodzi do tego trzecie źródło: treści sprzeczne. Gdy w firmowych materiałach ta sama zasada występuje w dwóch wersjach, odpowiedź będzie zależała od tego, którą fragment wyszukiwarka trafi jako pierwszą. Z zewnątrz wygląda to na przypadkowość asystenta, a jest nieporządkiem w źródłach.
Odpowiadanie wyłącznie ze źródeł
Asystent odpowiada na podstawie znalezionych fragmentów, a przy ich braku przyznaje się do niewiedzy. To pierwsze i najskuteczniejsze zabezpieczenie.
Warunkiem jest domknięcie zakresu: lista tematów, o których asystent mówi, i wyraźne zachowanie poza nią. Zasady doboru i utrzymania źródeł opisujemy przy zakresie wiedzy asystenta.
Dane wrażliwe handlowo
Ceny, terminy, dostępność, warunki gwarancji. Pobierane z systemu, nigdy generowane. Tu nie ma miejsca na wyjątki.
Do tej samej kategorii należą zapewnienia o zgodności produktów i o możliwości zwrotu w konkretnej sytuacji. Wszystko, co klient może przywołać później jako obietnicę firmy, powinno mieć źródło, które da się wskazać. Katalog spraw wyłączonych z samodzielności zebraliśmy w tekście o tym, czego asystent nie powinien robić.
Wskazanie źródła
Odpowiedź z odnośnikiem do regulaminu albo karty produktu pozwala klientowi sprawdzić. Zwiększa też ostrożność samego modelu.
Przy okazji ułatwia przegląd rozmów. Osoba czytająca odpowiedź widzi, na czym została oparta, i w kilka sekund rozstrzyga, czy błąd leży w treści źródła, czy w sposobie jego użycia. Bez tego każde sprawdzenie zaczyna się od szukania.
Sprawdzenie przed uruchomieniem
Zestaw pytań podchwytliwych: o produkty nieistniejące, o warunki niewystępujące, o przepisy. Zachowanie przy nich rozstrzyga o gotowości.
Ten sam zestaw warto uruchamiać po każdej zmianie treści albo instrukcji. Poprawka w jednym miejscu potrafi rozluźnić zachowanie w innym, a bez powtarzalnego sprawdzenia nikt tego nie zauważy przed klientem.
Zastrzeżenie
Informacja, że wiążące są warunki z regulaminu, ogranicza ryzyko. Nie zwalnia jednak z odpowiedzialności za rażąco błędną odpowiedź.
Zastrzeżenie jest ostatnią warstwą, nie pierwszą. Kolejność ma znaczenie: najpierw pewne źródła, potem granice zakresu, potem widoczna droga do człowieka, a dopiero na końcu formuła w stopce. Firma, która zaczyna od zastrzeżenia, zwykle nie zrobiła nic z pozostałych trzech rzeczy.
Co zrobić, gdy błąd już się zdarzył
Zapisać rozmowę, ustalić, z czego wynikła odpowiedź, i poprawić źródło, a nie samą instrukcję. Jeśli klient działał na podstawie błędnej informacji, decyzję o dalszym kroku podejmuje człowiek. Ten sam przypadek warto dopisać do zestawu sprawdzającego, żeby nie wrócił po kolejnej zmianie.
Wariant o najmniejszym ryzyku
Jeśli obszar jest wrażliwy, a treści dopiero powstają, bezpieczniej nie wypuszczać asystenta do klientów. Odpowiedź przygotowana dla konsultanta i wysłana po jego zatwierdzeniu daje zbliżoną oszczędność czasu przy nieporównanie mniejszym ryzyku — ten tryb opisujemy przy asystencie wspierającym konsultanta.
