Kto odpowiada, gdy asystent AI skłamie gościowi

Scenariusz jest znany z pierwszych miesięcy chatbotów w hotelach: asystent obiecuje udogodnienie, którego obiekt nie ma, gość rezerwuje w oparciu o tę obietnicę, a na miejscu okazuje się, że parkingu nie ma. Kłopot polega na tym, że trudno wskazać jednego winnego, bo błąd powstaje na styku trzech stron: modelu, dostawcy i obiektu, który dostarczył mu wiedzę o swojej ofercie.

Model odpowiada na pytania na podstawie bazy wiedzy, którą przygotowuje hotel albo dostawca na zlecenie hotelu. Większość pomyłek nie jest fantazją modelu, tylko nieaktualną albo nieprecyzyjną treścią w bazie: stary cennik, zmieniona polityka parkingu, udogodnienie w remoncie. Z punktu widzenia gościa pochodzenie błędu nie zmienia niczego, ale dla hotelu jest pierwszym miejscem, w którym warto szukać przyczyny.

Prawo konsumenckie UE rozstrzyga spór prosto: informacje, które przedsiębiorca przekazuje konsumentowi przed zawarciem umowy, stają się jej częścią i wiążą przedsiębiorcę. Dyrektywa 2011/83/UE o prawach konsumentów wprost wiąże w art. 6 treść przekazaną przed umową z treścią samej umowy, a kanał, którym informacja dotarła, nie ma znaczenia. Chatbot na stronie hotelu to oficjalny kanał hotelu, więc obietnica parkingu jest obietnicą hotelu.

Do tego dochodzi zakaz nieuczciwych praktyk rynkowych. Fałszywe zapewnienie o dostępności usługi to wprowadzanie konsumenta w błąd w rozumieniu dyrektywy 2005/29/WE, niezależnie od tego, czy padło z ust recepcjonisty, czy z czatu. Gość ma więc dwie drogi: żądać spełnienia obietnicy jako części umowy albo dochodzić naprawienia szkody za wprowadzenie w błąd. W obu przypadkach adresatem jest hotel.

Podział odpowiedzialności między hotelem a dostawcą to sprawa wewnętrzna, którą reguluje umowa, nie prawo konsumenckie. Warto w niej zapisać, kto aktualizuje bazę wiedzy, kto odpowiada za treść odpowiedzi, czy dostawca pokrywa koszty szkód wynikłych z jej błędów i jak wygląda ścieżka eskalacji, gdy asystent zaczyna podawać nieprawdziwe informacje. Bez tych zapisów hotel sam ponosi koszt pomyłki, a dostawca najwyżej traci klienta.

Drugim narzędziem są logi rozmowy. To one przesądzają, co dokładnie zostało obiecane i kiedy, więc warto je przechowywać i udostępniać na żądanie. Rozmowa z gościem to dane osobowe, a RODO wymaga podstawy ich przetwarzania i jasnej informacji o nich, a prawo dostępu do danych daje gościowi art. 15 rozporządzenia 2016/679. Zapisy rozmów najlepiej objąć zgodą albo uzasadnionym interesem i opisać w polityce prywatności. Hotel, który nie ma logów, broni się w sporze z gościem gołymi słowami.