Przedstawiamy Fin: przełomowego chatbota AI firmy Intercom, zbudowanego na GPT-4

Pojawienie się ChatGPT firmy OpenAI zmieniło wszystko – ogromne implikacje dla obsługi klienta stały się natychmiast oczywiste.

Szybko wprowadziliśmy zbiór funkcji sztucznej inteligencji dla naszej skrzynki odbiorczej, stosując tę ​​​​technologię w celu zwiększenia wydajności. Ale najważniejszą rzeczą, o którą nas zapytano, było „Czy ChatGPT może po prostu odpowiedzieć na pytania moich klientów?” Było tak jasne, że lepiej rozumie język naturalny niż wszystko, co widzieliśmy wcześniej.

Niestety, nasze wstępne badania wykazały, że halucynacje są zbyt dużym problemem. GPT-3.5, który napędzał ChatGPT, był po prostu zbyt skłonny do zmyślania, gdy nie znał odpowiedzi.

Jednak niedawne ogłoszenie GPT-4 zmieniło sytuację – ten model ma na celu zmniejszenie halucynacji. Cieszymy się, że możemy podzielić się tym, co zbudowaliśmy z GPT-4 w naszych wczesnych testach.

Przedstawiamy naszego nowego chatbota AI: Fin

Dziś ogłaszamy, że zbudowaliśmy bota obsługi klienta opartego na sztucznej inteligencji, który ma zalety tej nowej technologii i jest odpowiedni do potrzeb biznesowych. Nazywa się Fin i wierzymy, że może stać się cennym partnerem Twojego zespołu wsparcia.

Kiedy zaczynaliśmy eksperymentować z budowaniem chatbota opartego na GPT, mieliśmy na uwadze kilka celów projektowych. Chcieliśmy zbudować bota, który mógłby:

• Rozmawiaj naturalnie, korzystając z technologii GPT.
• Odpowiadaj na pytania dotyczące Twojej firmy, używając informacji, które kontrolujesz.
• Zmniejsz halucynacje i niedokładne reakcje do akceptowalnego poziomu.
• Wymagaj minimalnej konfiguracji i konfiguracji.

Wierzymy, że udało nam się to osiągnąć. Nasz nowy chatbot oparty na sztucznej inteligencji działa „od razu po wyjęciu z pudełka”, natychmiast zmniejszając ilość pomocy technicznej i czas rozwiązywania problemów.

Może o wiele bardziej naturalnie rozmawiać o zapytaniach dotyczących wsparcia niż istniejące boty – wnosząc naturalną zdolność konwersacji nowoczesnej sztucznej inteligencji do obsługi klienta.

Potrafi zrozumieć zapytania, które obejmują wiele tur konwersacji, umożliwiając klientom zadawanie dalszych pytań i uzyskiwanie dodatkowych wyjaśnień.

Fin prowadzi naturalne rozmowy z klientami

Rozszerzyliśmy GPT-4 o funkcje i zabezpieczenia specjalnie dostosowane do obsługi klienta, gdzie zaufanie i niezawodność mają kluczowe znaczenie.

Fin odmawia odpowiedzi na pytania spoza domeny

Fin został zaprojektowany tak, aby udzielać odpowiedzi tylko na podstawie treści w Twoim istniejącym centrum pomocy, zwiększając dokładność i wiarygodność. Aby wzmocnić to poczucie zaufania, zawsze zawiera linki do artykułów źródłowych, aby Twoi klienci mogli zweryfikować odpowiedzi.

Nie jest doskonały, co omówimy poniżej, ale wierzymy, że jest już gotowy dla wielu firm.

Fin praktycznie nie wymaga wstępnej konfiguracji. Pozyskuje informacje z istniejącego centrum pomocy Intercom lub Zendesk – wykorzystując moc sztucznej inteligencji do natychmiastowej interpretacji złożonych pytań klientów i zastosowania wiedzy z centrum pomocy, aby na nie odpowiedzieć.

Nieuchronnie chatbot nie będzie w stanie odpowiedzieć na wszystkie pytania klientów. W takich sytuacjach może bezproblemowo przekazywać trudniejsze pytania zespołom wsparcia. Działa skutecznie jako część zespołu obsługi klienta, wykorzystując wszystkie przepływy pracy, które umożliwia Intercom.

Jeśli Fin nie może odpowiedzieć na pytanie, może bezproblemowo przejść do przedstawiciela CS, który może to zrobić

Jak zbudowaliśmy tego chatbota AI

Aby stworzyć Fin, połączyliśmy istniejącą technologię stojącą za naszym Resolution Botem z nowym GPT-4 OpenAI.

Uruchomiliśmy Resolution Bot ponad cztery lata temu i działa on bardzo dobrze po skonfigurowaniu, ale wymaga ręcznej selekcji „Answers” ​​lub „Intents”. Niestety wiemy, że niektórzy klienci mają trudności z pokonaniem tej początkowej przeszkody.

„Zaprojektowaliśmy Fin tak, aby działał z wykorzystaniem wiedzy, która już istnieje w Twoim centrum pomocy”

W przypadku naszego nowego bota chcieliśmy zmniejszyć to tarcie.

Dlatego zaprojektowaliśmy go tak, aby działał z wykorzystaniem wiedzy, która została już utworzona dla Twojego centrum pomocy. Spowoduje to wykorzystanie artykułów z Centrum pomocy i wykorzystanie informacji do bezpośredniego odpowiadania na pytania klientów.

Po zadaniu pytania chatbot użyje swojej sztucznej inteligencji do automatycznego przeformułowania informacji z artykułu w naturalnie brzmiącą odpowiedź. A kiedy zaktualizujesz artykuł, odpowiedź bota zostanie zaktualizowana niemal natychmiast. Oznacza to, że musisz przechowywać treść pomocy tylko w jednym miejscu, a najnowsza wersja może być dostarczana klientom automatycznie.

Zapewnia to firmom sposób na faktyczne wykorzystanie zalet nowoczesnej sztucznej inteligencji w bezpieczny i przewidywalny sposób oraz wykorzystanie istniejących procesów związanych z tworzeniem treści centrum pomocy.

W przyszłości planujemy pójść dalej i zintegrować naszą inną technologię uczenia maszynowego, aby pomóc botowi AI odpowiadać na pytania przy użyciu własnych danych o klientach.

Tworzenie godnego zaufania chatbota

Zaprojektowaliśmy tego chatbota, aby odpowiadać na pytania wyłącznie przy użyciu treści pomocy, które już utworzyłeś, aby uniknąć ryzyka niedokładnych lub nieoczekiwanych odpowiedzi. Daje to wysoki stopień kontroli nad tym, co Fin może powiedzieć.

„Niektóre inne boty GPT opierają swoje odpowiedzi na ogromnych ilościach informacji z sieci, ale faktyczne ograniczanie informacji, z których może korzystać bot, radykalnie zwiększa jego przewidywalność i wiarygodność”

Jeśli ktoś zada pytanie, którego nie ma w Twoim centrum pomocy, powie, że nie zna odpowiedzi. To ważna cecha. Niektóre inne boty GPT opierają swoje odpowiedzi na ogromnych ilościach informacji z sieci, ale faktyczne ograniczanie informacji, z których może korzystać bot, radykalnie zwiększa jego przewidywalność i wiarygodność.

Jeszcze bardziej złagodziliśmy niedokładności, projektując nowy interfejs użytkownika dla Fin z myślą o wiarygodności – po udzieleniu odpowiedzi wyraźnie łączy się on z artykułem źródłowym, co pozwala użytkownikowi zweryfikować, czy źródło jest istotne, zmniejszając wpływ drobnych błędów.

Fin zawsze poda źródło swoich odpowiedzi, umożliwiając klientom weryfikację odpowiedzi

Podjęliśmy również działania mające na celu ograniczenie możliwości skłonienia bota do dialogu na dowolny temat, który nie jest zawarty w centrum pomocy.

Ograniczenia

Dokładność

Może się zdarzyć, że użytkownicy końcowi celowo obejdą zaprojektowane przez nas ograniczenia i sprawią, że chatbot AI będzie mówił nieodpowiednie rzeczy. Jeśli tak się stanie, wierzymy, że nastąpi to dopiero po zdecydowanych próbach, a nie w naturalnych interakcjach z klientami.

Musimy zaznaczyć, że sztuczna inteligencja nie jest doskonała. Są klienci, dla których jakiekolwiek ryzyko podania nieistotnych lub błędnych informacji jest niedopuszczalne. Mogą nie chcieć jeszcze adoptować tego chatbota opartego na sztucznej inteligencji.

Duże modele językowe mają obecnie inny tryb awarii niż poprzednie boty, które stworzyliśmy, takie jak Resolution Bot. Chociaż bot rozstrzygający może czasami udzielić nieistotnej odpowiedzi, nasz bot AI może czasami udzielić nieprawidłowej odpowiedzi. Na przykład może się zdezorientować treścią artykułu i przekazać użytkownikowi oświadczenie, które nie jest prawdziwe. Chociaż ta szansa znacznie się zmniejszyła w przypadku najnowszych modeli, nie jest zerowa.

Aby umożliwić Ci oszacowanie tego ograniczenia, tworzymy środowisko, w którym możesz zaimportować istniejące centrum pomocy do bota i ręcznie je przetestować.

„Wierzymy, że modele te będą się nadal poprawiać, a w rezultacie poprawi się ich dokładność”

Ogólnie rzecz biorąc, biorąc pod uwagę ostatnie ulepszenia GPT-4 i ograniczenia projektowe, które stworzyliśmy, jesteśmy przekonani, że jego wydajność przekracza poprzeczkę dokładności wymaganą przez wiele firm.

Patrząc w przyszłość, wierzymy, że modele te będą nadal ulepszane, aw rezultacie poprawi się ich dokładność. Wierzymy również, że zrozumienie ograniczeń tej technologii przez użytkowników będzie rosło z czasem; odpowiedzi naszych botów AI są wyraźnie oznaczone jako „AI”, aby to umożliwić.

Na koniec uważamy, że różne firmy będą oczywiście miały różne kompromisy w tym obszarze. W tym zakresie budujemy ustawienia konfiguracyjne, które pozwalają firmom ustalić kompromis, jaki chcą osiągnąć, jak widać na tym prototypie projektu.

Badamy ustawienia konfiguracji, aby kontrolować poziom kreatywności Fina

Koszt modeli GPT

Należy zauważyć, że duże modele językowe używane do obsługi tego chatbota są obecnie drogie w eksploatacji. Jest to najnowocześniejsza technologia, która wymaga dużej mocy obliczeniowej. Uważamy jednak, że z czasem ten wydatek prawdopodobnie się zmniejszy.

Jesteśmy przekonani, że dla wielu firm wdrożenie naszego chatbota opartego na sztucznej inteligencji przyniesie zwrot z inwestycji w porównaniu z koniecznością odpowiadania przez przedstawicieli pomocy technicznej na te same pytania.

Czas oczekiwania

Wreszcie zaawansowane duże modele językowe, takie jak GPT-4, mają nieodłączne opóźnienie. Można to zauważyć podczas interakcji z botem – 10 lub więcej sekund opóźnienia nie jest niczym niezwykłym. Spodziewamy się również, że z czasem ulegnie to poprawie.

Jak szybko Fin będzie dostępny?

Zbudowaliśmy wstępną wersję Fin, której do tej pory używaliśmy do wewnętrznych testów, i wkrótce zostanie udostępniona do ograniczonej wersji beta. W tej chwili naszymi głównymi ograniczeniami są koszty i ceny.

Nadal kontynuujemy iterację i udoskonalanie doświadczenia użytkownika w oparciu o testy oraz iterację integracji między Fin i Resolution Bot. Wierzymy, że zaawansowani klienci będą nadal korzystać z narzędzia Resolution Bot i podobnej technologii, zwłaszcza w sytuacjach, w których konieczne jest podjęcie działań w celu pełnego rozwiązania zapytania użytkownika — na przykład anulowanie zamówienia.

„W firmie Intercom od dawna budujemy w kierunku przyszłości, w której większość rozmów z klientami będzie pomyślnie rozwiązywana bez pomocy człowieka”

Oczekujemy szybkiego przejścia przez proces testowania w nadchodzących tygodniach i miesiącach. Dla porównania, funkcje Inbox AI oparte na GPT, które ogłosiliśmy pod koniec stycznia, są teraz dostępne dla wszystkich naszych klientów i są już używane przez tysiące z nich.

Zapisz się na przyszłość obsługi klienta

W Intercom od dawna budujemy w kierunku przyszłości, w której większość rozmów z klientami będzie pomyślnie rozwiązywana bez potrzeby pomocy człowieka, uwalniając Twój zespół do pracy nad rozmowami z klientami o wyższej wartości.

Wierzymy, że dzisiejsze ogłoszenie oznacza zmianę paradygmatu w dziedzinie obsługi klienta – przyszłość dzieje się właśnie teraz.

Możesz dowiedzieć się więcej o nowym bocie opartym na sztucznej inteligencji i zapisać się na listę oczekujących tutaj.