Vă prezentăm Fin: Intercom, revoluționar chatbot AI, construit pe GPT-4
Publicat: 2023-03-15Sosirea ChatGPT de la OpenAI a transformat totul – implicațiile uriașe pentru serviciul clienți au fost imediat evidente.
Am lansat rapid o colecție de funcții AI pentru Inbox, aplicând această tehnologie pentru a crește eficiența. Dar primul lucru care am fost întrebat a fost „Poate ChatGPT să răspundă doar la întrebările clienților mei?” Era atât de clar că era mai bine să înțeleagă limbajul natural decât orice am văzut înainte.
Din păcate, explorările noastre inițiale au arătat că halucinațiile erau o problemă prea mare. GPT-3.5, care a alimentat ChatGPT, era prea predispus să inventeze lucruri atunci când nu știa răspunsul.
Dar recentul anunț al GPT-4 a schimbat lucrurile – acest model este conceput pentru a reduce halucinațiile. Suntem încântați să împărtășim ceea ce am construit cu GPT-4 în testele noastre timpurii.
Vă prezentăm noul nostru chatbot AI: Fin
Astăzi anunțăm că am creat un bot de servicii pentru clienți bazat pe inteligență artificială, care are beneficiile acestei noi tehnologii și este potrivit pentru nevoile afacerii. Se numește Fin și credem că are capacitatea de a deveni un partener valoros pentru echipa ta de asistență.
Când am început să experimentăm construirea unui chatbot bazat pe GPT, am avut în minte o serie de obiective de design. Am vrut să construim un bot care ar putea:
- Conversați în mod natural, folosind tehnologia GPT.
- Răspunde la întrebări despre afacerea ta, folosind informațiile pe care le controlezi.
- Reduceți halucinațiile și răspunsurile inexacte la niveluri acceptabile.
- Necesită configurație și configurare minime.
Credem că am reușit acest lucru. Noul nostru chatbot AI funcționează „din cutie”, reducând instantaneu volumul de asistență și timpii de rezoluție.
Poate conversa mult mai natural despre interogările de asistență decât roboții existenți – aducând capacitatea de conversație naturală a AI modernă la serviciul pentru clienți.
Poate înțelege interogări care se întind pe mai multe rânduri de conversație, permițând clienților să pună întrebări ulterioare și să obțină clarificări suplimentare.
Fin se angajează în conversații naturale cu clienții
Am extins GPT-4 cu funcții și măsuri de protecție special adaptate pentru a oferi asistență clienților, acolo unde încrederea și fiabilitatea sunt cruciale.
Fin refuză să răspundă la întrebări în afara domeniului
Fin este conceput pentru a oferi răspunsuri numai pe baza conținutului din centrul dvs. de ajutor existent, sporind acuratețea și încrederea. Pentru a întări acest sentiment de încredere, se leagă întotdeauna la articolele sale sursă, astfel încât clienții să poată valida răspunsurile.
Nu este perfect, așa cum vom discuta mai jos, dar credem că acum este gata pentru multe afaceri.
Fin nu necesită practic niciun timp de configurare inițială. Acesta ingerează informațiile din centrul dvs. de ajutor Intercom sau Zendesk existent - folosind puterea inteligenței artificiale pentru a interpreta imediat întrebările complexe ale clienților și aplicați cunoștințele din centrul dvs. de ajutor pentru a le răspunde.
Inevitabil, chatbot-ul nu va putea răspunde la toate întrebările clienților. În aceste situații, poate transmite întrebări mai dificile echipelor de asistență umană fără probleme. Funcționează eficient ca parte a echipei de servicii pentru clienți, folosind toate fluxurile de lucru pe care le permite Intercom.
Dacă Fin nu poate răspunde la o întrebare, poate trece fără probleme unui reprezentant CS care poate
Cum am construit acest chatbot AI
Pentru a crea Fin, am combinat tehnologia existentă din spatele Resolution Bot-ului nostru cu noul GPT-4 al OpenAI.
Am lansat Resolution Bot în urmă cu mai bine de patru ani și funcționează foarte bine atunci când este configurat, dar necesită ca „Răspunsuri” sau „Intenții” să fie selectate manual. Din păcate, știm că unii clienți se luptă să treacă peste acest obstacol inițial.
„Am proiectat Fin să ruleze folosind cunoștințele care există deja în centrul dvs. de ajutor”
Pentru noul nostru bot, am vrut să reducem această frecare.
Așa că l-am proiectat să ruleze folosind cunoștințele care au fost deja create pentru centrul dvs. de ajutor. Acesta va consuma articolele din centrul dvs. de ajutor și va folosi informațiile pentru a răspunde direct la întrebările clienților.
Când i se pune o întrebare, chatbot-ul își va folosi AI pentru a reformula informațiile din articol într-un răspuns natural, automat. Și, când actualizați un articol, răspunsul botului se va actualiza aproape imediat. Aceasta înseamnă că trebuie să vă mențineți conținutul de ajutor într-un singur loc, iar cea mai recentă versiune poate fi oferită clienților automat.
Acest lucru oferă companiilor o modalitate de a profita efectiv de beneficiile AI moderne, într-o manieră sigură și previzibilă, și folosind procesele existente în jurul creării de conținut din centrul de ajutor.
În viitor, intenționăm să mergem mai departe și să integrăm cealaltă tehnologie de învățare automată a noastră pentru a ajuta botul AI să răspundă la întrebări folosind datele primare pe care le aveți despre clienții dvs.
Crearea unui chatbot de încredere
Am conceput acest chatbot pentru a răspunde la întrebări numai folosind conținutul de ajutor pe care l-ați creat deja, pentru a evita riscul unor răspunsuri inexacte sau neașteptate. Acest lucru vă oferă un grad ridicat de control asupra a ceea ce poate spune Fin.
„Alți roboți GPT își bazează răspunsurile pe cantități masive de informații de pe web, dar, de fapt, constrângerea informațiilor pe care botul le poate folosi îi crește în mod radical predictibilitatea și încrederea.”
Dacă cineva pune o întrebare care nu este acoperită în centrul dvs. de ajutor, va spune că nu știe răspunsul. Aceasta este o caracteristică importantă. Unii alți roboți GPT își bazează răspunsurile pe cantități masive de informații de pe web, dar constrângerea informațiilor pe care botul le poate folosi îi crește în mod radical predictibilitatea și încrederea.
Am atenuat și mai mult inexactitatea prin proiectarea unei noi interfețe cu utilizatorul pentru Fin, având în vedere încrederea – se leagă în mod clar la articolul sursă atunci când este dat un răspuns, ceea ce permite utilizatorului să verifice dacă sursa este relevantă, reducând impactul erorilor minore.
Fin va oferi întotdeauna o sursă pentru răspunsurile sale, permițând clienților să-și verifice răspunsurile
De asemenea, am luat măsuri pentru a reduce capacitatea utilizatorului de a face botul să dialogheze pe orice subiect care nu este conținut în centrul de ajutor.
Limitări
Precizie
Este posibil ca utilizatorii finali să rezolve în mod intenționat constrângerile pe care le-am proiectat și să facă chatbot-ul AI să spună lucruri nepotrivite. Dacă se întâmplă acest lucru, credem că va fi doar după încercări determinate, mai degrabă decât în interacțiuni naturale cu clienții.
Trebuie să subliniem că AI-ul nu este perfect. Există unii clienți pentru care orice risc de a furniza informații irelevante sau incorecte este inacceptabil. S-ar putea să nu dorească să adopte acest chatbot alimentat de AI pentru moment.
Modelele de limbaj mari au în prezent un mod de eșec diferit față de boții anteriori pe care i-am creat, cum ar fi Resolution Bot. În timp ce Resolution Bot poate oferi uneori un răspuns irelevant , botul nostru AI poate oferi uneori un răspuns incorect . De exemplu, s-ar putea să devină confuz de conținutul unui articol și să facă utilizatorului o declarație care nu este adevărată. Deși această șansă s-a redus mult cu modelele recente, nu este zero.
Pentru a vă permite să cuantificați această limitare, construim o experiență în care puteți să importați centrul de ajutor existent în bot și să îl testați manual.
„Credem că aceste modele vor continua să se îmbunătățească și că precizia se va îmbunătăți ca rezultat”
În general, odată cu îmbunătățirile recente aduse GPT-4 și constrângerile de proiectare pe care le-am construit, suntem încrezători că performanța sa este peste bara de precizie cerută de multe companii.
Privind înainte, credem că aceste modele se vor îmbunătăți în continuare și că precizia se va îmbunătăți ca rezultat. De asemenea, credem că înțelegerea de către utilizatori a limitărilor acestei tehnologii va crește în timp; Răspunsurile noastre bot AI sunt clar etichetate ca „AI” pentru a permite acest lucru.
În cele din urmă, credem că diferitele afaceri vor avea în mod natural compromisuri diferite în acest domeniu. În această măsură, construim setări de configurare care permit companiilor să stabilească compromisul pe care doresc să-l facă, așa cum se poate vedea în acest prototip de design.
Explorăm setările de configurare pentru a controla nivelul de creativitate al lui Fin
Costul modelelor GPT
Este important de reținut că modelele mari de limbaj utilizate pentru a alimenta acest chatbot sunt în prezent costisitoare de rulat. Aceasta este o tehnologie de ultimă oră care necesită multă putere de calcul. Cu toate acestea, credem că această cheltuială se va reduce în timp.
Suntem încrezători că pentru multe companii, implementarea chatbot-ului nostru AI va fi pozitivă pentru rentabilitatea investiției, în comparație cu reprezentanții de asistență care răspund la aceleași întrebări.
Latența
În cele din urmă, modelele avansate de limbaj mari, cum ar fi GPT-4, au o latență inerentă. Acest lucru poate fi văzut atunci când interacționați cu botul – 10 sau mai multe secunde de latență nu este neobișnuit. De asemenea, ne așteptăm ca acest lucru să se îmbunătățească în timp.
Cât de curând va fi disponibil Fin?
Am construit o versiune inițială a Fin, pe care am folosit-o până acum pentru testarea internă și va fi lansată într-o versiune beta limitată în curând. În prezent, principalele noastre constrângeri sunt costurile și prețurile.
Încă continuăm să repetăm și să lustruim experiența utilizatorului pe baza testării și să repetăm integrarea dintre Fin și Resolution Bot. Credem că clienții avansați vor continua să folosească Resolution Bot și tehnologie similară, mai ales în situațiile în care trebuie întreprinsă o acțiune pentru a rezolva complet întrebarea utilizatorului – cum ar fi anularea unei comenzi, de exemplu.
„La Intercom, ne construim de mult timp către un viitor în care majoritatea conversațiilor cu clienții sunt rezolvate cu succes fără a avea nevoie de sprijin uman”
Ne așteptăm să trecem rapid prin procesul de testare în următoarele săptămâni și luni. Pentru referință, funcțiile Inbox AI bazate pe GPT pe care le-am anunțat la sfârșitul lunii ianuarie sunt acum disponibile pentru toți clienții noștri și sunt deja folosite de mii dintre ei.
Înscrieți-vă pentru viitorul serviciului pentru clienți
La Intercom, ne construim de mult timp către un viitor în care majoritatea conversațiilor cu clienții sunt rezolvate cu succes fără a avea nevoie de sprijin uman, eliberându-vă echipa să lucreze la conversații cu clienții de valoare mai mare.
Credem că anunțul de astăzi marchează o schimbare de paradigmă în domeniul serviciilor pentru clienți – viitorul se întâmplă chiar acum.
Puteți afla mai multe despre noul bot alimentat de AI și puteți să vă înscrieți pe lista de așteptare aici.