Marele nostru experiment cu GPT și AI generativ

ChatGPT a luat lumea cu asalt și nu am putea fi mai entuziasmați. Astăzi, dezvăluim funcțiile de servicii pentru clienți pe care le-am construit folosind acest AI revoluționar.

În decembrie, directorul nostru de învățare automată, Fergal Reid, și cu mine ne-am așezat pentru a discuta despre lansarea ChatGPT: binele, răul, promisiunea, hype. Posibilitățile de a automatiza și eficientiza procesele pentru reprezentanții de asistență par nesfârșite, dar succesul AI generativ în acest spațiu va depinde în cele din urmă de capacitatea sa de a oferi valoare reală atât pentru echipele de servicii pentru clienți, cât și pentru clienți. Dacă nu, ei bine, este doar o jucărie – una distractivă, dar totuși o jucărie.

Pentru a testa acest lucru, ne-am apucat repede de treabă. Am schițat câteva funcții bazate pe inteligență artificială despre care credeam că ar putea fi utile, am intrat în producție și am pus o versiune beta în fața a 160 de clienți. Puteți citi totul despre aceste noi funcții aici.

În episodul de astăzi, Fergal și cu mine împărtășim ceea ce am învățat în ultimele săptămâni, unde vom merge în continuare și cum ne-a schimbat percepția despre ceea ce este posibil în acest spațiu.

☞ Faceți clic aici pentru a vă alătura listei de așteptare beta pentru funcțiile noastre AI sau pentru a primi știri AI de la Intercom.

Iată câteva dintre concluziile cheie:

• Capacitatea modelelor ChatGPT de a procesa limbajul natural în conversații cu mai multe propoziții continuă să se îmbunătățească și să deblocheze noi posibilități.
• În dezvoltarea de produse, clienții sunt întotdeauna arbitrul suprem – puteți construi o tehnologie uimitoare, dar dacă nu rezolvă o problemă pentru ei, nu merită.
• Capacitatea GPT-3.5 de a edita și schimba textul îl face foarte valoros pentru serviciul clienți și poate gestiona deja sarcini precum rezumarea textului și ajustarea tonului.
• Odată cu progresele în ChatGPT, pot fi adăugate mai multe funcții pentru a maximiza eficiența și agenții de primă linie gratuite pentru a se concentra asupra problemelor mai complexe care conduc la satisfacția clienților.
• În timp ce începem să investigăm utilizări care pot schimba jocul, cum ar fi răspunsurile inteligente, modelului încă nu înțelege contextul de afaceri pentru ca acesta să funcționeze.

Asigurați-vă că nu pierdeți niciun moment important urmărind Inside Intercom pe Apple Podcasturi, Spotify, YouTube sau accesând fluxul RSS din playerul dorit. Ceea ce urmează este o transcriere ușor editată a episodului.

O descoperire în înțelegerea limbii

Des Traynor: Bună încă o dată, Fergal. Ce mai faci?

Fergal Reid: Bine, mulțumesc, Des. Am fost ocupat în ultimele șase sau șapte săptămâni aici la Intercom, așa că sunt foarte încântat să vorbesc despre asta astăzi.

Des: Da, acum șase sau șapte săptămâni ne-am așezat să discutăm. Ați avut, cred, șase sau șapte săptămâni de timp real pentru inginerie împotriva revoluției AI care s-a lansat la sfârșitul lunii noiembrie. Ce ai invatat? V-a schimbat percepția despre ceea ce va fi posibil în lumea serviciilor pentru clienți?

Fergal: Da, cred că da. Când am vorbit ultima dată, am vorbit mult despre ChatGPT și asta a fost poate la o săptămână după lansare. Puteți împărți părul dacă marea diferență aici este ChatGPT sau familia de modele pe care OpenAI a construit-o – am lucrat mai ales cu GPT-3.5 sau cu Text-Davinci-003, ca să fim cu adevărat specifici.

Des: Sunt numele acestui modul specific.

Fergal: Da, acestea sunt numele acestui model specific. Și de fapt, există multă confuzie cu privire la aceste nume și care sunt diferitele lucruri. Dar, practic, credem că seria de modele GPT-3.5, Davinci-002, Davinci-003, așa ceva, care au apărut în ultimul an, și apoi Davinci-003, care a scăzut exact în același timp cu ChatGPT, au fost descoperiri și ne-au permis într-adevăr să începem să încercăm să construim funcționalități diferite, calitativ mai bune.

„Este o mare deblocare, deoarece există atât de multe sarcini pe care vrem să le facem, care sunt cel mai bine descrise în limbaj natural.”

Des: Care este credința ta despre ceea ce este posibil acum? Încotro ne îndreptăm în lumea serviciilor pentru clienți?

Fergal: Cred că în serviciul pentru clienți și chiar și mai departe, aceste modele ne permit să ne ocupăm de limbajul natural într-un mod mai bun decât am putut înainte. Cred că aș putea da puțină istorie a procesării limbajului natural. Au fost lucruri simple, cum ar fi expresii regulate și așa mai departe pentru o lungă perioadă de timp. Apoi am avut text care s-a priceput foarte bine la cuvintele cheie care erau foarte multe în date. Și apoi poate trei, patru ani în urmă, rețelele neuronale au început să devină foarte bune la înțelegerea „Hei, care este sensul acestei propoziții?” Dar acum, aș spune că încep să devină foarte buni la „Hei, care este sensul acelei propoziții într-un mod mai profund...” se apropie mult de modul în care oamenii pot face acest lucru și să înțeleagă ce se întâmplă într-o conversație cu mai multe propoziții. . Despre ce vorbește persoana respectivă? Împreună conținutul propoziției unu cu conținutul propoziției a treia pentru a ne da seama că cineva tocmai a spus: „Oh, am o întrebare despre Salesforce”. Iar coechipierul spune: „Ei bine, care este întrebarea ta? Cu ce ​​vă pot ajuta?" Și apoi spune: „Da, chiar am nevoie de ajutor pentru integrarea mea.” Și sistemele înțeleg mult mai bine că acea integrare se referă la integrarea Salesforce și au o idee despre unde ar trebui să meargă conversația.

„Deodată, mașinile sunt capabile să se uite la acestea și să le dea mult mai mult sens”

Botul nostru de rezoluție și tehnologia de învățare automată care este deja implementată sunt destul de bune la aceste lucruri într-o anumită propoziție. Dar acum, tehnologia este din ce în ce mai bună până la punctul în care este bună în mai multe propoziții și mult mai bună în context. Ca oameni care comunică și doresc să vorbească între ei în limbi naturale, este atât de natural pentru noi. Aceasta este o deblocare mare, deoarece există atât de multe sarcini pe care vrem să le facem și care sunt cel mai bine descrise în limbaj natural. Există atât de multe documente, instrucțiuni și articole despre cum să facem ceva, pe care le scriem și le comunicăm unii cu alții în limbaj natural. Și acum, dintr-o dată, mașinile sunt capabile să se uite la acestea și să le dea mult mai mult sens. Și de fiecare dată când această capacitate devine mai bună, o mulțime de produse deblochează o mulțime de lucruri care nu erau posibile înainte. Și simțim cu adevărat că ceea ce s-a întâmplat este un lucru mare. Aceasta este părerea noastră până când construim lucruri și le punem în fața clienților noștri și vedem ce cred clienții noștri despre ele.

Des: Și așa ne dorim.

Fergal: Adică, asta am încercat să facem.

Des: Ce este software-ul decât opiniile codificate, nu?

Fergal: Corect.

Depinde de clienți

Des: Deci, ce am construit? La ce ai lucrat? Să vorbim despre asta.

Fergal: Deci, în dezvoltarea de produse, întotdeauna doriți să vă verificați opinia. Clienții tăi sunt întotdeauna arbitrul suprem pentru a stabili dacă ceva este bun sau nu. S-ar putea să credeți că aveți cea mai uimitoare tehnologie și cea mai uimitoare experiență de produs, dar dacă nu rezolvă o problemă și dacă nu este folosită, vă înșelați. Și așa, ne-am dorit foarte mult să eliminăm hype-ul de aici și să ne convingem: „Bine, ce putem construi rapid pentru clienți, ce putem pune în fața lor, să lucrăm cu ei pentru a vedea care este valoarea?” Și așa, ne-am dus și am schițat caracteristicile pe care le-am putea construi și a intra rapid în producție, care să folosească o parte din această nouă tehnologie și să ne ajute să ne dăm seama dacă era valoroasă sau dacă era o jucărie.

„Puteți doar să apăsați un buton sau să utilizați o comandă rapidă de la tastatură pentru a spune, practic, „Hei, vreau un rezumat al acestei funcții, puneți-l pe compozitorul meu pentru a putea adăuga ușor la ea””

Primul lucru pe care ne-am hotărât să-l facem a fost să construim o caracteristică care, în esență, făcea rezumat. Și există un motiv pentru care am decis să facem asta. Echipa mea, echipa de învățare automată de aici la Intercom, echipa Inbox, a descoperit că există două joburi comune ale clienților pe care le vedem foarte multe. În multe companii, înainte ca un reprezentant de asistență să predea conversația, trebuie să scrie un rezumat al conversației respective. Dacă nu fac asta, utilizatorul final trebuie să se repete sau reprezentantul care îl primește trebuie să deruleze în sus și să citească o mulțime de lucruri. Deci, reprezentantul de asistență care predă trebuie să scrie un rezumat și asta este o treabă adevărată.

În urmă cu aproximativ un an și jumătate sau doi ani, echipa mea a încercat să analizeze cele mai bune rețele neuronale din acel moment, T5 și toate aceste rețele mari, și să descopere dacă le-am putea folosi pentru a construi o caracteristică de rezumat adecvată. Și, din păcate, am ajuns la concluzia că nu există nicio cale. Conversațiile sunt pur și simplu prea noduroase. Fluxul unei conversații se desfășoară între aceste părți diferite într-un mod care a fost foarte bun pentru oameni – oamenii pot căuta cu ușurință și este rapid și îl pot scana – dar chiar și rețelele neuronale destul de mari pe care le avem în Resolution Bot s-au luptat. pe genul ăsta de sarcină. Și unul dintre primele lucruri pe care le-am văzut când ne jucam cu recentul model DaVinci-003, GPT-3.5, a fost că dintr-o dată, pare să fie grozav la rezumat. Și ne spunem: „Uau, arată uimitor”.

„Vom încerca să fim cu adevărat reali cu oamenii. Vom ajuta clienții noștri să descopere care bucăți sunt jucării”

Și așa, am creat o funcție și am făcut câteva runde de iterație cu o funcție de rezumare în căsuța de e-mail. Puteți doar să apăsați un buton sau să utilizați o comandă rapidă de la tastatură pentru a spune, practic, „Hei, vreau un rezumat al acestei funcții, puneți-l pe compozitorul meu pentru a putea adăuga ușor la ea.” Nu este perfect. S-ar putea să fie nevoie să-i adăugați puțin, dar economisește foarte mult timp. Și am avut peste 160 de clienți în versiunea beta care folosesc aceste funcții și au considerat rezumatele un adevărat câștigător. Încă nu schimbă complet jocul pentru un reprezentant de asistență; alege un loc de muncă de bază, dar asigură acel singur job de bază.

Des: Și o reduce. Ce ziceți că este reducerea? Dacă în mod normal ar dura trei minute pentru a scrie - a fost redus la 10 secunde pentru a adăuga rezumatul sau ceva de genul?

Fergal: Da.

Des: Este ca și cum 90% din muncă a fost eliminată.

Fergal: Exact. Și am avut unii clienți extrem de încântați de asta, deoarece pot avea un fir de e-mail foarte lung sau un istoric de conversație foarte, foarte lung și doar economisește o grămadă de timp. Este un pic ca și cum ai citi o lucrare academică sau așa ceva. Uneori, doar obținerea unei idei te ajută să găsești exact detaliile pe care le dorești. Cred că am ajuns la ceva foarte bun acolo și aceasta este una dintre caracteristicile la care am lucrat.

„Este ușor să ieși cu mașina de hype; este ușor să ieși cu comunicate de presă: „Am schimbat lumea”. Și în practică, persoana care decide că sunt clienții noștri”

Vom încerca să fim cu adevărat reali cu oamenii. Vom ajuta clienții noștri să descopere care bucăți sunt jucării. Nu tot ce am construit și am pus în versiune beta schimbă jocul, dar rezumatul este unul dintre cele pentru care ne simțim cel mai puternic. Este cu adevărat gata. Această tehnologie face ceva transformator – este nouă, este interesantă și oferă valoare reală pentru clienți.

Des: Un lucru pe care am încercat întotdeauna să fim, în ceea ce privește inteligența artificială, este treaz pentru că încercăm să facem o favoare clienților noștri. Este ușor să ieși cu mașina de hype; este ușor să ieși cu comunicate de presă: „Am schimbat lumea”. Și în practică, persoana care decide că sunt clienții noștri. Deci, când lansăm rezumatul, le credem pe cuvânt că este cu adevărat valoroasă. Acesta este lucrul care contează, nu?

Fergal: Exact. Și uite, asta e ceva pentru care ne chinuim. Uneori pierzi în fața unor oameni care sunt dispuși doar să hype. Ne străduiam din greu să nu facem asta pentru că odată ce începi să faci asta, ajungi să crezi în propria ta hype.

Des: Narațiunea trece înaintea software-ului. Acesta este un risc real.

Fergal: Și încerci să eviți asta. Am fost cu adevărat conștienți de acest lucru cu acest tip de tehnologie, și anume că aproape funcționează foarte mult și este foarte aproape de a face ceva magic și transformator, dar uneori eșuează. Și, așadar, încercăm să fim sinceri aici în ceea ce privește: „Bine, este încă suficient de bun?” Știm că nu este perfect, dar este încă suficient de bun? Și pentru ce este suficient de bun? Și rezumatul este ceva pentru care ne simțim bine. Aceasta este o caracteristică despre care credem că oferă valoare reală.

Poți să pierzi lansând ceva care arată bine, dar care nu funcționează de fapt în producție și poți, de asemenea, să pierzi fiind prea conservator. Și în trecut, cu Resolution Bot, am avut momente în care am fost prea conservatori. Ne-am spus: „Oh, chiar nu vrem ca acest lucru să se întoarcă înapoi decât dacă suntem destul de siguri că are răspunsul.” Și apoi unii clienți au venit la noi și ne-au spus: „O, utilizatorul nu primește ajutor de ceva vreme, dă-le ceva chiar dacă greșești.” Și noi testăm A/B și reglam fluxul de gunoi și așa mai departe. Au fost vremuri în care a fost prea conservator. Prin urmare, adoptăm o abordare aici de a oferi rapid noi funcții beta clienților noștri. Clienții noștri sunt extrem de încântați de această tehnologie.

Editare fără efort de text

Des: Câte funcții sunt în versiunea beta? Cinci sase?

Fergal: Deci, primul lucru pe care l-am făcut a fost rezumatul. Am făcut asta pentru că a fost doar o muncă simplă, ușor de integrat și bine înțeles. După aceea, ne-am dus să ne uităm la compozitor. Pentru că avem telemetrie și valori, știm că aproximativ jumătate din timpul pe care un agent îl petrece în Intercom, îl petrece în compozitor scriind text sau editându-l. Și ei își organizează gândurile, dar petrec mult timp scriind și remodelând text. Și când ne-am uitat la asta, ne-am spus: „Bine, acesta este foarte bun la editarea și schimbarea textului”. Am început cu câteva funcții mici acolo, unele precum funcțiile MVP pentru a le pune live și a vedea cum merge. Și așa, am început cu funcțiile de editare și remodelare a textului. Poate cel mai simplu de explicat este editarea simplă. Spune: „Hei, fă acest text pe care tocmai l-am scris mai prietenos” sau „mai formal”, deoarece această tehnologie este acum bună la ajustarea tonului. Anterior, nu exista cu adevărat nimic pe care să le poți folosi pentru a regla în mod fiabil tonul. Am făcut o mulțime de iterații pe UX și am venit cu UX în care există o bară de instrumente și poți doar să selectezi text. În prima noastră versiune, nu ați putut selecta textul și l-am repetat. Clientul ne-a spus că este inutil – nu au vrut să schimbe tonul tuturor lucrurilor din compozitor. Acum, puteți selecta puțin.

„Ma frapează să știu că s-ar putea să ne uităm la o lume în care noul meniu contextual este de genul „extindeți”, „rezumați”, „fă-l mai fericit” și „fă-l mai formal””

Este aproape ca și cum ai edita o imagine. Și am început să credem că există o paradigmă în curs de dezvoltare aici. Îmi amintesc că pe vremuri, un procesor de text în care puteai să scrii textul îngroșat și italic era ca „wow”. Și ne întrebăm dacă, în viitor, oamenii se vor gândi la asta în ceea ce privește tonul. Este de genul „Oh, bineînțeles, vreau să merg și să editez rapid tonul”. Dacă sunteți obosit la sfârșitul zilei, ați scris o schiță și spuneți „Nu am fost destul de prietenos, îmi va afecta CSAT”, trebuie doar să faceți clic pe un buton și să editați ton și devine mai prietenos. Și este mai ușor să apeși butonul o dată sau de două ori decât să mergi și...

Des: Du-te și rescrie-l.

Fergal: Rescrierea textului este muncă.

Des: Mă surprinde să știu că s-ar putea să ne uităm la o lume în care noul meniu contextual este de genul „extinde,” „rezuma”, „fă-l mai fericit” și „fă-l mai formal”. Acestea vor fi transformările pe care încerci să le faci. Nu este atât de mult că ești concentrat pe optica textului, cât te concentrezi pe ton.

Fergal: Total. Uite, când mergem înapoi și înainte în asta, ne spunem: „Este o jucărie? Am construit o jucărie cool sau este ceva uimitor?” Și cred că va varia în funcție de client, dar cazul îndrăzneț al acestei caracteristici este: „Hei, sunt obosit la sfârșitul zilei și îmi pasă mult de ton, deoarece CSAT-ul meu este o măsurătoare mare pentru mine și acesta este un mod de a face asta.” Este o modalitate de a oferi clienților o experiență mai încântătoare.

Des: Luați „îmi pare rău, iată rambursarea”. Ai spune „te rog să sune mai empatic” sau orice altceva.

Fergal: Am experimentat în jurul empatiei. De fapt, la ce ne-am mutat este „să facem lucrurile mai formale, să facem lucrurile mai prietenoase”. Acesta este genul de spectru care pare să funcționeze foarte bine, așa că am mers cu asta. Și cred că se potrivește cu Intercom. Mulți oameni încearcă să ofere o experiență de sprijin foarte personală, foarte prietenoasă.

„De multe ori, când scrii ceva, iese greșit. Așa că poți spune doar „Hei, reformulează asta””

Pentru a fi complet transparent, încă nu suntem siguri exact unde se află în spectrul de jucărie până la valoroasă. Unii clienți spun că este foarte valoros și așa că continuăm să evaluăm asta. Dar avem asta în versiune beta. Vrem să le spunem clienților noștri că acestea sunt genul de lucruri pe care le construim și le investigăm.

Aceasta este o caracteristică. Următorul lucru la care am început să ne uităm este o caracteristică de reformulare. Și, din nou, aceste modele de limbă sunt foarte bune la preluarea unei părți de text limitate și la editarea sau modificarea acesteia. Începi să vezi asta cu rezumatul. De multe ori, când noti ceva, iese greșit. Așa că poți spune doar „Hei, reformulează asta”. Și, din nou, este acel fel de UX rapid în care doar îl evidențiezi și dai clic pe el. Este puțin mai ușor decât să-l rescrieți singur. Există un pic de latență când faci asta. Deci, încă evaluăm. Dar unor clienți, din nou, le place foarte mult, chiar funcționează pentru ei în afacerea lor și ne așteptăm ca latența să scadă în timp, pe măsură ce aceste modele devin din ce în ce mai bune. Deci, asta este reformularea textului. Acestea sunt un fel de primele caracteristici pe care le-am urmărit în compozitor.

Acum urmează chestiile mai mari ale biletelor și începem să investigăm lucrurile care pot schimba mai mult jocul. Un lucru pe care încercăm să facem cu asta este ceea ce numim funcția de extindere. Ne-am inspirat din lucruri precum copilotul pentru programatori. În copilot, puteți scrie un comentariu și completează funcția completă și doar vă economisește o grămadă de timp. Și ne-am spus: „Oh, putem construi ceva care să fie un pic așa pentru asistența clienților?” Și ideea este că poate scrieți un scurt rezumat a ceea ce doriți și apoi subliniați asta, să spunem extindeți, iar compozitorul dvs. umple asta. Am făcut asta, l-am expediat, iar clienții văd clar că aceasta este valoroasă și nu o jucărie – dacă funcționează. Dar funcționează mult mai bine în unele domenii decât în ​​altele. Dacă răspundeți la întrebări, informațiile generice de pe internet ar face o treabă bună...

Des: Ca și cum ar fi trebuit să-ți resetați telefonul sau orice altceva.

Fergal: Da, exact. Funcționează foarte bine pentru asta. Cu toate acestea, dacă încerci să faci ceva în care scrii o stenografie și, de fapt, există o mulțime de context specific afacerii tale cu privire la modul în care răspunzi la acest tip de întrebare, atunci se poate halucina și va spune ceva ce trebuie să editezi afară. Cu toate acestea, unor clienți le place foarte mult și funcționează foarte bine pentru ei. Dar chiar credem că aceasta este un fel de versiune. Dacă îl folosești, trebuie să îl verifici și să vezi cât de bine funcționează pentru tine și afacerea ta. Cu toate acestea, avem un proiect care evaluează în mod constant lucruri noi pentru asta, unde este de genul „Hei, putem să luăm răspunsurile anterioare pe care le-ați dat pe aceleași subiecte?” Așa că ne oferiți rezumate de trei cuvinte ale ceea ce doriți să faceți, cum ar fi „rambursați mulțumiri clienților”, iar noi vom găsi ultimele cinci lucruri pe care le-ați spus despre rambursări. Vom merge și să vedem dacă aveți o macrocomandă despre rambursări. De asemenea, ne vom uita la contextul conversației în prealabil.

„Ceea ce experimentăm este: putem trece peste cocoașă? Putem începe să facem ceva cu adevărat transformator prin introducerea aceluiași context?”

Des: Dacă există ceva în centrul de ajutor, tot felul de lucruri.

Fergal: Nu am mers atât de departe încât să extragem articole și chestii din centrul de ajutor. Tocmai ne-am uitat la ceea ce ați spus dvs. și utilizatorul în urmă cu două ture, le-am pus pe toate într-un prompt care apoi va spune: „Bine, cu toate aceste informații, vă rugăm să luați acea scurtă de trei cuvinte și anti-rezumat transforma-l într-un lucru mare.”

Des: Da, pe deplin. Deci, va dura „Ne pare rău, iată o rambursare, mulțumesc”, în „Ne cerem scuze pentru inconvenient. Am emis o rambursare și ar trebui să o vedeți în trei sau patru zile. Și regretăm…”

Fergal: În stilul pe care îl utilizați de obicei – dumneavoastră personal, agentul individual – și luând în considerare și orice macrocomandă relevantă pe care le aveți. Acolo suntem cu adevărat. Și ultima piesă nu este încă în producție. V1 este în producție. V1 a fost folosit de sute de clienți beta. Dar ceea ce experimentăm este: putem trece peste cocoașă? Putem începe să facem ceva cu adevărat transformator prin introducerea acestui context? Și asta este încă în desfășurare. Aș spune că suntem optimiști, dar încă nu suntem siguri. Acest lucru se schimbă săptămână de săptămână pentru noi, așa că suntem foarte încântați de asta. Și aceasta este versiunea de extindere a funcției unu în acest moment. Dar putem vedea versiunea a doua și versiunea trei venind pe linie.

Conducerea eficienței suportului

Fergal: Ultima caracteristică pe care am experimentat-o ​​în versiunea beta a fost să le oferim clienților noștri acces direct la GPT. Așadar, fără îndemnuri, fără a-i spune nimic modelului, ci doar a spune: „Hei, pune tot ce vrei acolo”. Și am făcut asta într-adevăr ca un experiment beta cu mișcare rapidă. Nu le-am oferit clienților noștri în versiune beta prea multe îndrumări despre cum să le folosească. Le-am confundat pe unele dintre ele și nu a mers atât de bine, dar unii clienți au găsit cazuri de utilizare noi, inclusiv traducere, în care le-a oferit valoare reală. Acum, aceste modele nu sunt cele mai bune la traducere, dar poate că aceasta este o tactică interesantă de dezvoltare de produse AI acolo, care este de genul „Hei, dacă aveți clienți beta, poate dați-le puțin mai multă putere decât v-ați aștepta și îți vor spune de ce au nevoie.”

Des: Vezi ce iese. Vezi chiar ce se așteaptă.

Fergal: Exact. Și așteptările, cred, se vor schimba rapid în acest sens. Poate că asta ne spune că avem nevoie de traducere, deoarece există modele de traducere foarte bine înțelese.

„Poate că are o sursă lângă ea și dintr-o dată, acele cinci minute de căutare a răspunsului devin instantanee. Și acolo începe să schimbe cu adevărat jocul”

Des: Așadar, se pare că toate aceste caracteristici sunt toate maximizătoare de eficiență pentru echipele de asistență. Ei reduc o mulțime de nediferențiați, fie că este vorba despre intros și outros, fie că este vorba doar de rescrierea a ceva pe care s-ar putea să nu aibă energia să facă pentru a-l face mai fericit sau mai formal. Toate sunt moduri diferite de a economisi mult timp agenților de asistență din prima linie. În cele din urmă, oferindu-le mai mult timp pentru a se concentra asupra părților mai grele ale conversației, care sunt căutările tehnice sau scufundările profunde. Acolo va fi cel mai bine implementat? Asta e cea mai bună gândire a noastră de până acum? Când vă gândiți unde mai putem folosi această tehnologie în stil GPT în experiența de asistență, la ce vă mai gândiți?

Fergal: Clienții noștri mai mari au o mulțime de reprezentanți de asistență care petrec zi de zi în compozitor. Și așa, dacă le putem face mai rapide și mai eficiente – un câștig de eficiență de 10% sau 20 este absolut uriaș.

Des: Desigur, da. Avem clienți cu mii de locuri, așa că este cu adevărat transformațional.

Fergal: Exact. Schimbarea jocului. Și acesta este un domeniu de care am fost foarte atrași. Și această tehnologie este din ce în ce mai bună. Nu este singurul loc, dar suntem cu adevărat entuziasmați în privința asta. Unii dintre clienții noștri ne vor împărtăși foarte frumos videoclipurile lor de zi cu zi. Și vezi acest flux de lucru în care este de genul „Hei, încerc să răspund la o întrebare și nu știu răspunsul. Trebuie să caut un articol intern al biroului de asistență sau să găsesc o conversație similară și navighez în jur.” Dacă putem scurtcircuita asta până la punctul în care este de genul „Hei, iată AI. Poate îi dai câteva cuvinte...” Sau poate că depășim asta. Avem și alte prototipuri despre care voi vorbi în câteva minute, unde poate răspunsul vă așteaptă acolo. Poate că are o sursă lângă ea și dintr-o dată, acele cinci minute de căutare a răspunsului devin instantanee. Și aici începe să schimbe cu adevărat jocul. Cred că acolo vom merge destul de curând.

Des: Da, are sens. Câștigurile mici la echipele mari sunt încă masive, iar apoi, evident, câștigurile mari în orice flux de lucru anume, chestia cu rezumatul, sunt, de asemenea, masive. Cred că unii oameni au această lume binară ciudată în care până nu am automatizat tot suportul, nu am făcut nimic. Părerea mea personală este că nu cred că vom automatiza vreodată întregul suport. Ceea ce cred că vom face este literalmente să eliminăm partea nediferențiată a suportului, chestiile „puncty clicky”, „intro-y outro-y” în care faci același lucru în fiecare zi.

Fergal: Și să sperăm că vei scăpa de părțile lor frustrante. Navigați, încercați să căutați și știți că răspunsul este aici undeva. Știi că ai răspuns la această întrebare de cinci ori luna trecută, dar nu o poți găsi.

„Sincer, aceste funcții trec pragul utilității mult mai repede decât aș fi anticipat”

Ultima caracteristică care a fost live în versiunea beta este un expander bazat pe articole. Este ceva ce vedem că aproape că devine o caracteristică standard foarte rapid. Oriunde scrieți un articol text, va deveni standard faptul că doriți să aveți posibilitatea de a apela la un model de limbă mare și de a spune: „Hei, ajută-mă să termin asta, extinde asta. Iată punctele mele de referință.” Și astfel, livrăm asta în versiunea beta pentru produsul Articole Intercom. Din nou, este încă devreme. Toate aceste lucruri sunt devreme – au trecut șase săptămâni până la opt săptămâni, dar uneori sunt magice. Uneori poți să scrii patru sau cinci puncte pentru a descrie conținutul unui articol și apoi, în prompt, îi dăm formatul standard al unui articol Intercom, astfel încât să știe cum să meargă și să le pună în titluri și curând. Este magic când funcționează și cât de des funcționează și cât de bine funcționează pentru oameni. Mai trebuie să verificați conținutul. Poate pune lucruri acolo, dar credem că există modalități de a le reduce. Și sincer, aceste caracteristici trec pragul utilității mult mai repede decât aș fi anticipat. Deci da, experimentăm cu asta.

Ultima frontieră

Des: Deci, mai departe, ce părere ai despre traiectoria tuturor acestor lucruri? Unde de aici?

Fergal: Acestea sunt lucrurile pe care le-am avut în versiune beta. Am avut sute de clienți care le folosesc și avem un semnal real asupra valorii clienților. Vă voi spune exact unde ne aflăm acum în producție cu machine learning. În ultima zi sau două, am avut o funcție pe care propria noastră echipă CS internă o folosește: în trecut, am avut o funcție de răspunsuri inteligente, în care vă va extrage saluturile comune. Acestea sunt lucrurile care nu au informații, care nu răspund la întrebarea utilizatorului – doar ung roțile, făcându-l rapid și rapid și ușor de spus: „O, mulțumesc. Cu plăcere. Mai pot face ceva?” Și această tehnologie este minunată pentru așa ceva. Lingvistii le numesc expresii fatice.

În ultimele câteva zile, am trimis o versiune a acesteia echipei noastre Intercom CS, unde văd acest text gri, precompletat în compozitor, dar este relevant pentru conversația specifică. Deci, dacă au spus anterior „Bună, pot să vă ajut”, iar utilizatorul a spus „Oh, da, vreau ceva ajutor cu produsul articole”, ar sugera apoi „Oh, da, lasă-mă să caut articolele produs pentru tine.” Încă nu o va căuta pentru tine, dar o vom face. Acum trei sau patru zile, ne-am spus: „Ok, voi trimite asta pe plan intern. Nu suntem siguri dacă va deveni enervant și dacă oamenii vor deveni orbi pentru că îl văd des și ajută doar pentru un subset”, și suntem întotdeauna foarte precauți în privința asta. Dar până acum, răspunsul intern din partea echipei noastre CS a fost grozav. Și așa, intenționăm să continuăm să lucrăm la asta. Poate că trebuie să punem un alt sistem care să limiteze cât de des apare. Acesta este un lucru la care lucrăm.

Am menționat mai devreme piesa de extindere, iar acum lucrăm la „Hei, putem face asta chiar și fără stenografia?” Ne putem da seama ce urmează să tastați în continuare pe baza a ceea ce tocmai au spus utilizatorii? Și vom căuta în baza ta de cunoștințe, vom încerca să găsim un context relevant și să-l oferim modelului. Modelul în sine nu este suficient de bun pentru a face acest lucru. Nu vă cunoaște afacerea, dar poate o putem spori. Poate că putem folosi o combinație de text de învățare automată mai tradițională cu modelul și să obținem ceva bun. Avem prototipuri și lucrăm la asta, dar încă nu le-am livrat clienților noștri, chiar și sub nicio formă beta, pentru că încă evaluăm dacă este suficient de bun pentru a fi transformator sau dacă devine plictisitor și enervant. Unde este acel prag nu este clar. Suntem puțin mai înclinați în privința stilului de extindere în care trebuie să îl solicitați, deoarece utilizatorul poate afla când să o facă. Ei pot învăța cum să-l interogheze. Cu toții a trebuit să învățăm cum să folosim Google și ne așteptăm ca utilizatorii să devină mult mai buni și să facă față acestor sisteme.

Cam acolo ne aflăm. Ne mișcăm rapid și trimitem lucruri rapid clienților pentru a verifica cu adevărat și a obține valoare reală aici. Încercăm să fim atenți să nu cădem în capcana hype-ului. Credem că există un potențial imens aici, dar este prea ușor să lipiți o pagină de destinație și să spuneți „Aduceți-o aici. Va răspunde la toate.” Și asta nu e bine. Oamenii vor orbi și se vor opri.

„Toată lumea a văzut asta și spune: „ChatGPT este foarte bun. Dacă aș putea obține o astfel de tehnologie care să mă ajute cu asistența pentru clienți, asta ar fi uriaș. Dar nu o va face de la raft. Nu-ți cunoaște treaba”

Des: Cred că îți strici reputația dacă spui „treaba asta face ceva”, și clar că nu, dar ai făcut-o pentru clicuri sau orice altceva. Se pare că produsul real pe care toată lumea îl așteaptă în acest nou spațiu este botul orientat către utilizatorul final care răspunde corect la majoritatea întrebărilor tot timpul. Gânduri despre asta? Săptămâni, luni, zile?

Fergal: Evident, aceasta este o zonă imensă pentru toată lumea. Nu l-aș subestima nici pe compozitor – o parte a întrebărilor va curge întotdeauna către compozitor. Și dacă putem reduce acest timp pentru aceștia, este uriaș. Dar absolut, unul dintre premiile uriașe în acest domeniu este dacă putem prelua experiența de înțelegere a conversației pe care am văzut-o cu ChatGPT și o putem face să funcționeze pentru afacerea dvs. individuală, evitând în același timp halucinațiile? Sunt mulți oameni care investighează asta. Noi investigăm și asta. Avem prototipuri care sunt interesante și promițătoare, dar încă nu știm sigur dacă am depășit acel prag în care halucinațiile sunt suficient de rare încât să merite și să fie valoroase. Începem să vedem că unele opinii se cristalizează în acest sens pe plan intern, dar încă nu suntem pregătiți să împărtășim unde ne aflăm cu asta.

Des: Total corect. Ei bine, cred că ne vom înregistra din nou peste șase săptămâni sau cam așa ceva.

Fergal: A fost o perioadă foarte rapidă. Uite, acesta este un domeniu foarte interesant în care să lucrezi. Așteptările clienților sunt foarte mari. Toată lumea a văzut asta și spune: „ChatGPT este foarte bun. Dacă aș putea obține o astfel de tehnologie care să-mi ajute cu asistența clienților, asta este uriaș.” Dar nu o va face de la raft. Nu-ți cunoaște afacerea. Nu o poți ajusta cu adevărat azi. Chiar dacă ai putea să-l ajustezi pentru afacerea ta, probabil că nu ar face-o. Trebuie să găsim tehnici inteligente și cred că companii precum Intercom sunt bine poziționate pentru a încerca să facă asta. Și da, există o mulțime de modele tehnologice și lingvistice interesante. Sunt foarte încântat să văd toată inovația din acest spațiu.

Des: Cool. Multumesc foarte mult.

Fergal: Mulțumesc. Mulțumesc.

☞ Faceți clic aici pentru a vă alătura listei de așteptare beta pentru funcțiile noastre AI sau pentru a primi știri AI de la Intercom.