客戶支持變得更加智能：仔細研究我們新的 ChatGPT 驅動的機器人

如果您可以擁有一個值得信賴的機器人來捕捉大型語言模型的魔力而不會偏離腳本怎麼辦？ 在本次網絡研討會中，我們將介紹我們最新的突破性 AI 機器人，並回答您的所有相關問題。

自去年 11 月推出 ChatGPT-3.5 以來，我們不斷被問到一個問題：“它能回答我客戶的問題嗎？” 到目前為止，答案是否定的。 我們已經進行了一些初步探索，甚至為收件箱發布了一些基於 GPT 的 beta 功能，但我們無法構建適合業務需求的機器人——GPT-3.5 有這種不幸的傾向，當它出現時不知道答案，而且當您試圖支持客戶時，您絕對不希望機器人變得無賴。

但隨著旨在減少幻覺的最新 GPT-4 的到來，情況發生了變化。 我們回去工作，看看我們是否可以構建一個機器人，它需要最少的設置，並且可以使用您控制的信息自然地交談並可靠地回答有關您的業務的問題。 瞧，我們認為我們已經做到了。 它的名字是 Fin，我們相信它可以成為增強您的客戶支持服務的寶貴資產。

因此，就在上週，我們決定舉辦一次網絡研討會，以回答您關於 Fin 的所有緊迫問題：它真的有用嗎？ 它會取代客戶服務代表嗎？ 支持團隊應該如何準備採用這項新技術？

在今天的節目中，您會聽到我們自己的聲音：

• Catherine Brodigan，全球合作夥伴關係高級經理
• Des Traynor，聯合創始人兼首席戰略官
• Fergal Reid，機器學習總監
• Emmet Connolly，產品設計副總裁

他們將討論 ChatGPT 如何改變客戶服務行業，並深入探討 Fin 背後的工作。

時間緊嗎？ 以下是一些要點：

• 如果人們可以在立即獲得非常好的答案或等待 15 分鐘獲得手工製作的答案之間做出選擇，大多數人會選擇即時答案。
• 企業應利用 AI 為簡單問題提供即時支持，使支持代表能夠專注於能夠帶來最大價值的更複雜問題。
• 為了將 AI 納入他們的工作流程，支持團隊應該以清晰明確的方式記錄他們的知識，以便 GPT 驅動的機器人有一個強大的來源來獲取答案。
• 支持是您品牌的延伸。 Fin 的優點之一在於它能夠確保僅共享您知識庫中的信息以避免潛在的品牌損害。
• 為了提高 Fin 的可信度，我們不僅在您的知識庫上對其進行培訓，它實際上還鏈接到源材料。
• Fin 與您系統的其餘部分無縫協作。 當它不知道某事或被問到一個複雜的問題時，它會說它不知道並將其交給支持代表。

如果您喜歡我們的討論，請查看我們播客的更多劇集。 您可以關注 Apple 播客、Spotify、YouTube 或在您選擇的播放器中獲取 RSS 提要。 以下是該劇集經過輕微編輯的文字記錄。

取得完美平衡

Catherine Brodigan：歡迎大家，非常感謝你們今天加入我們。 我很高興首先介紹 Des。 Des，我想提出一個簡短的問題，讓我們開始了解我們目前在行業中看到的總體趨勢。 我坐在都柏林辦公室的銷售區，上週我們的銷售團隊和客戶都對 Fin 感到非常興奮。 到目前為止，從我們的客戶反饋中真正脫穎而出的兩件事是，第一，設置起來非常容易，第二，智能回答的速度有多快。 但正如我們所知，有時新技術的出現似乎會改變遊戲規則，但卻達不到預期。 所以，我很想听聽您的意見，是什麼讓您相信我們沒有處於炒作曲線上並且這是真正的交易？

Des Traynor：現場看到產品是這不是霧裡看花的最大標誌； 這不是汽器； 這甚至不是像 Web3 這樣的 VC 大肆宣傳的狗屎。 一般來說，炒作是每個人都試圖從中獲利的東西。 但是我們的客戶想要這種產品。 得到它所做的任何人都不會以任何方式懷疑它的價值。 即使是 intercom.com/fin 上的演示機器人 Staybnb 機器人，也能很好地回答常見問題。 我親自回答了我曾經問過 Airbnb 的所有問題，Airbnb 是 Staybnb 產品的一種競爭對手，對於我提出的每個問題，我至少得到了十分之七的答案，在少數情況下，我得到了十分之十。我立即得到了它們。

“在這一點上，你必須是最黑暗的懷疑論者或憤世嫉俗者才能稱之為炒作”

如果您可以選擇立即獲得非常好的答案，或者您可以等待 15 分鐘並獲得手工製作的手工答案，那麼大多數人都會選擇即時答案。 這對企業也有好處。 如果您嘗試做某事並且必須等待 15 分鐘才能進入下一步，那麼這不是一個有效的漏斗。 你永遠不會那樣設計它。 這就是這與炒作火車之間的區別。 如果你回去，你可以看看遊戲化，你可以談論 AR 和 VR，你甚至可以說自動駕駛汽車還沒有真正落地。 今天就在這裡，人們玩 ChatGPT，人們玩 Bing，人們玩 Bard，人們玩 DALL·E……還有更多。 沒有人沒有以任何方式經歷過這一點，客戶要求它的原因幾乎是因為每個人都在看到它，體驗它並呼吸它，感覺現在過去的每一周都是 AI 進步的十年.

即使對我們來說，像 Fin 這樣的事情在 11 月初從“不，這可能不會很快發生”變成了“我們很接近，但還有很長的路要走”，這就是我認為我們所處的位置也許在十二月，到，“這發生在一月份。” 這就是我們在這裡看到的進步速度。 因此，我們不僅向前邁出了巨大的一步——我們，這個行業——而且每週，我們似乎也在邁出更快的步伐。 在這一點上，你必須是最黑暗的懷疑論者或憤世嫉俗者才能稱之為炒作。

Catherine Brodigan：是的，我認為，正如您所說，我們在這裡的發展非常非常快，因此，整個行業，尤其是客戶服務行業，都需要進行巨大的思維轉變。 那麼，您如何解決有關在人類、個人、手工答案、現有的令人難以置信的新技術、宏觀經濟氣候以及實現經濟效率和整合工具的願望之間取得新平衡的問題？ 您如何看待這改變了企業如何取得平衡的遊戲規則？

“你不會聘請支持團隊來聘請一群專業的辯護者或解釋者，‘點擊這裡重設密碼。’” 那沒用”

Des Traynor：我認為企業現在可以選擇針對需要它的問題提供一流的、超級個性化的服務，並在簡單、快速的答案就可以解決的問題上提供令人難以置信的快速支持。 在 Intercom 的任何一天，我們都會處理，“我們如何獲得新的 API 密鑰？” 我們還將解決一些困惑，“我兩週前發布了一個系列，我只是在簽到；” 其中一位客戶應該已經收到了，但我看到他們被阻止了，我該如何解除阻止？” 等等等等等等。 第一個需要一點時間來回答——它需要我們的時間，也需要客戶的時間。

第二個實際上是一個混亂的，可能需要一兩個小時來診斷，這是一個實際的交互操作，但第一個拖累了我們做第二個的能力，我認為每個支持團隊都有一個版本那個。 他們有復雜的查詢，比如，“嘿，我已經預訂了七晚的房間，但只需要五晚，我中途退房然後回來，”或者類似的東西，他們也有， “游泳池在哪裡？” 這個想法是，通過消除大部分我稱之為無差別的事務支持，你真正使支持團隊能夠在更複雜的時刻、更情緒化的時刻、更緊迫的時刻、更重要的時刻提供高質量的支持。激動人心的時刻。 他們是支持團隊真正推動業務價值的地方。 您不會聘請支持團隊來聘請一群專業的辯護者或解釋者，“單擊此處重設密碼。” 那沒有用。 但與此同時，它仍然是不可避免的。

我認為，對我來說，平衡點在於找到“支持團隊在哪裡創造最大價值，而我們又在什麼地方讓客戶感到沮喪？”的最佳平衡點。 這不是一個解釋如何重設密碼的品牌建設機會——它只是一個該死的鏈接。 這就是 Fin 的亮點所在。 支持團隊在他們知道如何發光的地方發光。 對我來說，這就是平衡。

Catherine Brodigan：正如你所說，它是弄清楚什麼是可自動化的，什麼實際上需要更深入、更有意義的人類對話。 在接下來的 3 個月、6 個月、9 個月、12 個月裡，遊戲將一次又一次地發生變化，未來支持團隊的價值將越來越多。 但是，如果我們關注此時此地，那麼當今支持團隊的主要價值驅動因素是什麼，以及支持客戶服務團隊應該如何考慮領先於遊戲並準備好以最佳方式使用該技術可能的方式？

“你如何為這個世界做準備？ 簡短的回答是您通過記錄支持團隊知道的所有知識來為此做好準備”

Des Traynor：是的，我認為任何面向未來的支持團隊都應該開始假設我們正在進入一個人工智能將極大地增強和增強他們工作流程的世界。 您有大量機會為您的公司提供世界一流的支持，並最終通過基本上說您的支持比任何人都更好，從而使您的公司比競爭對手更具競爭優勢。

現在，你如何為這個世界做準備？ 簡短的回答是您通過記錄支持團隊知道的所有知識來為此做好準備。 為什麼這很重要？ 好吧，這裡的進步是在大型語言模型領域，它最終可以使用信息並返回圍繞它們的對話答案。 他們不知道你不告訴他們的事情。 你不希望他們編造事實。 您希望他們處理已知的事情。 例如，如果你有一個政策，你將重新發布一個 API 密鑰，但沒有在任何地方解釋——這就像支持團隊周圍的滲透所賦予的默會知識——Fin 永遠不會解決這個問題，除非它開始清理積壓的工作.

我認為最好的準備方法是對支持團隊所做的所有最常見的事情有一個明確的立場，並以一種非常清晰且易於解析的方式寫下該立場。 老實說，這東西好到不行，不過為了你好，你還是要清楚。 如果您記錄了成為支持代理人需要知道的大部分事情，那麼 Fin 將成為您團隊中的搖滾明星成員的程度。 最好的準備方法就是這樣做。 值得慶幸的是，我們許多使用文章的客戶已經有數百篇文章解釋了這一切，所以他們很高興去，但如果你還沒有，現在是投資的好時機。

凱瑟琳布羅迪根：明白了。 幫助中心內容編寫者和內容設計者的工作突然變得更受歡迎。

Des Traynor：是的，甚至可能不是商品。 是的，內容將發揮非常重要的作用，內容豐富的人將能夠提供世界一流的支持，所以我認為投資是非常值得的。

GPT，但要讓它值得信賴

凱瑟琳布羅迪根：明白了。 Fergal，下一個問題我很樂意帶你來深入了解 Fin。 我們上週推出了它，我很想從技術角度了解 Fin 的不同之處以及 Fin 的強大之處。

Fergal Reid：好的，凱瑟琳，謝謝。 感謝大家的光臨。 是的，看，大型語言模型是新的突破，我們已經有了 Resolution Bot，但我們已經有很多年了。 它使用神經網絡，並且在您上鞍後就可以很好地發揮它的優勢。 但是我們為此使用的模型並不能很好地理解人類對話的複雜性，很多時候，在支持交流中，有人提出問題，他們得到了一些信息，然後他們提出了一個澄清問題或一個微妙的問題。 他們就像，“哦，我不是這個意思——我實際上是想問這個問題。” 借助 Resolution Bot，我們試圖構建能夠理解自然語言複雜性的原型，並且永遠無法讓它們像我們希望的那樣在多輪、混亂的人類對話中發揮作用。

我認為這裡的新內容是 transformer 模型 GPT 中的大型語言模型已經解決了這個問題。 如果你去玩 Fin，我們已經看到人們玩了演示，我們剛剛看到了很多例子，在後續問題上它做了正確的事情，我們認為那裡有質的變化比如，“哦，它在回答後續問題時要好 10% 或 20%。” 它改變了用戶體驗，讓人們覺得，“好吧，我突然可以談論這個了。 我可以和它交談，我可以信任它。” 這是新的。 您可以構建和交付的機器人的質量會發生根本性的用戶體驗變化。

“在接下來的幾年裡，我們都會了解到很多關於我們的幫助中心文章中意外含糊不清的部分，我們會讓它們變得更加清晰”

第二大塊是語言模型更擅長自然語言，所以它可以更好地理解幫助中心的內容。 如果你給它一篇文章，它非常擅長從那篇文章中挑選答案並給出正確答案，以至於我們遇到過很多這樣的情況，“哦不，它產生了幻覺。” 但實際上不是，文章是這麼說的。 因為我們在我們不是專家的公共幫助中心的文章上對此進行了測試，而 Fin 比我們更好地理解了這一點。

同樣，它並不完美，需要細微差別。 對於 Des 之前的觀點，你真的希望你的內容被明確地編寫，因為我們正在嘗試設計機器人，以便它不會在有歧義的情況下給出錯誤的答案。 如果您使用 Fin，您會發現如果文章中的某些內容模棱兩可，那麼它是相當保守的。 我敢打賭，在接下來的幾年裡，我們都會了解到很多關於我們的幫助中心文章中不小心含糊不清的部分，我們會讓它們變得更加清晰，因為我們只會看到那些邊緣情況並對其進行迭代。 這就是新鮮事。 這些是轉型能力。

凱瑟琳布羅迪根：是的，當然。 我認為可以公平地說 ChatGPT 重新設定了人們對 AI 的一些最常見誤解的期望。 你會說你在哪裡看到了最重要的轉變？

Fergal Reid：顯然，這是一個很大的問題。 只是看到人們玩我們的演示，目前用戶的一大誤解是你可以走到這樣的機器人面前，問它任何問題； 請它幫助你完成家庭作業。 這不是 Fin 的設計目的。 Fin 的設計非常明確和清楚地避免了這一點。 它會回答有關您的幫助中心的問題，或者只是說，“抱歉，我無法為您提供幫助。” 最終用戶肯定會期望一旦機器人能夠理解自然語言，就可以要求它幫我做作業，阿根廷首都在哪裡，或者任何其他問題。 而且我認為這種誤解會很快改變。 每個人都見過 ChatGPT，我認為現在我們將看到像 Intercom 這樣的下一波人，“嘿，我們如何利用我們現有的技術和設置，並將其與 GPT 式技術結合起來，以做出更好、更受約束的經歷？” 在接下來的六個月或一年裡，我認為用戶的期望會發生變化。

在技​​術方面也存在很多誤解。 這些模型開箱即用，無需大量訓練。 你今天甚至不能訓練。 目前，如果你想使用 GPT-4 或任何其他大型語言模型，你無法為你的特定業務甚至你的領域訓練它們。 在某種程度上，他們在沒有經過培訓的情況下開箱即用地做得非常好，然後還有其他解決方法，比如我們如何構建 Fin 和工程 Fin – 我們為其提供了很多業務背景當你與它互動時。 我們都在這裡學習，我認為這個行業將不得不學習很多關於這些模型的參數以及什麼是好的用戶體驗。

凱瑟琳布羅迪根：當然。 當 ChatGPT 推出時，我們都玩得很開心，它給人留下了深刻的印象，但除了這些 LLM 在市場上免費提供的服務之外，我們在這裡與 Fin 一起做的還不止這些。 您認為 Intercom 的秘訣是什麼？ 對於客戶和他們的客戶來說，這將是最令人印象深刻的事情，他們將進入並獲得 Fin 並將其推向市場。

“使用 Fin，即使底層語言模型從它從互聯網上了解到的關於您的業務或競爭對手的信息中知道答案，如果它不在您的知識庫中，它也不會響應”

Fergal Reid：奇怪的是，我認為我們都在做更多和更少的事情，因為我們認為擁有一個只會響應您幫助台的精選內容的機器人真的很重要。 有人可以去問它一個你可能不希望機器人回答他們特定問題的問題。 人們會提出可能導致品牌受損的問題。 如果你只是去部署一個更簡單的 ChatGPT 式機器人，人們會問你關於你的競爭對手的問題，它會和他們談論你的競爭對手。 誰知道它會說什麼。 它會說互聯網上關於您的競爭對手的任何內容，您幾乎肯定不希望您的客戶參與這些對話。 如果您的支持代表這樣做，您會不高興，如果您的機器人這樣做，您也不會高興。

我們覺得 Fin 如此令人興奮的地方在於它的局限性。 它僅限於您的幫助中心，我們在構建它時投入了大量的精力和注意力，試圖通過限制和信任它的能力來捕捉自然語言對話的魔力。 正如 Des 之前提到的，我們在這裡經歷了一段過山車。 ChatGPT 推出後，我們說，“天啊，這會破壞支持； 這將很快發生。” 然後我們就像，“哦，不，這不是因為它不值得信賴；而是因為它不可靠。” 它給出了表面上非常吸引人的答案。” 我認為現在我們就像是，“作為一項技術，它已經變得更好了。” 隨著我們學會更多地使用它，就有可能構建值得信賴的業務就緒工具。 他們有局限性。

使用 Fin，即使底層語言模型從它從互聯網上了解到的關於您的業務或競爭對手的信息中知道答案，如果它不在您的知識庫中，它也不會響應。 我們故意設計成這樣，我們堅信這就是客戶想要的。 現在我們必須在幾千個客戶中部署它，而且一如既往，會有邊緣案例等，但我們客戶的初步反應非常積極。

凱瑟琳布羅迪根：當然。 為了圍繞這項技術的應用展開討論，對於那些不知道的人，早在 1 月份，我們在 Intercom Inbox 中推出了一系列功能，背後有 AI 支持——比如對話摘要或文本擴展器，而 Fin 是顯然是面向客戶的產品。 您認為 AI 在哪些方面最重要或最有價值的支持？ 我們會繼續為支持代理以及最終客戶體驗投資人工智能嗎？

“對於它無法解決的對話，我們將擁有更快的支持代表。 我們非常堅信要對兩者進行大量投資”

Fergal Reid：當然，我們會繼續投資它。 哪裡最重要的問題真的很難，我完全相信人工智能在這裡的價值。 我在 Intercom 的機器學習團隊工作了大約五年，但我一直持懷疑態度。 我工作的一部分一直是持懷疑態度。 當有人走過來說，“嘿，我的機器人將解決 90% 的客戶查詢。” 我總是說，“不，不會的。” 我現在不那麼懷疑了。 下一代技術將真正具有變革性。

對於它無法解決的對話，我們將擁有更快的支持代表。 基本上，我們非常堅信要對兩者進行大量投資。 兩者都不可能不發生根本性的變化——基礎技術的發展速度繼續令人驚嘆。 即使對於像我們這樣非常接近它的人來說，情況也在逐月變化。 我認為客戶支持和客戶服務將是瘋狂的幾年，我們對此感到非常興奮。 我們決心在那裡，盡快將它們變成有價值的功能。

觀看 Fin 的實際應用

Catherine Brodigan：我覺得這對我們的演示來說是一個很好的轉折點。 Emmet Connolly 是我們的產品設計副總裁。 Emmet，在我們開始演示之前，我很樂意從您那裡快速總結一下我們構建的內容以及 Fin 中的突出功能。

Emmet Connolly： Des 和 Fergal 提供了很多關於技術的背景知識以及我們將其推出的背景。 我們在 Messenger 中構建並發布了自然語言聊天機器人 Fin，它可以存在於您的產品中。 多年來，我們一直在 Intercom 中使用聊天機器人功能，但 Fin 在最先進的技術基礎上進行了重大改進。 首先，它非常擅長理解自然語言問題——輸入的各種問題——真正理解它們，並提供生成的自然語言答案作為問題的直接答案，而不僅僅是引用一篇文章或預先錄製的片段，而是“是的，你能做到”或“不，你不能那樣做”，以回應直接的回答。

從語言的角度來看，它還可以做其他事情。 它可以進行完整的英語對話，其中有來回的對話。 你可以說，“哦，當我住在我的......時，我可以帶寵物嗎？” 它會說，“是的，你可以。” 然後你可以說，“好吧，我能帶多少？” 它明白“我能帶多少？” 是寵物。 你會得到這種非常自然的來回流動。 它可以提出澄清問題、跟進等等。

“您提供的支持是您品牌的延伸，是一個關鍵接觸點，您不希望機器人變得無賴”

這一切都基於GPT-4模型，這個現階段很多人都聽說過並嘗試過的前沿語言模型。 直接用在一個產品上，這些東西有一些問題。 他們接受過網絡所有內容的培訓，因此任何人在互聯網上談論您公司的任何內容都可能被傳送。 正如 Fergal 所說，無論您不想讓您的支持人員談論什麼，我們都不希望機器人談論什麼。 我們不希望它談論貴公司領域之外的幾乎任何主題，或者提供它可以從野外網絡找到的幾乎任何答案。

然後，最後，它有產生幻覺的傾向，編造出看似非常自信但往往不真實的答案。 有了 Fin，我們著手解決很多這樣的問題：首先，它是根據你基於知識的內容進行訓練的，所以它可以談論並且願意回答那個領域內的問題，但不會回答那個領域之外的問題，而且它會實際上拒絕參與有關其他話題的對話。 我們意識到，在某些情況下，讓機器人說“我不知道”或“我不會和你談論那個”實際上是一項功能，也是你真正想要的。

我們希望盡可能提高可信度，因此我們也將其鏈接到其源材料。 這讓人們可以從 Fin 得到一個簡單的答案，但也可以點擊閱讀文章並了解更多信息。 我們為此付出了很多努力，部分原因是您提供的支持是您品牌的延伸，是一個關鍵的接觸點，您不希望機器人變得無賴。 它是在你的知識庫上訓練的，在很多情況下已經存在，所以打開這個東西基本上需要零設置。 你將它指向你的知識庫，將其設置為實時，機器人會立即吸收所有這些信息，將其視為知識庫，並立即開始回答問題。

除了所有這些奇特的功能外，對我來說很突出的一件事是，實際採用該產品的進入門檻是如此之低，幾乎沒有理由不試一試，看看它如何為您服務. 我們認為將它指向任何幫助中心並打開它的成本效益比是一個荒謬的積極比率，也是人們採用 Fin 並試一試的一個很好的理由。

“這是一個對話式的、值得信賴的、零設置的 AI 機器人，它將真正補充支持團隊並與他們一起工作”

然後，它的一些特別之處在於它可以與您系統的其餘部分一起使用。 並不是這個獨立的聊天機器人愚蠢地試圖回答問題，有時卻失敗了。 我們能夠圍繞它構建這些約束和安全功能，因為我們擁有 Intercom 的其餘部分，特別是支持團隊，我們可以將這些查詢傳遞給它們。 Fin 會說，“看，我不知道，”或“我不能隨意談論那個話題，但我可以將你轉交給我的支持團隊。” 這可以追溯到 Des 所說的，讓機器人回答它擅長的問題，並讓支持團隊在他們最擅長的地方大放異彩。

因此，簡而言之，它是一個對話式、值得信賴、零設置的 AI 機器人，它將真正補充支持團隊並與他們一起工作。 我們甚至有人說，“哇，感覺就像多了一個支持團隊成員。” 在該移交過程中，它可以提出澄清問題，以便團隊在收到發送給他們的消息之前有更多的背景信息。 它正在幫助團隊，而不僅僅是幫助客戶。

凱瑟琳布羅迪根：明白了。 它植根於高度自信，知道自己的局限，知道自己擅長什麼。 埃米特，為此感謝一百萬。