더욱 스마트해진 고객 지원: 새로운 ChatGPT 기반 봇 자세히 살펴보기

대본을 벗어나지 않고 대규모 언어 모델의 마법을 캡처하는 신뢰할 수 있는 봇이 있다면 어떨까요? 이 웨비나에서는 최신의 획기적인 AI 봇을 소개하고 이에 대한 모든 질문에 답변해 드립니다.

지난 11월 ChatGPT-3.5가 출시된 이후로 우리는 계속해서 한 가지 질문을 받았습니다. "고객의 질문에 답할 수 있습니까?" 그리고 지금까지 대답은 '아니오'였습니다. 몇 가지 초기 탐색을 수행하고 Inbox용 베타 GPT 기반 기능을 출시하기도 했지만 비즈니스 요구에 적합한 봇을 구축할 수 없었습니다. 답을 알지 못했고 고객을 지원하려고 할 때 봇이 도적질하는 것을 절대 원하지 않습니다.

그러나 환각을 최소화하도록 설계된 최신 GPT-4가 출시되면서 상황이 달라졌습니다. 우리는 최소한의 설정이 필요하고 귀하가 제어하는 ​​정보를 사용하여 자연스럽게 대화하고 귀하의 비즈니스에 대한 질문에 안정적으로 대답할 수 있는 봇을 구축할 수 있는지 확인하기 위해 다시 작업을 시작했습니다. 그리고 보라, 우리는 우리가 그렇게 했다고 생각합니다. 그 이름은 Fin이며 고객 지원 서비스를 강화하는 귀중한 자산이 될 수 있다고 믿습니다.

그래서 바로 지난 주에 저희는 Fin에 대한 귀하의 뜨거운 질문에 답하기 위해 웨비나를 개최하기로 결정했습니다: 정말 효과가 있나요? 고객 서비스 담당자를 대체합니까? 지원 팀은 이 새로운 기술을 통합하기 위해 어떻게 준비해야 합니까?

오늘 에피소드에서는 다음과 같은 내용을 듣게 됩니다.

• Catherine Brodigan, 글로벌 파트너십 선임 관리자
• Des Traynor, 공동 창립자 겸 최고 전략 책임자
• Fergal Reid, 기계 학습 책임자
• Emmet Connolly, 제품 디자인 부사장

그들은 ChatGPT가 고객 서비스 산업을 어떻게 변화시키고 있는지에 대해 이야기하고 Fin의 작업에 대해 자세히 알아볼 것입니다.

시간이 부족하십니까? 다음은 몇 가지 주요 내용입니다.

• 사람들이 즉시 아주 좋은 답변을 받거나 손수 만든 답변을 받기 위해 15분을 기다리는 것 중에서 선택할 수 있는 경우 대부분은 즉석 답변을 선택할 것입니다.
• 기업은 AI를 활용하여 간단한 문제에 대한 즉각적인 지원을 제공하여 지원 담당자가 가장 큰 가치를 창출하는 보다 복잡한 문제에 집중할 수 있도록 해야 합니다.
• 워크플로에 AI를 통합하려면 지원 팀은 지식을 명확하고 모호하지 않은 방식으로 문서화하여 GPT 기반 봇이 답변을 얻을 수 있는 강력한 소스를 확보해야 합니다.
• 지원은 브랜드의 확장입니다. Fin의 장점 중 하나는 잠재적인 브랜드 손상을 방지하기 위해 지식 기반의 정보만 공유되도록 하는 기능에 있습니다.
• Fin의 신뢰도를 높이기 위해 지식창고에서 Fin을 교육할 뿐만 아니라 실제로 소스 자료에 연결합니다.
• Fin은 시스템의 나머지 부분과 원활하게 작동합니다. 모르는 것이 있거나 복잡한 질문을 받으면 모른다고 말하고 지원 담당자에게 넘깁니다.

토론이 마음에 든다면 팟캐스트의 더 많은 에피소드를 확인하세요. Apple Podcasts, Spotify, YouTube를 팔로우하거나 선택한 플레이어에서 RSS 피드를 가져올 수 있습니다. 다음은 에피소드의 약간 편집된 대본입니다.

완벽한 균형을 이룬다

Catherine Brodigan: 모두 환영합니다. 오늘 저희와 함께 해주셔서 감사합니다. 먼저 Des를 소개하게 되어 기쁩니다. 그리고 Des, 저는 현재 업계에서 보고 있는 일반적인 추세에 대해 시작하기 위해 간단한 질문을 던지고 싶습니다. 나는 더블린 사무실의 영업장에 앉아 있고 지난주에 영업팀과 고객 모두 Fin에 대해 엄청난 흥분을 느꼈습니다. 지금까지 고객 피드백에서 정말 눈에 띄는 두 가지 사항은 첫 번째는 설정이 얼마나 쉬운지, 두 번째는 지능적인 답변으로 얼마나 빨리 진행되는지입니다. 그러나 우리가 알고 있듯이 때때로 새로운 기술이 나오고 판도를 바꿀 것처럼 보이지만 기대에 미치지 못합니다. 그래서 저는 여러분의 의견을 듣고 싶습니다. 우리가 과대 광고 곡선에 있지 않고 이것이 진짜 거래라고 확신하는 이유는 무엇입니까?

Des Traynor: 실제 제품을 보는 것은 이것이 연기와 거울이 아니라는 가장 큰 지표입니다. 이것은 증기 제품이 아닙니다. 이것은 Web3와 같은 VC가 과장된 과대 광고도 아닙니다. 일반적으로 말해서, 과대 광고는 모든 사람이 그것으로부터 이익을 얻기 위해 생성하려는 것입니다. 하지만 우리 고객들은 이 제품을 원합니다. 그것이 하는 일을 얻는 사람은 그 가치에 대해 어떤 식으로든 의심하지 않습니다. intercom.com/fin에 있는 데모 봇인 Staybnb 봇도 일반적인 질문에 대한 정말 좋은 답변을 제공합니다. 스테이비앤비 상품의 일종의 경쟁자인 에어비앤비에게 물어본 모든 질문을 개인적으로 훑어보았고, 모든 질문에 대해 10점 만점에 7점 이상의 답변을 받았고, 몇몇 경우에는 10점 만점에 10점. 그리고 나는 즉시 그것들을 얻었다.

"이 시점에서 그것을 과대 광고라고 부르려면 가장 어두운 회의론자 또는 냉소주의자여야 합니다."

매우 좋은 답변을 즉시 선택하거나 15분을 기다렸다가 손으로 만든 장인의 답변을 얻을 수 있는 경우 대부분의 사람들은 즉각적인 답변을 선택합니다. 그리고 그것은 비즈니스에도 좋습니다. 어떤 일을 하려고 하는데 다음 단계로 넘어가기까지 15분을 기다려야 한다면 그것은 효과적인 퍼널이 아닙니다. 절대 그런 식으로 설계하지 않을 것입니다. 그리고 여기에 이것과 과장 열차의 차이점이 있습니다. 과거로 돌아가면 게임화를 볼 수 있고, AR과 VR에 대해 이야기할 수 있으며, 자율주행차가 아직 실제로 착륙하지 않았다고 말할 수도 있습니다. 오늘 여기에서, 사람들은 ChatGPT로 플레이하고, 사람들은 Bing으로 플레이하고, 사람들은 Bard로 플레이하고, 사람들은 DALL·E로 플레이하고… 아무도 이것을 어떤 식으로든 경험하지 않고 있으며 고객이 요구하는 이유는 모두가 그것을 보고 살고 숨쉬고 있기 때문입니다. .

Fin은 11월 초에 "아냐, 그렇게 되지는 않을 거야"에서 "가까워졌지만 아직 멀었어"로 바뀌었습니다. 아마도 12월에 "이것은 1월에 일어나고 있습니다." 그리고 그것이 우리가 여기서 보고 있는 진보의 속도입니다. 그래서 우리는 엄청난 발전을 이뤘을 뿐만 아니라, 우리, 업계는 매주 더 빠른 발걸음을 내딛고 있는 것 같습니다. 이 시점에서 그것을 과대 광고라고 부르려면 가장 어두운 회의론자 또는 냉소 주의자 여야합니다.

Catherine Brodigan: 예, 말씀하신 것처럼 우리는 여기에서 정말 정말 빠르게 움직였습니다. 따라서 업계 전반, 특히 고객 서비스 업계에 엄청난 사고 방식 변화가 필요합니다. 그렇다면 인간적, 개인적, 장인적 해답, 세상에 존재하는 이 놀라운 신기술, 거시경제적 환경과 경제적 효율성을 달성하고 도구를 통합하려는 욕구 사이에서 새로운 균형을 맞추는 문제에 어떻게 대처해야 할까요? 이것이 기업이 균형을 유지하는 방법에 있어 게임을 어떻게 변화시키고 있다고 보십니까?

“'비밀번호를 재설정하려면 여기를 클릭하십시오.'에 대해 전문적인 사과나 설명을 제공하기 위해 지원 팀을 고용하지 않습니다. 그건 쓸모가 없어”

Des Traynor: 기업은 이제 필요한 문제에 대해 최고 수준의 초개인적 서비스를 제공하고 간단하고 빠른 답변이 필요한 문제에 대해 믿을 수 없을 정도로 빠른 지원을 제공할 수 있는 선택권이 있다고 생각합니다. Intercom에서 언제든지 "새 API 키를 어떻게 얻습니까?" 또한 “2주 전에 시리즈를 생중계했고 이제 막 체크인하는 중입니다. 고객 중 한 명이 받았어야 하는데 차단된 것으로 표시됩니다. 차단을 해제하려면 어떻게 해야 하나요?” ㅋ ㅋ ㅋ ㅋ ㅋ ㅋ. 첫 번째는 응답하는 데 약간의 시간이 걸립니다. 우리의 시간과 고객의 시간이 약간 걸립니다.

두 번째는 실제로 지저분한 것입니다. 진단하는 데 한두 시간이 걸릴 수 있습니다. 실제 상호 작용하는 것이지만 첫 번째는 두 번째를 수행할 수 있는 능력을 끌어내고 모든 지원 팀에는 버전이 있다고 생각합니다. 그것의. 그들은 "이봐, 나는 7일 동안 방을 예약했는데 5일 동안만 필요해. 중간에 체크아웃했다가 다시 올 거야." 또는 이와 비슷한 질문을 합니다. "수영장이 어디죠?" 그리고 아이디어는 차별화되지 않은 거래 지원이라고 부르는 많은 부분을 제거함으로써 지원 팀이 더 복잡한 순간, 더 감정적으로 충만한 순간, 더 긴급한 순간일수록 실제로 고품질 지원을 제공할 수 있도록 지원하고 권한을 부여한다는 것입니다. 감동적인 순간. 지원팀이 실제로 비즈니스 가치를 창출하는 곳입니다. "비밀번호를 재설정하려면 여기를 클릭하십시오."라는 전문 사과 또는 설명자를 확보하기 위해 지원 팀을 고용하지 않습니다. 그것은 유용하지 않습니다. 그러나 동시에 그것은 여전히 ​​피할 수 없습니다.

제 생각에 균형은 "지원팀이 가장 많은 가치를 창출하는 곳은 어디이며 고객을 실망시키는 곳은 어디입니까?"라는 최적의 지점을 찾는 데 있다고 생각합니다. 비밀번호를 재설정하는 방법을 설명하는 브랜드 구축 기회가 아니라 피 묻은 링크일 뿐입니다. 핀이 빛나는 곳입니다. 그리고 지원팀은 자신이 빛날 줄 아는 곳에서 빛을 발합니다. 저에게는 그것이 균형입니다.

Catherine Brodigan: 말씀하신 것처럼 무엇이 자동화 가능하고 무엇이 실제로 더 깊고 의미 있는 인간 대화를 필요로 하는지 알아내는 것입니다. 게임은 앞으로 3, 6, 9, 12개월 동안 계속해서 변화할 것이며, 미래에 지원 팀에게 본질적으로 점점 더 많은 가치가 있을 것입니다. 그러나 잠시 지금 여기에 초점을 맞추면 오늘날 지원 팀의 주요 가치 동인은 무엇이며 지원 고객 서비스 팀은 게임에서 앞서 나가고 이 기술을 최상의 상태로 사용할 준비를 하기 위해 어떻게 생각해야 합니까? 가능한 방법?

“이 세상을 어떻게 준비합니까? 짧은 대답은 지식 지원 팀이 알고 있는 모든 지식을 문서화하여 준비하는 것입니다.”

Des Traynor: 예, 미래 지향적인 모든 지원 팀은 AI가 그들의 워크플로를 크게 강화하고 권한을 부여하는 세상에 진입하고 있다고 가정해야 합니다. 귀사에 세계적 수준의 지원을 제공하고 기본적으로 귀하의 지원이 누구보다 낫다고 말함으로써 귀사에 경쟁 우위를 제공할 엄청난 기회가 있습니다.

자, 이 세상을 어떻게 준비합니까? 짧은 대답은 지원 팀이 알고 있는 모든 지식을 문서화하여 준비하는 것입니다. 그게 왜 중요한가요? 글쎄요, 여기서의 발전은 궁극적으로 정보를 소비하고 주변의 대화식 답변을 반환할 수 있는 대규모 언어 모델 영역에 있습니다. 그들은 당신이 그들에게 말하지 않는 것을 모릅니다. 당신은 그들이 사실을 구성하는 것을 원하지 않습니다. 당신은 그들이 알려진 것들을 해결하기를 원합니다. 예를 들어 API 키를 재발급하는 정책이 있지만 어디에도 설명되어 있지 않은 경우(지원팀 주변의 삼투압에 의해 부여된 암묵적 지식과 같음) Fin은 백로그를 긁어모으기 시작하지 않는 한 절대 해결하지 않을 것입니다. .

준비하는 가장 좋은 방법은 지원 팀이 수행하는 가장 일반적인 모든 일에 대해 명확한 입장을 갖고 그 입장을 분석하기 쉬운 매우 명확한 방식으로 작성하는 것이라고 생각합니다. 솔직히 그 일이 너무 좋아서 어쨌든 해결될 것이지만, 당신 자신을 위해서, 당신은 분명해야 합니다. 지원 상담원이 되기 위해 알아야 할 대부분의 사항을 문서화하는 정도에 따라 Fin은 팀의 록스타 멤버가 될 것입니다. 가장 좋은 준비 방법은 그렇게 하는 것입니다. 고맙게도 기사를 사용하는 많은 고객이 이미 이 모든 것을 설명하는 수백 개의 기사를 가지고 있으므로 시작하는 것이 좋지만 아직 거기에 있지 않다면 지금이 투자하기에 좋은 시기입니다.

캐서린 브로디건: 알겠습니다. 헬프 센터 콘텐츠 작성자와 콘텐츠 디자이너의 직업은 갑자기 훨씬 더 바람직한 상품이 되었습니다.

Des Traynor: 예, 상품이 아닐 수도 있습니다. 네, 콘텐츠는 정말 중요한 역할을 할 것이고 훌륭한 콘텐츠를 가진 사람들은 세계적 수준의 지원을 제공할 수 있을 것이므로 투자할 가치가 충분하다고 생각합니다.

GPT, 하지만 신뢰할 수 있게 만드세요

캐서린 브로디건: 알겠습니다. Fergal, 다음 질문에 당신을 초대하고 Fin에 대해 한 단계 더 깊이 들어가고 싶습니다. 우리는 지난 주에 그것을 출시했고 기술적인 관점에서 무엇이 Fin을 차별화하고 Fin을 강력하게 만드는지 듣고 싶습니다.

퍼갈 리드: ​​예, 캐서린, 감사합니다. 그리고 함께 해주셔서 감사합니다. 예, 보세요. 대규모 언어 모델이 새로운 돌파구이며 Resolution Bot이 있지만 수년 동안 사용해 왔습니다. 그것은 신경망을 사용하고 일단 당신이 안장을 얹는 순간 좋은 일에 아주 잘 작동합니다. 하지만 우리가 사용하는 모델은 인간 대화의 복잡성을 잘 이해하지 못하기 때문에 많은 경우 지원 교환에서 누군가 질문을 하고 정보를 받은 다음 명확한 질문을 합니다. 미묘한 질문. 그들은 "오, 내가 의도한 것이 정확히는 아닙니다. 사실 그것에 대해 물어보려고 했습니다."라고 말합니다. Resolution Bot을 사용하여 우리는 자연어의 복잡성을 이해하는 프로토타입을 구축하려고 노력했지만 결코 여러 번 반복되는 지저분한 인간 대화에서 원하는 대로 작동시킬 수 없었습니다.

여기에서 제가 생각하는 새로운 점은 변환기 모델의 대규모 언어 모델인 GPT가 이 문제를 해결했다는 것입니다. Fin으로 가서 플레이하면 사람들이 데모로 플레이하는 것을 보았고 후속 질문에서 제대로 작동하는 많은 예를 보았습니다. "오, 후속 질문에 대답하는 것이 10% 또는 20% 더 낫습니다." 그것은 사용자 경험을 변화시키고 사람들이 “좋아, 갑자기 이것에 대해 이야기할 수 있어. 나는 그것과 이야기할 수 있고 그것을 믿을 수 있습니다.” 새롭다. 구축하고 제공할 수 있는 봇의 품질에 근본적인 UX 변화가 있습니다.

"앞으로 몇 년 동안 우리 모두는 실수로 모호한 헬프 센터 문서에 대해 많은 것을 알게 될 것이며 훨씬 더 선명하게 만들 것입니다."

그리고 두 번째 큰 부분은 언어 모델이 자연어에 더 뛰어나서 헬프 센터 콘텐츠를 더 잘 이해할 수 있다는 것입니다. 기사를 주면 그 기사에서 답을 골라내고 정답을 내주는 게 놀라울 정도로 잘해서, 우리가 "아, 환각이었어." 하는 경우가 많았습니다. 그러나 실제로는 아니오, 그것이 기사가 말하는 것입니다. 우리가 전문가가 아닌 공공 헬프 센터의 문서에서 이것을 테스트하고 있었고 Fin이 우리보다 그것을 더 잘 이해했기 때문입니다.

그리고 다시 말하지만 완벽하지 않고 뉘앙스가 필요합니다. 앞서 Des가 지적한 바에 따르면 우리는 무언가 모호한 경우 잘못된 대답을 제공하지 않도록 봇을 설계하려고 하기 때문에 콘텐츠가 모호하지 않게 작성되기를 원합니다. Fin으로 플레이하면 모호한 기사에 쓰여진 내용이 있으면 꽤 보수적이라는 것을 알 수 있습니다. 앞으로 몇 년 동안 우리 모두는 실수로 모호한 헬프 센터 문서에 대해 많은 것을 알게 될 것이며 우리는 그것들을 보게 될 것이기 때문에 훨씬 더 선명하게 만들 것입니다. 엣지 케이스를 반복합니다. 그것이 새로운 것입니다. 그것들은 변혁적 능력입니다.

캐서린 브로디건: 네, 물론입니다. ChatGPT가 AI에 대한 가장 일반적인 오해에 대한 기대치를 재설정했다고 말하는 것이 타당하다고 생각합니다. 어디에서 가장 중요한 변화를 보았다고 말하겠습니까?

Fergal Reid: 당연히 큰 질문입니다. 사람들이 우리의 데모를 가지고 노는 것을 보는 것만으로도 현재 사용자들에게 큰 오해 중 하나는 이와 같은 봇에게 가서 무엇이든 물어볼 수 있다는 것입니다. 숙제를 도와달라고 요청하십시오. 그리고 그것은 Fin이 설계된 것이 아닙니다. Fin은 이를 방지하기 위해 매우 명시적이고 명확하게 설계되었습니다. 헬프 센터에 대한 질문에 답하거나 "죄송합니다. 도와드릴 수 없습니다."라고만 말할 것입니다. 최종 사용자는 봇이 자연어를 이해할 수 있게 되면 아르헨티나의 수도가 어디인지, 또는 다른 질문에 대해 제 숙제를 도와달라고 요청해도 괜찮을 것이라고 기대합니다. 그리고 그 오해는 꽤 빨리 변할 것이라고 생각합니다. 모두가 ChatGPT를 보았고 이제 Intercom과 같은 사람들의 다음 물결을 보게 될 것이라고 생각합니다. 경험담?" 앞으로 6개월 또는 1년 동안 사용자의 기대치가 바뀔 것이라고 생각합니다.

기술적 측면에서도 많은 오해가 있습니다. 이러한 모델은 많은 교육을 받지 않고도 기본적으로 매우 잘 작동합니다. 오늘 훈련도 할 수 없습니다. 현재 GPT-4 또는 다른 대규모 언어 모델로 이동하려는 경우 특정 비즈니스 또는 도메인에 대해 교육할 수 없습니다. 그들이 교육 없이도 즉시 사용할 수 있는 범위가 있으며 Fin을 구축하고 Fin을 엔지니어링한 방법과 같은 다른 방법이 있습니다. 비즈니스에 대한 많은 컨텍스트를 제공합니다. 당신이 그것과 상호 작용할 때. 우리는 모두 여기에서 배우고 있으며 업계는 이러한 모델의 매개 변수와 좋은 사용자 경험을 만드는 요소에 대해 많은 것을 배워야 할 것이라고 생각합니다.

캐서린 브로디건: 물론입니다. ChatGPT가 나왔을 때 우리 모두는 즐거운 시간을 보냈고 매우 인상적이었습니다. 그러나 우리는 이 LLM이 시장에서 무료로 수행하는 것 외에 여기에서 Fin을 사용하여 그 이상을 수행하고 있습니다. 여기서 인터콤의 비법은 무엇이라고 할까요? 고객과 고객에게 가장 인상적일 것입니다. 고객은 Fin을 구입하여 시장에 내놓을 것입니다.

"Fin을 사용하면 기본 언어 모델이 인터넷에서 비즈니스나 경쟁사에 대해 배운 것에서 답을 알고 있어도 지식 기반에 없으면 응답하지 않습니다."

Fergal Reid: 이상하게도 헬프 데스크에서 큐레이팅된 콘텐츠로 응답하는 봇을 보유하는 것이 정말 중요하다고 생각한다는 점에서 우리 둘 다 일을 점점 더 적게 하고 있다고 생각합니다. 누군가 가서 특정 질문에 대답하는 봇을 원하지 않을 수 있는 질문을 할 수 있습니다. 사람들은 브랜드 손상을 일으킬 수 있는 질문을 할 것입니다. 좀 더 순진한 ChatGPT 스타일 봇을 방금 배포한 경우 사람들은 경쟁업체에 대해 질문하고 경쟁업체에 대해 이야기할 것입니다. 그리고 그것이 무엇을 말할지 누가 알겠습니까? 그것은 인터넷이 당신의 경쟁사에 대해 말하는 모든 것을 말할 것이고, 당신은 거의 확실하게 그러한 대화에서 당신의 고객을 원하지 않을 것입니다. 지원 담당자가 그렇게 하면 행복하지 않을 것이고 봇이 그렇게 하면 행복하지 않을 것입니다.

Fin에 대해 우리가 느끼는 흥미로운 점은 그것이 제한적이라는 것입니다. 이는 헬프 센터로 제한되며, 이를 제한하고 신뢰할 수 있는 능력으로 자연어 대화의 마법을 포착하려고 노력하면서 헬프 센터를 구축하는 데 많은 관심과 주의를 기울였습니다. Des가 이전에 언급했듯이 여기에서 약간의 롤러코스터가 있었습니다. ChatGPT가 출시된 후 우리는 “맙소사, 이것은 지원을 방해할 것입니다. 이것은 정말 빨리 일어날 것입니다.” 그리고 나서 우리는 “오, 아니, 그것은 신뢰할 수 없기 때문이 아닙니다. 매우 피상적으로 호소력 있는 답변을 제공합니다.” 그리고 이제 우리는 "기술적으로 더 좋아졌습니다."라고 생각합니다. 그리고 더 많이 사용하는 방법을 배우면서 신뢰할 수 있고 비즈니스에 바로 사용할 수 있는 도구를 구축할 수 있습니다. 그리고 그들은 한계가 있습니다.

Fin을 사용하면 기본 언어 모델이 귀하의 비즈니스나 경쟁사에 대해 인터넷에서 배운 것에서 답을 알고 있더라도 지식 기반에 없으면 응답하지 않습니다. 우리는 의도적으로 그렇게 설계했으며 고객이 원할 것이라고 확신합니다. 이제 우리는 수천 명의 고객에게 배포해야 하고 항상 그렇듯이 엣지 케이스 등이 있을 것이지만 고객의 초기 반응은 매우 긍정적이었습니다.

캐서린 브로디건: 물론이죠. 이 기술의 응용 프로그램에 대한 스레드를 가져오기 위해, 모르는 사람들을 위해 지난 1월에 대화 요약 또는 텍스트 확장기와 같은 AI 지원을 통해 Intercom 받은 편지함에 다양한 기능을 출시했습니다. 반면 Fin은 분명히 고객 대면 제품입니다. AI가 가장 비중이 높거나 지원에 가치가 있는 부분은 어디라고 보십니까? 지원 상담원과 최종 고객 경험을 위해 AI에 계속 투자할 예정입니까?

“대화를 처리할 수 없는 경우 지원 담당자가 훨씬 더 빨라질 것입니다. 우리는 두 가지 모두에 막대한 투자를 할 것을 매우 강력하게 믿습니다.”

Fergal Reid: 물론입니다. 계속 투자할 것입니다. 어디가 가장 중요한지에 대한 질문은 정말 어렵습니다. 저는 여기서 AI의 가치에 전적으로 동의합니다. 저는 약 5년 동안 Intercom의 기계 학습 팀에 있었지만 회의적이었습니다. 내 직업의 일부는 항상 회의적이었습니다. 누군가 와서 "이봐, 내 봇이 고객 문의의 90%를 해결할 거야."라고 말하면. 저는 항상 "아니요, 그러지 않을 겁니다." 나는 지금 훨씬 덜 회의적입니다. 이 차세대 기술은 정말 혁신적일 것입니다.

그리고 처리할 수 없는 대화의 경우 훨씬 더 빠른 지원 담당자를 갖게 될 것입니다. 우리는 기본적으로 두 가지 모두에 막대한 투자를 할 것을 매우 강력하게 믿습니다. 둘 다 급격하게 변화하지 않을 리가 없습니다. 기본 기술의 속도는 계속해서 놀라움을 금치 못합니다. 아주 가까운 우리 같은 사람들에게도 상황은 매달 변하고 있습니다. 고객 지원 및 고객 서비스에 있어 몇 년 동안 거친 시간이 될 것이라고 생각하며 정말 기쁩니다. 우리는 가능한 한 빨리 그것들을 가치 있는 기능으로 바꾸기로 결심했습니다.

작동 중인 Fin 보기

Catherine Brodigan: 저는 이것이 우리 데모에 대한 정말 좋은 세그웨이라고 생각합니다. Emmet Connolly는 이곳의 제품 디자인 부사장입니다. Emmet, 데모를 시작하기 전에 우리가 만든 것과 Fin의 뛰어난 기능에 대한 간단한 요약을 듣고 싶습니다.

Emmet Connolly: Des와 Fergal은 우리가 이것을 출시할 기술과 맥락에 대한 많은 배경 지식을 제공했습니다. 우리는 귀하의 제품 안에 존재할 수 있는 자연어 챗봇인 Fin을 메신저 안에 구축하고 출시했습니다. 우리는 Intercom에서 수년 동안 챗봇 기능을 사용해 왔지만 Fin은 최신 기술에 비해 크게 개선되었습니다. 우선, 자연어 질문(여기에 입력되는 모든 종류의 질문)을 이해하는 데 탁월합니다. 실제로 질문을 이해하고 질문에 대한 직접적인 답변이 되도록 생성된 자연어 답변을 제공합니다. 기사 또는 미리 준비된 스니펫이지만, 정답에 대한 응답으로 "예, 할 수 있습니다." 또는 "아니오, 할 수 없습니다."

언어의 관점에서 볼 때 다른 작업도 수행할 수 있습니다. 그것은 앞뒤가 있는 완전한 영어 대화를 담을 수 있습니다. “아, 내… 그러면 "예, 할 수 있습니다."라고 말할 것입니다. 그런 다음 "음, 몇 개를 가져올 수 있습니까?"라고 말할 수 있습니다. 그리고 "얼마나 많이 가져올 수 있습니까?" 애완 동물입니다. 매우 자연스러운 앞뒤 흐름을 얻을 수 있습니다. 명확한 질문, 후속 조치 등을 요청할 수 있습니다.

"귀하가 제공하는 지원은 브랜드의 확장이자 핵심 접점이며 봇이 악당이 되는 것을 원하지 않습니다."

이 모든 것은 GPT-4 모델을 기반으로 합니다. 이 최첨단 언어 모델은 많은 사람들이 이 단계에서 들어보고 시도한 것입니다. 제품에 직접 사용하기에는 이러한 것들이 몇 가지 문제가 있습니다. 그들은 웹의 모든 콘텐츠에 대해 교육을 받았기 때문에 누군가가 인터넷에서 귀하의 회사에 대해 말하는 모든 것이 잠재적으로 전달될 수 있습니다. Fergal이 말했듯이 지원 직원이 말하는 것을 원하지 않는 것이 무엇이든 우리는 봇이 말하는 것을 원하지 않습니다. 회사 도메인 외부의 거의 모든 주제에 대해 이야기하거나 와일드 웹에서 찾을 수 있는 거의 모든 답변을 제공하는 것을 원하지 않습니다.

그리고 마지막으로 환각을 일으키는 경향이 있습니다. 사실이 아닌 경향이 있는 매우 자신만만하게 들리는 답변을 구성하는 것입니다. Fin을 사용하여 우리는 이러한 많은 문제를 해결하기 시작했습니다. 우선 지식 기반 콘텐츠에 대해 교육을 받았기 때문에 이야기할 수 있고 해당 영역 내에서 질문에 기꺼이 대답하지만 그 영역 밖에서는 하지 않습니다. 실제로 다른 주제에 대한 대화에 참여하는 것을 거부합니다. 어떤 경우에는 봇이 "모르겠습니다" 또는 "그것에 대해 이야기하지 않겠습니다"라고 말하는 것이 실제로 기능이며 사용자가 진정으로 원하는 것임을 알고 있습니다.

우리는 가능한 한 신뢰성을 높이고 싶었기 때문에 소스 자료에 대한 링크도 제공했습니다. 이를 통해 사람들은 Fin으로부터 간단한 답변을 얻을 수 있을 뿐만 아니라 클릭하여 기사를 읽고 더 많은 것을 배울 수 있습니다. 우리는 그것에 많은 노력을 기울였고 그 중 일부는 귀하가 제공하는 지원이 브랜드의 확장이자 핵심 접점이며 봇이 불량하게 되는 것을 원하지 않기 때문입니다. 그리고 이미 많은 경우에 존재하는 지식 기반에 대해 교육을 받았기 때문에 기본적으로 이 기능을 켜는 데 필요한 설정이 전혀 없습니다. 기술 자료를 가리키고 라이브로 설정하면 봇이 모든 정보를 가져와서 지식 모음으로 취급하고 즉시 질문에 답하기 시작합니다.

이 모든 멋진 기능을 제외하고 저에게 눈에 띄는 한 가지는 실제로 제품을 채택하는 데 대한 진입 장벽이 너무 낮아서 제품이 어떻게 작동하는지 확인하지 않을 이유가 거의 없다는 것입니다. . 우리는 헬프 센터에서 그것을 가리키고 켜는 비용-편익 비율이 터무니없이 긍정적인 비율이며 사람들이 Fin을 채택하고 시도해 볼 수 있는 정말 좋은 이유라고 생각합니다.

"대화식의 신뢰할 수 있는 설정이 필요 없는 AI 봇으로 지원 팀을 보완하고 함께 작업할 수 있습니다."

그리고 이것에 대해 특별하고 독특한 점은 시스템의 나머지 부분과 함께 작동한다는 것입니다. 어리석게도 질문에 답하려고 하고 때로는 실패하는 것은 이 독립형 챗봇이 아닙니다. 이러한 쿼리를 전달할 수 있는 나머지 Intercom, 특히 지원 팀이 있기 때문에 이러한 제약 조건과 안전 기능을 구축할 수 있었습니다. Fin은 "잘 모르겠습니다." 또는 "그 주제에 대해 말할 자유가 없지만 지원 팀에 연결해 드릴 수 있습니다."라고 말할 것입니다. 그것은 Des가 말한 것으로 돌아가서 봇이 잘하는 질문에 답하고 지원 팀이 가장 좋은 곳에서 빛날 수 있도록 합니다.

즉, 간단히 말해 지원 팀을 실제로 보완하고 함께 작업할 대화식의 신뢰할 수 있는 제로 설정 AI 봇입니다. "와우, 지원 팀원이 추가된 느낌입니다."라고 말하는 사람들도 있습니다. 인수인계 프로세스에서 팀이 메시지를 받기도 전에 훨씬 더 많은 컨텍스트를 가질 수 있도록 명확한 질문을 할 수 있습니다. 단순히 고객을 돕는 것이 아니라 팀을 돕는 것입니다.

캐서린 브로디건: 알겠습니다. 높은 자신감에 뿌리를 두고 한계를 알고 자신이 잘하는 것이 무엇인지 압니다. 에밋, 정말 감사합니다.