GPT 및 생성 AI를 사용한 대규모 실험

ChatGPT는 전 세계를 강타했고 우리는 이보다 더 흥분할 수 없습니다. 오늘 우리는 이 혁신적인 AI를 사용하여 구축한 고객 서비스 기능을 공개합니다.

12월에 머신 러닝 책임자인 Fergal Reid와 저는 ChatGPT 출시에 대해 이야기를 나누었습니다. 지원 담당자를 위한 프로세스를 자동화하고 간소화할 수 있는 가능성은 무한해 보이지만 이 분야에서 제너레이티브 AI의 성공은 궁극적으로 고객 서비스 팀과 고객 모두에게 진정한 가치를 제공하는 능력에 달려 있습니다. 그렇지 않다면 그것은 단지 장난감일 뿐입니다. 재미있지만 그럼에도 불구하고 장난감입니다.

이를 테스트하기 위해 신속하게 작업에 착수했습니다. 우리는 유용할 수 있다고 생각되는 몇 가지 AI 기반 기능을 스케치하고 프로덕션에 들어가 160명의 고객에게 베타 버전을 제공했습니다. 여기에서 이러한 새로운 기능에 대한 모든 내용을 읽을 수 있습니다.

오늘 에피소드에서 Fergal과 저는 지난 몇 주 동안 우리가 배운 내용, 다음에 어디로 갈 것인지, 이 공간에서 무엇이 가능한지에 대한 우리의 인식이 어떻게 바뀌었는지 공유합니다.

☞ AI 기능의 베타 대기자 명단에 가입하거나 인터콤에서 AI 뉴스를 받으려면 여기를 클릭하십시오 .

다음은 몇 가지 주요 사항입니다.

• 다중 문장 대화에서 자연어를 처리하는 ChatGPT 모델의 기능은 지속적으로 개선되고 새로운 가능성을 열어줍니다.
• 제품 개발에서 고객은 항상 궁극적인 중재자입니다. 놀라운 기술을 구축할 수 있지만 문제를 해결하지 못한다면 가치가 없습니다.
• GPT-3.5의 텍스트 편집 및 변경 기능은 고객 서비스에 매우 유용하며 이미 텍스트 요약 및 어조 조정과 같은 작업을 처리할 수 있습니다.
• ChatGPT의 발전으로 더 많은 기능이 추가되어 효율성을 극대화하고 무료 일선 상담원이 고객 만족도를 높이는 보다 복잡한 문제에 집중할 수 있습니다.
• 스마트 답장과 같이 잠재적으로 판도를 바꿀 수 있는 용도를 조사하기 시작했지만 모델이 작동하기 위한 비즈니스 컨텍스트에 대한 이해가 여전히 부족합니다.

Apple Podcasts, Spotify, YouTube에서 Inside Intercom을 팔로우하거나 선택한 플레이어에서 RSS 피드를 가져와 하이라이트를 놓치지 마십시오. 다음은 에피소드의 약간 편집된 대본입니다.

언어 이해의 돌파구

데스 트레이너: 다시 한 번 안녕하세요, 퍼갈. 잘 지내고 있나요?

Fergal Reid: 좋아, 고마워, Des. Intercom에서 지난 6~7주 동안 바쁘게 지냈기 때문에 오늘 그것에 대해 이야기하게 되어 매우 기쁩니다.

Des: 네, 불과 6~7주 전에 우리는 앉아서 이야기를 나눴습니다. 11월 말에 시작된 AI 혁명에 맞서 실제 엔지니어링 시간을 구축하는 데 6~7주가 걸렸을 것입니다. 당신은 무엇을 배웠습니까? 고객 서비스 세계에서 무엇이 가능할지에 대한 인식이 바뀌었습니까?

Fergal: 네, 그런 것 같아요. 마지막으로 이야기를 나누었을 때 ChatGPT에 대해 많은 이야기를 나눴는데 아마 출시된 지 일주일 정도 되었을 것입니다. 여기서 큰 차이점이 ChatGPT인지 아니면 OpenAI가 구축한 모델 제품군인지에 대해 머리카락을 나눌 수 있습니다. 우리는 주로 GPT-3.5 또는 Text-Davinci-003으로 작업했습니다.

Des: 이 특정 모듈의 이름입니다.

Fergal: 예, 이 특정 모델의 이름입니다. 그리고 실제로, 이 이름들과 다른 것들이 무엇인지에 대해 많은 혼란이 있습니다. 하지만 기본적으로 작년에 나온 GPT-3.5 시리즈 모델인 Davinci-002, Davinci-003, 그리고 같은 시기에 나온 Davinci-003이 ChatGPT는 혁신이었고 우리가 질적으로 더 나은 다른 기능을 구축하려는 시도를 시작할 수 있게 해주었습니다.

"자연어로 가장 잘 설명되는 작업이 너무 많기 때문에 이는 큰 잠금 해제입니다."

Des: 지금 무엇이 가능한지에 대한 당신의 믿음은 무엇입니까? 고객 서비스의 세계에서 우리는 어디로 가고 있습니까?

Fergal: 고객 서비스와 그 이상에서 이러한 모델을 사용하면 이전보다 더 나은 방식으로 자연어를 처리할 수 있습니다. 자연어 처리의 역사를 조금 소개할 수 있을 것 같습니다. 오랫동안 정규 표현식 등과 같은 단순한 것들이었습니다. 그런 다음 데이터에 많이 포함된 키워드를 정말 잘 볼 수 있는 텍스트가 있었습니다. 그리고 아마도 3~4년 전에 신경망이 "이 문장의 의미가 뭐지?"를 이해하기 시작했습니다. 하지만 이제 저는 그들이 인간이 할 수 있는 방법에 훨씬 더 가까워지고 여러 문장의 대화에서 무슨 일이 일어나고 있는지 이해하기 위해 "이봐, 그 문장의 의미가 무엇인지 더 깊이..."에 정말 능숙해지기 시작했다고 말하고 싶습니다. . 그 사람은 무엇에 대해 이야기하고 있습니까? 문장 1의 내용을 문장 3의 내용과 함께 연결하여 누군가 방금 "오, Salesforce에 대해 질문이 있습니다."라고 말한 것을 알아냅니다. 그리고 팀원이 말합니다. “음, 질문이 뭐죠? 어떻게 도와 드릴까요?" 그런 다음 "예, 통합에 정말 도움이 필요합니다."라고 말합니다. 그리고 시스템은 통합이 Salesforce 통합에 관한 것임을 훨씬 더 잘 이해하고 있으며 대화가 다음에 어디로 가야 하는지 어느 정도 알고 있습니다.

"갑자기 기계가 그것들을 보고 훨씬 더 이해할 수 있게 되었습니다."

우리의 Resolution Bot과 이미 배포된 기계 학습 기술은 주어진 문장 내에서 그 일을 꽤 잘합니다. 그러나 이제 기술은 여러 문장에서 유용하고 문맥에서 훨씬 더 나은 지점까지 향상되고 있습니다. 의사소통을 하고 자연 언어로 서로 대화하기를 원하는 인간으로서 우리에게는 너무나 자연스러운 일입니다. 자연어로 가장 잘 설명되는 작업이 너무 많기 때문에 이는 큰 잠금 해제입니다. 우리가 자연어로 작성하고 서로 의사 소통하는 방법에 대한 많은 문서와 지침 및 기사가 있습니다. 그리고 이제 갑자기 기계가 그것들을 보고 훨씬 더 이해할 수 있게 되었습니다. 그리고 그 기능이 향상될 때마다 수많은 제품이 이전에는 불가능했던 많은 것들을 잠금 해제합니다. 그리고 우리는 일어난 일이 정말 큰 일이라고 느낍니다. 그것은 우리가 물건을 만들어 고객 앞에 놓고 고객이 어떻게 생각하는지 볼 때까지 우리의 의견입니다.

Des: 그래서 우리가 원하는 것입니다.

Fergal: 내 말은, 그것이 우리가 하려고 노력해 온 것입니다.

Des: 소프트웨어란 무엇이며 성문화된 의견이겠죠?

퍼갈: 맞아요.

그것은 고객에게 달려 있습니다

Des: 그래서, 우리는 무엇을 구축 했습니까? 당신은 무엇을하고 있었습니까? 그것을 통해 이야기합시다.

Fergal: 그래서 제품을 개발할 때 항상 자신의 의견을 확인하고 싶어합니다. 귀하의 고객은 항상 어떤 것이 좋은지 아닌지에 대한 궁극적인 중재자입니다. 당신은 당신이 가장 놀라운 기술과 가장 놀라운 제품 경험을 가지고 있다고 생각할 수 있지만, 그것이 문제를 해결하지 못하고 사용하지 않는다면 당신은 틀렸습니다. 그래서 우리는 여기에서 과대 광고를 차단하고 "좋아요, 고객을 위해 무엇을 신속하게 구축할 수 있고, 고객 앞에 무엇을 제공할 수 있고, 가치가 무엇인지 확인하기 위해 고객과 협력할 수 있는 것은 무엇입니까?"라고 확신하고 싶었습니다. 그래서 우리는 이 새로운 기술 중 일부를 사용하고 그것이 가치 있는 것인지 장난감인지 파악하는 데 도움이 되는 기능을 빠르게 구축하고 생산에 들어갈 수 있는 기능을 스케치했습니다.

"버튼을 누르거나 키보드 단축키를 사용하여 기본적으로 '이 기능에 대한 요약을 원합니다. 가볍게 추가할 수 있도록 작곡가에 올려주세요'라고 말할 수 있습니다."

우리가 하기로 결정한 첫 번째 일은 기본적으로 요약을 수행하는 기능을 구축하는 것이었습니다. 그리고 우리가 이것을 하기로 결정한 이유가 있습니다. Inbox 팀인 Intercom의 기계 학습 팀인 우리 팀은 우리가 많이 보고 있는 두 가지 일반적인 고객 작업이 있음을 발견했습니다. 많은 비즈니스에서 지원 담당자가 대화를 넘기기 전에 해당 대화에 대한 요약을 작성해야 합니다. 그렇게 하지 않으면 최종 사용자가 반복해서 말하거나 받는 담당자가 위로 스크롤하여 많은 내용을 읽어야 합니다. 따라서 전달하는 지원 담당자는 요약을 작성해야 하며 이는 실제 작업입니다.

약 1년 반 또는 2년 전, 우리 팀은 당시 최고의 신경망, T5 및 이러한 모든 큰 네트워크를 살펴보고 적절한 요약 기능을 구축하는 데 사용할 수 있는지 알아내려고 했습니다. 그리고 불행하게도 우리는 방법이 없다는 결론을 내렸습니다. 대화가 너무 형편없습니다. 대화의 흐름은 인간에게 정말 좋은 방식으로 이러한 여러 부분 사이를 돌아다닙니다. 인간은 쉽게 찾아볼 수 있고 빠르고 스캔할 수 있습니다. 그러나 Resolution Bot에 있는 꽤 큰 신경망조차도 어려움을 겪었습니다. 그런 종류의 작업에. 그리고 최신 DaVinci-003 모델인 GPT-3.5를 가지고 놀면서 처음 본 것 중 하나는 갑자기 요약이 잘 되는 것 같다는 것이었습니다. 그리고 우리는 "와, 정말 멋져요."

“우리는 사람들과 진정으로 진실되게 노력할 것입니다. 우리는 고객이 어떤 비트가 장난감인지 알아낼 수 있도록 도울 것입니다.”

그래서 우리는 받은 편지함에서 요약 기능을 사용하여 기능을 구축하고 몇 차례 반복했습니다. 버튼을 누르거나 키보드 단축키를 사용하여 기본적으로 "이 기능에 대한 요약을 원합니다. 가볍게 추가할 수 있도록 작곡가에 올려주세요."라고 말할 수 있습니다. 완벽하지 않습니다. 조금 추가해야 할 수도 있지만 시간을 크게 절약할 수 있습니다. 그리고 베타 버전에서 이러한 기능을 사용하는 160명 이상의 고객이 있었고 그들은 요약을 진정한 승자로 여겼습니다. 아직 지원 담당자의 게임을 완전히 바꾸지는 않습니다. 하나의 핵심 작업을 선택하지만 하나의 핵심 작업을 제공합니다.

Des: 그리고 그것을 줄입니다. 감소가 무엇이라고 말하겠습니까? 일반적으로 작성하는 데 3분이 걸린다면 요약 등을 추가하는 데 10초가 걸렸습니까?

퍼갈: 네.

Des: 작업의 90%가 제거된 것 같습니다.

퍼갈: 맞아요. 그리고 우리는 일부 고객이 매우 긴 이메일 스레드 또는 정말 긴 대화 기록을 가지고 있을 수 있고 많은 시간을 절약할 수 있기 때문에 그것에 대해 매우 흥분했습니다. 마치 학술 논문 같은 것을 읽는 것과 비슷합니다. 때로는 요지를 얻는 것만으로도 원하는 정확한 세부 정보를 찾는 데 도움이 됩니다. 나는 우리가 거기에서 정말 좋은 것을 쳤다고 생각하며 그것은 우리가 작업한 기능 중 하나입니다.

“하이프 기계를 사용하면 쉽게 나옵니다. 보도 자료를 발표하는 것은 쉽습니다. '우리는 세상을 바꿨습니다.' 그리고 실제로 그것을 결정하는 사람은 우리 고객입니다.”

우리는 사람들과 진정으로 진실되게 노력할 것입니다. 우리는 고객이 어떤 비트가 장난감인지 알아낼 수 있도록 도울 것입니다. 우리가 구축하고 베타에 넣은 모든 것이 판도를 바꾸는 것은 아니지만 요약은 우리가 가장 강력하게 느끼는 것 중 하나입니다. 정말 준비되었습니다. 이 기술은 혁신적입니다. 새롭고 흥미롭고 진정한 고객 가치를 제공합니다.

Des: AI와 관련하여 우리가 항상 노력해 온 한 가지는 고객에게 호의를 베풀기 위해 노력하고 있기 때문에 냉정합니다. 과대 광고 기계를 사용하는 것은 쉽습니다. "우리는 세상을 바꿨습니다."라는 보도 자료를 발표하는 것은 쉽습니다. 그리고 실제로 그것을 결정하는 사람은 고객입니다. 그래서 우리가 요약을 공개할 때 그것이 정말 가치가 있다는 그들의 말을 받아들이고 있습니다. 그게 중요한거야, 그렇지?

퍼갈: 맞아요. 그리고 보세요, 그것은 우리가 고민하는 것입니다. 때때로 당신은 기꺼이 과대 광고하려는 사람들에게 패배합니다. 일단 그렇게 하기 시작하면 결국 자신의 과대 광고를 믿게 되기 때문에 우리는 그렇게 하지 않으려고 매우 열심히 노력했습니다.

Des: 내러티브가 소프트웨어보다 앞서갑니다. 그것은 진짜 위험입니다.

Fergal: 그리고 당신은 그것을 피하려고 합니다. 우리는 이러한 유형의 기술에 대해 정말 의식하고 있습니다. 거의 많은 효과가 있고 마술적이고 변형적인 일을 하는 데 정말 가까워지지만 때때로 실패합니다. 그래서 우리는 여기에서 "좋아요, 이 정도로 충분할까요?"에 대해 솔직해지려고 노력하고 있습니다. 완벽하지 않다는 것을 알고 있지만 아직 충분합니까? 그리고 그것은 무엇에 충분합니까? 그리고 요약은 우리가 기분 좋게 느끼는 것입니다. 이것이 진정한 가치를 제공한다고 생각하는 기능입니다.

보기에는 좋아 보이지만 프로덕션에서 실제로 작동하지 않는 것을 투구하여 잃을 수도 있고 너무 보수적으로 굴어서 잃을 수도 있습니다. 그리고 과거에는 Resolution Bot을 사용하면서 너무 보수적일 때도 있었습니다. 우리는 "오, 답을 얻었다고 확신하지 않는 한 역효과를 내고 싶지 않습니다." 그리고 일부 고객이 우리에게 와서 "아, 사용자가 한동안 도움을 받지 못하고 있습니다. 당신이 틀렸더라도 그들에게 무언가를 해주세요."라고 말했습니다. 그리고 우리는 쓰레기 흐름 등을 A/B 테스트하고 조정합니다. 너무 보수적이던 시절도 있었다. 따라서 우리는 고객에게 새로운 베타 기능을 신속하게 제공하는 접근 방식을 취하고 있습니다. 고객은 이 기술에 대해 매우 흥분하고 있습니다.

손쉬운 텍스트 편집

Des: 베타에는 얼마나 많은 기능이 있습니까? 다섯, 여섯?

Fergal: 그래서 우리가 가장 먼저 한 일은 요약이었습니다. 간단하고 통합하기 쉽고 이해하기 쉬운 작업이었기 때문에 그렇게 했습니다. 그 후 우리는 작곡가를 보러 갔다. 우리는 원격 분석과 메트릭을 가지고 있기 때문에 에이전트가 Intercom에서 보내는 시간의 약 절반이 작성기에서 텍스트를 작성하거나 편집하는 데 사용한다는 것을 알고 있습니다. 그들도 생각을 정리하고 있지만 글을 쓰고 재구성하는 데 많은 시간을 보내고 있습니다. 그리고 그것을 보았을 때 우리는 "좋아요, 이것은 텍스트를 편집하고 변경하는 데 매우 능숙합니다." 우리는 MVP 기능과 같은 몇 가지 작은 기능으로 시작하여 이를 실행하고 어떻게 진행되는지 확인했습니다. 그래서 우리는 텍스트 편집 및 텍스트 변형 기능으로 시작했습니다. 설명하기 가장 간단한 것은 간단한 편집일 것입니다. "이봐, 내가 방금 쓴 이 텍스트를 좀 더 친근하게 만들어줘" 또는 "좀 더 격식을 차려"라고 말하세요. 이제 이 기술이 어조를 조정하는 데 능숙하기 때문입니다. 이전에는 톤을 안정적으로 조정하는 데 사용할 수 있는 것이 없었습니다. 우리는 UX에 대해 많은 반복 작업을 수행했으며 도구 모음이 있고 텍스트를 선택할 수 있는 UX를 생각해 냈습니다. 첫 번째 버전에서는 텍스트를 선택할 수 없었고 반복했습니다. 고객은 그것이 쓸모없다고 말했습니다. 작곡가의 모든 톤을 바꾸고 싶지 않았기 때문입니다. 이제 조금 선택할 수 있습니다.

"새로운 상황에 맞는 메뉴가 '확대', '요약', '더 행복하게', '더 격식 있게'와 같은 세상을 보고 있다는 사실에 놀랐습니다."

이미지를 편집하는 것과 거의 같습니다. 그리고 우리는 여기에 떠오르는 패러다임이 있다고 생각하기 시작했습니다. 옛날 옛적에 텍스트를 볼드체와 이탤릭체로 만들 수 있는 워드 프로세서가 "와우" 같았던 것을 기억합니다. 그리고 우리는 미래에 사람들이 어조의 관점에서 그것에 대해 생각할지 궁금합니다. “아, 물론 빨리 가서 톤을 편집하고 싶어요.” 하루를 마칠 때 피곤하고 초안을 작성했는데 "친절하지 않았어. 내 수능에 영향을 미칠 거야." 톤과 더 친근 해집니다. 그리고 이동하는 것보다 버튼을 한두 번 누르는 것이 더 쉽습니다.

Des: 이동 하 고 다시 작성 합니다.

Fergal: 텍스트를 다시 쓰는 것은 작업입니다.

Des: 새로운 상황에 맞는 메뉴가 "확대", "요약", "더 행복하게", "좀 더 형식적으로"와 같은 세상을 보고 있다는 사실에 놀랐습니다. 이것이 여러분이 하려는 변환이 될 것입니다. 어조만큼 텍스트의 광학에 집중하는 것은 그리 많지 않습니다.

퍼갈: 완전. 이것 봐, 우리가 이것에서 앞뒤로 갈 때, 우리는 마치 "이거 장난감이야? 우리가 멋진 장난감을 만들었나요? 아니면 놀라운 것인가요?” 고객에 따라 다를 수 있지만 특정 기능에 대한 대담한 사례는 “이봐, 나는 하루가 끝날 때 피곤하고 어조에 많은 신경을 씁니다. 이것이 방법입니다.” 보다 즐거운 고객 경험을 제공하는 방법입니다.

Des: "죄송합니다. 환불해 드립니다." 당신은 "그 소리를 더 공감하게 만들어주세요"라고 말할 것입니다.

Fergal: 우리는 공감에 대해 실험했습니다. 우리가 실제로 전환한 것은 "더 격식있게, 더 친근하게"입니다. 그것은 정말 잘 작동하는 것처럼 보이는 종류의 스펙트럼이므로 우리는 그것을 사용했습니다. 그리고 인터콤에 적합하다고 생각합니다. 많은 사람들이 매우 개인적이고 친근한 지원 경험을 제공하려고 노력하고 있습니다.

“무언가를 쓰다 보면 잘못된 결과가 나오는 경우가 많습니다. 그러니 '이봐, 다른 말로 바꿔'라고 말하면 됩니다.”

완전히 투명하게 말하면 장난감에서 귀중품까지의 스펙트럼에서 정확히 어디에 있는지 아직 확실하지 않습니다. 일부 고객은 매우 가치가 있다고 말하므로 계속 평가하고 있습니다. 그러나 우리는 그것을 베타 버전으로 가지고 있습니다. 우리는 이것이 우리가 구축하고 조사하고 있는 종류의 것이라고 고객들에게 말하고 싶습니다.

그것은 하나의 기능입니다. 다음으로 살펴보기 시작한 것은 문구 변경 기능입니다. 다시 말하지만, 이러한 언어 모델은 제한된 텍스트를 가져와 편집하거나 변경하는 데 매우 능숙합니다. 당신은 요약으로 그것을 보기 시작합니다. 글을 쓰다보면 엉뚱한 내용이 나오는 경우가 많습니다. 그러니 그냥 "이봐, 바꿔 말해봐"라고 말할 수 있습니다. 그리고 다시 강조 표시하고 클릭하기만 하면 되는 일종의 빠른 UX입니다. 직접 다시 작성하는 것보다 조금 더 쉽습니다. 그렇게 할 때 약간의 대기 시간이 있습니다. 그래서 우리는 여전히 평가 중입니다. 그러나 일부 고객은 다시 한 번 정말 좋아하고 비즈니스에 실제로 효과가 있으며 이러한 모델이 점점 더 좋아짐에 따라 지연 시간이 줄어들 것으로 예상합니다. 그래서 텍스트 리프레이징입니다. 그것들은 우리가 컴포저에서 추구한 첫 번째 기능입니다.

이제 더 큰 티켓 문제가 그 다음이고 우리는 잠재적으로 더 큰 판도를 바꿀 수 있는 것들을 조사하기 시작했습니다. 이를 위해 우리가 하려고 하는 한 가지는 확장 기능이라고 부르는 것입니다. 우리는 프로그래머를 위한 부조종사와 같은 것들에서 영감을 받았습니다. 부조종사에서 주석을 작성할 수 있으며 전체 기능을 채우고 많은 시간을 절약할 수 있습니다. 그리고 우리는 "오, 고객 지원을 위해 이와 비슷한 것을 만들 수 있을까요?" 아이디어는 원하는 내용에 대한 짧은 요약을 작성한 다음 강조 표시하는 것입니다. 예를 들어 확장하면 작곡가가 채워집니다. 우리는 이 작업을 수행하고 배송했으며 고객은 이것이 작동하는 경우 장난감이 아니라 가치가 있음을 분명히 알 수 있습니다. 그러나 일부 도메인에서는 다른 도메인보다 훨씬 더 잘 작동합니다. 인터넷의 일반적인 정보가 좋은 일을 할 것이라는 질문에 답하는 경우-

Des: 휴대전화를 초기화해야 하는 것처럼요.

퍼갈: 네, 맞습니다. 그것은 그것을 위해 아주 잘 작동합니다. 그러나 속기를 작성하는 작업을 하려고 하고 실제로 이러한 유형의 질문에 대답하는 방법에 대해 비즈니스와 관련된 많은 컨텍스트가 있는 경우 환각을 일으킬 수 있으며 수정해야 할 내용을 말할 것입니다. 밖으로. 그래도 일부 고객은 정말 좋아하고 정말 잘 작동합니다. 그러나 우리는 이것이 일종의 버전 1이라고 생각합니다. 이것을 사용하는 경우 이를 확인하고 귀하와 귀하의 비즈니스에 얼마나 잘 작동하는지 확인해야 합니다. 그러나 우리는 이를 위해 지속적으로 새로운 것을 평가하는 프로젝트가 있습니다. "이봐, 같은 주제에 대해 이전에 답변한 내용을 받아도 될까요?" 따라서 "환불 고객 감사"와 같이 수행하려는 작업에 대한 3단어 요약을 제공하면 환불에 대해 언급한 마지막 5가지 항목을 찾아보겠습니다. 또한 환불에 대한 매크로가 있는지 확인합니다. 사전에 대화의 맥락도 살펴보겠습니다.

“우리가 실험하고 있는 것은 고비를 넘을 수 있을까? 그 맥락을 이해함으로써 정말 변혁적인 무언가를 만들 수 있을까요?”

Des: 헬프 센터에 있는 것이 있다면 그런 종류의 모든 것입니다.

Fergal: 아직 헬프 센터에서 기사와 자료를 가져오지 않았습니다. 우리는 방금 귀하와 사용자가 2턴 전에 말한 내용을 살펴보고 프롬프트에 모두 입력한 다음 "좋아요, 이 모든 정보와 함께 가서 3단어 약어를 사용하고 요약하지 마십시오"라고 말할 것입니다. 그것을 큰 것으로 바꾸십시오.”

Des: 응, 완전히. 따라서 “죄송합니다. 환불해 드리겠습니다. 감사합니다.”라는 말은 “불편을 끼쳐드려 정말 죄송합니다. 환불이 처리되었으며 3~4일 후에 확인하실 수 있습니다. 그리고 우리는 후회합니다…

Fergal: 당신이 일반적으로 사용하는 스타일 - 개인적으로, 개별 에이전트 - 그리고 당신이 가지고 있는 관련 매크로도 가져옵니다. 그것이 우리가 있는 곳입니다. 그리고 그 마지막 작품은 아직 제작되지 않았습니다. V1이 생산 중입니다. V1은 수백 명의 베타 고객이 사용했습니다. 하지만 우리가 실험하고 있는 것은 고비를 넘을 수 있을까요? 그 맥락을 이해함으로써 진정으로 변혁적인 무언가를 만들 수 있을까요? 그리고 그것은 여전히 ​​진행 중입니다. 나는 우리가 낙관적이지만 아직 확실하지 않다고 말하고 싶습니다. 이것은 우리에게 매주 변화하고 있으므로 우리는 그것에 대해 매우 흥분됩니다. 이것이 현재 확장 기능 버전 1입니다. 그러나 우리는 버전 2와 버전 3이 출시되는 것을 볼 수 있습니다.

운전 지원 효율성

Fergal: 베타에서 실험한 마지막 기능은 고객이 GPT에 직접 액세스할 수 있도록 하는 것이었습니다. 따라서 프롬프트 없이 모델에게 아무 말도 하지 않고 "이봐, 거기에 원하는 대로 넣어"라고만 말해야 합니다. 그리고 우리는 실제로 빠르게 진행되는 베타 실험으로 그렇게 했습니다. 우리는 베타 버전의 고객에게 사용 방법에 대한 많은 지침을 제공하지 않았습니다. 우리는 그들 중 일부를 혼동했고 잘 진행되지 않았지만 일부 고객은 번역을 포함하여 진정한 가치를 제공하는 새로운 사용 사례를 발견했습니다. 이제 이러한 모델은 번역에 최고는 아니지만 흥미로운 AI 제품 개발 전술일 수 있습니다. 필요한 것이 무엇인지 알려줄 것입니다.”

Des: 무엇이 나오는지 확인하십시오. 기대되는 것을 보십시오.

퍼갈: 맞아요. 그리고 제 생각에는 기대치가 빠르게 변할 것입니다. 아마도 그것은 매우 잘 이해된 번역 모델이 있기 때문에 우리에게 번역이 필요하다는 것을 말해줄 것입니다.

“어쩌면 그 옆에 소스가 있을 수도 있고 갑자기 답을 찾는 5분의 시간이 순식간에 바뀔 수도 있습니다. 그리고 그것이 게임의 판도를 완전히 바꿔놓기 시작하는 곳입니다.”

Des: 따라서 이러한 모든 기능이 지원 팀을 위한 효율성 극대화인 것 같습니다. 그들은 인트로와 아웃트로든, 아니면 더 행복하거나 더 형식적으로 만들기 위해 할 에너지가 없을 수도 있는 것을 다시 쓰는 것인지에 관계없이 차별화되지 않은 많은 부분을 줄입니다. 일선 지원 상담원의 시간을 많이 절약할 수 있는 방법은 모두 다릅니다. 궁극적으로 기술 조회 또는 심층 분석과 같은 대화의 더 어려운 부분에 집중할 수 있는 더 많은 시간을 제공합니다. 이것이 가장 잘 배치되는 곳입니까? 그것이 지금까지 우리의 최선의 생각입니까? 지원 경험 전반에 걸쳐 이 GPT 스타일 기술을 적용할 수 있는 다른 위치에 대해 생각할 때 그 외에 무엇을 생각하고 있습니까?

Fergal: 규모가 더 큰 고객의 경우 하루 종일 Composer에서 보내는 지원 담당자가 많습니다. 따라서 더 빠르고 효율적으로 만들 수 있다면 10% 또는 20%의 효율성 향상은 절대적으로 엄청납니다.

데스: 물론이죠. 우리는 수천 명의 고객을 보유하고 있으므로 진정으로 혁신적입니다.

퍼갈: 맞아요. 게임 변경. 그리고 그것은 우리가 매우 매력적이었던 영역입니다. 그리고 이 기술은 점점 더 좋아지고 있습니다. 유일한 장소는 아니지만 우리는 그것에 대해 정말 낙관적입니다. 고객 중 일부는 실제 일상의 비디오를 매우 훌륭하게 공유합니다. 그리고 이 작업 흐름을 보면 “이봐, 질문에 대답하려고 하는데 답을 모르겠어. 가서 내부 헬프 데스크 문서를 찾아보거나 비슷한 대화를 찾아야 하고 여기저기 탐색하고 있습니다.” “이봐, 여기 AI가 있어. 어쩌면 당신은 그것에 몇 마디를 줄 수도 있습니다… 우리는 몇 분 후에 이야기할 다른 프로토타입을 가지고 있습니다. 어쩌면 대답이 여러분을 기다리고 있을지도 모릅니다. 옆에 소스가 있을 수도 있고 갑자기 답을 찾는 5분의 시간이 순식간에 바뀔 수도 있습니다. 그리고 그것이 정말로 판도를 바꾸기 시작하는 곳입니다. 나는 그것이 우리가 곧 갈 곳이라고 생각합니다.

Des: 그래, 그건 말이 된다. 대규모 팀의 소소한 이득은 여전히 ​​엄청나며, 특정 워크플로, 즉 요약의 큰 이득도 막대합니다. 어떤 사람들은 우리가 모든 지원을 자동화할 때까지 아무것도 하지 않은 이상한 바이너리 세계를 가지고 있다고 생각합니다. 내 개인적인 견해는 우리가 실제로 모든 지원을 자동화할 것이라고는 생각하지 않습니다. 우리가 할 것이라고 생각하는 것은 문자 그대로 매일 같은 일을 하는 "pointy clicky", "intro-y outro-y"와 같이 차별화되지 않은 지원 부분을 제거하는 것입니다.

Fergal: 그리고 바라건대, 당신은 그들의 답답한 부분을 제거할 수 있을 것입니다. 주변을 탐색하고 검색을 시도하며 답이 여기 어딘가에 있다는 것을 알고 있습니다. 지난 달에 이 질문에 5번 답변했지만 찾을 수 없다는 것을 알고 있습니다.

"솔직히 이 기능은 내가 예상했던 것보다 훨씬 빠르게 유용성의 한계점을 넘고 있습니다."

베타 버전의 마지막 기능은 기사 기반 확장기입니다. 이것은 우리가 거의 매우 빠르게 표준 기능이 되는 것을 보고 있는 것입니다. 텍스트 기사를 작성하는 모든 곳에서 큰 언어 모델을 호출하고 “이봐, 이걸 완성할 수 있게 도와줘. 이걸 확장해. 여기 내 요점이 있습니다.” 그래서 우리는 Intercom 기사 제품의 베타 버전을 제공합니다. 다시 말하지만 아직은 이르다. 이 모든 작업은 초기 단계입니다. 6주에서 8주가 지났지만 때로는 마법과도 같습니다. 때때로 기사의 내용을 설명하기 위해 4~5개의 글머리 기호를 작성할 수 있습니다. 그런 다음 프롬프트에서 Intercom 기사의 표준 형식을 제공합니다. 곧. 그것이 작동할 때, 얼마나 자주 작동하고 사람들에게 얼마나 잘 작동하는지 마법과도 같습니다. 여전히 내용을 확인해야 합니다. 그것은 거기에 물건을 넣을 수 있지만 그것을 내리는 방법이 있다고 생각합니다. 그리고 솔직히 이러한 기능은 내가 예상했던 것보다 훨씬 빠르게 유용성의 한계점을 넘고 있습니다. 예, 우리는 그것을 실험하고 있습니다.

마지막 국경

Des: 그럼, 더 멀리, 이 모든 궤적에 대한 당신의 테이크는 무엇입니까? 여기서 어디로?

Fergal: 그것들은 우리가 베타에서 가지고 있었던 것들입니다. 수백 명의 고객이 사용하고 있으며 고객 가치에 대한 실질적인 신호를 얻었습니다. 기계 학습을 통해 현재 생산 단계에 있는 정확한 위치를 알려드리겠습니다. 지난 1~2일 동안 내부 CS 팀에서 사용하는 기능이 있었습니다. 과거에는 일반적인 인사말을 마이닝하는 스마트 답장 기능이 있었습니다. 이것들은 정보가 없고 사용자의 질문에 대답하지 않는 것들입니다. 그것들은 바퀴에 기름을 바르고 빠르고 빠르고 쉽게 “오, 감사합니다. 천만에요. 내가 할 수 있는 다른 일이 있습니까?” 그리고 이 기술은 그런 종류의 일에 훌륭합니다. 언어 학자들은 그것들을 phatic 표현이라고 부릅니다.

지난 며칠 동안 우리는 Intercom CS 팀에 해당 버전을 보냈습니다. 여기서 회색으로 표시된 텍스트가 컴포저에 미리 채워져 있지만 특정 대화와 관련이 있습니다. 따라서 이전에 "안녕하세요, 도와드릴까요"라고 말하고 사용자가 "예, 기사 제품에 대한 도움이 필요합니다"라고 말하면 "예, 기사를 찾아보겠습니다."라고 제안합니다. 당신을 위한 제품입니다.” 아직 찾지는 않겠지만 그렇게 하겠습니다. 3~4일 전에 우리는 “좋아요, 이걸 내부적으로 배송하겠습니다. 우리는 그것이 성가시게 될지, 사람들이 그것을 자주 보고 일부 부분에만 도움이 되기 때문에 눈이 멀게 될지 확신할 수 없습니다.”라고 우리는 항상 그것에 대해 정말 조심합니다. 하지만 지금까지 CS 팀의 내부 반응은 훌륭했습니다. 그래서 우리는 그것에 대해 계속 노력할 것입니다. 표시 빈도를 제한하는 다른 시스템을 추가해야 할 수도 있습니다. 그것이 우리가 작업하고 있는 한 가지입니다.

앞서 확장 부분에 대해 언급했는데 이제 "이봐, 속기 없이도 할 수 있을까?"에 대해 작업 중입니다. 사용자가 방금 말한 내용을 기반으로 다음에 입력할 내용을 알아낼 수 있습니까? 그리고 지식 기반을 살펴보고 관련 컨텍스트를 찾아 모델에 제공합니다. 모델 자체로는 이 작업을 수행하기에 충분하지 않습니다. 그것은 당신의 사업을 알지 못하지만 아마도 우리는 그것을 보강할 수 있습니다. 모델과 함께 보다 전통적인 기계 학습 텍스트의 조합을 사용하여 좋은 것을 얻을 수 있을 것입니다. 우리는 프로토타입을 가지고 있고 이에 대해 작업하고 있지만 아직 베타 형태로도 고객에게 배송하지 않았습니다. 그것이 변형할 수 있을 만큼 좋은지 또는 지루하고 성가신지 여부를 여전히 평가하고 있기 때문입니다. 그 임계값이 어디인지는 명확하지 않습니다. 우리는 사용자가 언제 해야 하는지 배울 수 있기 때문에 프롬프트를 표시해야 하는 확장 스타일에 대해 조금 더 낙관적입니다. 쿼리 방법을 배울 수 있습니다. 우리 모두는 Google 사용 방법을 배워야 했으며 사용자가 이러한 시스템을 훨씬 더 잘 다룰 수 있을 것으로 기대합니다.

대략 우리가 있는 곳입니다. 우리는 빠르게 움직이고 있으며 여기에서 실제 가치를 실제로 확인하고 얻을 수 있도록 고객에게 물건을 신속하게 배송하고 있습니다. 하이프 함정에 빠지지 않도록 주의를 기울이고 있습니다. 우리는 여기에 엄청난 잠재력이 있다고 믿지만 랜딩 페이지를 붙이고 “여기서 가져오세요. 모든 것에 답할 것입니다.” 그리고 그것은 좋지 않습니다. 사람들은 눈이 멀고 꺼질 것입니다.

“모두가 이것을 보고 'ChatGPT는 정말 좋습니다. 고객 지원을 돕기 위해 그런 기술을 얻을 수 있다면 엄청난 일입니다.' 그러나 그것은 선반에서 그것을하지 않을 것입니다. 그것은 당신의 사업을 모른다”

Des: 당신이 "이게 뭔가를 해"라고 말하면 당신의 평판에 손상을 입히는 것 같은데, 분명히 그렇지는 않지만, 당신은 클릭을 위해 그렇게 했습니다. 이 새로운 공간에서 모두가 기다리고 있는 실제 제품은 항상 대부분의 질문에 올바르게 대답하는 최종 사용자 대면 봇인 것 같습니다. 그것에 대한 생각? 몇 주, 몇 달, 며칠?

Fergal: 분명히 그것은 모두에게 큰 영역입니다. 나는 작곡가도 과소평가하지 않을 것입니다. 질문의 일부는 항상 작곡가에게 넘어갈 것입니다. 이러한 시간을 단축할 수 있다면 엄청난 일입니다. 하지만 절대적으로, 이 영역에서 가장 큰 장점 중 하나는 우리가 ChatGPT에서 본 대화 이해 경험을 환각을 피하면서 개인 비즈니스에 적용할 수 있는지 여부입니다. 많은 사람들이 그것을 조사하고 있습니다. 그것도 조사하고 있습니다. 우리는 흥미롭고 유망한 프로토타입을 가지고 있지만, 우리가 환각을 할 가치가 있고 가치가 있을 만큼 충분히 희귀한 한계점을 넘었는지 아직 확실하지 않습니다. 내부적으로 이에 대한 몇 가지 의견이 구체화되기 시작했지만 아직 그 문제에 대해 공유할 준비가 되지 않았습니다.

Des: 완전히 공정합니다. 음, 6주 정도 후에 다시 확인하게 될 것 같습니다.

Fergal: 매우 빠르게 움직이는 시간이었습니다. 보십시오, 이것은 일하기에 매우 흥미로운 분야입니다. 고객의 기대치는 매우 높습니다. 모두가 이것을 보고 “ChatGPT는 정말 좋습니다. 고객 지원을 돕기 위해 이와 같은 기술을 얻을 수 있다면 엄청난 일입니다.” 그러나 그것은 선반에서 그것을하지 않을 것입니다. 그것은 당신의 사업을 모릅니다. 오늘은 정말 미세 조정할 수 없습니다. 특정 비즈니스에서 미세 조정할 수 있더라도 아마 그렇게 하지 않을 것입니다. 우리는 영리한 기술을 찾아야 하며 Intercom과 같은 회사가 이를 시도하고 수행할 수 있는 좋은 위치에 있다고 생각합니다. 그리고 네, 흥미로운 기술 및 언어 모델이 많이 있습니다. 저는 이 공간의 모든 혁신을 보게 되어 정말 기쁩니다.

데스: 멋지다. 매우 감사합니다.

퍼갈: 감사합니다. 고맙습니다.

☞ AI 기능의 베타 대기자 명단에 가입하거나 인터콤에서 AI 뉴스를 받으려면 여기를 클릭하십시오 .