고객이 챗봇을 만나면 어떻게 될까요? 고객 서비스 분야의 AI에 대한 최신 연구에 대해 논의

사람들이 실제로 고객 서비스 챗봇과 상호작용하는 것을 즐깁니까? 그리고 그들은 차세대 AI 기반 봇에 대해 어떻게 생각합니까? 최신 연구에 참여하여 알아보세요.

ChatGPT는 AI 애플리케이션, 특히 고객 서비스를 위한 차세대 챗봇의 새로운 시대를 열었습니다. 그러나 그것이 비즈니스를 어떻게 변화시킬 수 있는지에 대해 많은 논의가 있었지만 최종 사용자의 관점을 간과하는 경우가 많습니다. 궁극적으로 그들은 이러한 챗봇과 상호작용하게 될 사람들입니다. 그래서, 그 문제에 대한 그들의 생각은 무엇입니까?

이제 우리는 봇의 세계에 낯설지 않습니다. 우리는 수년 동안 챗봇과 AI 봇 버전에 대해 토론하고 개발해 왔습니다. 따라서 AI 봇에 참여하고 이를 비즈니스에 배포한다는 개념은 우리에게 제2의 천성처럼 느껴집니다. 그렇기 때문에 최신 AI 챗봇인 Fin을 구축하면서 종합적인 사용자 조사를 수행해야 할 필요성을 느꼈습니다. 우리는 봇에 대한 편견이나 선입견을 피하고 싶었기 때문에 일반 대중에게 다가가 봇에 대해 어떻게 생각하는지, 최신 AI 기술 발전에 따라 인식이 바뀌고 있는지 물었습니다.

진실은 사람들이 지금까지 다루어 온 전통적인 챗봇은 그다지 인기가 없다는 것입니다. 도움이 되는 것부터 평범한 분노에 이르기까지 이러한 봇은 실제로 문제를 해결할 수 있는 인간 에이전트에 도달하는 과정에서 단순한 장애물로 간주되는 경우가 많습니다. 그러나 흐름이 바뀔 수 있습니까? 챗봇과의 상호 작용이 실제로 고객에게 긍정적인 경험이 될 수 있을까요? 그것이 바로 우리가 탐구하기 시작한 것입니다.

오늘 에피소드에서는 선임 제품 연구원인 Cormac O'Dwyer 및 Sophie Woods와 함께 AI가 챗봇에 대한 사람들의 감정을 어떻게 변화시키고 있는지 알아봅니다.

다음은 몇 가지 주요 사항입니다.

• 기존 챗봇에 대한 인식은 엇갈립니다. 고객을 이해하고 도울 수 있는 능력이 제한되어 있어 실망스러운 만남으로 이어져 사람들을 짜증나게 합니다.
• 아마도 ChatGPT 덕분에 고객은 AI 봇을 기존 봇보다 우수하다고 인식하고 더 나은 이해와 커뮤니케이션, 그리고 전반적으로 더 나은 경험을 기대합니다.
• 고객은 봇이 더 복잡하거나 부담스러운 상황을 이해하고 공감할 수 없기 때문에 사람에게 문제를 에스컬레이션할 수 있는 옵션이 없는 것에 대해 우려를 표명했습니다.
• 인간과 대화할 수 있는 옵션은 봇의 한계를 인정하고 필요할 때 인간 접촉의 가치를 인식함으로써 비즈니스와 고객 간의 신뢰를 구축합니다.
• 시장 역학이 AI 봇에 대한 사람들의 기대에 어떻게 영향을 미칠지는 말할 것도 없고, 향후 몇 년 동안 챗봇과 상호 작용하는 패턴이 어떻게 진화할지 아직 불확실합니다.

토론이 마음에 든다면 팟캐스트의 더 많은 에피소드를 확인하세요. Apple Podcasts, Spotify, YouTube를 팔로우하거나 선택한 플레이어에서 RSS 피드를 가져올 수 있습니다. 다음은 에피소드의 약간 편집된 대본입니다.

봇을 할 것인가 말 것인가

Liam Geraghty: 처음에 AI 챗봇에 대한 고객 태도에 대한 사용자 조사를 수행하게 된 동기는 무엇입니까?

Cormac O'Dwyer: Intercom의 고객과 대화하는 데 많은 시간을 할애하는 것 같지만 챗봇의 관점에서 볼 때 그들은 주요 사용자가 아닙니다. 고객 서비스 팀은 제품을 구입하고 설정하고 보고하지만 대부분의 상호 작용은 실제로 최종 사용자입니다. 우리 고객의 고객.

우리는 고객이 고객에 대해 많은 관심을 갖고 있다는 것을 알고 있습니다. 그들은 훌륭한 최종 사용자 경험을 제공하기를 원하기 때문에 Intercom과 같은 도구를 구입합니다. 따라서 더 많이 이해하거나 그 격차를 좁힐수록 좋습니다. ChatGPT가 발생한 이후 일반적으로 AI에 대해 많은 이야기가 나오고 있지만 우리가 보고 있는 바에 따르면 거의 모든 것이 산업 또는 비즈니스 관점입니다. 그리고 고객의 고객이 이 물건과 상호작용하게 될 사람이기 때문에 우리도 그들의 의견을 듣고 싶었습니다.

"우리가 AI 봇에 대한 최종 사용자의 인식에 대해 이야기하지 않으면 우리가 살고 있는 이 매우 비현실적인 현대 세계를 통해 볼 위험이 있습니다."

이것에 대한 또 다른 각도는 이 두 그룹 사이의 구별이 그렇게 명확하지 않다는 것입니다. 고객 서비스에 종사하는 모든 사람은 고객 서비스 사용자이기도 합니다. 예를 들어, Fin 평가의 일부는 최종 사용자로서 하듯이 Fin과 상호 작용하는 것입니다. 겹치는 부분이 많으며 고객 서비스 직원이 다른 챗봇과 상호 작용하는 경우 이를 기반으로 자신의 인상과 기대치를 형성하고 있습니다. 그래서 그들은 Intercom에 대해 생각하는 방식에도 그것을 가져올 것입니다.

Sophie Woods: 우리와 고객이 살고 있는 인터넷의 작은 구석에 갇히기가 정말 쉽다고 생각합니다. 우리는 몇 년 동안 AI 봇과 챗봇의 버전에 대해 이야기해 왔으며 ChatGPT가 최근 기술을 발전시켰지만 AI 봇의 개념은 우리와 좀 더 진보적이고 미래 지향적인 고객에게 다소 평범하게 느껴집니다. 우리가 AI 봇에 대한 인식에 대해 최종 사용자(본질적으로는 일반 대중)와 이야기하지 않는다면, 우리가 살고 있는 이 매우 비현실적인 현대 세계를 통해 그것을 볼 위험이 있습니다. 연구자로서 우리가 피하려고 하는 것입니다.

Liam: 고객은 전통적인 챗봇을 어떻게 인식하며 부정적인 감정을 갖게 되는 주된 이유는 무엇입니까?

"한 참가자는 문지기를 지나쳤다고 설명했는데 정말 마음에 와 닿았습니다."

Cormac: 음, 말씀하신 것처럼 인식이 좋지 않습니다. 아주 아주 많이 섞였다는 표현이 더 정확할 수도 있습니다. 기존의 챗봇이 귀하에게 적합하고 필요한 도움을 준다면 괜찮습니다. 잘 작동하면 사람을 기다리는 것보다 훨씬 나을 수 있습니다. 그것은 더 빠르고 간단할 수 있으며 일부 사람들에게는 사회적 불안을 방정식에서 제거합니다. 문제는 대부분의 경우 제대로 작동하지 않는다는 것입니다. 거기에는 많은 끔찍한 것들이 있습니다. 아마도 우리 모두는 챗봇과 정말 실망스러운 상호 작용을 했고 참가자들도 비슷한 경험을 했을 것입니다.

사람들이 전통적인 키워드 기반 봇을 설명하는 방식은 거의 코드를 해독하는 것과 같았습니다. 당신은 이것과 의사 소통을 시도하고 있지만 그것은 특정한 방식으로 만 이해하고 규칙을 모르고 참조 할 수있는 규칙 책이 없으므로 시행 착오를 통해 최선을 다해야합니다. 항상 어둠 속에서 한 발을 내딛는 것처럼 느껴집니다. 짜증날 수 있습니다. 다른 측면은 챗봇이 당신을 돕는 것과 반드시 ​​연결되지 않을 수도 있다는 것입니다. 때때로 챗봇이 비즈니스를 돕기 위해 존재한다는 느낌이 있습니다. 백엔드에서 그것은 올바른 사람에게 라우팅되도록 도와주는 분류 봇처럼 보일 것입니다. 이는 비즈니스에 도움이 되지만 반드시 고객으로서 도움이 되는 것은 아닙니다. 반드시 실망스럽지는 않지만 재미도 없습니다. 한 참가자는 문지기를 지나쳤다고 설명했는데, 정말 마음에 걸렸습니다. 그래서 답답할 수도 있고, 내가 이겨내야 하는 것일 수도 있지만 반드시 나에게 가치를 더하는 것은 아닙니다.

“이것은 양방향 대화이지만 모든 작업은 최종 사용자와 함께 합니다. 봇은 '아니요, 이해하지 못했습니다.'라고 말합니다.”

Liam: 사회적 불안 지점이 정말 흥미롭습니다. 나는 여전히 사람들과 전화로 수다를 떠는 것이 즐거운 사람인데, 요즘은 그렇지 않은 사람들이 너무 많다. 그리고 당신이 말했듯이 그것은 거의 퍼즐과 같습니다. 내가 챗봇과 상호 작용할 때마다 여러분은 희망을 갖고 선을 넘을 수 있는 이러한 프롬프트를 제시하려고 노력하고 있습니다.

Sophie: 당신은 그들의 언어를 알아내서 말하려고 노력하고 있습니다. 그들의 언어가 무엇인지 모르면 하기 어렵죠?

코맥: 물론입니다. 그리고 그것은 또한 당신이 모든 일을 하는 사람처럼 느껴질 수 있습니다. 정상적인 대화여야 합니다. 이것은 양방향 대화이지만 모든 작업은 최종 사용자와 함께 합니다. 봇은 "아니요, 이해하지 못했습니다."라고 말합니다.

Liam: 컴퓨터가 안된다고 합니다.

고객은 AI 챗봇을 사용할 준비가 되었나요?

Liam: 고객이 AI 챗봇에 대해 어떻게 느끼는지에 대해 연구에서 제시한 통찰 중 일부를 말씀해 주시겠습니까?

Sophie: 요컨대, AI가 아닌 전통적인 챗봇보다 낫다는 한 문장으로 요약할 수 있습니다. AI는 챗봇에 대한 인식을 바꾸는 데 도움을 주고 있으며, 이는 매우 빠르게 일어나고 있는 것 같습니다. 여러 가지 이유가 있습니다. 고객에게 "AI 챗봇 또는 GPT 기반 챗봇과 상호 작용하는 것이 어떨 것이라고 예상하십니까?"라고 물을 때 경험이 더 긍정적일 것이라고 생각하게 만드는 것들이 있습니다. 그 중 하나는 AI 봇이 기존 봇에 비해 자신을 더 잘 이해할 것이라고 기대한다는 것입니다. 그리고 봇이 당신을 더 잘 이해할 수 있다면 "알았어, 내가 그들과 더 효율적이고 효과적으로 소통할 수 있을 거야."와 같은 몇 가지 긍정적인 후속 효과가 있습니다. Cormac이 봇과 대화하는 방법을 알아내야 한다고 말한 것으로 돌아가서 AI 봇에 대해 생각할 때 조금 사라집니다. 그리고 봇과 더 효과적으로 의사소통할 수 있다면 벽돌 벽에 머리를 박고 아무데도 가지 못하는 심히 실망스러운 경험을 덜 할 것입니다.

"AI는 이름에 지능이 있으므로 이전 버전의 봇보다 더 많은 기능을 제공할 것으로 기대됩니다."

우리가 본 또 다른 기대는 고객이 AI 기반 봇이 빠르기를 기대한다는 것입니다. “좋아요, 이것은 자동화인데 왜 즉각적인 것이 아닌 다른 것이 될까요? 나를 돕기 위해 인간의 생각을 할 필요는 없습니다.” AI 또는 GPT 기반 봇은 유용한 답변을 반환할 가능성이 더 높을 것으로 예상되며, 이는 GPT가 꽤 좋은 것으로 입증되었고 이에 대해 이야기한 사람들이 ChatGPT의 개념에 익숙하고 AI가 우리를 도울 수 있는 방법에 있어서 비약적이라는 것을 깨닫기 때문이라고 생각합니다. 상호 작용에 대한 그들의 경험은 좋았으며 이는 챗봇이 해당 기술을 사용할 수 있는 방법을 기대하는 것으로 해석됩니다. AI는 이름에 지능이 있기 때문에 이전 버전의 봇보다 더 많은 능력을 발휘할 것이라는 기대가 있습니다.

고객이 이에 대해 말한 방식은 궁극적으로 AI 봇으로 더 많은 성공을 거둘 것이라고 생각하기 때문에 기존 봇에 비해 AI 봇과 더 기꺼이 교류하는 것 같다는 것입니다. 그래서 우리가 듣고 있는 것은 대체로 사람들이 이것에 크게 놀라지 않는다는 것입니다. “워, 챗봇을 나에게서 멀리 두세요. 나는 그것이 내 마음을 읽고 세상을 장악하는 것을 원하지 않습니다.” 대신, 그들은 실제로 그것에 기대고 있으며 그것이 그들의 고객 서비스 경험에 긍정적인 영향을 미칠 방법에 대해 더 낙관적으로 느끼고 있습니다.

“감정과 좌절감을 전달할 수 있다는 것은 그 경험의 핵심 부분입니다. 궁극적으로 사람들은 듣고 싶어합니다.”

Liam: 기존의 챗봇을 사용하면 모든 정보를 제공했지만 도움이 되지 않고 사람에게 전달되어 같은 질문을 다시 합니다. "무슨 일이야?" 그라운드호그 데이와 같습니다. AI 챗봇에 대해 고객들이 제기한 우려는 없었나요? 그리고 그들은 인간의 가용성에 대해 어떻게 생각합니까?

Sophie: 인간의 가용성은 AI 봇을 다루는 사람들로부터 들었던 가장 큰 우려 중 하나입니다. 현재 Cormac이 언급했듯이 최종 사용자는 기존 봇의 한계에 대해 잘 알고 있습니다. 즉, 최종 사용자는 봇이 결국 인간과 연결되는 더 긴 프로세스의 첫 번째 단계라는 것을 알고 있습니다. 봇은 성공 여부에 관계없이 분류하기 위해 존재하지만 궁극적으로 인간에게 접근할 수 있으며 그것이 기대됩니다. 대조적으로, 그들은 AI 기반 봇의 의도된 역할에 덜 익숙하며, 자신을 이해하거나 공감할 수 없는 봇으로 문제를 해결하려고 노력하고 다른 출구가 없다는 우려가 있습니다.

“좋아요, AI 봇은 인간처럼 말하고 인간처럼 생각합니다. 실제로 인간과 대화하는 옵션을 대체한 건가요? 많이 나온 얘기다”

사람들이 고객 서비스와 이야기하거나 고객 서비스 경험에 대해 이야기할 때 감정과 불만을 전달할 수 있는 것은 그 경험의 핵심 부분입니다. 궁극적으로 사람들은 듣고 싶어합니다. 그리고 그들이 전달할 수 있었던 좌절감 때문에 상대편의 인간이 그들에게 정책에 대해 약간의 유연성을 준다고 느끼면 더 좋습니다. 예를 들어, "이게 정말 형편없었다고 느낄 수 있으니 10% 할인 받으세요." 우리는 모두 그것을 경험했고, 그것은 마치 "좋아요, 당신은 내가 고통받았다는 사실을 듣고 있습니다."

이 새로운 세상에서는 AI가 우리가 그렇게 하도록 두지 않을 것이라는 두려움이 있습니다. 사람에게 말을 걸지 못하게 하면 어떡하지? 좋습니다. AI 봇은 인간처럼 말하고 인간처럼 생각합니다. 실제로 인간과 대화할 수 있는 옵션을 대체했나요? 많이 나온 내용입니다. 사람과 대화할 수 있는 옵션이 있고 문자 그대로 "사람에게 전달" 버튼이 있다는 것을 아는 것만으로도 사람들이 안심할 수 있습니다. 이는 사람들이 AI 봇과의 상호 작용을 신뢰하도록 돕기 위해 할 수 있는 정말 강력한 일입니다.

공상과학 악몽에서 실생활 지원까지

Liam: AI에 대한 우리의 노출은 대중문화, 영화, TV에 있었습니다. 무슨 말인지 아세요? 그리고 AI는 영화에서 결코 좋은 것이 아닙니다. 저는 특별히 2001: A Space Odyssey 를 생각하고 있습니다. 우주비행사가 배 밖에 갇혀 AI 봇에게 포드 베이 도어를 열라고 요청했을 때 "유감스럽게도 그렇게 할 수 없습니다." 우리는 "오 그래, 거기는 정말 열악한 고객 서비스야."

"진행할 수 없는 파멸의 고리에 갇히는 것보다 더 좌절스러운 것은 없습니다."

당신은 신뢰를 언급했습니다. AI 챗봇과의 고객 상호 작용에서 신뢰와 자신감의 역할과 상담원에게 에스컬레이션하는 옵션이 고객 신뢰에 어떤 영향을 미칠 수 있는지 설명해 주시겠습니까?

소피: 몇 가지 일이 진행되고 있는 것 같아요. 대부분은 봇과 대화하는 고객의 과거 경험과 관련이 있으며 진행할 수 없는 파멸의 고리에 갇히는 것보다 더 실망스러운 것은 없습니다. AI 봇이 너무 좋아져서 최종 사용자가 봇이 쓰레기였던 세상을 잊고 항상 날개를 펴고 청소를 기다리는 인간의 안심이 필요하다고 느끼지 않는 미래가 있을 수 있습니다.

그러나 지금은 그렇지 않습니다. 정신 모델은 봇이 정말 어려울 수 있다는 것입니다. 인간과 대화할 수 있는 옵션은 두 가지 방식으로 신뢰를 구축합니다. 봇 자체뿐만 아니라 봇이 자신의 한계를 알고 있음을 전달하고 봇은 어느 시점에서 더 이상 당신을 도울 수 없을 수도 있다는 것을 알고 있습니다.

"예, 그들은 끔찍한 디스토피아적 AI가 등장하는 영화를 보았지만 일상 생활에서 도움이 되는 도구를 사용하고 있습니다."

또한 고객이 거래하는 회사가 신뢰할 수 있다는 것을 이해하는 데 도움이 됩니다. 회사에서 "일부 문제는 사람의 손길이 필요한데 봇은 그렇게 할 수 없다는 것을 이해합니다. 거기에는 두 가지 신뢰의 각도가 있다고 생각합니다. 하나는 "봇이 내 문제를 해결하지 못할 수도 있기 때문에 사람과 대화할 수 있다는 것을 믿어야 합니다."이고 다른 하나는 "회사가 내 경험에 대해 이해하고 있다는 것을 믿어야 합니다."입니다.

Cormac: Sophie, 당신은 이전에 이것을 언급했지만 우리가 대화를 나눈 많은 사람들이 이미 일상 생활에서 ChatGPT와 같은 것을 사용하고 있다는 사실에 놀랐습니다. 예, 그들은 끔찍한 디스토피아 AI가 등장하는 영화를 보았지만 일상 생활에서 도움이 되는 유용한 도구를 사용하고 있습니다. 그들은 그들을 우주선에 가두는 것이 아니라 이메일을 다시 작성하고 직장에서 질문에 답하는 등 무엇이든 도와줍니다. 그래서 신뢰를 쌓는 데 도움이 되는 것 같아요.

리암: 100%. Sophie, 나는 전에 "doom loop"라는 말을 들어본 적이 없지만 기억할 것입니다.

진화하는 멘탈 모델

Liam: 고객이 이러한 AI 챗봇과의 상호작용에 익숙해짐에 따라 고객의 기대치가 어떻게 변할 것으로 보십니까? 이 분야와 관련하여 앞으로 연구할 계획이 있는 연구 분야가 있습니까?

Cormac: 네, 여전히 우리 마음에 남아 있는 질문이 많이 있습니다. 제가 정말 흥미롭게 생각하는 한 가지는 우리가 대화하는 사람들이 AI 전문가가 아니라는 것입니다. 그냥 평범한 사람들입니다. 그리고 그들의 AI 정신 모델이 일정하지 않게 업데이트되는 방식을 보는 것은 흥미로운 일입니다. 예, AI 기반 챗봇이 더 지능적이고 도움이 되며 제 언어를 더 잘 이해할 수 있을 것이라는 기대가 있지만 실제로는 여전히 키워드 기반 상호 작용 패턴에 갇혀 있는 소수의 사람들을 보았습니다. 소수의 사람들이 "청구" 또는 "계정 업데이트"와 같은 하나 또는 두 개의 키워드를 입력하고 최선을 다했습니다. 마치 과거의 상호 작용 패턴에서 그것을 포팅하는 것과 같습니다. 우리가 너트와 볼트에 도달했을 때 그것이 얼마나 빨리 바뀔지 궁금합니다.

“가까운 미래에 많은 AI 봇이 시장에 출시되는 것을 의심할 여지 없이 보게 될 것이며, 품질이 엉망이 될 것이라고 확신할 수 있습니다.”

이전 방식의 상호 작용을 계속하는 사람들이 있습니까, 아니면 상황에 따라 더 일반적인 상호 작용 패턴이 됨에 따라 사람들이 이것을 기술로 배울 것입니까? 사람들은 얼마나 빨리 AI의 한계에 대한 감각을 갖게 될까요? 나는 그것이 어떻게 진행되는지 보게 될 것입니다.

Sophie: 미래 연구와 그것이 어떻게 발전할 것인지에 대해 우리가 정말 관심을 갖고 있는 또 다른 것은 시장에서 무슨 일이 일어나고 있는지입니다. 이것이 일반 대중의 기대에 어떤 영향을 미칠지 정말 궁금합니다. 우리는 의심할 여지 없이 매우 가까운 미래에 많은 AI 봇이 시장에 소개되는 것을 보게 될 것이며 품질이 엉망이 될 것이라고 확신할 수 있습니다. 일부는 매우 인상적일 것이고 일부는 매우 실망스러울 것입니다.

사람들이 품질이 좋지 않은 AI 봇에 대한 경험을 갖게 되어 앞으로 기대치가 손상될까요, 아니면 사람들이 훌륭한 AI 봇과 정말 훌륭한 상호 작용을 하게 되고 AI 봇의 사용 사례 수가 계속 증가하기 때문에 기대치가 정말 높아질까요? 우리는 시장이 어디로 갈지 알지 못하며 아마도 시장에 출시되는 좋은 AI 봇과 나쁜 AI 봇의 양에 따라 달라질 것입니다. 시간이 말해 줄 것이다.

Liam: 음, Sophie, Cormac, 오늘 함께 해주셔서 정말 감사합니다.

코맥: 고마워, 리암.

소피: 즐거웠어요. 초대해주셔서 감사합니다.