Наш грандиозный эксперимент с GPT и генеративным ИИ

ChatGPT покорил мир, и мы очень взволнованы. Сегодня мы раскрываем функции обслуживания клиентов, которые мы создали с помощью этого революционного искусственного интеллекта.

В декабре мы с нашим директором по машинному обучению Фергалом Ридом поговорили о запуске ChatGPT: о хорошем, плохом, перспективах, шумихе. Возможности автоматизации и оптимизации процессов для представителей службы поддержки кажутся безграничными, но успех генеративного ИИ в этой области в конечном итоге будет зависеть от его способности приносить реальную пользу как командам по обслуживанию клиентов, так и клиентам. Если нет, то это просто игрушка – забавная, но все же игрушка.

Чтобы проверить это, мы быстро приступили к работе. Мы набросали несколько функций на базе ИИ, которые, по нашему мнению, могут быть полезными, запустили их в производство и представили бета-версию 160 клиентам. Вы можете прочитать все об этих новых функциях здесь.

В сегодняшнем эпизоде ​​мы с Фергалом делимся тем, что мы узнали за последние несколько недель, куда мы идем дальше и как это изменило наше представление о том, что возможно в этом пространстве.

☞ Нажмите здесь, чтобы присоединиться к списку ожидания бета-тестирования наших функций искусственного интеллекта или получать новости об искусственном интеллекте от Intercom.

Вот некоторые из основных выводов:

• Способность моделей ChatGPT обрабатывать естественный язык в диалогах, состоящих из нескольких предложений, продолжает улучшаться и открывать новые возможности.
• В разработке продуктов клиенты всегда являются высшим арбитром — вы можете создать потрясающую технологию, но если она не решит их проблему, она того не стоит.
• Способность GPT-3.5 редактировать и изменять текст делает его очень ценным для обслуживания клиентов, и он уже может выполнять такие задачи, как резюмирование текста и настройка тона.
• Благодаря достижениям в ChatGPT можно добавить больше функций, чтобы максимизировать эффективность, и освободить агентов на передовой, чтобы сосредоточиться на более сложных проблемах, которые повышают удовлетворенность клиентов.
• Хотя мы начинаем исследовать потенциально изменяющие правила игры способы использования, такие как умные ответы, модели по-прежнему не хватает понимания бизнес-контекста, чтобы она работала.

Следите за новостями Inside Intercom в Apple Podcasts, Spotify, YouTube или загружайте RSS-канал в выбранном вами проигрывателе. Далее следует слегка отредактированная стенограмма эпизода.

Прорыв в понимании языка

Дес Трейнор: Еще раз привет, Фергал. Как вы?

Фергал Рид: Хорошо, спасибо, Дес. Я был занят последние шесть или семь недель здесь, в Intercom, так что я очень рад поговорить об этом сегодня.

Дес: Да, всего шесть или семь недель назад мы сели поболтать. У вас было, я полагаю, шесть или семь недель фактического инженерного времени, противодействующего революции ИИ, которая началась в конце ноября. Чему вы научились? Изменилось ли ваше представление о том, что станет возможным в мире обслуживания клиентов?

Фергал: Да, думаю, да. Когда мы говорили в последний раз, мы много говорили о ChatGPT, и это было, может быть, через неделю после его запуска. Вы можете спорить о том, является ли большая разница здесь ChatGPT или семейством моделей, созданных OpenAI — мы работали в основном с GPT-3.5 или с Text-Davinci-003, чтобы быть действительно конкретными.

Des: Это имена этого конкретного модуля.

Фергал: Да, это названия этой конкретной модели. И на самом деле, есть много путаницы в этих названиях и в том, что это разные вещи. Но в основном мы считаем, что серия моделей GPT-3.5, Davinci-002, Davinci-003 и тому подобное, которые вышли в прошлом году, а затем Davinci-003, которые вышли в то же время, что и ChatGPT были прорывом и действительно позволили нам начать попытки создать другую, качественно лучшую функциональность.

«Это большая разблокировка, потому что мы хотим выполнить так много задач, которые лучше всего описать на естественном языке».

Des: Что вы думаете о том, что возможно сейчас? Куда мы движемся в мире обслуживания клиентов?

Фергал: Я думаю, что в сфере обслуживания клиентов и даже за ее пределами эти модели позволяют нам лучше справляться с естественным языком, чем раньше. Думаю, я мог бы рассказать немного об истории обработки естественного языка. Это были простые вещи, такие как регулярные выражения и так далее в течение длительного времени. Затем у нас был текст, который стал действительно хорошо смотреть на ключевые слова, которых много было в данных. А затем, может быть, три-четыре года назад нейронные сети начали действительно хорошо понимать: «Эй, что означает это предложение?» Но теперь я бы сказал, что они начинают действительно хорошо понимать «Эй, в чем смысл этого предложения в более глубоком…», приближаясь к тому, как люди могут это сделать, и понимая, что происходит в разговоре из нескольких предложений. . О чем говорит человек? Соединяем содержимое первого предложения с содержанием третьего предложения, чтобы понять, что кто-то только что сказал: «О, у меня есть вопрос о Salesforce». И товарищ по команде говорит: «Ну, какой у тебя вопрос? Как я могу тебе помочь?" А затем он говорит: «Да, мне действительно нужна помощь с моей интеграцией». И системы все лучше понимают, что эта интеграция связана с интеграцией с Salesforce, и имеют некоторое представление о том, о чем следует говорить дальше.

«Внезапно машины могут смотреть на них и понимать их гораздо лучше»

Наш бот разрешения и технология машинного обучения, которая уже развернута, довольно хорошо справляются с этим в заданном предложении. Но теперь технология совершенствуется до такой степени, что она хороша для нескольких предложений и намного лучше в контексте. Для людей, которые общаются и хотят разговаривать друг с другом на естественных языках, это так естественно для нас. Это большая разблокировка, потому что есть так много задач, которые мы хотим выполнить, и которые лучше всего описать на естественном языке. Существует так много документов, инструкций и статей о том, как сделать то, что мы пишем и общаемся друг с другом на естественном языке. И теперь, внезапно, машины могут смотреть на них и понимать их гораздо лучше. И каждый раз, когда эта возможность улучшается, множество продуктов открывают множество вещей, которые раньше были невозможны. И мы действительно чувствуем, что то, что произошло, имеет большое значение. Это наше мнение, пока мы не создадим что-то и не представим его нашим клиентам и не узнаем, что наши клиенты думают об этом.

Des: Вот что мы хотим.

Фергал: Я имею в виду, это то, что мы пытались сделать.

Дез: Что такое программное обеспечение, как не систематизированные мнения, верно?

Фергал: Верно.

Это зависит от клиентов

Des: Итак, что мы построили? Над чем вы работали? Давайте поговорим об этом.

Фергал: Итак, при разработке продукта вы всегда хотите проверить свое мнение. Ваши клиенты всегда являются окончательным арбитром в том, хорошо что-то или нет. Вы можете подумать, что у вас самая удивительная технология и самый удивительный продукт, но если это не решает проблему и не используется, вы ошибаетесь. Итак, мы действительно хотели преодолеть шумиху здесь и убедить себя: «Хорошо, что мы можем быстро создать для клиентов, что мы можем предложить им, чтобы работать с ними, чтобы увидеть, в чем заключается ценность?» Итак, мы пошли и набросали функции, которые мы могли бы создать и быстро запустить в производство, которые использовали бы некоторые из этих новых технологий и помогли бы нам понять, ценны ли они или это игрушка.

«Вы можете просто нажать кнопку или использовать сочетание клавиш, чтобы сказать: «Эй, я хочу краткое описание этой функции, поместите его в мой композитор, чтобы я мог немного добавить к нему»»

Первое, что мы решили сделать, это создать функцию, которая, по сути, делала обобщение. И есть причина, по которой мы решили это сделать. Моя команда, команда машинного обучения здесь, в Intercom, команда Inbox, обнаружила, что есть две общие задачи клиентов, которые мы часто видим. Во многих компаниях, прежде чем представитель службы поддержки передаст разговор, он должен написать краткое изложение этого разговора. Если они этого не сделают, конечный пользователь должен будет повторить себя, или принимающий представитель должен пойти, прокрутить вверх и прочитать много материала. Итак, представитель службы поддержки должен написать резюме, и это настоящая работа.

Около полутора или двух лет назад моя команда попыталась изучить лучшие на тот момент нейронные сети, T5 и все эти большие сети, и выяснить, можем ли мы использовать их для создания адекватной функции суммирования. И, к сожалению, мы пришли к выводу, что это просто невозможно. Разговоры слишком грубые. Поток разговора проходит между этими разными частями таким образом, что это действительно удобно для людей — люди могут легко найти его, и это быстро, и они могут его отсканировать — но даже довольно большие нейронные сети, которые у нас есть в Resolution Bot, боролись. на такой задаче. И одна из первых вещей, которую мы увидели, когда играли с недавней моделью DaVinci-003, GPT-3.5, заключалась в том, что внезапно она стала отличной для суммирования. И мы такие: «Вау, выглядит потрясающе».

«Мы постараемся быть по-настоящему искренними с людьми. Мы собираемся помочь нашим клиентам понять, какие биты являются игрушками».

Итак, мы создали функцию и сделали пару итераций с функцией суммирования в папке «Входящие». Вы можете просто нажать кнопку или использовать сочетание клавиш, чтобы сказать: «Эй, я хочу краткое описание этой функции, поместите его в мой композитор, чтобы я мог немного добавить к нему». Это не идеально. Возможно, вам придется добавить немного к нему, но это огромная экономия времени. И у нас было более 160 клиентов в нашей бета-версии, использующих эти функции, и они провели подведение итогов настоящим победителем. Это еще не полностью меняет игру для представителя службы поддержки; он выполняет одну основную работу, но выполняет ее.

Des: И уменьшает его. Что бы вы сказали сокращение? Если обычно на написание уходит три минуты, было ли время на добавление резюме или что-то в этом роде сокращено до 10 секунд?

Фергал: Ага.

Дес: 90% работы удалено.

Фергал: Точно. И у нас были некоторые клиенты, которые были очень взволнованы этим, потому что у них может быть очень длинная ветка электронной почты или очень, очень длинная история разговоров, и это просто экономит кучу времени. Это немного похоже на то, если вы читаете научную статью или что-то в этом роде. Иногда просто получить суть помогает вам найти точные детали, которые вы хотите. Я действительно думаю, что мы сделали что-то действительно хорошее, и это одна из функций, над которой мы работали.

«Легко выйти с машиной ажиотажа; легко выпускать пресс-релизы: «Мы изменили мир». А на практике люди, которые решают, что это наши клиенты».

Мы постараемся быть по-настоящему искренними с людьми. Мы собираемся помочь нашим клиентам выяснить, какие биты являются игрушками. Не все, что мы создали и добавили в бета-версию, меняет правила игры, но обобщение — это то, что мы считаем наиболее важным. Он действительно готов. Эта технология делает что-то преобразующее — она новая, захватывающая и обеспечивает реальную ценность для клиентов.

Дес: В отношении ИИ мы всегда старались быть трезвыми, потому что мы пытаемся сделать нашим клиентам одолжение. Легко выйти с машиной ажиотажа; легко выпускать пресс-релизы: «Мы изменили мир». И на практике, люди, которые решают, что это наши клиенты. Итак, когда мы публикуем сводку, мы верим им на слово, что она действительно ценна. Это то, что имеет значение, верно?

Фергал: Точно. И смотрите, это то, над чем мы мучаемся. Иногда вы проигрываете людям, которые хотят просто раскрутиться. Мы очень старались этого не делать, потому что как только вы начнете это делать, вы в конечном итоге поверите в собственную рекламу.

Des: Повествование опережает программное обеспечение. Это реальный риск.

Фергал: И ты пытаешься этого избежать. Мы действительно осознавали это с помощью этого типа технологий, а именно, что они почти много работают, и они очень близки к тому, чтобы сделать что-то волшебное и преобразующее, но иногда это не удается. Итак, мы пытаемся быть честными здесь: «Хорошо, это уже достаточно хорошо?» Мы знаем, что он не идеален, но достаточно ли он хорош? И для чего он достаточно хорош? И подведение итогов — это то, что нам нравится. Мы считаем, что эта функция приносит реальную пользу.

Вы можете проиграть, предложив что-то, что хорошо выглядит, но на самом деле не работает в продакшене, или вы также можете проиграть, если будете слишком консервативны. И в прошлом, с Resolution Bot, у нас были времена, когда мы были слишком консервативны. Мы подумали: «О, мы действительно не хотим, чтобы это имело неприятные последствия, если мы не уверены, что у него есть ответ». А потом к нам пришли клиенты и сказали: «Ой, какое-то время пользователь не получает никакой помощи, дайте им что-нибудь, даже если вы ошибаетесь». И мы тестируем A/B и настраиваем этот мусорный поток и так далее. Были времена, когда они были слишком консервативны. Итак, мы применяем подход, заключающийся в быстром предоставлении нашим клиентам новых бета-функций. Наши клиенты в восторге от этой технологии.

Легкое редактирование текста

Des: Сколько функций в бета-версии? Пять шесть?

Фергал: Итак, первое, что мы сделали, — подвели итоги. Мы сделали это, потому что это была простая, легко интегрируемая и хорошо понятная работа. После этого мы пошли смотреть на композитора. Поскольку у нас есть телеметрия и метрики, мы знаем, что около половины времени, которое агент проводит в Intercom, он тратит на написание текста или его редактирование в композиторе. Они также организуют свои мысли, но тратят много времени на написание и изменение текста. И когда мы посмотрели на это, мы подумали: «Хорошо, это очень хорошо для редактирования и изменения текста». Мы начали с некоторых небольших функций, таких как функции MVP, чтобы запустить их и посмотреть, как это работает. Итак, мы начали с функций редактирования текста и изменения формы текста. Возможно, проще всего объяснить простое редактирование. Говоря: «Эй, сделай этот текст, который я только что написал, более дружелюбным» или «более формальным», потому что эта технология теперь хорошо настраивает тон. Раньше не было ничего, что можно было бы использовать для надежной настройки тона. Мы много работали над UX и пришли к UX, в котором есть панель инструментов, и вы можете просто выбирать текст. В нашей первой версии вы не могли выделить текст, и мы повторили его. Заказчик сказал нам, что это бесполезно — они не хотят менять тон всего в композиторе. Теперь вы можете выбрать немного.

«Мне кажется, что мы, возможно, смотрим на мир, где новое контекстное меню похоже на «расширить», «обобщить», «сделать его счастливее» и «сделать его более формальным».

Это почти как редактирование изображения. И мы начали думать, что здесь зарождается парадигма. Я помню, что когда-то текстовый процессор, в котором можно было выделить текст жирным шрифтом и выделить его курсивом, был просто «вау». И нам интересно, будут ли в будущем люди думать об этом с точки зрения тона. Это как: «О, конечно, я хочу пойти и быстро отредактировать тон». Если вы устали в конце дня, вы написали черновик и говорите: «Я был недостаточно дружелюбен, это повлияет на мой CSAT», вы просто идете, нажимаете кнопку и редактируете тон, и он становится более дружелюбным. И проще нажать на эту кнопку один или два раза, чем пойти и-

Des: Иди и перепиши это.

Фергал: Переписывать текст — это работа.

Дес: Мне кажется, что мы, возможно, смотрим на мир, где новое контекстное меню похоже на «расширить», «обобщить», «сделать его более счастливым» и «сделать его более формальным». Это будут преобразования, которые вы пытаетесь сделать. Дело не столько в том, что вы сосредоточены на оптике текста, сколько на тоне.

Фергал: Полностью. Послушайте, когда мы возвращаемся назад и вперед, мы думаем: «Это игрушка? Мы построили крутую игрушку или это что-то потрясающее?» И я думаю, что это будет варьироваться в зависимости от клиента, но смелым аргументом в пользу этой конкретной функции является: «Эй, я устаю в конце дня, и я очень забочусь о тоне, потому что мой CSAT является важным показателем для меня и это способ сделать это». Это способ обеспечить более приятное обслуживание клиентов.

Des: Возьми «извините, вот ваш возврат». Вы бы сказали: «Пожалуйста, сделай это более чутким» или что-то в этом роде.

Фергал: Мы экспериментировали с эмпатией. На самом деле мы перешли к тому, чтобы «сделать вещи более формальными, сделать вещи более дружелюбными». Это вид спектра, который, кажется, работает очень хорошо, поэтому мы выбрали его. И я предполагаю, что это подходит Интеркому. Многие люди пытаются оказать очень личную, очень дружескую поддержку.

«Часто, когда вы что-то записываете, получается неправильно. Так что вы можете просто сказать: «Эй, перефразируй это»».

Чтобы быть полностью прозрачным, мы до сих пор не уверены, где именно он находится в спектре от игрушечного до ценного. Некоторые клиенты говорят, что это очень ценно, поэтому мы продолжаем это оценивать. Но у нас есть это в бета-версии. Мы хотим сказать нашим клиентам, что именно такие вещи мы создаем и исследуем.

Это одна особенность. Следующее, на что мы начали обращать внимание, — это функция перефразирования. И опять же, эти языковые модели очень хороши для того, чтобы взять ограниченный фрагмент текста и отредактировать или изменить его. Вы начинаете видеть это с подведения итогов. Очень часто, когда вы что-то записываете, получается неправильно. Поэтому вы можете просто сказать: «Эй, перефразируй это». И опять же, это такой быстрый UX, когда вы просто выделяете его и нажимаете. Это немного проще, чем переписывать его самостоятельно. Когда вы это делаете, возникает небольшая задержка. Итак, мы все еще оцениваем. Но некоторым клиентам, опять же, это очень нравится, это действительно работает для них в их бизнесе, и мы ожидаем, что задержка со временем будет уменьшаться по мере того, как эти модели будут становиться все лучше и лучше. Итак, перефразирование текста. Это своего рода первые функции, которые мы использовали в композиторе.

Далее идут более крупные билеты, и мы начинаем исследовать вещи, которые потенциально могут изменить правила игры. Одна вещь, которую мы пытаемся сделать с этим, — это то, что мы называем функцией расширения. Нас вдохновляли такие вещи, как второй пилот для программистов. Во втором пилоте вы можете написать комментарий, и он выполняет всю функцию и просто экономит вам кучу времени. И мы подумали: «О, а можем ли мы создать что-то похожее на службу поддержки клиентов?» Идея состоит в том, что, возможно, вы пишете краткое изложение того, что вы хотите, а затем выделяете это, скажем, расширяете, и ваш композитор заполняет это. Мы сделали это, мы отправили это, и клиенты ясно видят, что это ценно, а не игрушка — если это работает. Но в одних областях он работает намного лучше, чем в других. Если вы отвечаете на вопросы, общая информация из Интернета сослужит хорошую службу...

Des: Например, если бы вам пришлось сбросить настройки телефона или что-то в этом роде.

Фергал: Да, именно так. Это работает очень хорошо для этого. Однако, если вы пытаетесь сделать что-то, где вы пишете стенографию, и на самом деле есть много контекста, специфичного для вашего бизнеса, о том, как вы отвечаете на этот тип вопроса, тогда это может галлюцинировать, и это скажет что-то, что вам нужно отредактировать. вне. Тем не менее, некоторым клиентам это действительно нравится, и это работает очень хорошо для них. Но мы действительно думаем, что это своего рода версия один. Если вы используете это, вам нужно проверить его и посмотреть, насколько хорошо он работает для вас и вашего бизнеса. Тем не менее, у нас есть проект, который постоянно оценивает новые вещи для этого, например: «Эй, можем ли мы принять предыдущие ответы, которые вы дали по тем же темам?» Итак, вы даете нам резюме из трех слов о том, что вы хотите сделать, например, «возврат денег, спасибо», и мы пойдем и найдем последние пять вещей, которые вы сказали о возмещении. Мы также пойдем и посмотрим, может быть, у вас есть макрос о возврате средств. Мы также рассмотрим контекст разговора заранее.

«С чем мы экспериментируем, так это с тем, сможем ли мы преодолеть горб? Можем ли мы начать делать что-то действительно преобразующее, включив этот контекст?»

Des: Если есть что-нибудь в справочном центре, все такое.

Фергал: Мы не дошли до того, чтобы получать статьи и прочее из справочного центра. Мы только что посмотрели на то, что вы и пользователь сказали два раза назад, поместили их все в подсказку, которая затем будет идти и говорить: «Хорошо, со всей этой информацией, пожалуйста, возьмите эту стенографию из трех слов и анти-суммирование. это, преврати это в большое дело».

Дес: Да, полностью. Таким образом, это превратится в «Извините, вот возмещение, спасибо» в «Мы действительно приносим извинения за неудобства. Мы оформили возмещение, и вы должны увидеть его через три-четыре дня. И мы сожалеем…»

Фергал: В стиле, который вы обычно используете — вы лично, отдельный агент — и с учетом всех соответствующих макросов, которые у вас есть. Это действительно то, где мы находимся. И последняя часть еще не в производстве. V1 находится в производстве. V1 использовали сотни бета-клиентов. Но мы экспериментируем: сможем ли мы преодолеть этот горб? Можем ли мы начать делать что-то действительно преобразующее, включив этот контекст? И это все еще продолжается. Я бы сказал, что мы настроены оптимистично, но еще не уверены. Это меняется каждую неделю для нас, поэтому мы очень рады этому. И это версия с расширенными функциями на данный момент. Но мы видим, что вторая и третья версии появятся в будущем.

Повышение эффективности поддержки

Фергал: Последней функцией, с которой мы экспериментировали в бета-версии, было предоставление нашим клиентам прямого доступа к GPT. Итак, никаких подсказок, ничего не говоря модели, просто говорю: «Эй, клади туда все, что хочешь». И мы действительно сделали это как быстро развивающийся бета-эксперимент. В бета-версии мы не давали нашим клиентам много указаний о том, как это использовать. Мы перепутали некоторые из них, и все пошло не так хорошо, но некоторые клиенты нашли новые варианты использования, включая перевод, где это приносило им реальную пользу. Эти модели не являются лучшими для перевода, но, возможно, это интересная тактика разработки ИИ-продуктов, например: «Эй, если у вас есть бета-клиенты, может быть, дайте им немного больше возможностей, чем вы ожидаете, и они скажут вам, что им нужно».

Des: Посмотрите, что появляется. Посмотрите, что ожидается даже.

Фергал: Точно. И ожидания, я думаю, в этом плане быстро изменятся. Возможно, это говорит нам о том, что нам нужен перевод, потому что существуют очень хорошо понятные модели перевода.

«Может быть, рядом с ним есть источник, и внезапно эти пять минут поиска ответа превращаются в мгновенные. И вот тут-то все и начинает меняться».

Дес: Похоже, что все эти функции максимизируют эффективность групп поддержки. Они сокращают много недифференцированного, будь то вступления и концовки или просто переписывание чего-то, на что у них может не хватить энергии, чтобы сделать это более счастливым или более формальным. Это разные способы сэкономить много времени агентам службы поддержки. В конечном счете, у них будет больше времени, чтобы сосредоточиться на более сложных моментах разговора, таких как технические поиски или глубокие погружения. Это то, где это будет лучше всего развернуто? Это наша лучшая мысль на данный момент? Когда вы думаете о том, где еще мы можем внедрить эту технологию в стиле GPT в службу поддержки, о чем еще вы думаете?

Фергал: У наших крупных клиентов много представителей службы поддержки, которые проводят день за днем ​​в композиторе. Итак, если мы сможем сделать их быстрее и эффективнее — прирост эффективности на 10% или 20 будет просто огромным.

Дес: Конечно, да. У нас есть клиенты с тысячами мест, так что это действительно трансформация.

Фергал: Точно. Изменение игры. И это область, которая нас очень привлекала. И эта технология становится все лучше и лучше. Это не единственное место, но мы очень оптимистичны по этому поводу. Некоторые из наших клиентов будут очень любезно делиться с нами видеороликами о своей повседневной жизни. И вы видите этот рабочий процесс, который выглядит примерно так: «Эй, я пытаюсь ответить на вопрос, но не знаю ответа. Мне нужно пойти и найти статью внутренней службы поддержки или найти похожий разговор, и я перемещаюсь». Если мы сможем сократить это до такой степени, что это будет похоже на: «Эй, вот ИИ. Может быть, вы скажете ему несколько слов…» Или, может быть, мы выйдем за рамки этого. У нас есть другие прототипы, о которых я расскажу через несколько минут, и, возможно, ответ уже ждет вас. Может быть, рядом с ним есть источник, и внезапно эти пять минут поиска ответа превращаются в мгновенные. И вот тут-то все и начинает меняться. Я думаю, что это то, куда мы собираемся довольно скоро.

Дес: Да, это имеет смысл. Небольшие успехи в больших командах по-прежнему огромны, и, очевидно, большие успехи в любом конкретном рабочем процессе, в том, что касается подведения итогов, также огромны. Я думаю, у некоторых людей есть этот странный двоичный мир, в котором, пока мы не автоматизировали всю поддержку, мы ничего не делали. Мое личное мнение: я не думаю, что мы когда-нибудь полностью автоматизируем всю поддержку. Что, я думаю, мы будем делать, так это буквально выпотрошить недифференцированную часть поддержки, «острый щелчок», «вступление-и-концовку», когда вы делаете одно и то же каждый день.

Фергал: И, надеюсь, ты избавишься от их разочаровывающих частей. Вы перемещаетесь, пытаетесь искать и знаете, что ответ где-то здесь. Вы знаете, что пять раз отвечали на этот вопрос в прошлом месяце, но не можете его найти.

«Честно говоря, эти функции пересекают порог полезности намного быстрее, чем я ожидал»

Последняя функция, которая была запущена в бета-версии, — это расширитель на основе статей. Это то, что, как мы видим, очень быстро становится стандартной функцией. Везде, где вы пишете текстовую статью, станет стандартом, что вам нужна возможность обратиться к большой языковой модели и сказать: «Эй, помогите мне завершить это, расширить это. Вот мои пункты списка». Итак, мы отправляем это в нашей бета-версии для продукта статей Intercom. Опять же, еще рано. Все это рано — прошло от шести до восьми недель, но иногда это волшебство. Иногда вы можете пойти и написать четыре или пять маркированных пунктов, чтобы описать содержание статьи, а затем, в подсказке, мы придаем ей стандартный формат статьи Intercom, чтобы она знала, как поместить их в заголовки и скоро. Это волшебно, когда это работает, и как часто это работает, и как хорошо это работает для людей. Вам все равно нужно проверить содержимое. Туда можно положить что-то, но мы думаем, что есть способы убрать это. И, честно говоря, эти функции пересекают порог полезности намного быстрее, чем я ожидал. Так что да, мы экспериментируем с этим.

Последний рубеж

Дес: Итак, дальше, что вы думаете о траектории всего этого? Куда отсюда?

Фергал: Это те вещи, которые были у нас в бета-версии. У нас их использовали сотни клиентов, и мы получили реальный сигнал о ценности для клиентов. Я скажу вам, где именно мы сейчас находимся в производстве с машинным обучением. В последние день или два у нас появилась функция, которую использует наша собственная внутренняя команда CS: в прошлом у нас была функция интеллектуальных ответов, которая собирала ваши общие приветствия. Это вещи, у которых нет информации, которые не отвечают на вопрос пользователя — они просто смазывают колеса, позволяя быстро и быстро сказать: «О, спасибо. Пожалуйста. Могу ли я сделать что-нибудь еще?» И эта технология прекрасно подходит для такого рода вещей. Лингвисты называют их фатическими выражениями.

За последние несколько дней мы отправили версию этого нашей команде Intercom CS, где они видят этот текст, выделенный серым цветом, предварительно заполненный в композиторе, но он имеет отношение к конкретному разговору. Таким образом, если ранее они говорили: «Привет, могу я вам помочь», а пользователь отвечал: «О, да, мне нужна помощь с продуктом статей», он предлагал бы: «О да, позвольте мне посмотреть статьи». продукт для вас». Он еще не будет искать его для вас, но мы это сделаем. Три или четыре дня назад мы подумали: «Хорошо, я собираюсь отправить это внутри компании. Мы не уверены, станет ли это раздражать, и будут ли люди слепы к этому, потому что они видят это часто, и это помогает только подмножеству», и мы всегда очень осторожны в этом. Но до сих пор внутренняя реакция нашей команды CS была отличной. И поэтому мы намерены продолжать работать над этим. Может быть, нам нужно поставить другую систему, которая ограничивает частоту показов. Это одна вещь, над которой мы работаем.

Я упоминал о расширении ранее, и теперь мы работаем над вопросом: «Эй, мы можем сделать это даже без сокращения?» Можем ли мы понять, что вы собираетесь напечатать дальше, исходя из того, что только что сказали пользователи? И мы пойдем и заглянем в вашу базу знаний, попытаемся найти соответствующий контекст и дадим его модели. Сама модель для этого не годится. Он не знает вашего бизнеса, но, может быть, мы сможем увеличить его. Возможно, мы сможем использовать комбинацию более традиционного текста машинного обучения с моделью и получить что-то хорошее. У нас есть прототипы, и мы работаем над этим, но мы еще не отправили их нашим клиентам, даже в какой-либо бета-версии, потому что мы все еще оцениваем, достаточно ли это хорошо, чтобы трансформировать, или это становится скучным и раздражающим. Где этот порог, непонятно. Мы немного оптимистичнее относимся к расширенному стилю, когда вы должны подсказывать, потому что пользователь может узнать, когда это делать. Они могут научиться запрашивать его. Нам всем пришлось научиться пользоваться Google, и мы ожидаем, что пользователи тоже будут лучше справляться с этими системами.

Примерно так мы и находимся. Мы действуем быстро и быстро отправляем товары клиентам, чтобы они действительно могли проверить и получить реальную ценность. Мы стараемся быть осторожными, чтобы не попасть в ловушку шумихи. Мы верим, что здесь есть огромный потенциал, но слишком просто создать целевую страницу и сказать: «Получите ее здесь. Он ответит на все. И это нехорошо. Люди просто ослепнут и отключатся.

«Все видели это и говорили: «ChatGPT действительно хорош». Если бы я мог получить такую ​​​​технологию, чтобы помочь мне в поддержке клиентов, это было бы здорово». Но он не собирается делать это с полки. Он не знает твоего дела».

Дес: Я думаю, вы наносите ущерб своей репутации, если говорите: «Эта штука что-то делает», а это явно не так, но вы делали это ради кликов или чего-то еще. Похоже, что реальный продукт, которого все ждут в этом новом пространстве, — это бот, ориентированный на конечного пользователя, который всегда правильно отвечает на большинство вопросов. Мысли об этом? Недели, месяцы, дни?

Фергал: Очевидно, это огромная область для всех. Я бы не стал недооценивать и композитора – к композитору всегда будет перетекать порция вопросов. И если мы сможем сократить это время для них, это огромно. Но безусловно, один из огромных призов в этой области заключается в том, можем ли мы использовать опыт понимания разговора, который мы видели с ChatGPT, и заставить его работать на ваш индивидуальный бизнес, избегая при этом галлюцинаций? Есть много людей, которые расследуют это. Мы это тоже расследуем. У нас есть интересные и многообещающие прототипы, но мы еще не знаем наверняка, перешли ли мы тот порог, когда галлюцинации достаточно редки, чтобы это стоило делать и это было ценно. Мы начинаем замечать, что некоторые мнения по этому поводу выкристаллизовываются внутри компании, но мы пока не готовы поделиться своим положением в этом вопросе.

Дес: Совершенно справедливо. Что ж, думаю, мы заглянем снова через шесть недель или около того.

Фергал: Это было очень быстрое время. Послушайте, это очень интересная сфера для работы. Ожидания клиентов очень высоки. Все видели это и говорили: «ChatGPT действительно хорош. Если бы я мог получить такую ​​​​технологию, чтобы помочь мне в поддержке клиентов, это было бы здорово». Но он не собирается делать это с полки. Оно не знает твоего дела. Вы не можете точно настроить его сегодня. Даже если бы вы могли настроить его под свой конкретный бизнес, скорее всего, он бы этого не сделал. Нам нужно найти умные методы, и я думаю, что такие компании, как Intercom, имеют хорошие возможности для того, чтобы попытаться это сделать. И да, существует множество интересных технологических и языковых моделей. Я очень рад видеть все инновации в этом пространстве.

Дес: Круто. Огромное спасибо.

Фергал: Спасибо. Спасибо.

☞ Нажмите здесь, чтобы присоединиться к списку ожидания бета-тестирования наших функций искусственного интеллекта или получать новости об искусственном интеллекте от Intercom.