Представляем Fin: революционный чат-бот Intercom с искусственным интеллектом, построенный на GPT-4

Появление ChatGPT от OpenAI изменило все — огромные последствия для обслуживания клиентов были очевидны сразу.

Мы быстро запустили набор функций искусственного интеллекта для папки «Входящие», применив эту технологию для повышения эффективности. Но первое, что нас спросили, было: «Может ли ChatGPT просто ответить на вопросы моих клиентов?» Это было настолько ясно, что лучше понимало естественный язык, чем все, что мы видели раньше.

К сожалению, наши первоначальные исследования показали, что галлюцинации были слишком большой проблемой. GPT-3.5, на котором работал ChatGPT, был слишком склонен придумывать вещи, когда не знал ответа.

Но недавний анонс GPT-4 изменил ситуацию — эта модель предназначена для уменьшения галлюцинаций. Мы рады поделиться тем, что мы создали с помощью GPT-4 в ходе нашего раннего тестирования.

Представляем нашего нового чат-бота с искусственным интеллектом: Fin

Сегодня мы объявляем, что создали робота для обслуживания клиентов на основе ИИ, который обладает преимуществами этой новой технологии и подходит для нужд бизнеса. Он называется Fin, и мы считаем, что он может стать ценным партнером для вашей службы поддержки.

Когда мы начали экспериментировать с созданием чат-бота на основе GPT, мы преследовали несколько целей. Мы хотели создать бота, который мог бы:

• Общайтесь естественно, используя технологию GPT.
• Отвечайте на вопросы о вашем бизнесе, используя информацию, которой вы владеете.
• Уменьшите галлюцинации и неточные реакции до приемлемого уровня.
• Требуют минимальной настройки и настройки.

Мы считаем, что достигли этого. Наш новый чат-бот с искусственным интеллектом работает «из коробки», мгновенно сокращая объем поддержки и время решения.

Он может гораздо более естественно общаться о запросах в службу поддержки, чем существующие боты, привнося естественную способность современного ИИ в общение с клиентами.

Он может понимать запросы, которые охватывают несколько ходов разговора, позволяя вашим клиентам задавать дополнительные вопросы и получать дополнительные разъяснения.

Фин ведет естественные беседы с клиентами

Мы расширили GPT-4 функциями и средствами защиты, специально разработанными для обеспечения поддержки клиентов, где доверие и надежность имеют решающее значение.

Фин отказывается отвечать на вопросы вне домена

Fin предназначен для предоставления ответов только на основе контента в вашем существующем справочном центре, что повышает точность и надежность. Чтобы укрепить это чувство доверия, он всегда ссылается на свои исходные статьи, чтобы ваши клиенты могли проверить ответы.

Это не идеально, как мы обсудим ниже, но мы считаем, что теперь оно готово для многих предприятий.

Fin практически не требует времени на первоначальную настройку. Он получает информацию из вашего существующего справочного центра Intercom или Zendesk, используя силу ИИ для немедленной интерпретации сложных вопросов клиентов и применения ваших знаний справочного центра для ответа на них.

Неизбежно, чат-бот не сможет ответить на все вопросы клиентов. В таких ситуациях он может беспрепятственно передавать более сложные вопросы группам поддержки людей. Он эффективно работает в составе группы обслуживания клиентов, используя все рабочие процессы, которые поддерживает Intercom.

Если Fin не может ответить на вопрос, он может легко передать его представителю CS, который может

Как мы создали этого чат-бота с искусственным интеллектом

Чтобы создать Fin, мы объединили существующую технологию нашего Resolution Bot с новым GPT-4 от OpenAI.

Мы запустили Resolution Bot более четырех лет назад, и он очень хорошо работает при настройке, но требует ручной настройки «Ответов» или «Намерений». К сожалению, мы знаем, что некоторые клиенты с трудом преодолевают это первоначальное препятствие.

«Мы разработали Fin для работы с использованием знаний, которые уже существуют в вашем справочном центре»

Для нашего нового бота мы хотели уменьшить это трение.

Поэтому мы разработали его для работы с использованием знаний, которые уже были созданы для вашего справочного центра. Он будет потреблять статьи вашего справочного центра и использовать информацию, чтобы напрямую отвечать на вопросы клиентов.

Когда задается вопрос, чат-бот будет использовать свой ИИ, чтобы автоматически перефразировать информацию из статьи в естественно звучащий ответ. И когда вы обновляете статью, ответ бота обновляется почти сразу. Это означает, что вам нужно хранить содержимое справки только в одном месте, а самая последняя версия может быть предоставлена ​​клиентам автоматически.

Это дает компаниям возможность реально использовать преимущества современного ИИ безопасным и предсказуемым образом, а также использовать существующие процессы для создания контента справочного центра.

В будущем мы планируем пойти дальше и интегрировать другие наши технологии машинного обучения, чтобы помочь роботу с искусственным интеллектом отвечать на вопросы, используя собственные данные о ваших клиентах, которые у вас есть.

Создание надежного чат-бота

Мы разработали этот чат-бот, чтобы отвечать на вопросы исключительно с использованием уже созданного вами справочного контента, чтобы избежать риска получения неточных или неожиданных ответов. Это дает вам высокую степень контроля над тем, что может сказать Фин.

«Некоторые другие боты GPT основывают свои ответы на огромном количестве информации из Интернета, но на самом деле ограничение информации, которую бот может использовать, радикально повышает его предсказуемость и надежность».

Если кто-то задаст вопрос, которого нет в вашем справочном центре, он скажет, что не знает ответа. Это важная особенность. Некоторые другие боты GPT основывают свои ответы на огромном количестве информации из Интернета, но фактическое ограничение информации, которую бот может использовать, радикально повышает его предсказуемость и надежность.

Мы еще больше уменьшили неточность, разработав новый пользовательский интерфейс для Fin с учетом надежности — он четко ссылается на исходную статью, когда дается ответ, что позволяет пользователю проверить, является ли источник релевантным, уменьшая влияние незначительных ошибок.

Fin всегда будет указывать источник своих ответов, позволяя клиентам проверять свои ответы.

Мы также предприняли меры, чтобы уменьшить возможность пользователя заставить бота вести диалог по любой теме, которая не содержится в справочном центре.

Ограничения

Точность

Конечные пользователи могут намеренно обойти разработанные нами ограничения и заставить чат-бота AI говорить неуместные вещи. Если это действительно произойдет, мы считаем, что это произойдет только после решительных попыток, а не в результате естественного взаимодействия с клиентами.

Мы должны отметить, что ИИ не идеален. Есть клиенты, для которых неприемлем любой риск предоставления неактуальной или неверной информации. Возможно, они пока не захотят использовать этого чат-бота с искусственным интеллектом.

В настоящее время большие языковые модели имеют другой режим отказа, чем предыдущие созданные нами боты, такие как Resolution Bot. Хотя Resolution Bot иногда может давать нерелевантный ответ, наш AI-бот иногда может давать неверный ответ. Например, он может запутаться в содержании статьи и сделать пользователю неверное заявление. Хотя этот шанс значительно уменьшился с последними моделями, он не равен нулю.

Чтобы дать вам возможность количественно оценить это ограничение, мы создаем интерфейс, в котором вы можете импортировать существующий справочный центр в бота и вручную протестировать его.

«Мы считаем, что эти модели будут продолжать совершенствоваться, и в результате будет повышаться точность»

В целом, с недавними улучшениями GPT-4 и конструктивными ограничениями, которые мы создали, мы уверены, что его производительность выше планки точности, требуемой многими предприятиями.

Заглядывая вперед, мы считаем, что эти модели будут продолжать совершенствоваться, и в результате будет повышаться точность. Мы также считаем, что понимание пользователями ограничений этой технологии со временем будет расти; ответы наших ботов ИИ четко помечены как «ИИ», чтобы включить это.

Наконец, мы считаем, что у разных компаний, естественно, будут разные компромиссы в этой области. В этой связи мы создаем параметры конфигурации, которые позволяют предприятиям устанавливать компромисс, на который они хотят пойти, как видно из этого прототипа дизайна.

Мы изучаем параметры конфигурации, чтобы контролировать уровень креативности Fin.

Стоимость моделей GPT

Важно отметить, что большие языковые модели, используемые для работы этого чат-бота, в настоящее время дороги в эксплуатации. Это передовая технология, требующая больших вычислительных мощностей. Однако мы полагаем, что со временем эти расходы сократятся.

Мы уверены, что для многих предприятий внедрение нашего чат-бота с искусственным интеллектом будет более рентабельным, чем если бы представители службы поддержки отвечали на те же вопросы.

Задержка

Наконец, расширенные модели больших языков, такие как GPT-4, имеют присущую задержку. Это видно при взаимодействии с ботом — 10 и более секунд задержки не редкость. Мы также ожидаем, что со временем это улучшится.

Как скоро Фин будет доступен?

Мы создали первоначальную версию Fin, которую до сих пор использовали для внутреннего тестирования и скоро перейдем к ограниченной бета-версии. На данный момент нашими основными ограничениями являются стоимость и ценообразование.

Мы по-прежнему продолжаем дорабатывать и совершенствовать пользовательский интерфейс на основе тестирования, а также дорабатывать интеграцию между Fin и Resolution Bot. Мы считаем, что продвинутые клиенты будут продолжать использовать Resolution Bot и аналогичную технологию, особенно в ситуациях, когда необходимо выполнить действие для полного разрешения запроса пользователя, например, отменить заказ.

«В Intercom мы давно строим будущее, в котором большинство разговоров с клиентами успешно разрешаются без помощи человека»

Мы ожидаем быстрого прохождения процесса тестирования в ближайшие недели и месяцы. Для справки: функции искусственного интеллекта Inbox на базе GPT, о которых мы объявили в конце января, теперь доступны для всех наших клиентов и уже используются тысячами из них.

Подпишитесь на будущее обслуживания клиентов

В Intercom мы давно строим будущее, в котором большинство разговоров с клиентами успешно разрешаются без помощи человека, что освобождает вашу команду для работы над более ценными разговорами с клиентами.

Мы считаем, что сегодняшнее объявление знаменует собой изменение парадигмы в области обслуживания клиентов — будущее наступает прямо сейчас.

Вы можете узнать больше о новом боте на базе искусственного интеллекта и зарегистрироваться в списке ожидания здесь.