Fin の紹介: GPT-4 上に構築された Intercom の画期的な AI チャットボット

公開: 2023-03-15

OpenAI の ChatGPT の登場により、すべてが変わりました。カスタマーサービスへの大きな影響はすぐに明らかになりました。

私たちはすぐに受信トレイ用の一連の AI 機能を立ち上げ、このテクノロジーを適用して効率を向上させました。しかし、一番多かったのは、「ChatGPT は顧客の質問に答えるだけでよいですか?」というものでした。自然言語を理解する能力が、これまでに見たどの言語よりも優れていることは明らかでした。

残念ながら、私たちの最初の調査では、幻覚があまりにも大きな問題であることが示されました. ChatGPT の原動力となった GPT-3.5 は、答えがわからないとでっち上げになりがちでした。

しかし、GPT-4 の最近の発表により状況が変わりました。このモデルは幻覚を軽減するように設計されています。初期のテストで GPT-4 を使用して構築したものを共有できることを嬉しく思います。

新しい AI チャットボットの紹介: Fin

本日、この新しいテクノロジーの利点を備え、ビジネスニーズに適した AI を利用したカスタマーサービスボットを構築したことを発表します。それは Fin と呼ばれ、サポートチームにとって貴重なパートナーになる能力があると信じています。

GPT を利用したチャットボットの構築を実験し始めたとき、いくつかの設計目標を念頭に置いていました。私たちは、次のことができるボットを構築したいと考えていました。

GPT テクノロジーを使用して、自然に会話します。
あなたが管理する情報を使用して、あなたのビジネスに関する質問に答えてください。
幻覚や不正確な反応を許容レベルまで減らします。
最小限の構成とセットアップが必要です。

私たちはこれを達成したと信じています。私たちの新しい AI チャットボットは「箱から出して」動作し、サポートの量と解決時間を即座に削減します。

サポートクエリについて、既存のボットよりもはるかに自然に会話できるため、最新の AI の自然な会話能力がカスタマーサービスにもたらされます。

複数の会話ターンにまたがるクエリを理解できるため、顧客はフォローアップの質問をしたり、追加の説明を得ることができます。

フィンはお客様と自然な会話をします

信頼性と信頼性が重要な顧客サポートを提供するために特別に調整された機能と保護手段を備えた GPT-4 を拡張しました。

Fin はドメイン外の質問への回答を拒否します

Fin は、既存のヘルプセンターのコンテンツに基づいた回答のみを提供するように設計されているため、精度と信頼性が向上します。その信頼感を強化するために、常にソース記事にリンクしているため、顧客は回答を検証できます。

以下で説明するように、これは完璧ではありませんが、多くの企業で利用できるようになったと考えています。

Fin では、初期セットアップ時間がほとんど必要ありません。既存の Intercom または Zendesk ヘルプセンターの情報を取り込み、AI の力を利用して複雑な顧客の質問を即座に解釈し、ヘルプセンターの知識を適用して回答します。

必然的に、チャットボットはすべての顧客の質問に答えることができなくなります。そのような状況では、難しい質問を人間のサポートチームにシームレスに渡すことができます。 Intercom が可能にするすべてのワークフローを使用して、顧客サービスチームの一員として効果的に機能します。

Fin が質問に答えられない場合は、CS 担当者にシームレスに引き継ぐことができます。

この AI チャットボットの構築方法

Fin を作成するために、Resolution Bot の背後にある既存のテクノロジーと OpenAI の新しい GPT-4 を組み合わせました。

私たちは 4 年以上前に解決ボットを立ち上げました。セットアップすると非常にうまく機能しますが、「回答」または「インテント」を手動でキュレートする必要があります。残念ながら、一部のお客様がこの最初のハードルを乗り越えるのに苦労していることはわかっています。

「Fin は、ヘルプセンターに既に存在する知識を使用して実行するように設計されています。」

新しいボットでは、この摩擦を減らしたいと考えました。

そのため、ヘルプセンター用にすでに作成されている知識を使用して実行するように設計されています。ヘルプセンターの記事を読み込んで、その情報を使用して顧客の質問に直接回答します。

質問を受けると、チャットボットは AI を使用して、記事の情報を自然な回答に自動的に言い換えます。また、記事を更新すると、ボットの返信がすぐに更新されます。これは、ヘルプコンテンツを 1 か所で管理するだけでよく、最新バージョンを顧客に自動的に提供できることを意味します。

これにより、企業は最新の AI の利点を安全かつ予測可能な方法で実際に活用し、ヘルプセンターのコンテンツの作成に関する既存のプロセスを使用することができます。

将来的には、さらに進んで他の機械学習テクノロジを統合し、AI ボットが顧客に関するファーストパーティデータを使用して質問に回答できるようにする予定です。

信頼できるチャットボットを作る

このチャットボットは、不正確または予期しない応答のリスクを回避するために、作成済みのヘルプコンテンツのみを使用して質問に回答するように設計されています。これにより、Fin の発言内容を高度に制御できます。

「他の GPT ボットの中には、ウェブからの膨大な量の情報に基づいて回答を下すものもありますが、実際には、ボットが使用できる情報を制限することで、予測可能性と信頼性が大幅に向上します。」

ヘルプセンターに記載されていない質問を誰かが尋ねた場合、答えがわからないというメッセージが表示されます。これは重要な機能です。他の GPT ボットの中には、Web からの膨大な量の情報に基づいて回答するものもありますが、実際には、ボットが使用できる情報を制限することで、予測可能性と信頼性が大幅に向上します。

信頼性を念頭に置いて Fin の新しいユーザーインターフェイスを設計することで、不正確さをさらに軽減しました。回答が提供されたときにソース記事に明確にリンクしているため、ユーザーはソースが関連しているかどうかを確認でき、軽微なエラーの影響が軽減されます。

Fin は常に回答のソースを提供し、顧客がその回答を確認できるようにします。

また、ヘルプセンターに含まれていないトピックについてボットに対話させるユーザーの能力を減らすための対策も講じました。

制限事項

正確さ

エンドユーザーが、私たちが設計した制約を意図的に回避し、AI チャットボットに不適切なことを言わせる可能性があります。これが発生した場合、それは顧客との自然なやり取りではなく、断固たる試みの後にのみ発生すると考えています.

AI は完璧ではないことを指摘しておく必要があります。関係のない情報や不正確な情報を提供するリスクを許容できない顧客もいます。彼らはまだこの AI を利用したチャットボットを採用したくないかもしれません。

現在、大規模な言語モデルには、Resolution Bot など、以前に構築したボットとは異なる障害モードがあります。解決ボットは無関係な回答を返すことがありますが、AI ボットは間違った回答を返すことがあります。たとえば、記事の内容に混乱し、ユーザーに対して真実ではない発言をする可能性があります。最近のモデルではこの可能性はかなり減りましたが、ゼロではありません。

この制限を定量化できるようにするために、既存のヘルプセンターをボットにインポートして手動でテストできるエクスペリエンスを構築しています。

「これらのモデルは引き続き改善され、結果として精度が向上すると信じています。」

全体として、GPT-4 の最近の改善と私たちが構築した設計上の制約により、そのパフォーマンスは多くのビジネスで必要とされる精度基準を上回っていると確信しています。

今後、これらのモデルは引き続き改善され、結果として精度が向上すると考えています。また、このテクノロジーの限界に対するユーザーの理解は、時間の経過とともに高まると考えています。 AI ボットの応答は、これを可能にするために「AI」と明確にラベル付けされています。

最後に、この分野では、ビジネスが異なれば当然、異なるトレードオフが生じると考えています。その範囲で、この設計プロトタイプに見られるように、企業が行いたいトレードオフを設定できる構成設定を構築しています。

Fin の創造性のレベルを制御するための構成設定を検討しています。

GPT モデルのコスト

このチャットボットを強化するために使用される大規模な言語モデルは、現在実行するのに費用がかかることに注意することが重要です。これは、多くの計算能力を必要とする最先端のテクノロジーです。ただし、この費用は時間の経過とともに減少する可能性が高いと考えています。

多くの企業にとって、AI チャットボットの実装は、サポート担当者が同じ質問に答えるよりも ROI にプラスになると確信しています。

レイテンシー

最後に、GPT-4 などの高度な大規模言語モデルには固有のレイテンシがあります。これは、ボットとやり取りするときに見られます。10 秒以上の遅延は珍しくありません。また、これが時間の経過とともに改善されることも期待しています。

フィンはいつから利用可能になりますか?

これまで内部テストに使用してきた Fin の初期バージョンを構築しました。間もなく限定ベータ版を公開する予定です。現時点での主な制約は、コストと価格設定です。

テストに基づいてユーザーエクスペリエンスを反復および改善し、Fin と Resolution Bot の統合を反復し続けています。高度な顧客は、特にユーザーのクエリを完全に解決するためにアクションを実行する必要がある状況 (注文のキャンセルなど) で、Resolution Bot や同様のテクノロジーを引き続き使用すると考えられます。

「Intercom では、人間のサポートを必要とせずにほとんどの顧客の会話がうまく解決される未来に向けて長い間構築してきました。」

今後数週間から数か月で、テストプロセスを迅速に進める予定です。参考までに、1 月末に発表した GPT を利用した Inbox AI 機能は、すべてのお客様にご利用いただけるようになり、すでに何千ものお客様にご利用いただいています。

カスタマーサービスの未来にサインアップ

Intercom では、人間のサポートを必要とせずにほとんどの顧客との会話が正常に解決され、チームがより価値の高い顧客との会話に取り組めるようになる未来に向けて長い間構築してきました。

本日の発表は、カスタマーサービスの分野におけるパラダイムシフトを示すものであると信じています。未来は今まさに起こっています。

AI を活用した新しいボットの詳細については、こちらから登録できます。

CTA-RB3-横型