GPT とジェネレーティブ AI を使った壮大な実験

公開: 2023-02-01

ChatGPT は世界を席巻しており、これ以上ないほど興奮しています。 本日、この革新的な AI を使用して構築したカスタマー サービス機能を公開します。

12 月、私たちの機械学習担当ディレクターである Fergal Reid と私は、ChatGPT の立ち上げについて話しました。 サポート担当者のプロセスを自動化および合理化する可能性は無限にあるように見えますが、この分野でのジェネレーティブ AI の成功は、最終的にはカスタマー サービス チームと顧客の両方に真の価値を提供する能力にかかっています。 そうでない場合、それはただのおもちゃです。楽しいものですが、それでもおもちゃです。

これをテストするために、すぐに作業に取り掛かりました。 私たちは、役立つと思われるいくつかの AI を活用した機能のスケッチを作成し、本番環境に移行して、160 人の顧客の前でベータ版を公開しました。 これらの新機能については、こちらですべて読むことができます。

今日のエピソードでは、Fergal と私がこの数週間で学んだこと、次に進むべき場所、この分野で何が可能かについての認識がどのように変化したかを共有します.

ここをクリックして、AI 機能のベータ版待機リストに参加するか、Intercom から AI ニュースを受け取ります。

重要なポイントの一部を次に示します。

  • 複数文の会話で自然言語を処理する ChatGPT モデルの能力は、引き続き改善され、新しい可能性が開かれています。
  • 製品開発において、お客様は常に最終的な決定者です。素晴らしいテクノロジーを構築することはできますが、それがお客様の問題を解決しなければ、その価値はありません。
  • テキストを編集および変更できる GPT-3.5 の機能は、カスタマー サービスにとって非常に価値があり、テキストの要約やトーンの調整などのタスクを既に処理できます。
  • ChatGPT の進歩により、より多くの機能を追加して効率を最大化し、最前線のエージェントを解放して、顧客満足度を高めるより複雑な問題に集中できるようにすることができます。
  • スマート リプライなど、ゲームを一変させる可能性のある用途の調査を開始していますが、このモデルは、機能するためのビジネス コンテキストをまだ理解していません。

Apple Podcasts、Spotify、YouTube で Inside Intercom をフォローするか、選択したプレーヤーで RSS フィードを取得して、ハイライトを見逃さないようにしてください。 以下は、エピソードの軽く編集されたトランスクリプトです。


言語理解の突破口

デ・トレイナー:こんにちは、ファーガル。 元気ですか?

ファーガル・リード:よかった、ありがとうデス。 ここ Intercom での最後の 6 週間から 7 週間は忙しかったので、今日はそれについてお話しできることをとても楽しみにしています。

De:ええ、ちょうど 6 週間か 7 週間前に、私たちは座って話をしました。 11 月下旬に開始された AI 革命に対抗するための実際のエンジニアリング時間は、おそらく 6 ~ 7 週間でした。 何を学んだの? カスタマーサービスの世界で何が可能になるかについてのあなたの認識は変わりましたか?

ファーガル:ええ、そうだと思います。 最後に話したとき、ChatGPT について多くのことを話しましたが、それはおそらく開始から 1 週間後のことでした。 ここでの大きな違いが ChatGPT なのか、それとも OpenAI が構築したモデル ファミリーなのかについては、さまざまな意見が分かれるでしょう。具体的に言うと、主に GPT-3.5 または Text-Davinci-003 で作業を行ってきました。

Des:これらは、この特定のモジュールの名前です。

Fergal:ええ、それらはこの特定のモデルの名前です。 そして実際には、これらの名前とそれぞれの違いについて、多くの混乱があります。 でも基本的にGPT-3.5シリーズのモデル、Davinci-002、Davinci-003とか去年出てきたのと同じ時期に落ちたDavinci-003みたいな感じです。 ChatGPT はブレークスルーであり、質的に優れたさまざまな機能を構築する試みを開始することができました。

「私たちがやりたいタスクは非常に多く、自然言語で説明するのが最も適切であるため、これは大きなアンロックです。」

Des:今できることについて、あなたの信念は何ですか? カスタマーサービスの世界で、私たちはどこに向かっているのでしょうか?

Fergal:カスタマー サービスだけでなく、それ以外の分野でも、これらのモデルにより、以前よりも優れた方法で自然言語を処理できるようになると思います。 自然言語処理の歴史を少し説明できると思います。 長い間、正規表現などの単純なものでした。 次に、データに多く含まれるキーワードをよく見るテキストを作成しました。 そして、おそらく 3、4 年前に、ニューラル ネットワークが「ねえ、この文の意味は何ですか?」ということを非常によく理解し始めました。 しかし今、彼らは「ねえ、その文の深い意味は何ですか...」が本当に上手になり始めていると思います. . その人は何について話しているのですか? 文 1 の内容と文 3 の内容をつなぎ合わせて、誰かが「Salesforce について質問があります」と言ったことを理解します。 そしてチームメイトは、「さて、あなたの質問は何ですか? どんな御用でしょうか?" そして、「ええ、統合について本当に助けが必要です」と言います。 そして、システムはその統合が Salesforce の統合に関するものであることを理解する能力が大幅に向上しており、会話が次にどこに進むべきかについてある程度の考えを持っています。

「突然、機械はそれらを見て、はるかに意味を理解できるようになりました。」

私たちの解決ボットと、すでに展開されている機械学習技術は、特定の文内でそのようなことを行うのに非常に優れています. しかし現在、この技術は、複数の文にまたがり、文脈で優れているところまで改善されています。 自然言語でコミュニケーションをとり、お互いに話したいと思う人間として、それは私たちにとってとても自然なことです。 自然言語で説明するのが最も適切な、実行したいタスクが非常に多いため、これは大きな解決策です。 私たちが自然言語で書いたり、お互いにコミュニケーションしたりする方法については、非常に多くの文書や指示、記事があります。 そして今、突然、機械がそれらを見て、より意味を理解できるようになりました。 そして、その能力が向上するたびに、非常に多くの製品が、以前は不可能だった多くのことを可能にします。 そして、起こったことは大きなことだと本当に感じています。 それが私たちの意見ですが、私たちがものを作ってそれをお客様の前に置き、お客様がそれについてどう思うかを見るまでは.

Des:そして、それが私たちが望むものです。

ファーガル:つまり、それが私たちがやろうとしてきたことです。

De:ソフトウェアとは何ですか。成文化された意見ですよね?

ファーガル: そうですね

お客様次第です

Des:だから、何を構築したか。 何に取り組んできましたか? それについて話しましょう。

ファーガル:つまり、製品開発では、常に自分の意見を確認したいということですね。 何かが良いかどうかの最終的な決定者は常に顧客です。 最も素晴らしいテクノロジーと最も素晴らしい製品体験を手に入れたと思うかもしれません。 そのため、私たちはここで誇大広告を断ち切り、「さて、顧客のために何をすばやく構築できるか、顧客の前に何を提供できるか、顧客と協力して価値が何であるかを確認できるか」と自分自身を納得させたかったのです。 そこで、この新しい技術の一部を使用して、それが価値があるのか​​、それともおもちゃなのかを判断するのに役立つ、構築してすぐに生産できる機能をスケッチしました。

「ボタンを押すか、キーボード ショートカットを使用して、基本的に『この機能の概要が必要です。簡単に追加できるように、作曲家に置いてください』と言うことができます。」

最初に決めたのは、本質的に要約を行う機能を構築することでした。 そして、これを行うことにしたのには理由があります。 私のチーム、ここ Intercom の機械学習チーム、Inbox チームは、よく目にする 2 つの一般的な顧客の仕事があることを発見しました。 多くの企業では、サポート担当者が会話を引き継ぐ前に、その会話の要約を書かなければなりません。 そうしないと、エンドユーザーは同じことを繰り返すか、受信側の担当者が上にスクロールして多くの情報を読まなければなりません。 そのため、引き継ぎを行うサポート担当者は要約を作成する必要があり、それが本当の仕事です。

約 1 年半または 2 年前、私のチームは当時最高のニューラル ネットワーク、T5 およびこれらすべての大きなネットワークを調査し、それらを使用して適切な要約機能を構築できるかどうかを判断しようとしました。 残念ながら、仕方がないと結論付けました。 会話はあまりにも危険です。 会話の流れは、人間にとって非常に良い方法でこれらの異なる部分の間を行き来します – 人間は簡単に調べることができ、高速でスキャンすることができます – しかし、Resolution Bot にある非常に大きなニューラル ネットワークでさえ苦労しましたそのようなタスクで。 そして、最近の DaVinci-003 モデルである GPT-3.5 で遊んでいたときに最初に目にしたことの 1 つは、突然、要約に優れているように見えることでした。 そして、私たちは「うわー、それはすばらしく見えます」のようです。

「私たちは、人々に対して真にリアルであるように努めます。 私たちは、顧客がどのビットがおもちゃであるかを理解するのを助けるつもりです。」

そのため、機能を構築し、受信トレイの要約機能を使用して数回の反復を行いました。 ボタンを押すか、キーボード ショートカットを使用して、基本的に「この機能の概要が必要です。簡単に追加できるように、作曲家に置いてください」と言うことができます。 完璧ではありません。 少し追加する必要があるかもしれませんが、時間を大幅に節約できます。 また、ベータ版で 160 を超えるお客様がこれらの機能を使用しており、要約を真の勝者に挙げています。 サポート担当者のゲームが完全に変わるわけではありません。 1 つのコア ジョブを選択しますが、その 1 つのコア ジョブを提供します。

De:それを減らします。 削減とは何だと思いますか? 通常なら書くのに 3 分かかるのに、要約などを追加するのに 10 秒もかからなかったのですか?

ファーガル:ええ。

Des:作業の 90% が削除されたようです。

ファーガル:まさに。 また、非常に長いメール スレッドや非常に長い会話履歴を持っている可能性があるため、一部のお客様は非常に興奮しており、多くの時間を節約できます。 学術論文か何かを読んでいるようなものです。 要点を把握するだけで、必要な詳細を正確に見つけることができる場合があります。 私たちは本当に良いものを見つけたと思います。それは私たちが取り組んできた機能の 1 つです。

誇大宣伝マシンを出すのは簡単です。 「私たちは世界を変えた」というプレス リリースを出すのは簡単です。 そして実際には、それを決定する人が私たちの顧客です。」

私たちは人々と本当にリアルになるように努めます。 お客様がどのビットがおもちゃであるかを理解するのに役立ちます。 私たちが構築してベータ版に入れたことのすべてがゲームを変えるわけではありませんが、要約は私たちが最も強く感じているものの 1 つです。 それは本当に準備ができています。 このテクノロジーは何か変革をもたらします。それは新しく、刺激的で、真の顧客価値をもたらします。

Des: AI に関連して、私たちが常に心がけていることの 1 つは、お客様に好意的になろうとしているからです。 誇大宣伝マシンで出てくるのは簡単です。 「私たちは世界を変えた」というプレス リリースを出すのは簡単です。 そして実際には、それを決定するのは私たちの顧客です。 したがって、要約をリリースするとき、私たちはそれが本当に価値があるという彼らの言葉を信じています. それが重要なことですよね?

ファーガル:まさに。 そしてほら、それは私たちが苦しんでいるものです。 誇大広告を喜んで行う人々に負けてしまうこともあります。 私たちはそれをしないように懸命に努力していました。

Des:物語はソフトウェアより先に進みます。 それは本当のリスクです。

ファーガル:そして、あなたはそれを避けようとします。 私たちは、この種の技術について、そのことを非常に意識してきました。つまり、ほとんどうまく機能し、魔法のような変革的な何かを行うことに非常に近づいていますが、失敗することもあります。 ですから、私たちはここで、「これで十分でしょうか?」ということについて正直でいようとしています。 完璧ではないことはわかっていますが、まだ十分ですか? そして、それは何のために十分ですか? そして、要約は私たちが得意とするものです。 これは、真の価値をもたらすと私たちが感じている機能です。

見栄えはよくても実際には本番環境で機能しないものを売り込むことで負けることもあれば、保守的すぎて負けることもあります。 また、以前の Resolution Bot では、保守的すぎる時期がありました。 私たちは、「ああ、答えがあると確信していない限り、これが裏目に出てほしくない」と思っていました。 そして、何人かの顧客が私たちのところに来て、「ああ、ユーザーはしばらく何の助けも得ていません。あなたが間違っていても、彼らに何かを与えてください」と言ってくれました。 そして、それらのゴミの流れなどを A/B テストして調整します。 保守的すぎる時期もありました。 そのため、新しいベータ機能を迅速にお客様に提供するというアプローチを取っています。 お客様はこの技術に非常に興奮しています。

簡単なテキスト編集

Des:ベータ版にはいくつの機能がありますか? 5、6?

Fergal:それで、最初に行ったのは要約です。 それは単純明快で、統合しやすく、よく理解されている仕事だったからです。 その後、作曲家を見に行きました。 テレメトリとメトリクスがあるため、エージェントが Intercom で費やす時間の約半分がコンポーザでテキストの作成または編集に費やされていることがわかっています。 彼らも自分の考えを整理していますが、文章を書いたり形を変えたりするのに多くの時間を費やしています。 それを見て、「よし、これはテキストの編集と変更がとても上手だ」と思いました。 私たちはそこにあるいくつかの小さな機能から始めました.MVP機能のようなものは、それらをライブにして、それがどうなるかを見ていきます. そこで、テキスト編集とテキストの変形機能から始めました。 おそらく、説明するのが最も簡単なのは単純な編集です。 「ねえ、今書いた文章をもっと親しみやすくして」とか「もっとフォーマルに」とか言って。 以前は、トーンを確実に調整するために使用できるものは実際にはありませんでした。 私たちは UX を何度も繰り返し、ツールバーがあり、テキストを選択するだけの UX にたどり着きました。 私たちの最初のバージョンでは、テキストを選択できなかったので、それを繰り返しました。 顧客は、それは役に立たないと言いました。彼らはコンポーザーのすべてのトーンを変更したくありませんでした。 これで、少し選択できます。

「新しいコンテキスト メニューが『拡張する』、『要約する』、『より楽しくする』、『よりフォーマルにする』ような世界を見ているのではないかと思うと、私は驚かされます。」

画像編集とほぼ同じです。 そして、ここに新たなパラダイムがあると考え始めました。 むかしむかし、テキストを太字にしたり斜体にしたりできるワープロは「うわー」のようだったのを覚えています。 そして、将来、人々はそれをトーンの観点から考えるようになるのだろうか. 「ああ、もちろん、すぐにトーンを編集したい」というようなものです。 一日の終わりに疲れていて、下書きを書いた後、「私は十分に友好的ではなかった。CSAT に影響を与えるだろう」と思っている場合は、ボタンをクリックして編集するだけです。口調で親しみやすくなります。 そのボタンを 1 回か 2 回押す方が、実際に押すよりも簡単です。

Des:行って、それを書き直します。

Fergal:テキストを書き直すのは大変です。

Des:新しいコンテキスト メニューが「拡張」、「要約」、「より幸せに」、「より正式に」のような世界を見ている可能性があることを知って、私は驚かされます。 それらは、あなたが行おうとしている変換になります。 テキストの光学系に集中しているというよりも、トーンに集中しているのです。

ファーガル:完全に。 ほら、これを行ったり来たりすると、「これはおもちゃですか? 私たちはクールなおもちゃを作ったのですか、それとも何か素晴らしいものですか?」 それは顧客によって異なると思いますが、その特定の機能の大胆なケースは次のとおりです。これはそれを行う方法です。」 これは、より楽しい顧客体験を提供する方法です。

Des: 「申し訳ありませんが、払い戻しはこちらです。」 あなたは、「その音をもっと共感的にしてください」などと言うでしょう。

Fergal:私たちは共感について実験しました。 私たちが実際にシフトしたのは、「物事をよりフォーマルに、物事をよりフレンドリーにする」ことです。 これは非常にうまく機能しているように思われる種類のスペクトルなので、それを採用しました。 そして、インターコムに合うと思います。 多くの人が、非常に個人的でフレンドリーなサポート体験を提供しようとしています。

「多くの場合、何かを書き留めると、間違っていることがわかります。 だから、『ねえ、それを言い換えて』と言うことができます。」

完全に透明であるためには、おもちゃから貴重品までの範囲のどこに位置するのか、まだ正確にはわかりません. 一部のお客様からは非常に価値があるとの声が寄せられているため、引き続き評価を行っています。 しかし、それはベータ版です。 私たちは、これらが私たちが構築し、調査しているものであることをお客様に伝えたい.

それが一つの特徴です。 次に検討し始めたのは、言い換え機能です。 繰り返しになりますが、これらの言語モデルは、制約のあるテキストを取得して編集または変更するのに非常に優れています。 要約すると、それが見え始めます。 多くの場合、何かを書き留めると、間違っていることがわかります。 だから、「ねえ、それを言い換えてください」と言うことができます。 繰り返しになりますが、ハイライトしてクリックするだけの高速な UX です。 自分で書き直すより少しだけ簡単です。 それを行うと、少し遅延があります。 というわけで、まだ評価中です。 しかし、繰り返しになりますが、一部の顧客は、これを本当に気に入っており、ビジネスで実際に機能しており、これらのモデルがますます良くなるにつれて、レイテンシーが時間の経過とともに低下すると予想しています. それがテキストの言い換えです。 これらは、コンポーザで最初に追求した機能の一種です。

さて、次はより大きなチケットの件ですが、ゲームを変える可能性のあるものを調査し始めています. そのために私たちが試みていることの 1 つは、エキスパンド機能と呼ばれるものです。 私たちは、プログラマー向けの副操縦士のようなものに触発されました。 副操縦士では、コメントを書くことができます。それは機能を完全に埋め、時間を大幅に節約します。 そして、「ああ、顧客サポートのためにそれに少し似たものを構築できないか」というようなものでした。 そして、アイデアは、あなたが望むものの短い要約を書き、それを強調して展開すると、作曲家がそれを埋めるということです. 私たちはこれを行い、出荷しました。顧客は、これがおもちゃではなく価値があることを明確に理解しています。 ただし、一部のドメインでは他のドメインよりもはるかにうまく機能します。 インターネットからの一般的な情報が良い仕事をする質問に答えるなら-

De:電話をリセットしなければならなかった場合などです。

ファーガル:ええ、まさに。 そのためには非常にうまく機能します。 ただし、速記を書いているときに何かをしようとしていて、実際にこの種の質問にどのように答えるかについて、あなたのビジネスに固有のコンテキストがたくさんある場合、それは幻覚を起こす可能性があり、編集する必要があることを言うでしょう.アウト。 それでも、一部の顧客はそれを本当に気に入っており、彼らにとって非常にうまく機能しています. しかし、それは一種のバージョン 1 だと本当に考えています。 これを使用している場合は、それをチェックして、あなたとあなたのビジネスにとってどれだけうまく機能するかを確認する必要があります. しかし、そのために常に新しいことを評価しているプロジェクトがあります。「ねえ、同じトピックに関する以前の返信を参考にしてもらえますか?」 「お客様への感謝の気持ちを返金します」のように、あなたがやりたいことを 3 語で要約してください。払い戻しについてあなたが最後に言った 5 つのことを探しに行きます。 また、払い戻しに関するマクロがあるかどうかも確認します。 また、事前に会話のコンテキストを確認します。

「私たちが実験しているのは、こぶを乗り越えることができるかということです。 そのコンテキストを取り入れることで、本当に変革的なものを作り始めることができるでしょうか?」

Des:ヘルプ センターに何かあれば、そのようなものすべて。

Fergal:ヘルプ センターから記事などを引っ張ってきたわけではありません。 私たちは、あなたとユーザーが 2 ターン前に言ったことを見て、それらすべてをプロンプトに入れ、次のように言いました。それを大きなものに変えてください。

De:ええ、完全に。 つまり、「申し訳ありませんが、払い戻しを行います。ありがとうございます」から「ご迷惑をおかけして本当に申し訳ありません。 払い戻しを行いました。3 ~ 4 日以内に表示されます。 そして、私たちは後悔しています...」

ファーガル:あなたが通常使用するスタイルで – あなた個人、個々のエージェント – そして、あなたが持っている関連するマクロも取り入れます. それがまさに私たちがいるところです。 そして、その最後の作品はまだ生産されていません。 V1は生産中です。 V1 は、何百人ものベータ ユーザーによって使用されています。 しかし、私たちが実験しているのは、こぶを乗り越えることができるかということです。 そのコンテキストを取り入れることで、本当に変革的なものを作り始めることができるでしょうか? そしてそれは今も続いています。 私たちは楽観的ですが、まだ確実ではありません。 これは私たちにとって週ごとに変化しているので、私たちはそれについて非常に興奮しています. そして、それが現時点で拡張機能のバージョン 1 です。 しかし、バージョン 2 とバージョン 3 がまもなく登場することがわかります。

運転支援効率

Fergal:ベータ版で最後に実験した機能は、顧客が GPT に直接アクセスできるようにすることでした。 つまり、モデルに何も言わず、「ねえ、そこに好きなものを入れてください」と言うだけです。 そして、私たちは実際に、動きの速いベータ実験としてそれを行いました. ベータ版のお客様には、その使用方法について多くのガイダンスを提供しませんでした。 一部の顧客は混乱し、うまくいきませんでしたが、一部の顧客は、翻訳を含め、真の価値を提供する斬新なユースケースを見つけました。 これらのモデルは翻訳が得意ではありませんが、おそらくそれは興味深い AI 製品開発戦術です。彼らは必要なものを教えてくれるでしょう。」

Des:何が出現しているかを参照してください。 何が期待されているかを確認してください。

ファーガル:まさに。 そして、期待は、これで急速に変化すると思います。 非常によく理解された翻訳モデルが存在するため、翻訳が必要であることを示しているのかもしれません。

「たぶん、そのそばに情報源があり、突然、その答えを探していた5分間が瞬時に変わります. そして、それが本当にゲームを変えるようになるところです。」

Des:つまり、これらの機能はすべて、サポート チームの効率を最大化するものであるように思われます。 彼らは、イントロとアウトロであろうと、それをより幸せに、またはより正式なものにするためにエネルギーを持っていないかもしれない何かを単に書き直しているだけであろうと、差別化されていない多くのことを減らします. これらはすべて、最前線のサポート エージェントの時間を大幅に節約するためのさまざまな方法です。 最終的には、技術的な調査や詳細な調査など、会話の難しい部分に集中する時間をより多く与えることができます。 それはこれが最もよく展開される場所ですか? これまでのところ、それが私たちの最善の考えですか? この GPT スタイルのテクノロジーをサポート エクスペリエンス全体に展開できる他の場所について考えるとき、他に何を考えていますか?

Fergal:私たちの大口顧客には、Composer で毎日を過ごす多くのサポート担当者がいます。 したがって、それらをより高速かつ効率的にすることができれば、10% または 20% の効率向上は絶対に巨大です。

Des:もちろん、はい。 数千席の顧客を抱えているため、これは真に変革的です。

ファーガル:まさに。 ゲームを変える。 そして、それは私たちが非常に惹かれてきた分野です。 そして、この技術はますます良くなっています。 それは唯一の場所ではありませんが、私たちはそれについて本当に強気です. 一部のお客様は、実際の日常のビデオを私たちと非常にうまく共有しています. このワークフローでは、「質問に答えようとしているのですが、答えがわかりません。 社内のヘルプ デスクの記事を調べたり、同様の会話を見つけたりする必要があり、いろいろと調べています。」 それを短絡して、「ねえ、これが AI だ。 多分あなたはそれにいくつかの言葉を与えるでしょう…」または多分私たちはそれを超えます。 数分後にお話しする他のプロトタイプがあり、そこに答えが待っているかもしれません。 たぶん、そのそばに情報源があり、突然、答えを探す5分間が瞬時に変わります. そして、それが本当にゲームを変え始めるところです。 それが私たちがすぐに行くところだと思います。

De:ええ、それは理にかなっています。 大規模なチームでの小さな利益は依然として大きなものであり、明らかに、特定のワークフロー、つまり要約作業での大きな利益もまた大きなものです。 一部の人々は、すべてのサポートを自動化するまで何もしていない、この奇妙なバイナリの世界を持っていると思います。 私の個人的な見解では、すべてのサポートを実際に自動化することはないと思います。 私たちがやろうとしていることは、文字通り、サポートの差別化されていない部分、つまり毎日同じことをしている「先のとがったクリック」、「イントロとアウトロ」などの部分を取り除くことです。

Fergal:そしてうまくいけば、あなたは彼らのイライラする部分を取り除くでしょう. あなたはナビゲートしていて、検索しようとしていて、答えがここのどこかにあることを知っています. 先月、この質問に 5 回回答したことはわかっていますが、見つけることができません。

「正直なところ、これらの機能は、私が予想していたよりもはるかに早く有用性の限界を超えています。」

ベータ版で最後に公開された機能は、記事ベースのエキスパンダーです。 これは、急速に標準機能になりつつあります。 テキスト記事を書いているところならどこでも、大規模な言語モデルを呼び出して、「ねえ、これを完成させて、これを拡張して。 これが私の箇条書きです。 そのため、Intercom 記事製品のベータ版でそれを出荷しています。 繰り返しますが、まだ早いです。 これらはすべて初期の段階です。6 週間から 8 週間かかりますが、魔法のようになることもあります。 場合によっては、記事の内容を説明するために 4 つまたは 5 つの箇条書きを書くことができます。その後、プロンプトで、Intercom 記事の標準的な形式を与えます。すぐ。 それが機能するとき、機能する頻度、人々にとってどれだけうまく機能するかは魔法のようです。 引き続き内容を確認する必要があります。 そこに物を入れることができますが、それを下げる方法があると思います. 正直なところ、これらの機能は、私が予想していたよりもはるかに早く有用性の限界を超えています。 ええ、私たちはそれを実験しています。

最後のフロンティア

Des:それでは、さらに遠くに、このすべての軌跡についてどう思いますか? ここからどこへ?

Fergal:これらはベータ版の機能です。 何百人もの顧客がそれらを使用しており、顧客の価値について真のシグナルを得ています. 機械学習を使用した現在の生産状況を正確にお伝えします。 ここ数日で、社内の CS チームが使用している機能がありました。以前は、一般的な挨拶をマイニングするスマート リプライ機能がありました。 これらは、情報を持たず、ユーザーの質問に答えていないものです。それらは車輪に油を注いでいるだけで、速くて機敏で、「ああ、ありがとう。 どういたしまして。 他に何かできることはありますか?」 そして、この技術はそのようなことには素晴らしいです。 言語学者はそれらをファティック表現と呼んでいます。

ここ数日、そのバージョンを Intercom CS チームに送りました。そこでは、このグレーアウトされたテキストがコンポーザーに事前入力されていることがわかりますが、これは特定の会話に関連しています。 そのため、彼らが以前に「こんにちは、お手伝いできますか」と言い、ユーザーが「ああ、記事の製品について何か助けが欲しい」と言った場合、「ああ、記事を調べさせてください」と提案します。あなたのための製品です。」 まだ検索は行われませんが、Google で検索します。 3 ~ 4 日前、私たちは「わかりました、これを社内で発送します。 それが迷惑になるかどうか、そして人々がそれを頻繁に見ているために盲目になるかどうかはわかりませんが、それはサブセットに役立つだけです. しかし、これまでのところ、CS チームからの社内の反応は素晴らしいものでした。 ですから、私たちはそれに取り組み続けるつもりです。 表示頻度を制限する別のシステムを導入する必要があるかもしれません。 それが私たちが取り組んでいることの1つです。

先ほどエキスパンド ピースについて言及しましたが、現在、「速記がなくてもできるかどうか」に取り組んでいます。 ユーザーが今言ったことに基づいて、次に何を入力しようとしているのかを判断できますか? そして、あなたのナレッジベースを調べて、関連するコンテキストを見つけようとし、それをモデルに与えます。 モデル自体は、これを行うには十分ではありません。 それはあなたのビジネスを知りませんが、私たちはそれを拡張できるかもしれません. より伝統的な機械学習テキストとモデルを組み合わせて使用​​することで、何か良い結果が得られるかもしれません。 プロトタイプがあり、これに取り組んでいますが、ベータ版であっても、まだ顧客に出荷していません. その閾値がどこにあるのかは明らかではありません。 ユーザーがいつそれを行うべきかを知ることができるため、プロンプトを表示する必要がある展開スタイルのことについては、もう少し強気です。 彼らはそれを照会する方法を学ぶことができます。 私たちは皆、Google の使い方を学ばなければなりませんでした。ユーザーも、これらのシステムをうまく扱えるようになると期待しています。

それが大まかな場所です。 私たちは迅速に動いており、実際にチェックしてここで真の価値を得るために、顧客に迅速に出荷しています. 誇大広告の罠に陥らないように注意を払っています。 ここには大きな可能性があると信じていますが、ランディング ページを貼り付けて「ここで入手してください」と言うのは簡単すぎます。 すべて答えてくれます。」 そして、それは良くありません。 人々はただ盲目になり、オフになります。

「誰もがこれを見て、『ChatGPT は本当に優れている。 そのような技術をカスタマー サポートに役立てることができれば、それは非常に大きなことです。」 しかし、それは棚からそれを行うつもりはありません。 それはあなたのビジネスを知りません。」

Des: 「これは何かをする」と言うと、あなたの評判が損なわれると思いますが、明らかにそうではありません。 この新しい分野で誰もが待ち望んでいる本当の製品は、ほとんどの質問に常に正しく答えるエンド ユーザー向けのボットのようです。 それについての考えは? 数週間、数ヶ月、数日?

Fergal:明らかに、それは誰にとっても巨大な領域です。 作曲家も過小評価するつもりはありません。質問の一部は常に作曲家に流れます。 そして、それらの時間を短縮できれば、それは非常に大きなことです。 しかし、間違いなく、この分野における大きな賞の 1 つは、ChatGPT で見た会話理解の経験を取り入れて、幻覚を回避しながら、それを個々のビジネスに役立てることができるかどうかです? と調べている人が多いです。 こちらも調査中です。 興味深く有望なプロトタイプがありますが、幻覚が十分にまれであり、これを行う価値があり、価値があるというしきい値を超えたかどうかはまだわかりません. 社内でそれについていくつかの意見が具体化し始めていますが、まだそれについてどこにいるのかを共有する準備はできていません.

Des:完全に公正です。 まあ、あと6週間かそこらでまたチェックインすると思います。

ファーガル: めまぐるしく変化する時代です。 見てください、これは働くのに非常にエキサイティングな分野です。顧客の期待は非常に高いです。 誰もがこれを見て、「ChatGPT は本当に良い。 そのような技術を顧客サポートに役立てることができれば、それは非常に大きなことです。」 しかし、それは棚からそれを行うつもりはありません。 それはあなたのビジネスを知りません。 今日は本当に微調整できません。 特定のビジネスに合わせて微調整できたとしても、おそらくそれはできません。 私たちは巧妙なテクニックを見つける必要があり、Intercom のような企業はそれを試みるのに適した立場にあると思います。 ええ、興味深い技術モデルや言語モデルがたくさんあります。 この分野ですべてのイノベーションを見ることができて本当に興奮しています。

Des:かっこいい。 どうもありがとう。

ファーガル:ありがとう。 ありがとう。

ここをクリックして、AI 機能のベータ版待機リストに参加するか、Intercom から AI ニュースを受け取ります。