生成 AI への責任あるアプローチ

公開: 2023-09-19

Skyword CEO の Andrew C. Wheeler からコンテンツの進化に関するさらなる洞察を得るには、月刊ニュースレター「Content & Context」を購読してください。

Gartnerが 2,500 人以上の経営幹部を対象に行った最近の調査によると、70% が生成 AI について積極的に調査および検討しており、19% はすでに試験運用または運用モードに入っています。これは、今年だけでも生成 AI を中心にビジネスの緊急性が高まっていることを鮮明に示しています。

新しいテクノロジーの出現と同様、ビジネスリーダーにとっての重要な課題は、最初に膨らんだ期待と実際のアプリケーションの現実とのバランスを取ることです。

Gartner が調査した経営幹部の 68% は、生成 AI のメリットがリスクを上回ると信じていますが、生成 AI ソリューションを開発および導入している多くの組織には、信頼、セキュリティ、プライバシー、倫理的な課題が迫っていると予測されています。

マーケティング担当者の間で私が遭遇する最も不安に満ちた質問は、技術的な不確実性を考慮して、コンテンツ作成に生成 AI を安全かつ責任を持って活用する方法です。

ニュースを読んでいる人なら、次のことをご存知でしょう。

OpenAI の ChatGPT、Microsoft の Bing、Google の Bard はすべて、虚偽の情報を生成することが証明されています。
画像ジェネレーターを含む生成 AI ツールには、差別的な出力を生成する傾向があることが十分に文書化されています。
基礎モデルは多くの場合、著作権で保護された作品に基づいてトレーニングされますが、その結果には信頼できるソースが提供されません。

しかし、マーケティング組織にとってこれらのリスクはどれほど現実的なのでしょうか?それらを軽減するために何ができるでしょうか? 選択肢を検討している人たちへの私のアドバイスは次のとおりです。

まず、採用への道は複数あることを認識してください。 大まかに言って、検討すべきソリューションには 3 つのカテゴリがあります。

パブリック AI ツール: Bard や ChatGPT などのこれらのツールは、一般の人がすぐに利用できます。これらは、ユーザーが非構造化環境で事前トレーニングされた AI モデルと直接インターフェイスできるようにするクラウドベースのプラットフォームです。これらは低コストで簡単にアクセスできますが、リスクや悪用が最も起こりやすいものでもあります。この方法を採用するということは、これらのツールを安全に、責任を持って、一貫してワークフローに導入するために必要な周囲のシステムを開発および保守するのは、企業の責任であることを意味します。
独自の AI ツール:これらのツールはあなたの会社のために開発され、会社が所有しています。独自の要件がある場合、または AI モデルのトレーニングデータと開発を完全に制御する必要がある場合、構築と購入は良い選択となります。ただし、この方法で AI モデルを効果的にトレーニングおよび維持するには多大なコスト、労力、継続的なデータが必要となるため、多くの組織にとってこのオプションは手の届かないものになります。
エンタープライズ AI ツール:複雑なマーケティングニーズを持つ大規模組織向けに設計されたこれらのツールは、構造化された AI アプリケーション、拡張性、既存システムとの統合、組み込みのセキュリティ機能を提供します。

注意点:AI 分野での優位性を主張するテクノロジー企業間での軍拡競争が起きています。たとえば、OpenAI は、開発期間が 1 年未満である次期 ChatGPT Enterprise を発表したばかりです。多くの新しい「エンタープライズ」AI ツールが監視や規制なしに急いで市場に参入しているため、追加のリスクや不確実性から組織を守るためにベンダーの選択には注意してください。

生成 AI ソリューションを選択する際の考慮事項

どのような選択肢を追求するにしても、AI を活用したコンテンツ作成に対する責任あるアプローチを作成することが不可欠です。この流れで、やってはいけないことについては多くの記事で説明されているので、代わりにマーケター向けに私がとるべき 4 つの行動を共有したいと思いました。

セキュリティを真剣に考えてください。

当たり前のことのように思えるかもしれませんが、それでも声を上げることが重要です。独自のエンタープライズツールは、生成 AI モデルを利用するための最も安全で制御された環境を提供する傾向があります。ユーザーアクセスとデータプライバシーを高度に制御するこれらのオプションは、機密データを組織のインフラストラクチャ内に保持し、違法または望ましくない第三者による暴露から保護するのに役立ちます。

たとえば、 Skyword の AI を活用したコンテンツエンジンATOMM は、機密情報が保存されたり、公開されたり、AI トレーニングモデルで使用されたりすることがないことを保証します。対照的に、OpenAI の ChatGPT インターフェイスは、チャット履歴を含む入力データをデフォルトで保存し、同社はその情報を使用してモデルをトレーニングおよび改善する可能性があります。

ソリューションが以下に対応していることを確認してください。

ユーザーアクセスを安全に管理し、不正アクセスを防止する方法
アルゴリズムのトレーニングを含め、データ入力と IP がどのように保存および処理されるか
ブランドを悪用や外部攻撃から守るためにどのような保護策が講じられていますか

顧客の利益を最優先に行動してください。

ほとんどの企業にとって、コンテンツ作成を迅速に拡張する必要性が、生成 AI 導入の最大の推進力です。ただし、顧客のエクスペリエンスを犠牲にしてこれを達成することは、まったく逆効果です。

2013 年、Velocity Partners は「 Crap Content 」というタイトルのバイラル Slideshare を公開しました。ページをめくりたい場合は、以下に埋め込まれていますが、TL;DR は次のとおりです。

コンテンツマーケティングが本格化すると、誰もが競争力を維持するためにできるだけ多くのコンテンツを作成しようと躍起になりました。ただし...彼らはそうしませんでした。

彼らには高品質のコンテンツを作成するための帯域幅や適切なリソースがなかったため、彼らがやったことは、購入者を圧倒するノイズで市場を飽和させ、本来の目的とは正反対のことをしただけでした。

くだらない。 コンテンツマーケティングの大洪水。 ベロシティパートナーズより

当時優秀だった企業は、訪問者や購入者に付加価値のあるコンテンツや情報を提供するコンテンツブランドを構築しました。今日も同じことが当てはまります。

公共の生成 AI ツールが主流で利用できるようになったことで、くだらないコンテンツの新時代が到来する恐れがあります。一方で、アクセスしやすく、役立つ、関連性の高いコンテンツに対する顧客の期待はさらに高まっています。

ソリューションアプローチの目的は、より多くのコンテンツを作成することではありません。現在制作しているコンテンツよりも優れた品質、またはより戦略的価値のあるコンテンツを作成する必要があります。現時点では、生成 AI を使用して高品質でオリジナルで本物のコンテンツを作成する最も信頼できる方法は、生成 AI を適切に操作できる人間のクリエイターや対象分野の専門家と連携して活用することです。

以前の投稿では、当社の生成 AI ソリューションやその他のソリューションが人間の創造物に独自の価値を加える多くの方法について概説しました。

ソリューションが以下に対応していることを確認してください。

長期的な生存可能性。貴社のソリューションは運用上の応急処置でしょうか、それともコンテンツ競争や顧客ニーズの進化に伴う競争力をもたらしますか?
コンテンツの起源と独自性。コンテンツは、単独または主に人間によって生成されたものでない限り、著作権で保護されないことに注意してください。
視聴者とブランドのカスタマイズの必要性。公開されている潜在的な類似の AI 生成情報からコンテンツを確実に区別する必要がある

説明責任を果たしてください。

独自のシステムを構築している場合、AI モデルの開発、トレーニングプロセス、展開に関する包括的な文書を維持し、モデルの作成方法、データの使用方法、意思決定ロジックについての洞察を提供するのはあなたの責任です。

一方、外部ツールを使用してコンテンツを作成するには、慎重な緊急時対応計画が必要です。ソーセージがどのように作られるのか、AI システムが誤って有害な結果をもたらす可能性がある状況に対処するためにどのような戦略が講じられているのかに興味を持ってください。

生成 AI を効果的に使用するには人間による一貫した監視が不可欠ですが、多くのテクノロジーベンダーがエンタープライズライセンスを譲渡し、この種の監視をユーザーに任せることに注意してください。

フロントエンドでマーケターの時間を節約するソリューションを導入した結果、バックエンドでの編集とファクトチェックのブラックホールにマーケターが巻き込まれてしまうことは最も避けたいことです。

このため、当社のソリューションは生成 AI を活用して人間の専門家が作成したコンテンツを調整してから、社内の編集チームに送信して品質、正確さ、信頼性をレビューします。

信頼できるエンタープライズパートナーは、データガバナンスを管理しながらチームがコンテンツを開発するのを支援し、理想的には継続的な監視と監査、モデルのイントロスペクション、人間による監視と介入を提供して、貴重な時間を節約し、エラーのリスクを劇的に軽減します。

ソリューションが以下に対応していることを確認してください。

品質保証/人的監視はどのように管理されるか
ブランドコンプライアンスの責任者は誰か
コンテンツの入出力の信頼性に対して誰が責任を負うのか
テクノロジーの進歩に応じて継続的な最適化がどのように処理されるか

アプローチのスケーラビリティを検証してください。

ある組織にとって拡張可能なものでも、別の組織では拡張できない可能性があります。ここでの絶対的なルールは、ソリューションのアプローチが、少なくとも中期的には組織とともに進化するのに十分な柔軟性と持続可能性があることを確認することです。

組織内の個別の部門で活用できるその場しのぎのプロセスや手順を導入していますか、それとも企業の変革に向けた道筋を立てるためのツールやテクノロジーを活用したプロセスといった構成要素を導入していますか?

生成 AI による創造性と生産性の向上の魅力は、説得力があります。しかし、生産性の漸進的な向上を追求することと、実際にコンテンツの価値を高め、有意義なリーチを達成し、継続的なエンゲージメントの増加を確保するために AI を活用することとの間には、微妙なバランスがあります。

ソリューションが以下に対応していることを確認してください。

時間の経過とともに、より多くのチームやユースケースにわたって使用を持続的に拡大できる可能性
組織内での一貫した広範な導入を保証するためのサポートメカニズムの導入
最も優先度の高いユースケースに関するソリューションパートナーの基礎的な専門知識
社内開発者または外部パートナーが生成 AI 機能を進化させるために必要な取り組みのレベル

次のフロンティア

受け入れるか否かにかかわらず、私たち全員が AI 主導の変革への道を進んでいることを認識することが重要です。

最終的にリーダーと後発企業を分けるのは、ポスト AI 時代のマーケティングの未来に向けてチームと組織を準備する責任を負うことです。

マーケティングの世界に携わるのがこれほどエキサイティングな時代はありません。今この瞬間を味わい、自信を持って未来へ踏み出しましょう。

生成 AI はあなたの組織にとって今年の優先事項ですか? 連絡してください。私は手伝うためにここにいます。

Adobe Stock の master1305 による注目の画像。