人工知能 （AI）/機械学習 （ML）モデルがあらゆる種類のマーケティングの問題に対応し開発されるなか、それらに役立つアプリケーションの開発やモニタリングにおいて、マーケティングはどのような役割を果たすべきか?
人工知能プログラムを有する場合、AIの開発、展開、および使用に関するガバナンスを行う委員会、チーム、または組織もあるはずだ。ない場合は、それらを設立する必要がある。
前回の記事では、AIモデルやMLモデルをマーケティングに適用するための重要な領域と、それらのモデルがどのようにイノベーションを起こし、クライアントの要求を満たすのに役立つかについて説明した。ここでは、AIガバナンスに対するマーケティングの責任についてみていく。
AIガバナンスとは何か？
「AIガバナンス」とは、AIの使用を管理するフレームワークまたはプロセスのことを指す。AIガバナンスの取り組みの目標はシンプルで、AIの使用に伴うリスクを軽減することだ。そのために、組織はAI主導のアルゴリズムのリスクと、その倫理的な使用を評価するプロセスを確立する必要がある。
ガバナンスの厳しさは業界によって大きく異なる。たとえば、金融業界でAIアルゴリズムを導入した場合には、製造業でAIを導入するよりもリスクが高まる可能性がある。AIを使用して消費者のクレジットスコアを割り当てるには、工場のフロアで部品を費用効果よく割り振るAIアルゴリズムよりも、強化された透明性と監視が必要となる。
リスクを効果的に管理するために、AIガバナンスプログラムは、AI主導型アプリケーションの3つの側面に注目する必要がある。
- データ アルゴリズムが使用するデータは何か？それはモデルに適した品質か？データサイエンティストは必要なデータにアクセスできるか？アルゴリズムの一部としてプライバシーが侵害されることがないか？（決して意図的なものではないが、一部のAI モデルでは、機密情報が誤って公開される可能性がある。）データは時間の経過とともに変化する可能性があるため、AI/MLモデルでのデータの使用を一貫して管理する必要がある。
- アルゴリズム データが変更された場合、アルゴリズムのアウトプットは変更されているか? たとえば、来月にどの顧客が購入するかを予測するモデルが作成された場合、データは週を追うごとに古くなり、モデルのアウトプットに影響を与える。モデルはまだ適切な応答またはアクションを取っているか？マーケティングで最も一般的なAI モデルは機械学習であるため、マーケターはモデルドリフトに注意する必要がある。モデルドリフトとは、モデルの予測の変化のことだ。モデルが昨日予測したものとは異なる何かを今日予測した場合、そのモデルは「ドリフトした」と判断される。
- 使用 AIモデルのアウトプットを使用している人は、その使用方法についてトレーニングを受けているだろうか？アウトプットの差異や誤った結果が出ていないかを監視しているだろうか？これは、AIモデルがマーケティングで使用するアクションを取っている場合には特に重要となる。同じ例でいうと、そのモデルは翌月に購入する可能性が最も高い顧客を特定しているだろうか？もしそうだとしたら、購入する可能性が高い顧客にどのように対応するかについて、販売担当者またはサポート担当者のトレーニングを行ったか？ウェブサイトは、そのような顧客が訪問したときに何をすべきかを「把握」しているか？この情報の結果として、どのようなマーケティングプロセスが影響を受けるだろうか？
どのように構成され、誰が関与すべきか
AIガバナンスは、高度にコントロールされたものから自己監視するものまでさまざまなアプローチで構成することができるが、業界やそれが存在する企業文化に大きく依存している。
モデルの開発だけでなく、その検証と展開を指示できるようにするため、ガバナンスチームは通常、アルゴリズムがどのように動作するかを理解している技術メンバーと、なぜモデルが計画どおりに機能すべきかを理解しているリーダーの両方で構成される。さらに、内部監査部門を代表する人物がガバナンス体制に入っているのが一般的である。
AIガバナンスがどのように構成されたとしても、第一の目的は、組織が内外のすべての規制に準拠できるよう、AIアルゴリズム、それらによって使用されるデータ、および結果を使用するプロセスが管理されることを保証する、高度に協力的なチームであるべきということだ。
ここでは、医療、金融、電気通信などの規制の厳しい業界で一般的な、一元化されたアプローチを採用する組織におけるAIガバナンス設計の事例を紹介する。
画像： Theresa Kushner氏提供
マーケティング担当者がAIガバナンスに貢献できることとは?
マーケティングがAIモデルのガバナンスに関与する理由はいくつかある。それらはすべて、マーケティングのミッションに関連したものだ。
1．顧客の擁護 マーケティングの仕事は、顧客が購入し、購入の継続のために必要な情報を確実に入手できるようにすることと、会社の製品を宣伝することだ。マーケティングは、顧客の体験と顧客の情報を保護する責任を負う。そのため、マーケティング組織は、顧客情報を使用するAIアルゴリズムや、顧客満足度、購買行動、またはアドボカシー（擁護）に影響を与えるアルゴリズムに関与する必要がある。
2．ブランドの保護 マーケティングの主要な責任の 1 つは、ブランドを保護することである。AI モデルがブランドイメージを損なう可能性のある方法で展開されている場合は、マーケティングが介入すべきだ。例えば、AIが生成した信用スコア（個人の信用度をAI分析によって数値化・可視化したもの）を使用して、どの顧客が「家族」割引を受けられるかを事前に判断するのであれば、そのモデルの展開方法について、マーケティングが重要な役割を果たすべきだろう。マーケティングは、モデルが適切な結果をもたらすかどうかを決定するチームの一部であるべきだ。マーケティングは常に次の質問を投げかけなければならない。「この状況は、主要な顧客にとって、私たちとのビジネスについての感じ方に変化をもたらすだろうか？」
3．オープンなコミュニケーションの確保 AI/MLモデルの開発と展開において、最も軽視されがちな分野の1つは、モデルが何をすべきかを他者が理解できるようにするために必要なストーリーテリングである。透明性と説明可能性は、適切に管理されたAI/MLモデリングの最も重要な2つの特徴だ。透明性とは、作成されたモデルが、作成者と使用者、そして組織のマネージャーとリーダーによって完全に理解されることを意味する。AIガバナンスチームは、モデルが何をどのように行うのかを社内のビジネスリーダーに説明できなければ、外部の政府規制当局や社外弁護士、株主に対してもモデルを説明できないという大きなリスクを負うことになる。モデルが何をしているか、そしてそれがビジネスにとって何を意味するかという「ストーリー」を伝えることが、マーケティングの仕事なのだ。
4．マーケティングに展開されたAIモデルの保護 マーケティングは、どの顧客が最も多く購入し、どの顧客が最も長く顧客で居続けてくれるか、最も満足している顧客のうちどの顧客が他の潜在顧客にあなたを推薦し、あるいは実際に解約する可能性が高いかを判断するのに役立つ、AI/MLモデルの大口ユーザーでもあるはずだ。 この役割では、マーケティングは、AIガバナンスの当事者として、顧客情報が適切に管理され、モデルにバイアスがかかっておらず、顧客のプライバシーが維持されていることを確認する必要があるのだ。
まずは基本を知る
あなたの組織のAIガバナンスは、マーケターを歓迎すると言いたいところだが、準備をして下調べをしておいて損はないだろう。ここでは、作業を開始する前に、把握しておくべきスキルと機能をいくつか紹介する。
- AI/MLへの理解 AI/MLとは何か、また、どのように機能するのかを理解する必要がある。これは、データサイエンスの博士号が必要だという意味ではない。しかし、これらの機能がどのようなもので、何をするものなのかについて、オンラインコースを受講するのも良いだろう。特に、モデルが顧客情報を流出させたり、組織を財務リスクやブランドリスクにさらしたりする危険性がある場合は、モデルからどのような影響が予想されるかを理解することが最も重要である。
- データ モデルでどのデータが使用されているか、どのように収集され、いつ、どのようにアップデートされるかを熟知しておく必要がある。AIモデル用のデータの選択とキュレーションは、バイアスがアルゴリズムに入り込む可能性がある最初の場所である。たとえば、特定の商品に関する顧客の行動を分析しようとする場合、通常、完全で正確な情報を得るためには、4分の3程度のデータを同じ方法で収集し、キュレーションする必要がある。アルゴリズムが使用するのがマーケティングデータであれば、マーケティング担当者としてのあなたの役割はさらに重要となる。
- プロセス アルゴリズムが展開されるプロセスを十分に理解しておく必要がある。マーケティング担当者としてAI ガバナンスチームに参加しており、評価対象のAI アルゴリズムが販売用であるならば、そのプロセスと、マーケティングがプロセスにどのように、そしてどこで貢献できるかを熟知しておく必要がある。これは、AI ガバナンスチームに所属する場合に重要なスキルであるため、多くのマーケティングチームは、マーケティングオペレーションのリーダーを代表者として任命することにしている。
AIガバナンスでどのような役割を担っていても、それがいかに重要であるかを心に留めておこう。AI/MLが組織内での責任を持って展開されることは必須なだけでなく、モデルが使用するデータから学習し続けるため、持続性と警戒を必要とする継続的なプロセスでもあるのだ。
