AIに対する信頼はかつてないほど低下している一方で、企業はこれまで以上にAIに依存している。不信感を埋め、消費者の信頼を高める方法を紹介しよう。
AIに対する消費者の信頼が低下している一方で、企業のAI導入は拡大している。このことが、AIの能力やテクノロジーに重点的に投資している企業にとって厳しい状況を生み出している。
企業にとってのAIの重要性
AIは、現代ビジネスにおけるイノベーションと効率化の基盤となっている。米国のネットワーク機器メーカーのCiscoによると、経営幹部の約83%がAIを自社の重要な戦略的優先事項と考えている という。AIは、パーソナライズされた顧客体験から不正検知、業務改善まで、業界に変革をもたらす。
しかし、このような依存の高まりには、「信頼」という重大な課題が伴う。消費者は、AIがプライバシーやデータセキュリティにどのような影響を与えるかについて、ますます警戒心を強めている。そのため、企業は消費者の信頼に関する懸念に正面から取り組む必要があるのだ。
「信頼」を理解する
「信頼」は、消費者と企業との関係を含め、人間関係の基本的な側面である。それは、一貫性のある前向きなやり取りと透明性のあるコミュニケーションを通じて築かれる。しかし、プライバシーの侵害やデータの悪用、あるいは不正行為によって、信頼は急速に失われる可能性がある。
「信頼」は、AIというコンテキストでは、特に複雑になる。消費者は、商品のレコメンデーションのような日常的なタスクについてはAIを信頼するかもしれないが、ヘルスケアやファイナンシャルプランニングのような重要かつ個人的な意思決定にAIを使用することには懐疑的である。この二面性を理解することは、企業が「信頼」の課題を乗り越えるために不可欠である。
信頼の低下
AI企業に対する信頼は、OpenAI（AIの開発を行う米国の非営利研究機関）が登場するはるか以前から低下している。世界最大のPR企業、Edelmanの最近の調査によると、世界的に見て、信頼は2019年の62%から2024年には54%に低下した。米国ではさらに落ち込みが激しく、50%から35%に低下している。
これにはいくつかの要因がある。
・ディープフェイク（AIによって作り出された偽の動画や音声）やAIが生成した誤情報の拡散
・プライバシーに対する懸念の高まり
・音声クローン技術を使った詐欺や不正行為の増加
・個人情報の悪用
現実世界における信頼の問題：テキサス州の訴訟
テキサス州が自動車保険会社Allstateに対して起こした訴訟は、こうした問題を浮き彫りにしている。同州は、同社が以下のような行為を行ったと主張している。
・適切な同意なしにドライバーの位置情報を収集
・そのデータを保険会社に販売
・そのデータを利用して保険料を操作
Allstateは通常はAI企業とは見なされないが、ほぼすべての企業が自社の主力製品やサービスを強化するためにAIを使用しているか、使用を検討している。
AIと信頼の二面性
興味深いことに、AIは信頼を築くこともできるという調査結果がある。多くのオンライン小売業者は、AIを使って顧客データを分析し、パーソナライズされたレコメンデーションや体験を提供している。Amazonのパーソナライゼーションアルゴリズムは、商品のレコメンデーションを提供する。同社は、これが顧客満足度とロイヤリティの向上に役立っていると報告している。Amazonは常に米国でトップブランドの一つにランクインしており、米国の調査会社Morning Consultの「Most Trusted Brands 2024（最も信頼されるブランド2024年版）」レポートでは第6位を獲得している。
もうひとつの例はPayPal（オンライン決済サービスを提供する米国企業）で、同社はAIを使って不正行為を検知・防止している。このテクノロジーはリアルタイムで取引を監視し、新しいデータから学習し、疑わしいパターンを特定し、不正調査を自動化する。同社のシステムは、4億3,000万件以上のアクティブアカウントを分析し、取引ごとに数百のセキュリティチェックを実行してリアルタイムのリスクスコアリングを実施することで、詐欺による損失を25%削減している。
AIは、信頼に二つの影響を与える。一方では、データプライバシーや雇用の喪失、一部のAIによる判断の「ブラックボックス化」などに対する懸念が信頼を損なう可能性があり、リスク要因となりうる。他方では、AIは顧客体験を向上させ、商品の品質を高め、よりパーソナライズされたサービスを提供することで、信頼を築くこともできるのだ。
信頼の構築と維持のための戦略
多くの企業が、信頼の問題に積極的に取り組んでいる。その戦略には以下のようなものがある。
・強固なデータ保護とプライバシー対策の実施
・AIの意思決定プロセスにおける透明性の実現
・安全対策と倫理的配慮を組み込んだAIの開発
・AIの能力と限界についての消費者への教育
しかし、これらの戦略は単なる口先だけのものであってはならない。ポリシーを発表しても、それを一貫して普遍的に適用できない場合には、ポリシーがないこと以上に消費者の信頼を損なうことになるだろう。
信頼における人的要因
AIの信頼に関する議論の多くはテクノロジーに焦点が当てられているが、人間の行動も重要な役割を果たしている。信頼はしばしば、洗練されたアルゴリズムによってではなく、人がそれを誤用したり、誤操作したりすることによって損なわれている。最近、あるリーダーがチームメンバーのソーシャルメディアへのログイン情報を要求しているのを耳にした。悪意はなかったのだろうが、この要求は、ソーシャルエンジニアリングを利用して機密情報、システム、リソースに不正アクセスする可能性があるという、重大なセキュリティ問題を浮き彫りにした。
このような人的要因は、テクノロジーそのものと同様に極めて重要である。企業は、AIシステムを通じたものであろうと人間とのやり取りであろうと、あらゆるタッチポイントで信頼が構築され、あるいは失われることを認識しなければならない。
今後の方向性
AI時代に信頼を築くために、企業は以下のことに注力しなければならない。
・責任ある開発：倫理的配慮と安全対策を講じてAIシステムを設計する。
・明確なコミュニケーション：AIの使用と収集されるデータについて透明性を保つ。
・一貫性のあるポジティブなブランド体験：AIが顧客とのやり取りを損なうのではなく、向上させるようにする。
・教育：消費者がAIの能力と限界を理解できるようにする。
・データ保護：消費者データとプライバシーを保護するための強固な対策を実施する。
・有言実行：すべてのやり取りにおいて信頼を築くための戦略に従う。
信頼とAIの関係は複雑で、進化している。AIの導入が急速に進む中、企業は消費者の懸念に対処し、信頼を築くために努力しなければならない。これには、責任あるAIシステムを開発し、その使用について透明性を確保し、消費者のプライバシーやデータを積極的に保護することが含まれる。
今後、AIの利点と消費者の信頼を育む必要性とのバランスを効果的にとることができる企業が成功するだろう。そのためには、継続的な努力、明確なコミュニケーション、倫理的AIの開発と導入の実践への取り組みが必要となるだろう。
