AIのバイアスがマーケティングにとって悪とは限らない

人工知能（AI）や機械学習（ML）のシステムにおけるアルゴリズムのバイアスは、ここ2、3年の間、注目されるようになってきた。主に注目されたのはバイアスによるネガティブな結果だが、マーケターはバイアスをポジティブな方法で活用することもできる。ただしそうするには、バイアスを正しく認識して理解することが必要であり、まずバイアスがどのように発生するのかを理解することから始まる。

AIのバイアスとはつまり、AIやMLが特定の結果に偏る方向で意思決定を行ったり、特定のサブセットに依存したりすることを意味する。一般的な例としてとして、白人を中心にトレーニングされた顔認識システムがあったとすると、結果的にこのシステムは、白人以外の民族集団に属する人を正確に認識できなくなる。

AIモデルにバイアスが生じるのは、そのデータを代表していない特徴のデータセットを基に意思決定をしているか、もしくはトレーニングの際には認識されなかったタイプのデータでパフォーマンスが悪くなっているかのいずれかの場合だ。

AIのバイアスが生じる原因は

AIやMLのシステムは、さまざまな仕組みを用いて取得されたデータセットを使ってトレーニングされる。そしてシステムのインプットや特徴のトレーニングに使われるデータが意思決定に活用される。ここでのアウトプットは「ラベル」と呼ばれこともある。特徴のデータセットの中には、特定の結果に向かうバイアスを生じるものがある。この場合、システムはトレーニングの際に認識されなかったタイプのデータに対しては、パフォーマンスが悪くなり、適正ではない結果を出力する。

ここで留意すべき重要な点は、MLのモデル自体がバイアスの原因ではないことだ。バイアスはモデルのトレーニングに使われるデータ（教師データ）から生じている。そのため、ある種のデータについてはパフォーマンスが良好だが、別のタイプだとうまくいかないということが起きる。

AIモデルのバイアスがネガティブな結果を招くことがある点については、明白な事例がある。米国では、犯罪統計でアフリカ系やヒスパニック系などのマイノリティの割合が過剰に高い履歴データを用いて、AIモデルのトレーニングが行われてきた。そのAIモデルが判決に使われてた結果、マイノリティへの刑罰が厳しくなる傾向を生んでいるという。

データがある特定の方向に偏っていると、モデルはデータの偏りに基づいて判断することになる。

「バイアス＝悪」とは限らない

ただしマーケターにとっては、AIモデルのトレーニングで使うデータのバイアスが役に立つ場合もある。

バイアスはネガティブな面が論じられがちだが、モデルが絶対的に中立であるよりも特定の方向にプッシュすることが望まれる場合もあるだろう。すべてが中立だと、モデルが取り組む学習タスクは大幅に難しくなる。

その理由は、絶対的な中立なモデルだと、トレーニングデータの適正なセットを用意するのに膨大な時間を要する可能性があるからだ。特定の顧客ベースを対象にする場合なら、その顧客ベース向けのデータでAIモデルをトレーニングすることが大きな成果につながり得る。バイアスを活用することで、導入当初からAIモデルの価値を提供することができる場合があるのだ。

例えば、18～25歳の若い女性をターゲットにしたファッション商品を販売する場合、AIを備えたレコメンデーションエンジンは、若い女性に固有のバイアスを捉えて活用されることで、対象が属するグループに存在する他の顧客のデータに基づいて、対象顧客に追加購入を提案することができる。顧客に関する判断が積み重なるほど、モデルは顧客の好みを学習し、より正確にターゲティングされた提案を行えるようになるだろう。

モデル導入当初からパフォーマンスを強化するため、ある程度のバイアスが有効なのは、初期段階においてもモデルからのリターンを最大化するのに役立つからだ。使用するモデルの対象データとトレーニングデータに同じバイアスがあるなら、バイアスを利用して最初からモデルの良好なパフォーマンスを引き出せる。

AIのバイアスをマーケティングに活用する

ひとたびモデルが稼働すれば、マーケターはモデルが処理する過程で集められたデータを用いてより正確な判断ができるようになる。例えば、あるレコメンデーションエンジンは当初、顧客に似ているとモデルが考える人に基づいて提案するかもしれない。しかし、実際の顧客からの学習が進むと、より顧客に特化した適切な提案が可能になる。

バイアスを排除したデータは収集コストが高くなるため、バイアスの活用はAI導入の初期コストの削減につながる可能性もある。

例えば、化粧品の広告を出したい場合、マーケターはまず大人や子供の女性への販売データを活用すべきだ。その後、販売量を継続的に増やすためには、化粧品を男性に提案するにはどんな特徴を追加する必要があるかを見極めるといい。

AIやMLのモデルをトレーニングするのに使うデータのバイアスを活用して恩恵が得られる場合もあるが、バイアスがネガティブな結果をもたらす可能性があることも認識しておくことが重要だ。マーケターが最初に活用したバイアスに囚われてしまうと、さらなる改善は見られないかもしれない。例えば、ある年齢層のバイアスを活用して良好な成果を出しても、しばらくすると販売量を増やせないということが起こり得る。

こうしたバイアスを克服するための策を講じなければ、キャンペーンは徐々に拡大が難しくなり、競争によりコストが高くなっていく。パフォーマンスが最大なのはこの特定のグループだけだと考えて、そのグループにターゲットを限定してしまうからだ。

AIのバイアスを克服する

AIやMLのシステムをバイアスがかかったデータでトレーニングしているのに、そのバイアスが認識されず対処もされないままだと、重大な結果を招くおそれがある。価値ある潜在顧客の層を逃し、市場シェアの継続的な拡大に失敗するかもしれない。こうしたバイアスのリスクを評価し、克服するための行動を起こすことが重要だ。

そのための1つの方法は、データの収集方法を変更してモデルのパフォーマンスへの影響を調べることだ。マーケターはその後A/Bテストを実施し、異なるデータセットでモデルをテストすることで、どちらがより良い結果をもたらすかを把握することができる。このやり方は、最適化への道を示すと同時に、新たなデータによってモデルの有効性が減じるのを防ぐことにもなる。

データ収集の精度を高めることは重要だが、新たなインサイトが得られないまま費用ばかりが高くつくおそれもある。重要なのは、AIモデルが特定の特徴や特徴の組み合わせをどう価値判断しているのかを理解することだ。AI分野の専門知識を使うことで、モデルの精度はさらに高められる。モデルとデータ収集のどちらの精度を高めるのかは、ROIに基づいて判断する。データ収集方法を変更する場合と、モデルにおける特徴の重要度を再評価する場合とで、費用を比較検討する必要があるだろう。

MLモデルの運用を始めたなら、トレーニングに用いたデータが初期の結果に影響することを理解すべきだ。とはいえ、ひとたびモデルが稼働状態になれば、システムが自らデータの収集と学習を継続できる。

こうしたケースはオンライン広告で確認できる。MLモデルは、まずトレーニングに使われたデータを使って広告の出稿先を決定する。これに対するユーザーの反応に基づき、モデルは将来の広告の出稿先を学習することになる。

AIやMLのアルゴリズムのバイアスには問題点もあるが、バイアスの影響を認識しているマーケターなら、これをツールとして活用することも十分可能だ。バイアスを理解できれば、モデルがフィールドでデータを収集し学習する前の運用の初期段階で、AIモデルによるレコメンド提供において、バイアスの力を借りることも可能になる。ただし、バイアスが認識されていないと、望まない結果につながり得ることには十分留意すべきだ。

---

ミン・スン（Min Sun）博士は、AIテクノロジー企業AppierのチーフAIサイエンティスト。