Sabrina Sanchez
2023年11月23日

「AIに倫理観はない」:AIトレーニングにDE&Iを組み込むべき

2023 AdColorカンファレンスの登壇者たちは、現在のAIトレーニングの欠陥について言及した。(註:AdColorは、広告業界の多様性を推進する団体)

「AIに倫理観はない」:AIトレーニングにDE&Iを組み込むべき

「AIは人間ではありません。いかなる倫理的義務も負いません。責任を持つべきなのは、私たち人間です」 

これは、11月10日に開催されたAdColorカンファレンスのセッションで、クリエイティブエージェンシー、アノマリーのパートナー兼グローバルCEO、カリーナ・ウィルシャー氏が、いかにDE&I(多様性、公正性、包括性)を前面に押し出し、責任を持って生成AIにアプローチするか、を語った際の言葉だ。 

ロサンゼルスのJ.W.マリオットで開催されたこのセッションでは、アップ・ネクスト・イン・テックの創設者であるアリバ・ジャハン氏と、エクスペディア・グループの旅行ブランド・マーケティング担当のグローバルVPであるチャンドレイ・サハ・デイヴィス氏も参加し、多様な声を高めるためにAIをどのようにトレーニングし、活用するのが最も適切かについて議論された。 

パネリストたちは、AIが創造性を向上させ、プロセスを効率化し、迅速にアイデアを生み出すために利用できる強力なツールだということには共感しつつも、多様性の観点からはまだ多くの課題があることにも賛同した。 

ウィルシャー氏は、AIは人間からのインプットと、オンラインに存在する「性差別的、人種差別的、そして同性愛を嫌悪するコンテンツ」から学習しているため、AIが処理する「データには予め偏見が潜んでいるのです」と指摘した。 

アノマリーが実験を行ったところ、AIに女性のビジュアルを要求すると、過度に性的でステレオタイプなイメージが生成されることが多かったと言う。また、肌の色が濃い人のビジュアルは、正確に表現されることがほとんどなかった。 

エクスペディアは、対話型AIを使って顧客の旅行プランを支援する、新しいChatGPTプラグインの中核にDE&Iを据えている。デイビス氏は、AIの提案からバイアスを取り除くために、異なる人種の人々の、それぞれの旅行の仕方をトレーニングしながら、プロダクトを作り上げているのだと語った。 

「私たちは、AIが、バイアスが存在する可能性についてより賢くなれるよう手助けをしているのです」とデイビス氏は語る。 

しかし、ハイテク産業から取り残されがちな多様なコミュニティにとっては、AIを取り巻く専門用語のせいでこのテクノロジーがとっつきにくいものに感じられることが多々ある。しかし、多様な人々がこのテクノロジーから遠ざかれば遠ざかるほど、「私たちは、私たちの関与しないところで、私たちについて語られる物語を、温存し続けることになるのです」とジャハン氏は述べた。 

ジャハン氏は、科学界を始めさまざまな業界のリーダーに向けて、AIトレーニングに用いるデータおよび、データの収集や取り扱い方法に関するポリシーを再考するようテック企業に呼びかけ、AIモデルの改善を促進すべきだと訴えた。 

AIをめぐる規制や基準の導入を求める声がますます大きくなっている。立法機関はトレーニングデータの基準やその利用方法に対する措置を次々と講じてくるだろう。 

AIモデルを開発し、企業で使用するためのプロセスを構築する際に、多様性を組み込みたいのであれば、多様なグループを積極的に議論に参加させる必要がある。 

「多様性の課題に取り組む場合、私たちは過去にさかのぼって議論しなければならないことが多い。しかし、AIについては私たちには今すぐそれを解決する力があります」とジャハン氏は言った。「未来のテクノロジーが、私たち(多様な人種)抜きで構築されないようにしましょう」 

例えば、エクスペディアはすでに、顧客の情報検索や旅行計画を支援する新しいChatGPTプラグインの中核にDE&Iを組み込んでいる。デイビス氏は、エクスペディアはこのプロダクトを作り上げると同時に、結果の偏りを避けるため、AIに多様な人々の旅行の仕方を教えていると言う。 

「私たちは、AIがバイアスについてより賢くなるよう手助けをしているのです」 

「AIは、生まれたばかりの新興テクノロジーです」と彼女は続ける。「今すぐ、AIのバイアスに立ち向かう議論をしななければ、私たちにはどんな結末が待っているでしょうか?」 

提供:
Campaign US

関連する記事

併せて読みたい

2 日前

世界マーケティング短信:アップル製品にChatGPT搭載

今週も世界のマーケティング界から、注目のニュースをお届けする。

4 日前

「AIはクリエイティビティーを強化」 マーク・リードWPP CEO

AIの時代となりつつある現在。大手エージェンシートップはクリエイティビティーへの投資をどう考えているのか。カンヌライオンズ2024の開幕を前に、WPPのマーク・リードCEOが綴る。

4 日前

プライド月間のマーケティング施策、慎重姿勢が強まる

プライド月間が始まったが、企業の参加は減少すると予想される。

2024年6月12日

「消費者はモルモットになるべきではない」 性急なAI導入に広告業界が警鐘

グーグルが、AIの不正確性で再び苦境に立たされている。検索結果を要約するAI製品に広告が間もなく掲載されることから、デジタル広告会社の幹部はテクノロジー業界に開発競争のペースを落とすよう促す。