【連載】ELSIの今を読み解く──テクノロジーが創る未来に向き合うマーケティング・テクノロジー・センター 〈第1回〉SF作品から構想するAIガバナンス
AIをはじめとするテクノロジーが加速度的な進化を続けています。しかし科学技術の発展には、前提として常に倫理的、法的、社会的なリスクチェックが必要と我々は考えています。そういった課題──「ELSI（Ethical, Legal and Social Issues／エルシー）」に積極的に向き合っているのが、博報堂ＤＹホールディングス内で研究開発や新しい価値の創出に取り組むマーケティング・テクノロジー・センター（MTC）です。
MTCのメンバーが外部の識者とともにELSIについて考察する連載「ELSIの今を読み解く」。その第1回となる今回は、中央大学国際学部教授の平野晋先生と、同大学大学院で平野先生に学んだMTCの猪谷誠一が、「AIガバナンス」の現在とこれからについて語り合いました。
平野 晋氏
中央大学国際情報学部教授、博士（総合政策）（中央大学）
猪谷 誠一
博報堂ＤＹホールディングス
マーケティング・テクノロジー・センター 上席研究員
日欧米のAI法の現在
──AI活用のルールや管理の指針となる「AIガバナンス」の現状についてご説明ください。
- 平野
- OECD（経済協力開発機構）がAIを安心して使うための価値原則を提唱したのは、2019年5月でした。そこで示されたのが、AIは人間の幸福や社会的公正に資するものでなければならないという考え方です。そこから「人間中心のAI（Human-Centered AI）」、あるいは「信頼できるAI（Trustworthy AI）」という考え方が広まり、世界的なコンセンサスとなっていきました。
OECDが提唱した原則の根本にあるのは、AIに「人間中心」「信頼できる」といった修飾語句をつけることで、AIをよりよく制御していこうというコンセプトです。これがAIガバナンスの事実上のスタートであったと考えられます。
その後、ヨーロッパ、アメリカ、日本のそれぞれでAI法の整備が進みました。ヨーロッパのAI法は、「予防原則」に基づいています。AIのリスクを想定し、事前に強い規制をかけていくという考え方です。それに対しアメリカは、イノベーションの妨げになる規制は設けないというスタンスを取っています。州レベルでのAI規制法はいくつかありますが、連邦政府による包括的なAI規制法はありません。
日本で2025年に成立したAI法は、欧米の中間にあると言えます。規制を設けはするものの、それに対する厳格な罰則はない。AIの開発や活用を進めるプレーヤーに自主的に規制を守ってもらうことに期待する──。そんな法律です。
- 猪谷
- 法律上の強い制約がないので、AIソリューションを開発する研究機関や、AIを活用する企業が主体的にルールを順守していかなければならないと言えます。広告ビジネスやマーケティングの領域でもAI活用は進んでいます。そういった領域で、ルールに則ったAI活用を支援する役割が博報堂にはあると思います。
──博報堂ＤＹグループも「人間中心のAI」というテーマを掲げていますね。
- 猪谷
- 博報堂ＤＹグループは、以前から「生活者発想」というフィロソフィーを大切にしてきました。世の中の人たちを、ものを買う「消費者」ではなく、幸福を追求しながらさまざまな活動をする「生活者」としてトータルに捉える思想です。「人間中心のAI」は、その延長線上にある考え方であると僕は思っています。「人間中心のAI」は、博報堂ＤＹグループにとって、とても自然なテーマであると言えます。
SFはAIガバナンスの指針となりうるか
──平野先生は、SFの物語をAIガバナンスの参考にする方法を提唱されていますね。
- 平野
- 私自身もともと文学や映画が大好きなのですが、学術的にも、ナラティブ、つまり物語をもとにいろいろな物事を考えていく方法論がアメリカでは広まっています。その代表的なものが「法と文学」と呼ばれるものです。文学、あるいは映画や大衆文化から法律のあり方を学ぼうという方法論です。
「法と文学」においては、例えばシェークスピアの『ヴェニスの商人』が「契約」の本質を学ぶ格好のテキストであるとされます。当時のヴェニスは国際商業都市でした。商業を成り立たせるのは契約です。『ヴェニスの商人』には契約をめぐるリアルな話が出てきます。法律に対する専門的知識がなければ書けなかった物語だと思います。この物語を読むことによって、民事上の契約とはどういうものかがよくわかります。
それと同じ方法論がSFにも適用できると私は考えています。SF小説や映画には、「機械倫理」「ロボット倫理」「AI倫理」と呼ばれるものを考える際に参考になる物語がたくさんあります。その代表的なものが、1968年に公開された『2001年宇宙の旅』です。
『2001年宇宙の旅』では、木星探査船に「HAL9000」というコンピューターが搭載されています。HALは、「Heuristically Programmed Algorithmic Computer」の略で、日本語にすれば「経験則に基づいてプログラムされたアルゴリズム・コンピューター」です。人間のように対話ができて、ときに感情を持っているようにも見えるコンピューターがHAL9000で、これは現代のAIそのものであると言えます。
HALは、宇宙飛行中に制御不能となり、反乱を起こし、冷凍冬眠装置の電源を切って3人の乗員の命を奪ってしまいます。AIのようなコンピューターが自分の意志で行動するわけです。これは50年以上前につくられたフィクションですが、AIが自律的に行動するという事態がまさに現在の世界で起きています。
さらにさかのぼれば、イギリスの作家メアリー・シェリーが1818年に書いた『フランケンシュタイン』もしばしば言及される作品です。「人間のような存在を人間がつくってしまう」という行為から生じるリスクがこの作品には描かれています。
こういった作品で描かれる事件や悲劇が、AIをどう上手に活用するかを考える際の1つの指針となる。それが私の考えです。
──SFがテクノロジーについて考える参考になる一方で、「SF小説やSF映画で描かれている」というだけでは説得力がないという意見もありそうです。
- 平野
- おっしゃるとおりです。その視点について、私は以前論文に書いたことがあります。SFのナラティブを参照することの大きなメリットの1つは、わかりやすく、イメージを共有しやすいということです。ナラティブの活用は、「法と文学」の方法論が広まる前から、法律やマネジメントを教えるロー・スクールやビジネス・スクールではよく使われていました。過去の判例や事例をわかりやすく説明する際に、具体的な人や状況を設定した例え話を用いるのが典型的な手法です。例え話はまさしくナラティブです。ナラティブによって、人はより早くより深く物事を理解することができます。
それでも、「SFはフィクションに過ぎない」という反論はありえます。それに対して、私はこう応えます。
アメリカの「証拠法」という法律では、裁判に提出される証拠が、陪審員の偏見を助長したり、争点を混乱させたりすることがあってはならないとされています。しかし、証拠に証明力があり、公正な判決に資すると判断されれば、その証拠は採用されます。
SFにも同じことが言えます。物語があまりに荒唐無稽で、それを持ち出すことが思考を混乱させたり、誤った方向に議論を導いたりするのであれば、その物語を持ち出すべきではない。しかし、ものごとをより深く考えたり、活発な議論をしたりするベースになるのであれば、大いに活用すべきである──。それが私の考えです。
「AI活用＝効率化」という考え方が孕むリスク
──猪谷さんがAIガバナンスに関連して取り組んでいるテーマについても聞かせてください。
- 猪谷
- 大きく2つあります。1つが「ヒューマン・イン・ザ・ループ」をどう適切に機能させるかというテーマです。ヒューマン・イン・ザ・ループとは、ご存じのとおり、AIの学習や判断のプロセスに人間が関わり、適正な結果を導く監視をすることを意味します。
近年、企業の人材採用にAIを用いるケースが増えています。例えば、採用担当者が「AIを使って、1週間で1000件のエントリーシートをチェックして、合否を決める」という任務を与えられた場合、AIにエントリーシートをチェックさせて、その結果を人間が確認するというプロセスによって合否を決めていくことになります。
この場合、人間が確認をしているので、ヒューマン・イン・ザ・ループの形は成立していると言えます。しかし、仮想的なケースとしてAIが性差別をしていたことがわかったとき、担当者はどうすればいいでしょうか。その時点でAIの作業が終わっていたら、はじめからすべてのエントリーシートを人間がチェックし直さなければならなくなります。
そうして性差別の問題が解決したとして、さらにAIが本来評価すべき能力や経験を適切に評価できていなかったことがわかったとします。その場合も再び全件チェックが必要になります。
AIは、そのような誤りをする可能性があるテクノロジーです。採用判定の効率化を目指そうとして、実際は極めて非効率な作業が発生してしまった。そんなケースは大いにあり得るわけです。期せずして発生してしまった「非効率性」にどう対処すべきか。それが1つの視点です。
さらに、AIの誤りを是正したけれど、実はAIは誤っていなかったというケースもありえます。その場合は、現場の担当者の判断ミスということになりますが、その責任を担当者に負わせるのが果たして正しいことなのかどうか。それがもう1つの視点です。
──ヒューマン・イン・ザ・ループを実行しながら効率化を目指すことにはリスクがあるということでしょうか。
- 猪谷
- AIの本質を見極めた上で、ヒューマン・イン・ザ・ループを実行して効率化を目指すことが必要であるということです。たんに、プロセスに人間が介入すればよいということではありません。また、問題が起こった場合、介入した人が責任を負う仕組みを再考する必要があるということでもあります。
- 平野
- 問題は、「AIを使えば1週間で作業を終えることができる」、つまり「AIは効率化を必ず実現できる」という考え方にあると思います。AIは間違えることがあるから、結果検証が必要になる。検証には時間がかかる。それによって、目指していた効率化が実現しないこともある。そう考える必要があります。
効率化だけを優先する考え方が危険なのは、先ほどの猪谷さんの例で言えば、1週間という期限を守ろうとするあまり、差別に基づいた合否を最終決定としてしまう可能性があるからです。「AI活用＝効率化」という考え方を、まずは見直す必要があると思います。
ACAIがもたらす「欲求不全」
- 猪谷
- もう1つ、僕が今取り組んでいるのは「ACAI(Anticipatory Companion AI)」のガバナンスについての研究です。ACAIは日本では「先回り型コンパニオンAI」と訳されます。ユーザーの日々の生活データをもとに、指示をしなくてもAIが先んじて自律的にユーザーが望むことをしてくれるAIがACAIです。
これまでのAIガバナンスの発想は、PL（製造物責任）法の枠組みに則っていたと考えられます。想定外の「事故」を起こすことがないよう、AIというテクノロジーを開発の時点で安全・安心なものにして、リスクをなくしていくことが必要という発想です。責任は開発側にあるわけです。
それに対して、ACAIによって生じる害の多くは「事故」ではありません。考えられるリスクの中で最も大きいものは「欲求不全」です。自分が何を望んでいるかという主体的判断をしなくても、AIがそれを肩代わりしてくれることになるからです。それによって、人は自分の欲求を見出したり、コントロールできなくなる可能性があります。これはとても危険なことです。このリスクは、製造物責任の考え方でなくすことはできません。製造物そのものに人間の欲求を不全にさせる可能性がある機能が組み込まれているからです。では、どうすればいいか。
僕が有効な方法の1つと考えているのは、製造物責任の枠組みとは別に、公衆衛生の枠組みのガバナンスを採用することです。公衆衛生の枠組みでは、開発側以外の存在、例えばユーザーや社会、政府によるアクションも重視されます。そのアプローチの一例が「脱常態化」と呼ばれる手法です。社会や人々の生活のリスクとなる要因を、直接的に規制するのではなく、自発的に抑制する雰囲気を醸成するのが「脱常態化」です。「常態」つまり「当たり前」と思われていたことを当たり前ではなくしていく手法と言ってもいいと思います。
今後、AIを日常生活で使うことは「当たり前」になっていくと考えられます。AIを使うことによって、生活はより便利に、より豊かになることは間違いありません。一方、AIに依存しすぎてしまっては、人間の主体的判断力が低下していく可能性もあります。AIを活用しながら、AIに依存することを「当たり前」のこととせず、いかに抑制的に、「人間中心」という価値観を大切にしてAIを使っていくことができるか──。それもまた、AIガバナンスに求められる重要な視点であると思います。
AIを「人間を幸福にするツール」にするために
──AI活用を推進している皆さんに向けたメッセージを最後にいただけますか。
- 平野
- 私はAI法制定の過程に関わりましたが、法制定の作業が始まった頃に、当時の岸田首相がおっしゃっていたのは、「イノベーション促進とリスク対応を両立できる法律をつくってほしい」ということでした。AIの議論はどうしてもイノベーションの側面に注目が集まりがちですが、これまで話してきたように、リスクも当然あります。だからこそ、AIガバナンスが必要になるわけです。
繰り返しになりますが、AI活用に効率性だけを求めないこと。それがAIガバナンスの重要な視点の1つです。とくに、企業でAI活用を実際に進める現場の皆さんには、効率化のプレッシャーがのしかかることが多いと思います。「効率性だけでAIの効用を判断することにはリスクがある」という声を、現場からマネジメントクラスや経営層にぜひ届けていただきたい。そう思います。
- 猪谷
- 「AIは万能のツールである」と考えて、思考停止に陥らないようにしたいと僕自身思っています。研究の中でAIと壁打ちをして思考を深めたり、AIの助言で新たな発見をしたりすることを僕も日々繰り返しています。しかし、AIが誤った情報を出してくることはあるし、計算を間違えることもよくあります。AIはまだまだ「夢の技術」ではない。だからこそ、AIガバナンスをしっかり整備して、AIを人間を幸福にするツールにしていく必要があるのだと思います。その視点を多くの人たちと共有していきたいですね。
※肩書は取材当時のものです
この記事はいかがでしたか？
-
平野 晋中央大学国際情報学部教授、博士（総合政策）（中央大学）1984年中央大学法学部法律学科卒。同年に富士重工業（現 SUBARU）に入社し、90年コーネル大学大学院にて法学修士を取得。同年、米ニューヨーク州弁護士資格試験に合格。95年からNTTグループの法務に携わり、2000年からNTTドコモの法務室長を務める。04年から中央大学総合政策学部教授になり、その後、国際情報学部の創設を主導して19年に同学部の初代学部長に就任。
-
博報堂ＤＹホールディングス
マーケティング・テクノロジー・センター 上席研究員2003年東京大学大学院新領域創成科学研究科修士課程修了、2025年中央大学国際情報研究科修士課程修了。修士（科学、国際情報学）。株式会社博報堂を経て2011年より現職。主な研究テーマはデータ保護法、AIガバナンス、オンライン広告、数理・統計手法のマーケティング応用。CIPP/E, CIPM, CIPT, FIP。情報処理学会電子化知的財産・社会基盤（EIP）研究会幹事。
