AIエージェント時代の法整備と「人間力」の本質【後編】
博報堂ＤＹホールディングス 執行役員/CAIO 兼 Human-Centered AI Institute代表の森正弥が、業界をリードするトップ人材と語り合うシリーズ対談「Human-Centered AI Insights」。
日本のAIガバナンスの第一人者である京都大学大学院法学研究科 特任教授 羽深 宏樹先生を迎えた鼎談の後半では、AIエージェントの台頭で求められるアジャイル・ガバナンスの実践や、制度設計の解決策、AI時代を生き抜く「人間力」についてHCAIの次井 拓麻も交えて議論を交わしました。
ヒューマン・イン・ザ・ループから「オン・ザ・ループ」へ
- 森
- 自動車が日常の安全点検だけでなく、定期的な車検が義務付けられているように、AIの運用においても「人間によるリスク確認」と「技術的な制御」の両面が欠かせません。
この点について、羽深先生が提唱されている「人間の直接的な監視なしに、ハイリスクな活動を自律的に行うAI（UHAI：Unsupervised and High-risk Activities AI）」の概念について詳しくお聞かせください。
- 羽深
- 今後AIがエージェント化して、自律的にさまざまな行動を直接行うようになると、AIのアウトプットを人間が1件ずつ確認する「ヒューマン・イン・ザ・ループ」が成り立ちにくくなっていきます。
例えば自動運転の最先端モデルは、平均的な人間のドライバーよりはるかに安全だとされていますが、人間が常時モニタリングして緊急時に介入するのは不可能です。危険を察知した瞬間にコントロール権を渡されても、人間側が対応しきれないからです。
また、別の例としてレントゲンの画像読影があります。これも実は2018年頃から、すでにAIの方が人間の読影精度を上回っていました。さらに興味深いのは、「AI単体」「人間単体」「人間とAIのチーム」で比較したところ、最も成績が良かったのは「AI単体」だったという事実です。人間が介入してレビューを行うと、かえってシステム全体のパフォーマンスが低下してしまうのです。
そう考えると、性能の高いAIであれば、人間が毎回確認するよりAIへ任せた方が良い場面も確実に存在します。そのため、これからは「どこで人間を介在させるべきか」を戦略的に考えていく世界に変わってきているのだと感じています。
- 森
- 「ヒューマン・イン・ザ・ループ」ではなく「ヒューマン・オン・ザ・ループ」へとシフトしてきているということですね。
- 羽深
- まさにその通りで、「ヒューマン・オン・ザ・ループ」は人間が一つひとつレビューをするのではなく、システム全体としてどう安全性を担保するかが重要になってくるという話です。
その際にもいくつかやり方がありまして、例えば「レントゲンを見る」とか「建物の外壁のひびをチェックする」といった比較的シンプルなタスクでは、「使用するAIの性能が何パーセント以上の確率で結果を見つけられるか」という指標で基準を設定できます。
しかし自動運転のような領域では、無限のリスクシナリオが存在するために、単純な数値化が通用しません。仮に「100万キロあたりの事故件数」と定めても、それが平坦な高速道路なのか、都心の混雑した道路なのかで100万キロの持つ意味が全く異なるからです。
そのため、単に数値目標を追うのではなく、テストを行う「シミュレーション環境やテストのやり方」について合意する必要があります。しかし、想定すべきシナリオが無限にあるがゆえに、その合意形成は決して容易ではないというのが、今のルール作りの現場で実際に起きている課題です。
こうした観点から、今後はアルゴリズムそのものだけでなく、組織の体制も含めてチェックしていくことが重要になると思います。
まずは事業者自身が「どうすれば安全性を担保できるのか」を考え、そのうえで自ら性能や安全性を実証していく。そうしたアプローチが、今後、安全規制の分野ではより主流になっていくのではないでしょうか。
AIエージェントの社会実装で鍵を握る「リスクと責任の分散」
- 森
- つまり、あらかじめ原則とプロセスを定めたうえで、事業者がテスト結果をきちんと報告し、それを総合的に評価していく。そうした枠組みの中で、リスクの高い活動を自律的に進めていくのが大事になると理解しました。
そのほかに、何か補足的に意識すべきことはありますか。
- 羽深
- 事業者が主体となってリスク定義やシミュレーションを行う際、「AIのアルゴリズムだけに頼った安全性の保証」には限界があります。そのため、アルゴリズム自体の検証と同時に、組織体制も見ていくことが不可欠です。
運用後のモニタリング体制、有事における即時対応の仕組み、そして万が一の際の補償などを含めて、総合的にシステム全体の安全性を担保していくアプローチが求められています。
その結果、万一事故が起きた場合の責任の扱いも重要な論点となります。日本では、事故が起きれば必ず責任者がいて、その故意や過失を問う、あるいは会社に損害賠償を求めるという考え方が強いです。
しかし、AIが絡む複雑なシステムにおいては、最後に関わった人だけに負担を強いても根本的な解決にはならず、個人を責めてもシステム自体は改善されません。だからこそ、被害者への「民事的な補償」と「刑事罰・行政罰」は明確に切り離して考えるべきです。
まず民事責任については、事業者が事故の発生確率をあらかじめリスクとして見積もり、保険や価格設定を通じて事業コストに組み込んで補償に備えるべきです。
一方、刑事責任については、事故が起きたという結果だけで一律に処罰するような運用は、イノベーションへの挑戦を著しく阻害しかねません。事前に適切なガバナンスを尽くしていたのであれば、過度な刑事罰や一発退場のような処分は避けるべきだと考えています。
- 森
- なるほど。社会や法制度の面でも民事と刑事を分けて考える整理が進み、運用の仕組みも整うことで、人間が常時監視しなくても、AIがミッションクリティカルな業務やハイリスクな処理を担えるようになるということですね。
- 羽深
- 人間の監視が求められる理由は、主に「入口」と「出口」の2つに分けられると思います。
まず入口では、「AIはブラックボックスで信頼できないから、最後は人間が見て安全性や適切性を担保すべきだ」という考え方があります。出口では、「事故が起きたときに誰が責任を取るのか」という観点から人間の監視が求められるわけです。
ただ、どちらも必ずしも人間の常時監視が絶対条件というわけではありません。事前のチェックに関しては、AI同士で検証させた方が人間よりも高いパフォーマンスを発揮できる領域がすでに出てきています。
一方、事後の責任についても、たまたま監視役だった個人を、すべての責任を吸い上げさせる「責任スポンジ」のような存在にするべきではありません。民事と刑事を切り離し、最終的には社会全体でそのリスクや負担を適切に分散・共有する制度設計にすることで、はじめてAIの自律的な活用が促進されます。
言うまでもなく、悪質な過失や意図的な隠蔽に対しては、厳格な社会的・法的非難が向けられるべきです。
- 次井
- 将来的には、日本国内の法整備やガバナンスの考え方も、「リスクと責任の分散」という方向へ進んでいくのでしょうか？
- 羽深
- そうなればいいなと思っています。私が経産省にいた頃に発表した「アジャイル・ガバナンス」というコンセプトは、今や「AI事業者ガイドライン」やデジタル庁の「デジタル原則」といった、政府の主要なデジタル政策の基盤として定着しつつあります。
しかし、個別分野に目を向けると、旧来の縦割りの規制が、今なお根強く残っている場合があるのが実情で、ここをどう改善していくかが今後の大きな課題です。大きな方向性としては理想の形に向かって動いていますが、現場へ実際に定着するまでには、まだ少し時間がかかるのかもしれません。
- 森
- アジャイル・ガバナンスは概念としても広まっていますが、これからアジャイル・ガバナンスを実践しようとしている企業に対して、何かアドバイスはありますか。
- 羽深
- やはり、経営トップ層のコミットメントは非常に重要だと思います。アジャイル・ガバナンスを、単なるコンプライアンスの問題として捉えてしまうと、あたかも事前に「何が良くて何が悪いか」がすべて決まっているかのような前提で物事が進んでしまいます。
もちろん、法律を守ることは大前提ですし、コンプライアンスは徹底しなければなりません。しかし、AIのような新しい領域では、法律やルールがまだ十分に整備されていない部分も数多く存在します。日本のような自由民主国家では、原則として法律で明確に禁止されていない限り、活動の自由が認められていますが、何らかの問題が発生すれば、民事上の責任を問われる可能性もありますし、企業のレピュテーションに影響を及ぼすこともあります。
だからこそ、「リスクをどこまで受容していくのか」というのを、組織として主体的に判断していくことが重要です。
経営層に求められるのは、リスクをゼロにすることではなく、社会にもたらされる価値とリスクのバランスを見ながら、どこまで受け入れるかを経営として判断することだと思います。
- 森
- そういう意味では、AIエージェントによる予期しない挙動や事故のような事例も増えてきているので、どうしてもガードレールの議論が強くなっています。ただ一方で、「こういう範囲ではちょっと自由に実験してみよう」というサンドボックス的な考え方も、企業側はもっと積極的に取り入れるべきだと感じますね。
- 次井
- 日本企業の傾向として、何か1つでもリスクが見つかると、「一律で利用禁止」という判断に傾きがちなところがあります。しかし、社内でアジャイルなプロセスを回していけば、直面する課題を一つずつ解消しながら着実に前へ進むことができます。
結果として、「リスクを適切にコントロールしつつ、新しいことにも果敢に挑戦できる」という手応えを組織全体で共有しやすくなるはずです。形式的なルールを作る以上に、私たちが「どういう姿勢でリスクに向き合うか」というマインドセットのアップデートこそが、何よりも大切なのではないでしょうか。
AIには模倣できない「人間力」の本質とは
- 森
- AIと人の関係性という話でいくと、広義に捉えれば「社会は人の集合体」です。つまり、私たちの社会そのものが「人と人の間」という人間関係の積み重ねによって形成されています。これまでAIと社会の関わりについて多角的な視点からお話を伺ってきましたが、ここで少し「個人としての人間のあり方」に焦点を当ててみたいと思います。
AIのエージェント化が進むこれからの時代、あらためて「人間力」が問われていると感じていますが、その本質とは何だとお考えでしょうか。
- 羽深
- 「人間力」を考察する際に、自分で身につけたい人間力と普遍的な概念としての人間力は、少し性質が異なるように思えます。むしろ、一般的な意味における人間力とは、「あえて言葉で定義しないこと」にこそ本質があるのではないでしょうか。
結局のところ、“人間力は何か”ということを解き明かせるほど、人間は自分自身のことを十分に理解できているわけではありません。
食べ物が体内でどう消化されるのか、感情がどこから湧き上がってくるのか。
私たちは自分の体のことさえも、実はほとんど理解していないのです。それにもかかわらず、生命として人間が優れているのは、40億年にわたる過酷な生存競争を勝ち抜いてきたからです。
ものすごく厳しい自然の中で、40億年生きてきたアルゴリズムの中に、本来備わっているはずの「協調性」や「共感力」、何かを作り上げる力、人の痛みを理解する力といったものが、生存競争の結果として“本能”に組み込まれているはずなんです。
だからこそ、そうした人間の力を信じて、感性に身を委ねながら、自分のやりたいことをやっていく。
それが一つの「人間力」の形であり、人間らしい生き方なのだと思います。
- 森
- 自分自身のことですら、まだ分からないことがたくさんある。
それでも、「自分の感性や本能を信じながら生きていくこと」が人間力につながるというのは、とても素晴らしい視点をいただきました。
- 次井
- 私が思うに、AI社会を生き抜くために大切なのは、人間力に加えて「想像力」を持つことです。私たちはAIの開発に携わっていますが、一貫して人間中心のアプローチを重視しています。
AIを使う側として、ただ任せるのではなく、その裏側で何が起きているのか。どんな可能性やリスクがあるのかを想像し続けることが重要だと感じています。
- 森
- なるほど。確かに想像力も非常に重要だと思います。ただ任せるのでなく、何が起きているかを想像しようとする主体性の話でもあるかと感じました。
羽深先生のお話は、いうなれば「生命力」が人間力へと繋がっていくことを示唆するものでした。生命の本質は、誰かにコントロールされるのではなく、「自分自身として存在すること」にあります。
それこそが機械との違いであり、人間力の根源は生命力そのものなのです。だからこそ、人間力は「自分が自分であること」を受け入れ、肯定できるかどうかにかかっています。
そのうえで、自分の意思で主体的に動き、やりたいことを実現していくことで、結果的に人間力として育っていくのかもしれませんね。
- 羽深
- 本当にその通りですね。人間が最終的に「幸せだ」と感じられるかどうかは、「自分の人生を主体的にコントロールできているか」という部分に大きく左右されるようです。もちろん、それが自分一人だけで完結する閉じた世界であれば、何の面白みもないでしょう。
大切なのは、外部の世界と積極的に関わり合い、自分の中に社会や他者への理解を築いていくことです。他者との関係性も含めて、自分の人生を自分でコントロールできていると感じるのは極めて重要です。
それは、自分にとって都合の良い世界だけに閉じこもることではありません。
新しい気づきや視点をくれる外部の環境と関わり、影響を受けながらも、自分自身のあり方を都度チューニングしていく。それも含めて、「人生の主導権を握る」ということなのだと思います。
※肩書は取材当時のものです
この記事はいかがでしたか？
-
羽深 宏樹京都大学大学院法学研究科 特任教授、東京大学大学院法学政治学研究科 客員教授、スマートガバナンス株式会社代表取締役CEOAIによって急激に変化する社会のガバナンスやリスクマネジメント、ルール形成等を専門とする。東京大学法学部・法科大学院、スタンフォード大学ロースクール卒（フルブライト奨学生）。WTO（世界貿易機関）、森・濱田松本法律事務所、金融庁、McDermott Will & Emery法律事務所（パリ）、経済産業省を経て現職。2020年、世界経済フォーラムによって「公共部門を変革する世界で最も影響力のある50人」に選出された。主著に『AIガバナンス入門 — リスクマネジメントから社会設計まで』（ハヤカワ新書）。内閣府 上席科学技術政策フェロー、一般社団法人AIガバナンス協会代表理事、世界経済フォーラムGlobal Future Councilメンバー等も務める。日本・ニューヨーク州弁護士。
-
株式会社博報堂ＤＹホールディングス執行役員Chief AI Officer／
Human-Centered AI Institute代表／人間中心のAIコンソーシアム共同代表1998年、慶應義塾大学経済学部卒業。外資系コンサルティング会社、インターネット企業を経て、グローバルプロフェッショナルファームにてAIおよび先端技術を活用した企業支援、産業支援に従事。
内閣府AI戦略専門調査会委員、日本ディープラーニング協会顧問、慶應義塾大学 xDignity （クロスディグニティ）センター アドバイザリーボードメンバー。
著訳書に『ウェブ大変化パワーシフトの始まり』（近代セールス社）、『グローバルAI活用企業動向調査 第5版』（共訳、デロイトトーマツ社）、『信頼できるAIへのアプローチ』（監訳、共立出版）など多数。
-
博報堂ＤＹホールディングス
Human Centered AI プロデュースグループ
ビジネスプロデューサー2012年メディアリサーチ会社に入社後、メディアデータのリサーチャー・営業企画として広告効果測定調査やDMP構築支援に従事。2021年より動画配信事業者へ出向し、視聴データの利活用推進、アライアンス業務に携わり、プライバシー保護対応を担当。2024年博報堂ＤＹホールディングス入社、データプライバシー戦略企画を経て現職。現在は博報堂ＤＹグループ全体の生成AIガイドライン策定・運用、AI相談窓口
