AIエージェント時代の法整備と「人間力」の本質【前編】
博報堂ＤＹホールディングス 執行役員/CAIO 兼 Human-Centered AI Institute代表の森正弥が、業界をリードするトップ人材と語り合うシリーズ対談「Human-Centered AI Insights」。
今回は、日本のAIガバナンスの第一人者である京都大学大学院法学研究科 特任教授 羽深宏樹先生を迎え、AIの社会実装が進む中でのリスクや障壁についてHCAIの次井拓麻も交えて議論しました。
企業に忍び寄る「いつの間にかAI」3つのルート
- 森
- 羽深さん、まずは自己紹介をお願いします。
- 羽深
- 私は産・官・学の3つの立場から、「AIのポテンシャルを最大化しつつ、どうリスクと向き合うべきか」をテーマに活動しています。産業界ではスマートガバナンスというコンサルティング会社を経営し、企業のAIガバナンス構築を支援するほか、「AIガバナンス協会」の代表理事として、民間企業が取り組むAIガバナンスの知見共有を推進しています。
また、官の立場では内閣府上席科学技術政策フェローとしてAI政策やルール作りを支援し、学術分野では京都大学特任教授と東京大学客員教授を兼任して「AIと法律」を研究しています。
進化の速いAIに対し、制定に2～3年を要する従来の法整備ではスピードが追いつきません。そのため、既存の枠組みに当てはめるのではなく、「これからの法律をどう新しく作っていくか」を重視しています。民主主義を守りつつ、目まぐるしく変化する新時代にふさわしいルールや法律の“作り方”そのものの模索を続けています。
- 森
- ありがとうございます。続いて次井さんもお願いします。
- 次井
- 私はHCAIにて、博報堂ＤＹグループ会社を横断したAIガバナンスプロジェクトのリーダーを務めています。具体的には、グループ全体の生成AI利用ガイドラインの策定や更新を担当するほか、各事業会社の生成AI関連の担当者と連携し、博報堂ＤＹグループ内でのスムーズな相談や調整を図る相談窓口の運用も担っています。
- 森
- 企業のAI導入が進むにつれ、企業が正式に承認していないAIツールを従業員が業務で使用してしまう「シャドーAI」や、サプライチェーン・外部パートナーを通じた「意図しないAI活用」が課題となっています。
こうしたなか、AIガバナンス協会のレポートでは、「いつの間にかAI」について言及されていますが、羽深先生はこの現状をどのように捉えていますか？
- 羽深
- 「いつの間にかAI」とは、日々の業務の中で意図的にAIサービスを使っているつもりがなくても、気づかないうちにAIが導入されている現象を指しています。
本レポートの作成にあたり、AIガバナンス協会の会員企業を対象とした「AIリスク実態調査」を実施しました。その結果、自社で契約しているAIについては管理できているものの、組織内外から意図せず流入するAIに関しては、主に3つの「把握しきれていないルート」が存在することが明らかになったのです。
1つ目は既存のメールやブラウザなど、今まで使っていたシステムがアップデートされ、気づかないうちにAIが組み込まれている「アップデートAI」のケースです。
2つ目は、自社ではなく委託先の業務でAIが使われている「業務委託先AI」のケースです。例えば、資料作成を外部企業に依頼したところ、「AIが使われているのでは」と感じる場合があります。AIの利用自体は問題ではありませんが、不適切な使われ方による著作権やライセンス上のリスクが懸念されるわけです。
そして3つ目は、従業員が個人のアカウントでAIツールを使い、会社の業務を行ってしまう「シャドーAI」です。会社が承認していないツールが使われることで、機密情報の漏洩を招く恐れがあります。
この3つのパターンについて、会員企業に「どれが最も把握できているか」を尋ねたところ、意外にもシャドーAIについては把握できていると答えた企業が約6割にのぼりました。ただし、実際にどこまで把握できているかはブラックボックスであり、回答はあくまで企業側の認識に過ぎません。
シャドーAIを完全になくすことは難しくても、少しでも減らすためには単に利用制限のルール化だけでは不十分です。禁止するだけでなく、従業員が求める高性能かつ利便性の高いAI環境を、いかに早く整備できるかも合わせて重要になってくるのです。
- 森
- 共有いただいた3つのケースは、まさに「いつの間にかAI」の代表例ですね。特に「業務委託先AI」の問題は根深く、従来のクラウドサーバーへデータをアップロードするリスクとはまた違う、新たな情報漏洩の危機を感じます。
実質的にAIにデータが学習され、「どれほどの情報が外部へ流出してしまうのか」という問題もさることながら、「AIのリスクに対する認識」を業務委託先とどこまで共有できるかという、マネジメント面での難しさもあります。
AIリスクの大きさに応じた適切な“切り分け”が大切
- 次井
- 羽深先生が仰っていた「いつの間にかAI」の3つのケースは、多くの企業と同様、私たちグループも直面している課題です。
現在、「バイブコーディング」と呼ばれる開発を支えるAIツールは日々新しいものが登場しており、事業会社の中でも活用が広がっています。これらは従来、エンジニアが生産性向上のために活用するものでしたが、最近は営業をはじめとする非IT部門の従業員も使い始めています。
その背景には、AI活用を推進している先進的なクライアント企業の要望に応えるため、急いで自らも使用するケースも挙げられます。
ガバナンスの観点から「営業部門は利用禁止」と一律で制限することは容易ですが、その一方でクライアント企業からの要望や、現場の「ツールを使いこなしたい」という本音もあるので、判断が難しいです。
こうした背景を汲み取りながら、研修の設計や承認制の導入可否など、具体的なレギュレーションへどう落とし込んでいくかという点が、今まさに悩んでいるところです。
- 森
- AI導入が進んでいるクライアント企業だと、DX推進部やAI推進部といった専門チームがすでに存在していて、「うちはAIエージェント用にMCPサーバー※を立てているので、このMCPサーバーにアクセスしてください」というような要望が来ることもあります。
営業として対応を急いで自ら動いてしまいたいという状況や心情は理解できます。
※MCPサーバー：Model Context Protocolサーバー。AIが外部のシステムやデータにアクセスできるよう橋渡しをするプログラム。
- 羽深
- お二人からいただいた課題に対しては、一律に対応するのではなく、「リスクの大きさに応じて切り分けていくしかない」と考えています。
完全に閉じた環境であれば、サンドボックス内でAIを安全に試す方法を検討してもよいですが、信頼性が不明な外部のサーバーからデータが流入する場合には、マルウェア感染のリスクが生じます。そのため、環境ごとに適切な対応を取ることが重要です。また、データの種類やエージェント権限など多様な要素を考慮したリスクベースの対応も必要ですが、現実的な線引きは難しく、実務的なスタンダードも確立されていません。
一方、広く認知されている大手の生成AIツールであれば不正な指令が含まれる可能性は低いでしょう。しかし、馴染みのないサービスや安価なオープンモデルを導入する場合、内部に不正な指令が隠されているかの判断が難しくなります。
だからこそ、一律に禁止するのではなく、社内でリスクを適切に評価できる体制を整えておくことが極めて重要です。
- 森
- リスクの評価体制を構築するにあたり、例えば技術的な部門だけではなく、組織を設計するうえでの留意点や人材面での課題など、他に考慮すべき点はありますか。
- 羽深
- 企業や業界によって状況は異なりますが、現場のAI活用をすべて監視するのは現実的ではありません。そこで、利用環境に応じたリスクカテゴリーを定め、安全性が高いものは現場判断で進められる運用が望ましいです。
一方、新規ツールやハイリスクな用途については、組織内でエスカレーションを行い、横断的なAIガバナンスチームがリスクシナリオを検討し、対応策を助言する体制が求められます。
「リスクの許容範囲」は、経営判断や会社方針と整合性をとることが非常に重要です。そのため、技術部門に任せるのではなく、経営層もリスクを理解したうえで、組織全体の判断基準や運用の流れを決めることが大切です。
企業のAIガバナンスで求められる組織設計の最適解
- 森
- 博報堂ＤＹグループ全社で推進する横断型プロジェクト「HCAI Initiative」の中には、「AIインフラガバナンス」という分科会があります。この取り組みの具体的な活動内容について、次井さんからご紹介いただけますでしょうか？
- 次井
- AIインフラガバナンス分科会では、AIに関する相談が寄せられた際に、情報システム、法務、総務、広報、AI専門部門などが連携し、横断的に議論する体制を整えています。
他の企業の方から話を伺うと、多くの企業では「この判断は誰が担うのか」「どの部門が判断すべきか」「必要であれば新しい部門を作るべきではないか」といった、組織設計そのものに関する課題があがっているという話を聞きます。それに対して、博報堂ＤＹグループでは、AIインフラガバナンス分科会が中心となって、リスクが発生するたびに、適切な判断や検討ができる仕組みが経営層と連携して機能しています。この点は、私たちの強みだと言えます。
しかし、常に変化する状況に合わせ、その仕組みを継続的に運用し続けていくことが大事だと考えています。
- 森
- 本当に現場では次々と新しいリスクや懸念事項が発生していて、そのスピードに追いつくのは簡単ではありません。まさに、AIの急速な進化スピードに対して法律の整備が追いつかなくなる「ペーシング・プロブレム」が、企業においても起きていると実感しています。
例えば、私たちのビジネスは東南アジアや欧米を中心にグローバル展開しているため、海外のAIに関する相談も増えており、案件によっては、クライアントから海外製のAIの使用を指定されることもあります。その場合に、どうリスクコントロールしていくかをグループとして迅速に関係各位と連携・判断しながら対応しています。
- 羽深
- 仰っていただいた課題感は、これまでもコンプライアンスやレピュテーション、財務など、さまざまなリスクごとに専門部署が対応してきました。AIが台頭した今でも基本的な考え方は同じで、それぞれのリスクは引き続き、対応する所管部門が責任を持って対応することになります。
しかし、AI特有のブラックボックス性や説明不可能性、サプライチェーンの複雑さは、AI専門のチームが既存のリスク部門と連携して対応する形が理想です。
一方、中国はオープンウェイト戦略を取っており、価格面の魅力から、日本だけでなく米国でも中国系モデルを採用しているスタートアップが広がってきています。純粋な性能や安全性だけで見れば中国製モデルを選ぶ判断もあり得ますが、文化的なバイアスや認知への影響は、自社環境内での利用であっても常に意識すべきです。
そうは言っても、「中国製モデルは一律禁止」とするのも行き過ぎだと思うので、用途やモデルのバイアスの程度、追加で設けられるガードレールの内容などを総合的に検討し、導入判断を進めることが大切ではないでしょうか。
- 森
- 加えて、コスト面の課題も無視できません。ツール利用料の値上げリスクを考慮すれば、企業としてはコストパフォーマンスの良い選択肢を確保しておく必要がありますが、それが地政学的リスクと向き合うことにもつながります。
これは従来のITガバナンスとは異なる新たな視点だと思います。
- 羽深
- 多くのフロンティアモデル開発企業は巨額の赤字を抱えており、コンシューマー向けでの価格転嫁も難しいため、実態としては企業向けサービスの利用料値上げで回収を図る状況になっています。
オープンウェイトモデルは半年から1年遅れで性能が追いついており、現状は中国系モデルが中心ですが、今後は米国などからもより安価で高性能なモデルが登場することが予想されます。
こうしたなか、日本もAI開発支援に1兆円を投じるとされていますが、世界のトップランナーと比べると十分とは言えません。そのため、政府補助金だけに頼らず、経済全体でAI開発へのインセンティブを生む持続可能なエコシステムの創出が鍵を握るでしょう。
社会全体の仕組みづくりも含め、本格的な検討が必要だと感じています。
AI活用では完璧を求め過ぎないこと。運用しながら改善していく発想が大事になる
- 森
- 将来的な展開を踏まえると、経営層やガバナンス担当者の目線から見て、どのような新しいリスクやテーマが議論に上がってきそうでしょうか。
- 羽深
- 私が2023年に著書『AIガバナンス入門』で示した、安全性やセキュリティといった「AI原則の重要性」は今も変わっていません。しかし近年は、取引や決済まで自律的に行うAIエージェントが台頭し、人間が確認する前にAIが直接実行するためにリスクが急拡大しています。
加えて、専門知識がなくても、誰もが容易にハッカーやテロリストになれる「攻撃者としてのAI」への対応も求められています。そして、ディープフェイクによる世論操作や個人の尊厳侵害といった「認知攻撃」、さらには生物・化学・核兵器に関する情報生成リスクなど、AIは社会を揺るがす“武器”にもなり得るため、その両面を見据えたガバナンスが必要です。
加えて最先端のAI開発は、一部の国に集中しており、多くの国が海外の基盤技術に依存せざるを得ないのが現状です。そうした状況から、「自国としてどう自律性や競争力を維持するか」が問われています。
AIはもはや単なる技術ではなく、社会全体のガバナンスそのものに関わる大きな論点となっていると言えるでしょう。
- 森
- 企業には「AI時代をどう生き残るか」というミクロな視点が求められる一方、その判断は雇用や経済、環境といった社会全体に影響を及ぼします。そのため、仮にすべての企業が一斉にAIで業務を置き換えれば雇用は失われ、経済全体が縮む可能性もあり得るわけです。
企業の意思決定が社会と密接に結びついているからこそ、経営者には「自社の利益」と「社会への責任」を両立させる判断が求められます。羽深先生とは、「人間中心のAIコンソーシアム」の活動でご一緒させていただいておりますが、必要であれば、業界や社会に働きかけながら、より持続可能な形を模索していくことも大事なのではないかと考えています。
- 羽深
- おっしゃる通りで、そのバランスをどう取っていくかは非常に重要ですし、日本国内のことだけ考えていればいいわけではないという点も難しいところです。
仮に日本国内で雇用を守りながら、「緩やかな成長」という選択肢を取ったとしても、その間に海外では、自己改善を繰り返すAIが爆発的な勢いですべてをディスラプトしていく可能性もあります。こうしたグローバル競争との整合性をどのように取っていくかが、最大の障壁だと感じています。
- 次井
- 私としても、社内でPDCAサイクルを回しながらAI活用をさらに加速させていきたいと考えています。ただ、ガバナンスにおいて「どこまで守り、どこまで攻めるか」という綱引きに直面した際、潜在的なリスクへの懸念から、どうしても判断が過度に慎重な方向へ傾きがちになることには留意しています。
そのため、AIを使って成長していくためには、リスクを最低限に抑えながら、できるだけ前に進めるための仕組みや意思決定のあり方を考えることが肝要だと思っています。例えば、リスクの大きさに応じて判断の階層を分けることや、AIを活用した業務範囲をあらかじめ明確にしておくことが一つの工夫です。
また、すべてを一律に慎重に扱うのではなく、「どの領域は挑戦を優先するか」を組織として決めておくことも大切です。そうすることで、ブレーキをかけすぎずに、必要な安全性を保ちながらAI活用を広げていけると思います。
- 羽深
- AIの扱いは、人間がどこまでAIのアウトプットをレビューするかで大きく変わります。最終的に人間が確認して、「品質」も「責任」も担保するのであれば、従来のガバナンス体制のままAIをツールとして活用できます。
その一方で、チャットボットのように1件ずつ人間が確認するのは自動化の意味が薄れてしまい、人間のモニタリングが限定的になるため、十分な事前テストが前提となります。
従来のシステムとAIが違うのは、100万回テストしても100万1回目には予想外の挙動をするかもしれないという点です。そのため、「どこまでテストしたらリリースしてよいか」といった基準を事前に誰かが決めておく必要があるのです。
そうしないと、「もしAIがミスをしたら、責任は誰が取るのか」という話で止まってしまい、一向に話が進まなくなってしまうでしょう。
かつて人間がオペレーションを担っていた時代と同様に、事前にすべてを止めるのではなく、一定の基準のもとでリリースし、運用しながら改善していく。そうした発想の転換が、AIの活用を進めるうえで大切だと言えるのではないでしょうか。
- 次井
- クライアントワークの現場でも、自律型AIエージェントの提供はこの数年でかなり増えてきている印象です。だからこそ、あらかじめ得意先と「どのようなリスクが起こり得るか」「万が一の際はどう対処するか」を明確に合意すること自体をルールとして整備しておくことが極めて重要です。
私たち自身も、「100万1回目には想定外の事象が起こるかもしれない」という前提に立ち、リスクを織り込んだ上で業務を推進しなければなりません。つまり、最初から完璧を求めるのではなく、走りながら柔軟に改善し続ける姿勢こそが不可欠だと考えています。
※肩書は取材当時のものです
この記事はいかがでしたか？
-
羽深 宏樹京都大学大学院法学研究科 特任教授、東京大学大学院法学政治学研究科 客員教授、スマートガバナンス株式会社代表取締役CEOAIによって急激に変化する社会のガバナンスやリスクマネジメント、ルール形成等を専門とする。東京大学法学部・法科大学院、スタンフォード大学ロースクール卒（フルブライト奨学生）。WTO（世界貿易機関）、森・濱田松本法律事務所、金融庁、McDermott Will & Emery法律事務所（パリ）、経済産業省を経て現職。2020年、世界経済フォーラムによって「公共部門を変革する世界で最も影響力のある50人」に選出された。主著に『AIガバナンス入門 — リスクマネジメントから社会設計まで』（ハヤカワ新書）。内閣府 上席科学技術政策フェロー、一般社団法人AIガバナンス協会代表理事、世界経済フォーラムGlobal Future Councilメンバー等も務める。日本・ニューヨーク州弁護士。
-
株式会社博報堂ＤＹホールディングス執行役員Chief AI Officer／
Human-Centered AI Institute代表／人間中心のAIコンソーシアム共同代表1998年、慶應義塾大学経済学部卒業。外資系コンサルティング会社、インターネット企業を経て、グローバルプロフェッショナルファームにてAIおよび先端技術を活用した企業支援、産業支援に従事。
内閣府AI戦略専門調査会委員、日本ディープラーニング協会顧問、慶應義塾大学 xDignity （クロスディグニティ）センター アドバイザリーボードメンバー。
著訳書に『ウェブ大変化パワーシフトの始まり』（近代セールス社）、『グローバルAI活用企業動向調査 第5版』（共訳、デロイトトーマツ社）、『信頼できるAIへのアプローチ』（監訳、共立出版）など多数。
-
博報堂ＤＹホールディングス
Human Centered AI プロデュースグループ
ビジネスプロデューサー2012年メディアリサーチ会社に入社後、メディアデータのリサーチャー・営業企画として広告効果測定調査やDMP構築支援に従事。2021年より動画配信事業者へ出向し、視聴データの利活用推進、アライアンス業務に携わり、プライバシー保護対応を担当。2024年博報堂ＤＹホールディングス入社、データプライバシー戦略企画を経て現職。現在は博報堂ＤＹグループ全体の生成AIガイドライン策定・運用、AI相談窓口
