データ保護法と生成系AIが生み出す企業のチャンスと課題【セミナーレポート（後編）】
近年、ChatGPTなどの生成系AIが目覚ましい進歩を遂げる一方で、それに伴うプライバシーの問題が少しずつ浮き彫りになっています。
今回は、各国に配置されているデータ保護監督当局の中でも大きな存在感を持つドイツ・バイエルン州データ保護監督局の局長 Michael Will氏をお招きし、ベーカー＆マッケンジー法律事務所（外国法共同事業）（以下、「ベーカーマッケンジー」）の弁護士の方々とともにセミナーを開催しました。
本稿では、セミナーレポート後編として、マーケティング業界・法律業界・データ保護監督局がAIをどう捉えているか、またAIが企業にもたらすチャンスと課題について、パネルディスカッションの様子をご紹介します。
※前編では、GDPRをはじめたとした世界のプライバシー保護の最新動向を切り口に、法律業界・データ保護監督局がAIをどう捉えているかについて解説しています。
ベーカーマッケンジー
世界70超の都市に及ぶネットワークを持つ国際総合法律事務所。国・地域性への深い洞察及び各法分野と産業における専門性に立脚し、一元化したソリューションを提供しています。多様な市場、産業及び法分野を網羅することで、高度化するビジネスの課題に向き合い、クライアントとともに最適解を導き出しています。
www.bakermckenzie.co.jp
＜登壇者＞
Michael Will 氏
バイエルン州データ保護監督局
局長
安藤 元博
株式会社博報堂ＤＹホールディングス
取締役常務執行役員CTO
Prof. Dr. Michael Schmidl 氏
ベーカーマッケンジー ミュンヘンオフィス
パートナー、ドイツ情報テクノロジーグループ共同代表
高瀬 健作 氏
ベーカー＆マッケンジー法律事務所（外国法共同事業）
パートナー、IPテック代表
達野 大輔 氏
ベーカー＆マッケンジー法律事務所（外国法共同事業）
パートナー、IPテック
前編はこちら
【第三部】パネルディスカッション データ保護法とAIが生み出す企業のチャンスと課題
「信頼できるAI」による新しい広告マーケティング手法の可能性
- 安藤
- 昨今のAI活用を踏まえ、博報堂ＤＹグループにおける広告やプロモーション、そして生活者へのコミュニケーションにどのような変化が予想されるかお話しさせていただきます。
先日行われたG7では、AIに関わる議論が交わされる中で「信頼できるAI」というキーワードが出てきましたが、このキーワードは広告マーケティングを考える上で非常に重要なテーマになると考えています。
そのテーマにもつながる傾向の一つとして挙げられるのが、博報堂ＤＹグループが実施している生活者調査の結果です。デジタル化によるサービスや商品に関する情報量の増加に伴い、生活者の「失敗したくない」「より良いものを選びたい」という思いが強くなっているということがわかりました。
AIは、最適な選択を提言するという可能性を秘めている一方で、技術の練度を考えると、まだまだ信頼という面では十分ではない状況です。また、AIの技術がさらに進化し信頼度が向上したとしても、「自分が納得して選択した」という実感が生活者にとって重要であることに変わりはないでしょう。そのため生成系AIを活用した新たな広告手法には、単にコミュニケーションやレコメンドをするだけではなく、出典を明記したり、複数の選択肢を提示したりといった機能も必要になるのではないかと思います。
広告マーケティングにおいて、中には「検索広告という市場が生成系AIに代替されるのではないか」という見解もあります。しかし私は、単なる代替ではなく、生成系AIによる新しい広告マーケティングの手段が確立することで、従来の検索を軸にした手法との掛け合わせや双方的な成長が可能になると考えています。
とはいえ、生成系AIの活用は今後法規制によって大きな影響を受けることになるでしょう。厳格なAI規制を検討しているEUの状況を伺い、日本が受ける影響を考えていきたいと思います。
AIを扱う企業やユーザーに発生しうるリスクと法的責任
- 安藤
- AIを利用する企業やユーザーにかかわる法的責任について、二つ質問をさせてください。
一つ目は、AIシステムのモデルに問題がある場合の法的責任についてです。例えば、モデルの開発企業が開発時点で個人情報や機密情報を含んでいる場合、そのモデルから生成されたテキストや画像にどのような問題が発生するのでしょうか。
二つ目が、AIシステムを利用する企業が、追加で個人情報を入力した場合についてです。どういった法的責任があるのでしょうか。
- Michael Schmidl
- 前提として、AI規則案については今もなお交渉中であり、GDPRがもたらす影響はさまざま考えられるため、この場では今考えられる範囲での回答とさせていただきます。
またAIシステムの種類によって対応が異なるため、今回は最も留意すべき高リスクのAIシステムを例にお答えします。まずは、AIの開発時に使ったデータが違法なソースから取得された場合や、データ収集の目的を知らせずに取得された場合、事前に通知する義務や法的根拠に基づくという要件を満たしていないため、当然GDPR違反となります。欧州の法律では、健康・人種に関するデータや生体認証情報は、特定の状況でセンシティブ情報になりうるため、こうしたデータが用いられた場合は大きな問題になるでしょう。
なお、AI規則違反には罰金が課されることになると考えられます。高リスクのAIシステムにおける個人情報の利用は、プライバシーの侵害として損害賠償請求が起こされ、システムの利用停止などが通告されることもあるはずです。また、違反があれば労働評議会が訴える可能性もあります。違法なデータを使って開発されたAIを利用するとさまざまな事態が起こるため、リスクを避けるべきとしか言えません。
- Michael Will
- 私からは、規制当局の観点でお話しさせていただきます。
私たちは今後、GDPRとAI規則案の2つにおいて法令遵守が求められることになります。企業にとっては、法令遵守に向けた体制を構築する必要もあるでしょう。AI規則案の要件を満たしているか、透明性の義務は果たしているか、何か適応すべきことはあるか。考えるべきこと、取り組むべきことは多くあると思います。
しかし、個人的にAI導入において最も重要だと考えているのは、「個人は自動化された意思決定に服さない権利を持つ」というGDPRの第22条を守ることです。そういう意味では、業務にAIを取り入れるのは急がない方がいいと思います。法規制が不確かな間は特に慎重に進め、法令違反や罰金のリスクは避けた方がいいでしょう。
- 達野
- 私からは、日本における状況を踏まえてコメントさせていただきます。
今年の5月30日、文化庁から「AIと著作権の関係等について」という文書が公表されました。
AIの開発および学習段階においては、例外規定があり「原則として著作権の許諾なく利用することが可能」とされていますが、AIを利用して生成する行為や生成されたものに関しては、既存のものに似ていると著作権侵害にあたるということが明言されています。
そうなると、AIを利用したり、AIを活用したサービスを提供したりする企業は、生成結果が権利侵害になっていないかを確認する必要があります。AIの開発と利用は別物と捉え、細かい部分まで気をつけていかなければならないのです。
生成系AIが生活者に与える影響とリスクとは
- 安藤
- ここまで、AI活用において企業が認識しておくべきリスクについてディスカッションしてきましたが、生活者視点でのリスクについてもディスカッションできればと思います。
まず一つ、AIによって「新しい興味や新しい関心に出会う機会を奪ってしまうのではないか」という懸念についてです。これに対し広告・プロモーションの分野では、マーケティングでいかに新しい気づきや出会いを生むかが重要な観点になってくると考えています。
生活者に与える生成系AIの影響について、EUで論点になっていることがあれば教えてください。
- Michael Will
- AI規則案は、今もなお交渉中なので変更される可能性はありますが、現状生活者のリスクになりうるのは「従業員に関する評価システム」や「個人に関する信用評価システム」です。今もなお個人情報に関して多くの議論がされていますが、ほぼ全員にとって重要な問題になるでしょう。
また、AIが影響を与えるのは、個人情報だけではありません。
例えば知的財産についても、他人が作った文章や画像を使用する問題や、企業秘密等に関する問題が発生すると考えられます。生活者はもちろん、企業がリスクに晒されるおそれも十分にあるため、AIシステムの導入には慎重にならなければなりません。自社の機密情報を誰に提供しているか、そして提供先でも守られているかなど、常に意識する必要があるでしょう。
- Michael Schmidl
- 著作権や特許権の問題を考える上では、人権や人々の普通の生活への影響はもちろん、クリエイターなどのプレイヤーへの影響も考慮しなければならないと考えています。
そういう意味では、欧州が実現しようとしているのは、AI規制にとどまらない「新たなデータ秩序」といっても過言ではありません。さまざまな法規制を踏まえた、新しい枠組みです。今後整備されていくと、著作権や特許権に関する考え方も大きく変わるでしょう。
AI規制がAIの長期的な発展と信頼向上の基盤に
- 達野
- まずは日本におけるAI規制へのアプローチについてコメントさせていただきます。
私たちベーカーマッケンジーでは、米国の法律やアジアにおけるAI規制情報を収集する中で、個人情報や著作権法の観点から日本は最もAI開発において好ましい国だと感じていました。
しかし今年の6月2日、個人情報保護法委員会が「生成系AIサービスの利用に関する注意喚起」という文書を公表し、ChatGPTを開発したOpenAIを名指しして「要配慮個人情報が含まれないことを徹底し、既に含まれている場合は直ちに取り除かなければならない」といったことを明確に指示したのです。ここまで具体的な指示はEUでもまだ前例がないため、日本が先駆けてこのような指示をしたことに驚きました。あくまでこれは注意喚起であるものの、今後日本がどうAIを規制していくのか、その方向性に注目が集まっているのではないかと思います。
これについてEUのお二方はどのように見ていますか。また、新しい規制によって技術革新はどのような影響を受けると考えていますか？
- Michael Schmidl
- 私は、規制によってAIの技術革新が妨げられることはないと思っています。
新たなAI規則案の内容は「機械のみに基づいて意思決定をしてはいけない」などの既に適用されている基準とそれほど大きくは変わらないからです。一方で、新たな規制で大きな変化が求められるのは規制対応です。より細かな対応が求められ、企業の対応が一層大変になることが予想されます。
- Michael Will
- 新規制は、AI開発を“妨げる”ものではなく、信頼できる形でのAI開発を“可能にする”ものになると考えています。EU市民に影響を与える高リスクのAI利用に対し、EUの要件を遵守するように規制することで、個人や環境、社会などの多くを守るのが目的なのです。もしかしたら、自社システムで市場を独占する大企業の傍らで、より画期的で便利かもしれない他の企業が市場に参入する機会を得られていない可能性だってあります。AI規制は、社会にとって公平な方法であるとともに、長期的な発展と信頼のために欠かせない基盤となるはずです。
- 安藤
- 最後に、今後AI活用をされる企業の方々に向けてコメントさせていただきます。新しい技術が生まれる時、当然リスクはつきものでした。しかしそこで重要なのは、単にリスクを避けるのではなく、新しいチャンスと捉え、受け止めることだと思っています。私たちはもちろん、皆さんの各業界でもそのスタンスこそが競争力となるはずなのです。
私たちも生成系AIの活用に積極的に取り組んでいます。マーケティング分野では、ターゲットのプロフィール分析やカスタマージャーニーの生成等へのAI活用が進んでいますし、クリエイティブ分野では、AIを活用した業務効率化、広告制作に欠かせない人間のクリエイティビティとAIを組み合わせた品質・価値向上など、さまざまな可能性を模索してチャレンジしている最中です。さらに、汎用型AIとは異なる性能を持つ「領域特化型AI」についても追求しています。AIと私たちが持つ専門的なデータを掛け合わせることで、広告文のアイデアを出すだけでなく「どんな表現にするとどんな成果が得られるのか」といった予測が可能になるのです。
各企業の皆さんも当然リスクを考えながらになるとは思いますが、いかに企業独自の視点でAIを活用し、世の中に新しい価値を創造していけるか。これが、今後企業の成長を左右する焦点になってくるのではないかと思います。
おわりに
- 高瀬
- ベーカーマッケンジーが掲げている「世界での挑戦を、あなたとともに。」というタグラインは、私たちの理念や思いを具体化したものです。
新しいテクノロジーやそれに伴う新しい法的問題が生まれ続ける現代社会において、私たちは皆さまとともに、世界の課題に取り組んでいきたいと考えています。
本日は誠にありがとうございました。
この記事はいかがでしたか？
-
Michael Willバイエルン州データ保護監督局
局長
-
株式会社博報堂ＤＹホールディングス
取締役常務執行役員ＣＴＯ1988年に博報堂に入社し、数々の企業の事業/商品開発、統合コミュニケーション開発、グローバルブランディングに従事。現在、博報堂および博報堂ＤＹメディアパートナーズ取締役常務執行役員をはじめ博報堂ＤＹグループ各社を兼任し、グループのテクノロジー領域を統括している。著書に『広告ビジネスは、変われるか? テクノロジー・マーケティング・メディアのこれから』（宣伝会議）などがある。
-
Prof. Dr. Michael Schmidlベーカーマッケンジー ミュンヘンオフィス
パートナー、ドイツ情報テクノロジーグループ共同代表
-
高瀬 健作ベーカー＆マッケンジー法律事務所（外国法共同事業）
パートナー、IPテック代表
-
達野 大輔ベーカー＆マッケンジー法律事務所（外国法共同事業）
パートナー、IPテック
