AI研究の第一人者が見据える生成AIの特性や課題　　Preferred Networks 岡野原大輔氏

2023.11.27

AI研究の第一人者が見据える生成AIの特性や課題　　Preferred Networks 岡野原大輔氏

Chat GPT の登場をはじめ、日進月歩で進化を遂げる「生成AI」。
インターネットやスマートフォンが社会を変革したように、生成AIも過去に匹敵するパラダイムシフトを起こし、広告やマーケティングにも大きな影響を与えると言われています。生成AIはビジネスをどのように変革し、新たな社会を切り拓いていくのか。

博報堂ＤＹホールディングスは生成AIがもたらす変化の見立てを、「AI の変化」、「産業・経済の変化」、「人間・社会の変化」の3つのテーマに分類。各専門分野に精通した有識者との対談を通して、生成AIの可能性や未来を探求していく連載企画をお送りします。

第1回は、「AIの変化」をテーマとして、AI研究の第一人者である株式会社Preferred Networks 共同創業者、代表取締役最高研究責任者の岡野原大輔氏に、現段階における生成AIの特性や課題、今後見込まれるAIの進化について、博報堂ＤＹホールディングスのマーケティング・テクノロジー・センター　室長代理の西村が話を伺いました。

岡野原大輔氏
Preferred Networks 共同創業者、代表取締役最高研究責任者
株式会社Preferred Computational Chemistry 代表取締役社長
株式会社Preferred Elements 代表取締役社長

西村啓太
博報堂ＤＹホールディングス
マーケティング・テクノロジー・センター　室長代理
株式会社Data EX Platform　取締役COO

生成AIによる新しい事実の推論には人間の介在が必要

西村: Chat GPTなどの生成AIが登場して以来、さまざまな産業に大きなインパクトを与えています。博報堂ＤＹグループとしても生成AIを活用していくのはもちろん、生成AIが世の中にどう浸透していくのか。懸念すべきリスクや論点は何かなど、さまざまな有識者の方々にお話を伺っていき、バブリックな視点で生成AIの可能性や未来を探っていければと考えております。

その企画の第1弾として、岡野原さんに色々とお話を聞いていければと思いますが、まずは現時点における生成AIの特性や課題について教えていただけますか。

岡野原: ここ数年を振り返ると、2018年ごろからテキストや画像など、いろいろな分野で同時多発的に生成AIの有用性が示されるようになりました。そして2020年以降には、これまでとは桁違いのパラメーターを持つGPT-3が登場し、さらには画像や音声の生成にも拡散モデルの応用が進んだことで、本物そっくりのコンテンツが生成できるだけでなく、データの背後にある概念をAIが理解していることがわかったのです。

このように、生成AIが急速な進化を遂げてきたなかで、機械学習を専門にしてきた研究者や有識者が一番驚いたのは、「すごく学習データが少ない問題に対して、回答を推論できる」ということでした。極端な例だとプロンプトで「〇〇をしてください」と指示を出すだけで、一度も明示的に学習をさせていないのにもかかわらず、問いが解けてしまう。テキストで指示ができたり、事前の準備をすることなくさまざまなタスクをこなせたりと、生成AIを活用するハードルが下がったのに加え、ChatGPTがチャット型のインターフェースを提供したことによって、全世界で1億人ものユーザーが生成AIを活用するまでに広がりました。

西村: 一方で、生成AIの課題に「ハルシネーション（嘘回答）」が挙げられますし、現時点での技術的な限界もあるのではないでしょうか。

岡野原: ハルシネーションが起きる原因の一つは、「人の意見」が入ってしまうことです。「これは〇〇の意見です」とか「これが事実です」といった区別が生成AIには難しい場合があります。他方で生成AIの技術的な課題としては「記憶が混在してしまう」というのが挙げられます。特に固有名詞と一般名詞の違いは人間ほど区別できない。例えば、犬に関する一般的な話は混ぜていいものの、「自分の飼っている犬の特徴を、他の犬にまで成り立っていると考えるのは誤っている」ということまでは、今の生成AIの技術では扱えていないのが現状です。

ほかにも、GPT-4はカスタマイズを加えないと簡単な3桁の足し算ができなかったり、「AならばB、BならばCの場合、AならばCが成り立つ」といった、ちょっと込み入った推論の場合は、間違えた回答を出してしまうことも少なくありません。つまり、生成AIはアイデアを出したり、今ある情報を集約したりするのは得意ですが、何か新しい事実を推論して出す場合には、人間や他の仕組みによる精査が必ず必要になってきます。

生成AIに「正しい答え」を求めると、逆に性能が低下してしまう

西村: 今のAIにおける推論では、人間が期待するような正しい答えや新しい事実を予測するのは難しいが、情報のキュレーションに関しては機能することがお話を聞いて理解できました。

岡野原: 問題によっては、出した答えを他の方法で検証できるものもたくさんあります。例えばプログラムコードも生成AIで生成し、それを他のテストや検証方法で正しいか否かを判断していくことが可能です。
人間が何かについて調べものをする際も、検索エンジンに出てきた権威のある文章と個人がブログにまとめている文章では、前者の方が情報の信ぴょう性が高いですよね。生成AIでアウトプットされた答えについても、そういった人間の判断や検証が必要になってくると思っています。

西村: 生成AIの出す答えが必ずしも正しいものではないのは、インプットとなる学習データがものすごく膨大であるものの、学習時には情報の信ぴょう性を勘案せず、フラットに扱われてしまうからなのでしょうか。

岡野原: そうですね。実を言うと生成AIの代表的なモデルであるLLM（大規模言語モデル）自体は「これは誰の意見か」というのを知っているくらい賢いです。データを生成するときに、「正しい答えを出すこと」が求められていないだけで、LLMに誰の意見なのかを聞けば正確に答えられる。LLMは次の単語を予測するための学習を行っており、正しい答えを出すことは必要とされていないわけです。そこから、人間の役に立つような形で答えられるように修正していくファインチューニング^＊を行いますが、修正をかけていく際に正しい答えを出す訓練ができるようになれば、「これは誰の意見か」を答えられるようになるかもしれません。しかし一方で、ファインチューニングをすると性能が落ちてしまう側面があるのも押さえておかなければなりません。
＊既存の生成AI モデルを特定のタスクに適応させるために、新たなデータや人間による修正によって追加学習させ全体を微調整すること。

人間の役に立つ特定の答えを出してもらうために、「こういう風に答えてください、このような回答はダメです」と教えていく過程を経るにつれ、長時間かけて学習した内容をものすごい勢いで忘れていってしまいます。ある実験例でも、元の生成AIのモデルはプロを凌ぐほどのチェスの腕前を持っていたのが、ファインチューニングした後では、チェスを打てないほど弱くなってしまったことが報告されています。現状は、ファインチューニングを施して、社会に害をもたらす回答をしないようにしないと、生成AIモデルが、悪意のあるユーザーに社会的リスクがあるような危険な使われ方をされてしまう恐れがあるため、ファインチューニングせざるを得ないわけですが、もともと学習して備えていた能力をどうやって損なわないように調整していくかが重要と言えるでしょう。

西村: ファインチューニングという言葉からすると、性能が上がっていると認識していたのですが、逆に落ちているというのは驚きました。

岡野原: 今の機械学習モデルには「新しいことを学習すると、以前に学習したことは忘れる」という“破滅的忘却”と呼ばれる現象があります。そのため、LLMで学習させるときには忘れてしまった内容を繰り返し学習し、全部覚えているという状態にしているのです。ファインチューニングの場合は、特定のタスクができるように修正をかけることにより過去に学習した知識が急速に失われてしまうので、そこをどう解決していくかが今後の大きな課題になっています。

生成AIの用途が拡大するカウンセリングやエンタメ分野

西村: 岡野原さんは、今後どのような産業で生成AIが普及していくのかという見立てはあるのでしょうか。

岡野原: 今まではプログラムコードを書かなければならなかったのが、テキストで指示出しするだけで欲しいアウトプットが出てくるようになり、生成AIを業務で活用するハードルが下がりました。常に膨大なテキストを扱っている人たちにとっては、生成AIを用いることでかなりの業務効率化につながりますし、生成AIの研究でも多くの論文を読み込み、情報収集していく必要がありますが、生成AIを使えば効率的にキュレーションすることができます。また、アプリケーションの裏側にデフォルトで生成AIが組み込まれたりと、これから日常的なシーンで生成AIが使われる機会はさらに増えていくでしょう。

一方で、インターネットやスマートフォンのような新しい技術と同様で、ある程度使いこなしていくと、その技術が登場した時点では想像していなかった使い方が出てくる。生成AIも、今はテキストや画像といったコンテンツの生成や業務効率化の文脈で使われていますが、今後はさらにいろいろなビジネスモデルへの応用やユースケースが出てくると考えています。既存の営業の仕方やマーケティングの手法も大きく変わっていく可能性は十分にあるでしょう。

現在、用途として広がっているのはカウンセリングやエンタメで、海外ではキャズムを超えて普及フェーズに差し掛かっているような状況です。例えばアンソロピック社が提供しているチャットボット型の「Claude（クロード）」では、生成AIが人間に寄り添うような“優しい”回答をしてくれて、悩みや不安、ストレスの対処法などを相談したり、愚痴を聞いてくれたりするように鍛えられています。

西村: 回答を生成するのではなく愚痴を聞いてくれるというのは、新しい生成AIの側面かもしれないですね。

岡野原: 生成AIが人間に寄り添って話を聞いてくれるようになれば、いろいろな可能性が広がると思います。愚痴だけではなくて、例えば物を購入する場面でもビデオチャットに生成AIを組み合わせることもできますし。インターネットが登場したことで、リアル店舗を持たずにECを介したオンラインショッピングが生まれたように、生成AIがどのようにビジネスモデルを変革していくのかをゼロベースで考えているスタートアップや企業も多いと思っています。

生成AIの社会への普及には、堅牢な仕組みづくりと産業横断での適応が重要に

西村: まさに生成AIの登場で生活者の購買や消費行動も変わる可能性もあるわけですが、一方で、社会への普及においては越えるべき技術的課題も残っているのが現状だと思います。岡野原さんは、今後の生成AIの進化について、どのように予測しているのでしょうか。

岡野原: 今後、生成AIは人々の生活により一層組み込まれていくと予測しています。世の中の産業のほとんどは、人間が介在したり旧来のシステムが導入されていたりするわけですが、そこにどのようにして生成AIを入り込ませていくかが肝になってきます。

生成AIが出すシステムエラーを許容した上で、人間がどう生成AIを活用していくのか。そのようなことを考える際に、人間と生成AIがチャットを通じて対等なレベルで話せるようになれば、それこそ、それぞれの生活者が活用している生成AI同士が勝手にコミュニケーションし、最適解を導き出していくことも可能になると思っています。

その一方で、しっかりとした制度設計やロバスト（堅牢）な仕組みづくりをしておかないと、生成AIが暴走してしまい、エコシステムが破綻する懸念も生じます。複数の独立したシステム同士が暴走しないように互いに検証したり、どこかがうまくいかなくなっても他のシステムで補完したりするというエコシステムのイメージですね。ですが、産業において生成AIが全自動でなんでも解決することは難しく、あくまで人間や他のシステムでサポートしていくのを前提として、仕組みとエコシステムを作っていくことが求められるのではないでしょうか。

西村: 現状、生成AIの領域においては海外のビッグテック企業が先行していると思いますが、日本企業の”勝機”をどのようにお考えでしょうか。

岡野原: 生成AIはまだ黎明期ですので、日本でも弊社を含めさまざまな企業が生成AIの基盤になる部分の開発を行っていて、国内外で事業機会を伺っているような状況だと思います。ただ、事業を広めていくためには、製造業やサービス業などの産業で、実際に使われるようにならないといけない。
日本は海外と比べて専門領域に分かれすぎていないので、いわゆる業界の境界領域も「擦り合わせ」して適応していくことができる。欧米諸国はきっちりと専門領域が分かれているからこそ、スケールしやすい利点もありますが、日本の強みを生かせるような事業を生み出していくことが重要なのではないでしょうか。

西村: 日本の大手メーカーのサプライチェーンのような「擦り合わせ技術」が、生成AIの分野でも活かされるのは面白いですよね。各産業の領域ごとに商慣習やビジネスモデルが違うからこそ、擦り合わせ能力を有する生成AIを活用し、産業横断で適応していくのが理想的ということでしょうか。

岡野原: 生成AIがドメインの違いを吸収しつつも、同じような仕組みを提供していくのを目指したいところですね。ただ、この領域は海外のビッグテック企業も得意とする分野なので、そことはうまく差別化してやっていく必要性があると思っています。弊社では生成AIを活用した原子シミュレーションによって、原子レベルでの有望な材料の特性把握や新材料開発を支援する「Matlantis（マトランティス）」というシミュレーターをクラウドサービスとして提供していますが、今年からグローバル展開をはじめて海外ユーザーもついています。
よく“国産”生成AIと呼ばれもしますが、本当の意味で事業を成功させるには、海外で普通に使われるような状態を目指さなければなりません。なので、最初からグローバルを見据えて展開していくことが重要になるでしょう。

生成AIが“同僚”になって仕事の調整をしてくれる未来

西村: 最後に、生成AIが産業の垣根を越えて使われる世界を目指していくなか、生成AIによって生活者の暮らしはどのように変わるのか、どんな期待を抱いているのかについてお聞かせください。

岡野原: 弊社では「人をエンハンスメントする」というのを目指していて、人間の持つ能力や可能性をのばし、人間が抱える困難を解決していくところに生成AIが使われるようにしていければと考えています。
その目標を達成するためには、まだまだできていないことが山積みなので、一つひとつ課題をクリアしていけるように尽力していきたいですね。具体的には、もう少し、生成AIが“同僚”として、常にやるべきタスクや業務の状況を把握した上で、他のメンバーとやりとりしてくれたら、仕事面でもうまくいくことが増えると思っていて。そうすると、余暇が今よりも確実に増えていく。例えばMicrosoft Copilotを使えば生産性が著しく向上するように、他の領域でも同様のことが将来的に実現すると思います。

あとは、人間がいかに充実した余暇を過ごすのかを考える際も、生成AIがコンテンツを作っていくこともあり得るわけです。インターネット前後のエンタメが全然違うように、生成AIが普及した頃のエンタメはまったく想像できない。だからこそ、生成AIの将来性や希望を見出せるのではないでしょうか。

西村: 生成AIによって労働や余暇、生活者や暮らしが変わり、さらにそこから新しい産業が勃興していく。生成AIのもたらし得る未来が想像できました。本日はありがとうございました。

この記事はいかがでしたか？

送信

岡野原大輔氏

株式会社Preferred Networks 共同創業者、代表取締役最高研究責任者
株式会社Preferred Computational Chemistry 代表取締役社長
株式会社Preferred Elements 代表取締役社長

2010年に東京大学にて博士（情報理工学）取得。大学院在学中の2006年に、西川徹等とPreferred Networks（PFN）の前身となる株式会社Preferred Infrastructureを創業。2014年3月に深層学習の実用化を加速するためPFNを創業。現在はPFNの最高研究責任者として、深層学習の研究やその実用化に取り組んでいる。PFNとENEOSが共同開発した汎用原子レベルシミュレーターMatlantisの販売を行う株式会社Preferred Computational Chemistryや、マルチモーダル基盤モデルの開発を行うPreferred Elementsのの代表取締役社長を兼任。
「AI最前線」を日経Roboticsに連載中。著書に「大規模言語モデルは新たな知能か」「拡散モデル」（岩波書店）、「AI技術の最前線-これからのAIを読み解く先端技術73」（日経BP）、「ディープラーニングを支える技術」（技術評論社）など。
西村啓太

博報堂ＤＹホールディングス
マーケティング・テクノロジー・センター　室長代理
株式会社Data EX Platform　取締役COO

The University of York, M.Sc. in Environmental Economics and Environmental Management修了、およびCentral Saint Martins College of Art & Design, M.A. in Design Studies修了。
株式会社博報堂コンサルティングにてブランド戦略および事業戦略に関するコンサルティングに従事。株式会社博報堂ネットプリズムの設立、エグゼクティブ・マネージャーを経て、2018年より博報堂ＤＹホールディングスにて研究開発および事業開発に従事。
2019年より株式会社Data EX Platform　取締役COOを務める。2020年より一般社団法人日本インタラクティブ広告協会(JIAA)にて、データポリシー委員会、Consent Management Platform W.G.リーダーを務める。