人とAIが共進化するために本質的な視点とは│協創の森ウェビナー第17回 「サイバーシステムの社会実装とその課題 」プログラム3「人とAIが共進化する社会に向けて」

プログラム1「サイバーシステムの社会実装とその課題」
プログラム2「サイバーシステムによる人々の活躍と持ち寄り経済圏」
プログラム3「人とAIが共進化する社会に向けて」

早稲田大学発のベンチャー企業、「株式会社エキュメノポリス」

松山さん：
株式会社エキュメノポリスの松山と申します。当社は早稲田大学発のベンチャー企業です、私は元々、早稲田大学の特任准教授として、研究チームを率いていました（早稲田大学 知覚情報システム研究所 所属）。いまも大学に在籍しながら、ちょうど1年ほど前に、技術の社会実装の場をつくりたいとベンチャー企業を立ち上げ、私はその代表を務めています。

私自身、人生のミッションは、人と共に進化する社会的会話AIエージェントを実現することです。会話AIというと、一昔前はスマートスピーカー、現在はChatGPTが世の中を席巻しています。もちろんそれらも一つの会話AIですが、我々が長期的なミッションにしているのはそれだけではなく、人間関係を構築したり、長く使うことでお互いをパーソナライズしたりしながら、さまざまなことを一緒にやっていく存在としての会話AIエージェントを実現することです。

我々の会社のミッションは、人とAIの共進化社会の創出を実現することです。この社会のことを、我々は「エキュメノポリス（Equmenopolis）」と呼称しています。これは、1960年代に夢想された概念「Ecumenopolis」（あらゆる都市がネットワーク化され、ローカル性とグローバル性が両立する理想的な世界都市/惑星都市）に由来します。当社名の冒頭2文字「Eq」には、 今後人間のコラボレーターとしてのAIが備えるべき「心の知能（EQ）」が表現されており、Equmenopolisは「共存する電脳惑星都市」を意味します。都市学や建築の世界では古くから存在していたけれども、歴史に埋もれていたこの言葉を掘り起こして、「人間と知的なシステムが共存・共進化する次なる理想社会をデザインしていく」といった意味を込めて社名にすることにしました。

既に今日のウェビナーのほかのプログラムでも話題に出ました通り、そういったものがだんだんとシリアスになってきたと思うんですね。私自身は20年近く会話AIの分野にいるのですが、ようやく高度なAIツールが使えるようになり、いよいよ社会実装のフェーズに入ってきたと感じています。では、その中で何をさせるのか。このようなエージェントを世に放って、それに対する責任をどうするか、どのようにして社会全体の生産性や創造性を上げていけるのかを真剣に考える時代に来たのではないでしょうか。このタイミングで会社を立ち上げた理由もそこにあります。

半分宣伝になるのですが(笑)、先日、東洋経済さんの「すごいベンチャー100」に選んでいただきました。おかげさまでいろいろなところに呼んでいただくのですが、社会実装というのは、我々の重要なテーマです。最近、中高生の英語の現場に対話型のAIを導入するという一連の報道がございました。これに関連して、先日、千葉県の教育委員会さんと一緒に、我々のシステムを日本で初めて使用してくださる高校に出向き、対象の生徒さんにキックオフミーティングをしました。すると、こちらが驚くほど、皆さんが「使ってみたいです！」と言ってくれるんです。いまは、彼らに、どういうふうに使っていただけるかということを観察するフェーズに入ったところです。

いま我々が作っているサービスは「LANGX Speaking（ラングエックス・スピーキング）」と称します。これは、AIキャラクターと自然に会話することを通して、その人の英語能力を診断したり、次に何を学習すれば良いかを学んだりできる仕組みです。人の能力を自然に引き出す仕組みが入っていて、多角的に英語コミュニケーション能力を測ることができます。

「LANGX Speaking」には生成AIも活用されており、言語だけでなく画像情報などのマルチモーダルな事前学習モデルなども搭載されています。安定性や正確性においてはかなり精度が高いと自負しています。ただ、正確性については機械学習は比較的得意な課題なのですが、難しいのはやはり「説明性」です。なぜそういう結果になったのか、あるいはどうすれば次の学習に繋がるのかといった説明性をどう作るかが非常に大きな問題で、我々の研究チームではその課題に取り組んでいます（LANGX Speakingは、早稲田大学において実施されているNEDO「人と共に進化する次世代人工知能に関する技術開発事業/人と共に成長するオンライン語学学習支援AIの開発」の成果にも基づく）。

社会実装の面で言うと、早稲田大学では、今年の春から新入生のほとんどが「LANGX Speaking」を実際に使用しています。そこで測った英語スピーキング能力により自動的に英会話授業のクラス分けが行われ、学期の最後に再度、能力を測定し、スピーキング能力がどれだけ伸びたかを測定します。国内のみならず、世界でも類を見ないような実証実験の一つになっていると思っています。

「社会から信頼されるAIをめざして」。日立製作所研究開発グループの取り組み

間瀬：
日立製作所研究開発グループの間瀬です。私の研究分野は、AIによる判断の根拠説明技術 (eXplainable AI: XAI)で、日立では2018年頃から研究を進めてきました。

具体的な研究について説明します。

AIの技術が進展して、ディープラーニングや、複雑なアンサンブル学習モデルを活用することで精度の良い出力が得られるようになりました。ですが、なぜそのような判断に至ったのかについてはなかなか理解できません。そこで、その判断根拠を外付けで解釈するためのXAI技術を適用してきました。融資審査の例で説明しますと、AIが「あなたは融資が受けられません」という結果を出力した際に、「入力したあなたの属性のうちのこの部分が要因となって、こういう判断に至っています」と示したり、出力に影響を与えた類似の事例に基づいて根拠を説明したりすることができるようになります。

こういった社会実装の中から、さらに統計的、理論的に考察を行うことでAIの説明性を向上するための研究も行っています。スタンフォード大学との共同研究で、AIの判断に対してモデルの公平性を個別のケースごとに判断するAIを開発しました。それにより、例えば性別ごとのグループに対して、バイアスがどれくらい含まれているかについても、事例ごとに判断したり、評価したりできるようになりました。

研究にあたり、ステークホルダーの皆さまと対話をしながら、社会からいかに信頼される形で実装していくかということを意識して進めています。AIは、単にモデルのアルゴリズムを作って終わりではなく、どのように社会実装していくかという計画を練って、それを基に要件を決めて、実際にモデリングと学習を行い、システムとして実装します。AIを実装した後も維持管理をしていく、AIがどのように使われているかを、常に見続けていくことが重要と考えております。こうしたプロセスを、私たちは「信頼できるAI開発プロセス」と呼んでいます。近年はAI倫理も重要になってきていますので、それをプロセス全体で実現するための研究も進めているところです。

教育現場におけるAIの社会実装の現実と課題

高月：
AIには個人の能力を伸ばす可能性がありますが、その可能性は発揮できているのでしょうか。松山さんから教育現場での例をいくつかご紹介いただきましたが、現状についてお話いただけますでしょうか。

松山さん：
社会実装ということで言いますと、いろいろなところで説明責任を問われるわけです。私は会社代表として、教育委員会、文部科学省、大学等に対して説明し、それを持ち帰って会社でも説明をする。もうとにかく説明ばかりしている日々です（笑）。大変ですが、それだけ誠実にお答えする必要を感じています。

インフラが整ってない場合があるのも課題です。中学校や高校では、文部科学省のGIGAスクール構想によって、一人一台タブレットを持つようになっています。しかし実際は、中学校までは配られていても、高校では国のサポートがない。また、実施内容も自治体ごとにバラバラで、全然統一されていないんです。使っている端末の性能も使う状況も違うので、AIを導入しようとしても同じ環境で提供することは難しい。ここでまず頭を抱えます。そこをどうやってAIの性能を保証しながら、説明を担保していくかというのは非常に難しい課題です。このように我々が実際に時間を使っているのは、技術そのものよりもインフラをどのように整備するか、また、そういう方々に説明して広めていくのかという部分です。教育現場で公共性は重要なテーマなので、それを確保しつつ、安定してAIをどう動かすのかは大きな問題。ここにイノベーションの大きな壁があると最近は感じています。

価値提供とリスク管理の両立が課題

高月：
間瀬さんから見えている現状の課題は何かございますか。

間瀬：
いま一番ホットなトピックとしまして生成AIがあります。まだ完全ではなく、できることもあればできないこともあるのですが、文章の要約、翻訳、ちょっとした問い合わせチャットボットも簡単に作れるようになりましたし、アイデアを出していくような創造的な業務の支援にも活用できる可能性があるということで、日立製作所としましても活用事例をどんどん作っていく取り組みをしているところです。

先ほど、松山さんがインフラの問題を挙げてくださいましたが、セキュリティの問題もあります。私たちは企業なので、セキュアなインフラを構築して、機密情報のレベルも管理しながら研究を進めています。ただ、それでもリスクは避けられません。情報漏えいの観点や、「社外の生成AIのシステムにデータを送ったときに、それが学習に使われるのではないか」という疑念もあります。そういった点も、規約等を確認しながら、条件や適用範囲をきちんと見定めていく必要があります。また、著作権侵害のリスクへの対策も必要です。そもそも技術的な問題として、回答の信頼性が100%ではないので、そこをどのように人が管理していくのか、社内のスペシャリストを集結させた生成AI WG(ワーキンググループ)として、ユースケースごとにリスクをマネジメントしながら活用していくことをいま行っています。技術がかなり進歩しており、ユースケースが広がりつつありますが、併せてリスクマネジメントをしていく必要があると認識しています。

松山さん：
もう一つ、社会実装する上で頭を悩ませるのはコストの問題です。F1（フォーミュラ1）を作るように高級な生成AIのモデルを作るのはある意味簡単なのですが、それを製品サービスとして考えると、人件費を超えてしまうことがある。「それじゃ意味ないじゃん」と。それなら人にお願いしたほうがよっぽどいいじゃないかとなるわけです。特に公教育においてコストは最も重要なことなので、やはり廉価にしなければいけない。その中でも性能やセキュリティをどう担保するのかはトレードオフなので本当に難しいです。我々のソリューションとしては、まず学習体験が最善であることを優先し、最善の体験をどのように再現するかを生成AIだけにこだわらずに考えているところです。

どう描く？ありたい社会実装の姿

高月：
一歩下がってみたときに、世の中には「そもそもどうしてAIを使わなきゃいけないの？」と思っている人や、知らないうちにAIを使っていたり、AIの進化に協力していたりなど、いろいろな関わり方があると思います。お二人の視点から見て、ありたい社会実装の姿はどんなふうに見えているものなのでしょうか。

間瀬：
この対談のテーマが人とAIが共進化する社会についてですが、ありたい社会実装の姿はまさにそれなのかなと私個人としても思っています。AIができることが増え、コストやリスク管理の問題があるにせよ、その価値がどんどん認識されてきています。

たとえば、少子高齢化の進んだ日本では労働人口の減少が課題であり、熟練者が大量退職を迎える危機が話題になっています。そんなとき、技術伝承を円滑に進める上で生成AIが良いインターフェースとなり、ナレッジの蓄積が進んでいくかも知れません。あるいはAIと人で協働することによって、ナレッジがさらに進化していき、生産性の面で産業の競争力に繋がっていくかも知れません。このように、AIを社会実装して良い影響が与えられるような社会にしていきたいと考えているところです。

松山さん：
我々は非常にシンプルな考えです。つまるところ、「人々の困りごとはどこにあるのか」という問いから常に始めたいと思っています。たとえば英語教育で言うと、日本人は長らく英語のコンプレックスがあります。特に中高生。英語を勉強しようという意欲はあるにもかかわらず、それを教えられる先生がおらず、いたとしても、教室で1対1で生徒のスピーキング能力を見るのは物理的に不可能です。そこで、人と同等に会話できるエージェントにできることがある。

実は我々のサービスで、一番熱狂的に受け入れていただいているのが先生方です。先生の仕事を奪うということではなく、人手が足りないところAIを入れるということです。先生たちのワークロードはきっと緩和できるはずだし、将来的にも中高生のコミュニケーション能力を引き上げることができる可能性があります。そうなれば、みんな嬉しいわけですよね。現実的にはコストの問題などがあるのですが、やはりそういうストーリーをいかに作るのかが、今も昔も変わらず重要な点だと思っています。

技術以外の大切な部分とは

高月：
いろいろと配慮すべきことがあると思うのですが、技術以外でどのように取り組んでいくのか。これまでの話にも重なると思うのですが、いま一度整理してどういうふうに取り組んでいけばいいかお話しください。

松山さん：
誤解を恐れずに言えば、技術を作ることは簡単です。つまり、仕様が決まれば、最適化しましょう、データを集めましょうと、我々の得意な話に持っていけるんです。困りごとを探して、たとえばコストをどうやって下げられるのか、どういうふうにセキュリティを守るのかなど、いろいろな制約の中でどうパフォーマンスを最大化するかという部分は、それ自体は技術的な課題といえます。大事なのは、現実社会からどう問題をうまく切り出し、解決可能なAIの設計に落とし込んでいくか。そこが肝だと思っています。社会の問題を定義することと技術設計をすることは、同じものであるべきです。

間瀬：
社会にAIが普及してくると、ルール作りが求められます。ルールがあることで技術が進むという面もあれば、ルールを守るのが大変という面もあります。それらを社会の中で議論しながら、ルール作りを進めていくことが重要だと思います。特にAI技術の進展はかなり目覚ましいものがあります。いま、政府レベルでも、ガイドラインの策定や法規制の議論、それに付随して国際標準の議論なども進んでいますが、それと合わせて技術もどんどん進歩していくとなると、ガイドラインをもとに運用していきながら、新しい課題も出てくるでしょう。そのときどうすれば受け入れられるのか。AIを開発する者、利用する者、それぞれが考えながら事例を積み重ね、それをまたルールに反映していくというようにアジャイルにガバナンスしていくことが求められてるのではないでしょうか。

事例を積み重ねるというのは先ほど松山さんが英語の実証実験についておっしゃっていましたね。学生さんがすごく生き生きとした顔をしていた。さらに実はそれを喜んでいるのは先生方だった、とのお話でした。そんなふうに、関係者のみなさんに気に入っていただいて、そして試していただくとまた課題も出てくると思うので、そうした課題を解決しながら、一歩一歩地道に社会実装を進めていくことが鍵になりそうです。

人とAIが共進化する社会の実現に向けて

松山さん：
今日、私自身がお伝えしたかったのは、何よりも社会に対してどういうバリューを提供するのかを考えるのが大事だということです。製品であっても、活動であってもそれは同じこと。そこにセンスよく技術を使っていくことが求められます。共進化ということですと、AIは日々データをとりながら、その人にいろんな形でパーソナライズしていく潜在力を持ってるわけですよね。我々の会話のパートナーAIも、その人の学習のゴールがあったときに、逆算してこういうステップでここを強化していきましょうと示すようにしています。その人のことを知りながら会話し、今日した話を覚えていて、次に会うときは「髪切ったね」とか、「こないだの映画見に行くって言ったけど見に行った？」などと会話を展開していくような仕組みを通して、自然にお互いのことを知って、進化していく潜在力があるわけです。

つまり、どうすればユーザーの問題を解決できるか、ユーザーがどう楽しんでくれるか、わくわくしてくれるかに我々はこだわりたいと思ってきましたし、これからもそれが重要なのではないかと信じるところです。

間瀬：
AIを開発する側、サービス運用する側として、価値の提供とリスク管理の両輪を動かす上で、ユーザーのリアルな声を拾い、対話しながら進めていく必要を感じています。そうした対話を通じて、AIの使い方についてのユーザーの理解も深まりますし、また、フィードバックを受けて技術が進歩していくサイクルができると、本当に人とAIが共進化するでしょう。それによって社会が良い方向に向かっていくのかなと思います。

高月：
ぜひ、今後とも議論させてください。本日はどうもありがとうございました。

松山洋一
株式会社エキュメノポリス 代表取締役

早稲田大学 基幹理工学研究科 情報理工学専攻で博士号を取得後、米国カーネギーメロン大学にて博士研究員としてダボス会議公式バーチャルアシスタントの研究開発プロジェクトや米Google、Microsoft、Yahoo!などとの各種会話AI産学連携プロジェクトを主導。帰国後の2019年度に早稲田大学 知覚情報システム研究所に主任研究員（研究院 准教授）として着任。2022年に会話AIエージェントサービスのプラットフォームを開発する株式会社エキュメノポリスを創業。代表取締役に就任。最初のサービスとして、会話AIエージェント搭載型英語スピーキング診断サービス「LANGX Speaking（ラングエックス・スピーキング）」をリリース。人と共に進化する社会的会話AIエージェントの社会実装をめざす。

間瀬正啓
日立製作所 研究開発グループ 先端ＡＩイノベーションセンタ メディア知能処理研究部 主任研究員

2010年日立製作所入社。シミュレーション、機械学習、最適化の産業応用に関する研究に従事し、最近は機械学習の説明性・解釈性（XAI）の研究に取り組む。2019～2021年の間にスタンフォード大学の統計学科に客員研究員として滞在し、Art B. Owen教授とXAIの統計学の観点からの共同研究を実施。現在はAI倫理・AIガバナンスの研究をリードするとともに、AI倫理委員会における社内教育やAI倫理アセスメント、生成AIの社内向け利用ガイドラインの編集にも携わる。

高月宏明
日立製作所 研究開発グループ デザインセンタ ストラテジックデザイン部　

日立製作所に入社後、掃除機や冷蔵庫等の家電品のデザインに従事。デザインの領域の拡大と共に、顧客との合意形成の場へのリアルタイム3Dコンピュータグラフィックスの適用等を担当。1997年にマサチューセッツ工科大学のAdvanced Study Program修了。2000年から米国にて大型テレビのデザインを担当。2005年から、カーナビゲーションシステムや携帯電話の組込系のGUIのデザインおよびData Visualizationの活用を推進。2015年より、顧客協創方法論やサービスのデザインを担当。電動化や自動化が進むモビリティに関連するサービスの社会実装に注力。

プログラム1「サイバーシステムの社会実装とその課題」
プログラム2「サイバーシステムによる人々の活躍と持ち寄り経済圏」
プログラム3「人とAIが共進化する社会に向けて」