社会イノベーションやAIのある未来にSF（サイエンス・フィクション）をどう生かすか│協創の森ウェビナー第4回「社会を支えるAIの未来」プログラム2「未来を思索するためのSFプロトタイピング」

プログラム1 「社会を支えるAIの未来」
プログラム2「未来を思索するためのSFプロトタイピング」
プログラム3「EUのAI規制政策と企業のリスクとチャンス」

これからのAIをどう捉えるべきか

丸山：
今回は、急速な発展を続けているAI（Artificial Intelligence）がテーマです。本来は「人工知能」という研究分野を意味していたはずのAIですが、近年、あたかも実体が存在しているかのように世の中では認識されています。このAIをどう捉えればよいのか、そのヒントを今日はご提示できればと思います。

対談いただくのは、今年6月に出版された『SFプロトタイピング　SFからイノベーションを生み出す新戦略』の著者の1人である大澤博隆さんと、日立製作所 研究開発グループの西澤格です。

大澤さん：
わたしは筑波大学のシステム情報系で助教を務め、ヒューマンエージェントインタラクション研究室の主宰者でもあります。研究対象は、人間そのもの、そして人間らしさを感じさせるロボットやキャラクター、人工システムなどの総称である「エージェント」です。どうすれば人間らしさを活かしたインタフェースを作れるかといった研究のほか、相手の意図を読む、信頼を勝ち取るという人間の社会的な知能についても研究してきました。

近年は、人工知能が社会システムの中に入ってきたときにどんな問題を引き起こすかという観点から、いわゆる擬人化が人間に与える影響やフィクションに登場するエージェントについて調べています。その過程でサイエンスフィクション（SF）の力に気づきまして、SFの方法論を使って未来への思索を深める手法「SFプロトタイピング」を研究しています。

西澤：
わたしはこれまで研究開発グループで、データベースシステム、リアルタイムのデータ処理システムをはじめとした、データマネジメント関連技術の研究開発に携わってきました。事業部での業務を経験したのち、金融や通信、メディア・エンターテインメント分野の顧客協創に関わり、現在はAIを含むデジタル技術、計測デバイス、ヘルスケア分野の研究開発を統括しています。AIは社内の研究者も注目のテーマなので、本日はお話しできるのを楽しみにしてきました。

Iが社会にもたらす「公平性の問題」と「心理的影響」

丸山：
それでは最初の話題に参ります。「AIが人の暮らしに関わる上で、どんな問題が生じるのか」。大澤さん、いかがでしょうか。

大澤さん：
1つは、人間の決定の一部をAIに委ねるようになったことで、人間が判断すべきこととAIに判断させるべきことをどう切り分けるべきか。AIの機械学習（※1）がどのようなプロセスで行われるのか、人間にはなかなか理解できません。一見うまく機能しているAIが判断ミスを起こして大事故を招いてしまったり、悪意を持ったデータの学習には非常に弱いといった問題があります。

※1 コンピュータが与えられたデータから学習し、自律的にデータの法則やパターンを見つけ出す手法やプログラムのこと。

研究の世界では今、判断の根拠を論理的に説明できる「説明可能なAI」が非常にホットなテーマです。それから、AIの「公平性」。データに不要な偏りが入り込んでいると、例えばAIが人間を評価する際に、人種や性別といったバイアスがかかってしまいます。それをどうすれば回避できるかという問題です。

わたしの専門であるヒューマンエージェントインタラクションの分野では、人間らしいロボットやバーチャルエージェント（※2）などが人間の心理に与える影響について研究が進んでいます。例えば、家庭において子どもがスマートスピーカーに命令する環境が、子どもの成長や心理にどう影響するのか。スマートスピーカーから人間が感じる親しみやすさを、もっと精密に設計すべきだという議論が起きています。

※2 CGやアニメーション、AIにより作成した仮想のキャラクター。

西澤：
「説明可能なAI」は最近よく目にする言葉ですが、まだまだ課題があると感じています。例えば、金融機関でAIが数値的に行っている処理をそのまま説明されても、職員の方にはほとんど理解できないと思います。まずは、そのAIが金融ビジネスの基礎をきちんと説明できるようになってから、実務に用いるべきではないでしょうか。AIの専門家だけでなく、そうでない人にも理解できるよう説明できるAIこそ、本当の意味で「説明可能なAI」だと思うのですが、いかがですか。

大澤さん：
同感です。今、AIに一番求められているのが「人間に対して誠実な説明ができること」。AIの原理的に相当難しいという声も専門家の間にはありますが、そこをなんとかクリアしようと研究が進められているところです。

アート、小説、ビジネスの世界から生まれた未来予測アプローチ

丸山：
大澤さんは今年、共著で『SFプロトタイピング SFからイノベーションを生み出す新戦略』という本を出されています。SFプロトタイピングという手法を、どうやってイノベーションにつなげていけばよいのでしょうか。

大澤さん：
まずは、SFプロトタイピングの出自を説明させてください。実は「ロボット」というワード自体がSFから生まれたものでして、機械工学やコンピュータをはじめとした情報工学はSFの影響を大きく受けてきました。19世紀、科学雑誌『Nature』に、後年「SFの父」と呼ばれる小説家のH.G.ウェルズが未来の社会の姿を描いた論文を寄稿していました。そういったSFに関連する動きが徐々に発展して、SFと未来予想が結び付いた「未来学（Futurology）」と呼ばれる学問が生まれました。

未来学をはじめとした未来思考のアプローチには、大きく3つの潮流があります。1つめは、アートの分野でデザイナーが用いてきた方法論を社会の問題解決に応用していこうという動きです。代表的なものが、10年ほど前から注目を浴びている「デザイン思考」です。また、デザインの方法論を用いて問題を発見し、思考する「スペキュラティブ・デザイン」という手法も生まれています。

2つめは、SFを単なる小説ではなく「スペキュラティブ・フィクション」、要するに未来の可能性を描くものと捉え、SFを通じて新しいデザインやビジョンを示すというアプローチです。また、コンピュータやネットワークを扱うサイバーパンク作品を描いてきた作家のブルース・スターリング氏は、デザインされたプロダクトをフィクションの中に描く「デザイン・フィクション」を2000年代の初頭から掲げ、デザイナーに影響を与えました。

3つめが、ビジネスの世界から生まれた「シナリオプランニング」という手法で、先ほど挙げた未来学もこの流れで生まれました。さまざまな情報を集めて未来を予測するのではなく、望ましい未来に向けたシナリオを考えるというものです。

こうした3つの潮流が互いに影響しながら発展し、その核の1つとなったのがSFプロトタイピングなのです。

ビジネスへのSFプロトタイピングの活かし方

丸山：
要するに、SFプロトタイピングは戦略思考の1つのオプションと捉えればよいでしょうか。

大澤さん：
そうです。SFを通じて未来をプロトタイプ＝試作することのメリットは、たとえ絵を描く才能がない人でも言葉で考えることができる、つまりだれもが使える手法であることです。何より、未来を予測するのではなく、「未来を創る」という方向に人々の思考を切り替えられるのがSFプロトタイピングのよいところです。また、SFのシナリオに登場するさまざまなキャラクターを通して、創りたい未来像をより具体的に想像することができます。

西澤：
わたしが所属する研究開発グループでは、将来のビジネスを考える際にバックキャスティングの方法をとっています。2050年の社会像を描き、それを実現するために今何をやるべきか、それが達成できたら次に何をやるべきかといった考え方です。ここにSFプロトタイピングを採り入れると、非常に有効なアプローチができるのではと感じています。

ところで、SFプロトタイピングの“プロトタイピング”の部分では、具体的にどんな取り組みをされているのですか。

大澤さん：
まずはいろいろな分野の専門家を集めてワークショップを開き、望ましい未来像を考えます。そのワークショップにクリエイターにも参加していただき、小説、あるいはイラスト、漫画といった作品の制作につなげていきます。さらに、作品をプロダクトで終わらせるのではなく、そこから先の議論につなげていくということを非常に重視しています。

SFのシナリオを議論に用いることで、異なる分野の方々同士でも建設的な議論ができるのもSFプロトタイピングの利点です。畑違いの人たちが集まって議論しようにも、共通言語がないとなかなか具体的な未来像を描けない、パワーバランスが働いて思うように発言できないといったことが起こりがちです。その膠着状態をブレイクし、人々を結び付けることができるのがシナリオの力なのです。

SFが、人々の想像力をつなげるキーになる

丸山：
本日の対談、最後のトピックは「社会システムとAIの関係は今後どうなっていくのか」。いわゆるVUCA（※）な未来に向けて我々人類がAIと付き合っていく上で、大澤さんが提唱されているSFプロトタイピングがおそらく大きな役割を担うのではと思います。いかがですか。

※ Volatility（不安定）、Uncertainty（不確実）、Complexity（複雑）、Ambiguity（曖昧模糊）の頭文字を取った、先行きの見えない社会情勢を示すビジネス用語。1990年代に軍事用語としてアメリカで生まれた。

大澤さん：
ええ。やはり、未来とは予測するものではなく、みんなで創るものだと思います。「未来はこうなるだろうな」ではなく「こんな未来にしたい」という発想に切り替わることがとても大事で、それを考える材料としてSFは最適です。もちろんSFにはポジティブな未来だけではなく反面教師的な未来が描かれていることもありますが、それを1つのメタファーと捉えれば、新たな発想のヒントにできるのではないでしょうか。

社会システムの中にAIが入ってくると、人間の思考を補佐する形で自動化が行われるでしょうし、社会が予測不能になってくるという側面は間違いなくあるでしょう。そのときに必要なのは、我々自身がどうしたいのかを、コミュニティや社会といった単位で考えることです。企業もそれと同じで、社内だけでなく顧客も含めて、AIをどう社会に活かしていくかを考える必要があります。そのコミュニケーションの手段として、SFを人々の想像力をつなげるキーにしていけたらと考えています。

日本はそれができる国だと思いますし、とても優れたフィクションがたくさんあります。ぜひその力をうまく使って、より望ましい未来を創るための思考の材料にしていただきたいと思います。

怖い存在としてのAI、良き存在としてのAI

西澤：
今日のお話で「シナリオ」というワードが何度か出てきました。それで思い起こしたのが、一橋ビジネススクール教授の楠木建氏の著書『ストーリーとしての競争戦略』です。優れた戦略とは、思わず人に話したくなってしまうくらい、まずは自分自身が面白いと思えるストーリーだと。いろいろな人を巻き込んで大きなプロジェクトを動かすには、みんなが共感できる魅力的なストーリーが必要です。SFプロトタイピングで未来像を考える際に、一人ひとりが独創的なシナリオを持ち寄って意見をぶつけ合うことで、より良い未来の実現に少しでも近づけるのではないかと、お話を伺って思いました。

今、AIは実社会のいろいろな場面にようやく入り始めた段階です。一方で、イスラエルの歴史学者ユヴァル・ノア・ハラリ氏が著書『ホモ・デウス』で指摘しているように、AIは人間にとって非常に怖い存在であり、いずれ人間に災いをもたらす可能性もあるのではないかという懸念も一方ではあります。しかし、そこにとらわれすぎると、AIを活用してイノベーションを起こすにもおそるおそる取り組むことになるでしょう。冒頭で大澤さんがご指摘されたAIの公平性を、いかに保つか。今後、それがますます重要になるのではないでしょうか。

わたしが最近読んだカズオ・イシグロ氏の小説『クララとお日さま』に、裕福な家庭で子どもの相手をするAIロボットが登場します。非常に人間観察を得意としている上、その子をいかにして幸せにするか、健康にするかをとてもよく考えているのです。このAIが、人間を超越した高潔な魂を持った存在のようにわたしには映りました。良き存在としてのAIを実現できる未来がフィクションの中で示されていることに、とても勇気づけられたのです。人類がAIを活用し、良き方向に向かっていけるような研究開発のあり方を我々も模索していきたいと思います。

丸山：
ブレイクスルーを起こす1つの手段として、SFプロトタイピングを我々日立の研究開発にも取り入れていきたいですし、最後に西澤が触れたように、ディストピアを考慮しながらもユートピアに近づけるよう進んでいく。そういったプロトタイピングを続けていければと思います。お二人とも、本日はありがとうございました。

大澤 博隆
筑波大学 システム情報系 助教　
ヒューマンエージェントインタラクション研究室

主な研究分野は、認知科学、知能ロボティクス、ヒューマンインターフェース・インタラクション。社会的知能、擬人化、人工知能、ヒューマンロボットインタラクション、ヒューマンエージェントインタラクションなどをキーワードに研究を行っている。著書に「SFプロトタイピング：SFからイノベーションを生み出す新戦略」、「AIと人類はきょうぞんできるか？」、「人工知能SFアンソロジー」、「人工的な他者への信頼ーHAI研究における信頼」など多数。

西澤 格
研究開発グループ テクノロジーイノベーション統括本部（CTI） 副統括本部長（Deputy General Manager, Center for Technology Innovation）

1996年東京大学大学院 工学系研究科 電気工学専攻 博士課程修了後、日立製作所 中央研究所 入社。並列データベース管理システムのクエリ最適化、異種データソースアクセス機構の研究開発に従事した後、ファイルシステム、データベース管理システム、ストリームデータ管理システムなどのミドルウェアシステムの研究開発取り纏め。2013～2014にITプラットフォーム事業部門に異動し、グローバル市場向けリアルタイムデータ管理ソリューションの開発に従事。2016年に研究開発部門に戻り、2015～2016年はCME (Communication, Media and Entertainment)および金融バーティカルの顧客協創プロジェクトを牽引。2017～2019年には、テクノロジーイノベーション統括本部デジタルテクノロジーイノベーションセンターのセンタ長として、AI、メディア処理、データサイエンス、サービスコンピューティング、データストレージシステムの研究を牽引し、2020年より現職。社会イノベーション事業を支える革新技術、特にデジタル技術の研究開発を統括。2002～2003年スタンフォード大学コンピューターサイエンス専攻 客員研究員、2018年ハーバードビジネススクールAdvanced Management Programを修了。ACM、情報処理学会、電子情報通信学会各会員。博士（工学）、技術士(情報工学部門)。社会イノベーション事業技術を支える技術革新、特にデジタル技術の研究を統括。

丸山 幸伸（ナビゲーター）
研究開発グループ 社会イノベーション協創統括本部
東京社会イノベーション協創センタ 主管デザイン長（Head of Design）

日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズに出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人財教育にも従事。2020年より現職。

プログラム1 「社会を支えるAIの未来」
プログラム2「未来を思索するためのSFプロトタイピング」
プログラム3「EUのAI規制政策と企業のリスクとチャンス」