社会システムはデータとどう向き合うべきか│協創の森ウェビナー第6回 「社会システムのトラスト」プログラム2「多様なデータが作る社会システム」

プログラム1「社会システムのトラスト」
プログラム2「多様なデータが作る社会システム」
プログラム3「社会システムへのトラストを再構築する」

「ITで企業のイノベーションを推進」×「データ活用で社会を最適化」

丸山：
本日の対談のテーマは「多様なデータが作る社会システム」。さまざまなデータが活用されることで社会システムがどう変わっていくのか、そして社会システムのトラスト＝信頼をどう担保していけばよいのか、ディスカッションしていきたいと思います。お話しいただくのは、長年ビジネスコンサルティングに携わられ、著書『ニューノーマル時代のビジネス革命』でも知られているD4DR inc.代表取締役社長の藤元健太郎さん。そして、日立の研究開発グループで社会システムを研究してきた加藤博光のお二人です。

藤元さん：
インターネットの黎明期だった1990年代前半、アメリカで生まれたNCSA Mosaic（モザイク）というWebブラウザに出会い、「これで世の中のいろいろなビジネスが変わる」と確信したのがわたしの出発点です。以来25年近くにわたり、ITを駆使した企業のイノベーションの実践をお手伝いしてきました。コンサルファーム D4DR inc.の代表を務めているほか、スタートアップの経営にも携わっています。

加藤：
わたしは水道の運用管理や鉄道の運行管理といった社会インフラのシステム設計・開発に研究者として携わってきました。データを使っていかに世の中を最適化していくかという裏方の仕事を多く経験してきました。

人々の行動を最適化・平準化するデータ活用

丸山：
それではさっそく1つめのトピックに参ります。「社会システムへのデータ活用の実例とは」。まずは藤元さんからご紹介いただけますか。

藤元さん：
お隣の韓国ではオープンなデータの活用がかなり進んでいます。例えばソウル市は、深夜バスの路線を設計するにあたってタクシーの乗降データを活用しました。乗客が携帯電話でタクシーを呼んだ場所、そしてタクシーから降りた場所のデータを組み合わせることで、深夜における人々の移動ニーズを把握し、それを基にバス路線を設計したのです。

加藤：
同じく公共交通の分野で日立が取り組んだ事例が、混雑度に応じて列車の運行間隔をコントロールする「ダイナミックヘッドウェイ」というソリューションの開発です。駅や列車内における人々の移動を計測して得られる「人流データ」を基に、運行ダイヤを調節するというものです。従来のような定刻どおりの運行だけではなく、その時々の需要に応じた運行を実現することで、混雑を緩和するのが狙いです。

藤元さん：
利用価格を需給バランスに応じて変動させる「ダイナミックプライシング」という手法もあります。すでに高速道路では一部導入されていますし、導入の検討を始めた鉄道会社もあります。人々の行動を最適化・平準化することで、社会のリソースの中であまり活用されてこなかった時間帯の有効活用が期待できます。加藤さんが挙げられた列車のダイヤに加え、乗車料金も適切に変動させることができれば、社会をよりよい方向にコントロールできるのではないでしょうか。

丸山：
藤元さんは社会インフラだけでなく、近年はリテール業界の企業のイノベーション推進にも取り組まれています。そちらの知見も共有していただけますか。

藤元さん：
リテールでは「電子棚札」というソリューションが導入され始めています。これまでは、店員さんが「3割引」などと書かれたシールをいちいち貼って回っていた値札の変更作業を、自動化できる。それだけでなく、需給バランスに応じて、高く売れるときには値段を上げる、あるいは客層によって価格帯を変えるといった売り方も可能になります。需給データを活用することで、これまでとは異なる利益の生み出し方ができるのです。

近年、Amazon Go（※）のように、来店客がどの商品を手にしたかをセンサーが自動認識するため、商品バーコードのスキャンが不要な無人決済方式の店舗が出てきました。このような店舗なら、来店客一人ひとりに応じた価格設定により、例えば「今日は誕生日だから商品がすごく安くなっていた！」といった買い物体験を提供できる。このようにリテールにおいては、時間や状況、消費者に合わせて価格を変動できるダイナミックプライシングの要素がそろってきたと言えます。

※ Amazon.comが運営する食料品店。来店客はレジに並ばずに商品を購入できる。

ダイナミックプライシングがもたらす、公平性のリスク

丸山：
お話を伺っていると、ダイナミックプライシングは需給バランスをとるためのインセンティブであり、人の協力を促す理想的な手法という印象を受けました。一方で、ダイナミックプライシングが社会にもたらしうるリスクはないのでしょうか。

加藤：
行動科学の知見から、望ましい行動をとれるよう人を後押しする「nudge（ナッジ）」というアプローチがあります。例えば鉄道が混雑している時間帯に、利用者に対して「カフェに寄ってから乗ると電車が空いていますよ」とレコメンドし、カフェのクーポンをあげることで行動変容を促すというものです。ただ、やりすぎると「電車に乗っていればもっと早く目的地に着いたはずなのに、カフェに寄ったことで遅れてしまった」という逆効果が生まれてしまうリスクもあります。それを避けるには、AIそのものの信頼性が重要です。わたしたちも現在、個人特性に合わせたナッジにより、行動変容を適切に促す技術の社会実証を進めています。

先ほど藤元さんのお話に出てきた、無人決済方式の店舗における価格のコントロールも、場合によっては「自分はもしかしたら高い値段で買っているのではないか？」といった疑念を消費者に抱かせてしまうこともありえます。需給バランスに応じて価格を変えることが本当に公平なのか。そこをどう担保していくかも今後の課題だと思います。

藤元さん：
ITリテラシーの議論に似ているかもしれませんが、価格変動のアルゴリズムをどこまで理解しているかによって、消費者が受けうるサービスが変わります。どの程度のお得感があるか、どこまで支出を抑えられるかといったところに格差が生まれるという問題も生じてくる。そこまでを視野に入れた議論が今後必要になると思います。

“縁側”のようなデータ利活用空間

丸山：
個人のデータが社会システムに活用されることが果たして善いことなのか？ という議論があります。この問題提起に対する1つのアプローチとして、公共と個人の利害を調停できるような新たなデータの利活用空間が求められてくるのではないかと思います。藤元さんはどうお考えですか。

藤元さん：
わたしが以前から考えているのは、“縁側”をモデルにしたデータの利活用空間です。人が縁側に腰かけているとき、足は靴を履いたまま土の上にある状態です。その人は家に入っているのか、それとも入っていないのか、極めてグレーな状況です。だからこそ、そこではアンオフィシャルな交流が発生しうる。玄関から入ると公式訪問になりますから、受け入れる側も相手をもてなさなければいけません。縁側というセミパブリックな場だからこそ、気軽で緩いコミュニケーションが発生しうるのです。

これをデータの世界で考えたとき、パブリックなデータ活用の領域とプライベートな領域との間にセミパブリックな領域を設けることで、より柔軟にデータを活用できるコミュニケーションのアーキテクチャが生まれるのではないか、というのがわたしの仮説です。

この考え方は、企業間の壁を越えた交流を活発化させる上でも有効だと思います。縁側のようなしくみがあれば、異なる企業同士が緩やかに互いの発想やデータを持ち寄ることで、オープンイノベーションがより起こりやすくなるはずです。

デジタルが担保する、未来の公園の「信用と安心」

丸山：
公共の視点からは、“縁側”をどう捉えればよいでしょうか。

藤元さん：
未来の公園を想像してみてください。その公園の利用対象は、あくまでも地域住民です。その人たちが安心して利用できる空間にするために、どんなことができるでしょうか。例えば、地域住民全員を利用者としてあらかじめ登録しておく。公園には、その人たちを認識できるカメラを設置する。そうすれば、小さいお子さんでも安心してその公園で遊ばせることができます。

大切なことは、安心感をどうつくるかです。事前登録されていない方が入ってきてしまうとアラームが鳴るとか、登録者しか入れないようにゲートを設けるといった対策のとり方もあるでしょう。しかしそこまでしなくても、その公園にいる人たちを特定可能であれば、安心感を生むことができます。

こういったセミパブリックな空間を、デジタルでも作れるのではないでしょうか。

丸山：
つまり、いろいろな企業がデータを“縁側”に持ち寄っている。その様子は外の世界からも見えるので、安全なデータ利活用が保障されている、と。実際のビジネスでの事例はあるのでしょうか。

加藤：
日立が関わっている千葉県の柏の葉スマートシティでは、地域住民の方々の安心・安全を守るためのAIカメラ（※）の導入が進んでいます。例えば刃物を持った不審者が街をうろついていると、それをAIカメラが検知して通報するというしくみです。

※ AIアルゴリズムを用いた画像解析による、物体認識、動作認識などの機能が搭載されたカメラ。

このしくみを、防犯だけではなく、人流データから街の賑わいを可視化することでビジネスにも活用する試みがあります。ただ、プライバシーに関わるデータですから、使い方によっては悪用される恐れもあります。それを防ぐために、日立東大ラボ（※1）では「ハビタット・イノベーションプロジェクト（※2）」において、街で収集したデータの活用ポリシーをどう設定するかという研究を進めています。

※1 政府が提唱する「超スマート社会（Society 5.0）」の実現に向け、2016年に日立が東京大学とともに共同研究の場として設立した。
※2 日立東大ラボが推進する、市民が主体となり身近な課題においてSociety 5.0を実現するための取り組み。

藤元さん：
先ほどお話しした未来の公園でも、個人個人をいわゆる「信用スコア」のようにスコアリングすることで、データの質を高め、より精度の高い認証が実現できるでしょう。もちろん、信用スコアそのものには賛否両論あり、議論を重ねる必要があります。ですが、公園に入ってきた人が「住民か／非住民か」といったデータだけでなく、例えば「成年か／未成年か」もわかれば、認証の精度が上がり、公園を利用する際の安心感が高まるはずです。

電車内の不審者をその挙動から検知するだけなら、現在の技術でも可能かもしれません。それに加え、未来の公園のように鉄道の利用者を会員制にすれば、より確かな安心感を生むことができる。そんな方法論が今後注目されていくのではないでしょうか。

3つの視点で社会システムを設計する「S3アーキテクチャ」

丸山：
藤元さんから非常に大胆なご提案がありましたが、これからの社会システムの建て付け、つまりITの世界でいうところのアーキテクチャは、どんな方向にシフトすべきなのでしょうか。

加藤：
日立の社会システム研究チームが提唱しているのが、「S3アーキテクチャ」です。社会システムをSystem、Service、Societyという3つの「S」の視点から設計するという考え方で、先ほどの藤元さんの縁側の話にも近い部分があるかと思います。

1つめのSystemとは、フィジカルの社会なり、CPS（Cyber Physical System）と呼ばれるサイバーの社会なりを、システムを運用するオペレーターの視点から捉えることです。2つめのServiceは、そのシステムに新しい技術を組み込んでいくというイノベーターの視点です。先ほど申し上げた柏の葉スマートシティの例で言うと、AIカメラを街に設置することで、どんな問題が生じるのか、あるいはどんなイノベーションが起こるのかを検証する、一種のサンドボックス（※）でまさに縁側のような場所です。そして、住民を含めたコミュニティごとにめざすべきゴールを設定し、縁側でそれを試し、評価するというガバナー（governor）の視点が3つめのSocietyです。

※ sandbox：「砂場」を意味する英単語。コンピュータの中に設けられた仮想環境のこと。

この3つの視点で社会システムのルールを設定し、システムがルールにのっとって動いているかどうか、データを基に評価していく。そのプロセスの中で、システムを改善していく。そんなイノベーションの起こし方を提案しています。

課題は、AIを取り巻く「合意形成」と「品質保証」

丸山：
3つめのトピックに入っていきます。「これからの社会システムは、多様なデータとどう向き合っていけばよいのか」。このシリーズのテーマでもあるAIが社会システムに入ってくることで、どんなことが起こるのでしょうか。

藤元さん：
AIによる判断の合意形成をどう図るかが大事になると思います。先ほどお話しした“縁側”のようなセミパブリックなデータ利活用空間に携わる特定の人たちだけでなく、地域住民が意思決定に参加できるようなきめ細かなしくみが必要です。今、スマートシティの次のモデルとして内閣府が提唱している「スーパーシティ（※）」構想でも、住民を交えた合意形成の重視が謳われています。

※ 住民が参画し、住民目線により、2030年頃に実現される未来社会の先行実現をめざす取り組み。AIやビッグデータなどの先端技術の活用や、そのための複数分野間でのデータ連携などが謳われている。

AIが組み込まれる都市のレイヤー構造の中で、どんなシステムがどんなデータを吐き出しているのか。それがどう活用され、何が意思決定されていくのか。そこに住民をはじめとするステークホルダーが関わることが、1つの重要なポイントになると感じています。

加藤：
AIそのもののQA（Quality Assurance）、つまり品質保証をどのように行っていくかという課題も見逃せません。従来のシステムですと、それがどんな挙動をとるか事前に設計することができますが、AIの場合は収集したデータに基づいて学習した結果で挙動が決まっていきます。これまでのシステムとは異なる品質保証のあり方を議論する必要があります。

これからのデジタル社会におけるトラストの考え方として、我々は「Trust of Data」「Trust by Data」という概念を提案しています。「Trust of Data」は、オンラインで流通しているデータがどこから生まれたものなのか、信頼できるものなのかという視点から、文字どおりデータそのものが「信頼するに足る」ことを担保する技術。それに基づいて、人やシステムが、期待した挙動――例えばデータ活用から生まれたサービスが「信頼するに足る」証拠を明らかにする技術が「Trust by Data」です。この両面においてデータ流通のしくみをいかに構築するかが問われています。

AI同士が管理しあい、システムの「Trust」を担保する

藤元さん：
AI同士が互いに管理しあったり、刺激しあったりできるしくみもこれからは必要です。現段階では「教師あり学習（※）」タイプのAIが主流ですが、こうしたAIの場合、当然ですが教師データそのものに判断を左右されることになります。例えば、トラには稀に白い個体もいる。しかし、教師データとして黄褐色のトラだけを学習させておくと、「トラというものはすべて黄褐色だ」とAIが偏った認識をしてしまう。そういうリスクをはらんでいます。

※ 機械学習の手法の1つ。人間が用意した正解とともにデータを学習させることで、コンピューターが人間の意図したとおりにデータを分類できるようにする。

仮に、「最近、一部の地域で白いトラが増えている」となった場合に、そういったちょっとした傾向の変化を重視するタイプのAIが、「トラ＝黄褐色」と思い込んでいるAIに対して、「いや、実は白いトラもいるんだよ」と指摘してあげられる。そんなAI同士の関係のしくみが求められると思います。

加藤：
今は、システムそのものの「Trust」をいかに保証すべきかが問われる時代です。日立は世界経済フォーラム第四次産業革命センター、経済産業省とともに、「トラスト・ガバナンス・フレームワーク」という概念を提唱しています（※）。システムの「Trust」を保証するには、Trust←Trustworthiness←Governance←Trust←……という連鎖が必要だという考えです。ここでいう「Trust」とは、ある人、ある主体が主観として「そのシステムを信頼できる」こと。それに対して「Trustworthiness」は、あるシステムが信頼に値する＝Trustworthyかどうかが、客観的な証拠や実験で裏付けられていることを指します。

※ ホワイトペーパー「Rebuilding Trust and Governance: Towards Data Free Flow with Trust (DFFT)」参照。

システムが社会から信頼＝Trustを得るには、信頼に値する事実＝Trustworthinessを蓄積する必要があります。Trustworthinessの蓄積は、実効力のあるGovernanceによって担保されるものです。そしてGovernanceそのものは、市民からのTrustを得ることで十分に機能します。この連鎖がシステムのTrustを担保するのです。さらに欠かせないのが、この連鎖の起点となる「トランスアンカー」です。このトランスアンカーを公共財として設定することの重要性を提起しています。

人間の常識を超えるAIの可能性と、人間がとるべきスタンス

藤元さん：
システムの信頼性に対する考え方は、これまでの社会の常識の範囲内でのものと、これまでの常識を超えたものの両方が存在するのではないでしょうか。以前日立さんが行った、AIに教師データなしでブランコの漕ぎ方を学習させ続けたところ、最終的には人間が思いつかないような漕ぎ方をAIが自力で編み出したという実験の動画を拝見して驚きました。AIを使い続けることで、ひょっとしたら人間の常識を超えた、人間には思いつかない次元の何かにたどり着ける。そんな可能性もAIにはあると思うのです。

加藤：
今、人間には取り扱いきれないほどの膨大なデータが生まれています。その分析をAIに頼らざるを得ない中で、いかにAIを信頼すればよいのか、これからも議論を重ねていかないといけません。先ほど挙げたガバナンスのように、人間がどうAIに介入すべきかが非常に大事なポイントになると思います。

丸山：
本日は、社会システムにどうAIを組み込んでいくかというテーマでお二人にお話しいただきました。ときに人間を超えるような自律的な判断をしてしまうAIを毛嫌いすることはもはやできず、それとどう向き合っていけばよいのかを考えなくてはいけない。その重要性を改めて理解できました。お二人とも、ありがとうございました。

藤本 健太郎
D4DR inc.代表取締役社長

野村総合研究所を経てコンサルティング会社D4DR代表。
1993年からインターネットビジネスのコンサルティングをスタート。日本発のeビジネスオープンイノベーションプロジェクト「サイバービジネスパーク」を立ち上げる。ITによるイノベーション、新規事業開発、マーケティング戦略などの分野でコンサルティングを展開。J-Startupに選ばれたPLANTIOを始めさまざまなスタートアップベンチャーの経営にも参画し、イノベーションの実践を推進している。
関東学院大学人間共生学部非常勤講師。BSジャパン日経プラス10ゲストコメンテーター、日経MJでコラム「奔流eビジネス」、Newsweek日本版で「超長期戦略企画室」を連載中を連載中。近著は「ニューノーマル時代のビジネス革命」日経BP

加藤 博光
研究開発グループ
社会システムイノベーションセンタ長（General Manager）

1995年、日立製作所入社。自律分散システム、システム数理・最適化、制御系セキュリティなどの研究開発に従事。水環境や自動車、鉄道などの情報制御システムの運用監視制御および新サービスへのシステム技術適用を推進。2012年から英国にて列車運行管理や地域エネルギーマネジメントに関するプロジェクトに参画。帰国後、インフラシステム研究部長などを経て、2019年より現職。情報処理学会山下記念研究賞(1999年)、計測自動制御学会技術賞(2000年・2016年)など受賞。博士(工学)。

丸山 幸伸（ナビゲーター）
研究開発グループ 社会イノベーション協創統括本部 東京社会イノベーション協創センタ 主管デザイン長（Head of Design）

日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズに出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人財教育にも従事。2020年より現職。

プログラム1「社会システムのトラスト」
プログラム2「多様なデータが作る社会システム」
プログラム3「社会システムへのトラストを再構築する」