プログラム1「社会システムのトラスト」
プログラム2「多様なデータが作る社会システム」
プログラム3「社会システムへのトラストを再構築する」
「社会システム」は人々の生活を支える基盤
人々の生活を支えるシステムを「社会システム」と定義
第4回の協創の森ウェビナーでは「革新性とリスクを併せ持つAIによってより良い社会を導くためには、AIのガバナンスと社会システムのトラスト（信頼）という2本の柱が重要である」という話をしました。また、筑波大学の大澤博隆先生と当社西澤格が、未来の思索を深めるための方法論であるSFプロトタイピングについて対談しています。第5回のウェビナーでは、リアルとサイバーにおける未来の AI のあり方について、株式会社インフォバーンの小林弘人さんと、当社の影広達彦が対談しました。今回のウェビナーではその流れを受けて、社会システムのトラストについて議論します。
私たちは社会の基盤となり人々の生活を支えるシステムを「社会システム」と捉えています。自治体手続きなどの個人認証のための技術基盤、鉄道の安定輸送を支える列車運行管理システム、銀行の決済手続きや与信情報を管理するITシステムの提供など、社会の基盤となるシステムを裏で支える役割を重要な使命と認識して取り組んでおります。
トラストの構築がデジタル時代の最重要課題
「デジタル時代のトラストとは何か」を丁寧に紐解くことが重要
社会システムには、トラストによって動いているものが多くあります。たとえば私たちは日々何気なく水道の水を使っていますが、これは蛇口をひねれば飲むことができる安全な水がいつでも出てくるというトラストのもとに成り立っています。これをより一般化し、私たちはトラストを「AがBに対して望む行動をしてくれるという期待を持つこと」と定義しています。
昨今では社会システムにおいてもデジタル化が進んでいますが、デジタル化された社会システムでは相手が見えないため、システムの向こう側にいる相手が人間なのかシステムやAIなのかが分かりません。データ処理を実行しているAIの中身もよく分かりません。このような中でユーザー市民がデジタル化された社会システムに対して信頼を持つのは難しいことです。
信頼を得るためには「デジタル時代のトラストとは何か」を丁寧に紐解き、それを再構築していく必要があります。デジタル時代のトラストを再構築するために考えるべきことは数多くありますが、その中で特に重要と考えている観点を3つお話します。
トラストの再構築において重要な３つの観点
トラストを再構築するためには3つの観点が必要
最初の観点は、デジタル化された社会システムを構成するデータとAIに対する信頼を確保することです。これらに対する信頼を持てることが「社会システムが望ましい動作をする」という期待を持てるか否かのカギとなります。
2つ目の観点として、デジタル化された社会システムのトラストを構築するための指針を持つことが重要です。私たちは世界経済フォーラム第四次産業革命日本センター、経済産業省と連携し、多様なステークホルダーとの議論に基づいたトラスト・ガバナンスの指針を白書として公開しています。この指針において、デジタル化された社会システムへの信頼がどのように構築されるかについて、トラスト・ガバナンス・フレームワークという形で整理しています。
自動運転システムが安全に動作するという市民からの信頼がどう構築されるかという事例でご説明いたします。まずは規制やルールによって、自動運転車のメーカーや自動運転システム提供者をガバナンスすることが起点となります。このガバナンスは政府による規制だけではなく、企業や市民社会がトラストを規定・監視するなど保証の基点（トラストアンカー）となる場合もあります。システムで使われている技術やサービスは、ガバナンスのもとで信頼に値する事実を根拠として蓄積する必要があります。
自動運転システムの場合、たとえば交通事故件数のような、自動運転が安全であることの根拠となるデータが蓄積されます。この根拠を市民が認知することで、自動運転システムとシステム提供者に対して「システムが安全に動作する」という信頼を持つことができます。この規制→根拠→信頼という流れを作ることが大切です。また、デジタルシステムは継続的にアップデートされるので、規制や根拠を常に見直し、アジャイル（素早い、機敏）かつ継続的にトラストを構築し続けることが重要になります。
3つ目の観点として、社会システムのトラストを再構築するためのアーキテクチャ（システムの構造）が重要であると考えています。私たちは、デジタル化された社会システムとそのトラストについて、3つの視点（ビュー）でアーキテクチャを捉えています。システムを実装し実世界で物を動かすオペレーターの「システムの視点」。システムの組み合わせや構成のアイデアを出し試行と検証を行うイノベーターの「サービスの視点」。実際にシステムを活用するコミュニティの単位でゴールやルールを定義しシステムがそれを達成することをめざす「ソサイエティの視点」。この3つのアーキテクチャ・ビューで社会システムを開発・運用することによって、コミュニティで合意した多様なゴールを達成し、信頼ある社会システムを構築することができると考えています。
ビューを表す単語の頭文字がいずれもSであることから、私たちはこれをS3（エススリー）アーキテクチャと名付けています。
S3アーキテクチャによって信頼ある社会システムを構築
私たちはみなさまと一緒に、デジタル時代の社会システムのトラストをどう再構築するかという課題に対し、先に述べた３つの観点から向き合い、信頼される社会システムの提供を通じて、多様性のある社会に活力を生み出していくことをめざしています。
政府や企業・市民など、さまざまなステークホルダーが社会システムのトラストの構築に参画し、社会システムの多様なトラストのありかたを実現していくことがとても大切です。また、多様性を取り込んだ社会システムを基盤として、年齢、人種、性別などによらず、あらゆる人が生き生きと暮らせる未来を実現したいと考えています。
――次回プログラム2ではイノベーションの実践者、D4DR inc.代表取締役社長の藤元健太郎さんと、研究開発グループ社会システムイノベーションセンタ長の加藤博光が、「データが創る社会システム」をテーマに、「社会システムにデータが活用されている事例」、「公共と個人の間にある、新たなデータ利活用」、「今後の社会システムは、多様なデータとどう向き合うべきか」の3つのトピックについて対談します。
加藤 博光
研究開発グループ
社会システムイノベーションセンタ長（General Manager）
1995年、日立製作所入社。自律分散システム、システム数理・最適化、制御系セキュリティなどの研究開発に従事。水環境や自動車、鉄道などの情報制御システムの運用監視制御および新サービスへのシステム技術適用を推進。2012年から英国にて列車運行管理や地域エネルギーマネジメントに関するプロジェクトに参画。帰国後、インフラシステム研究部長などを経て、2019年より現職。情報処理学会山下記念研究賞(1999年)、計測自動制御学会技術賞(2000年・2016年)など受賞。博士(工学)。
プログラム1「社会システムのトラスト」
プログラム2「多様なデータが作る社会システム」
プログラム3「社会システムへのトラストを再構築する」
関連リンク
