プログラム1「日立のAIガバナンス」
プログラム2「AIはサイバーとフィジカルの暮らしを繋ぐことができるのか」
プログラム3「社会から信頼されるAI」
AIとの最初の接点は、鉄腕アトムと郵便番号
丸山：
対談のナビゲーターを務めさせていただく、日立製作所 研究開発グループの丸山幸伸です。本日のテーマは「AIはサイバー空間と現実世界をつなげられるのか」。ご登場いただくのは、先端テクノロジーと社会の関わりをメディアの最前線で捉え、論じてこられた株式会社インフォバーンの小林弘人さん。そして、研究者としてAIの開発に携わってきた日立の影広達彦です。
左から日立製作所の影広達彦、ナビゲーターの丸山幸伸、インフォバーンの小林弘人氏。対談はインフォバーン社のオフィスにて行われた。
小林さん：
インフォバーンの共同創業者で、現在代表取締役会長を務めている小林です。わたしはもともと、創業前の1994年にアメリカ発のテックカルチャー・メディア「WIRED」の日本版を立ち上げ、その編集長をしていました。いわばインターネットの黎明期、当時「デジタル革命」と呼ばれていた世の中の動きをレポートしていました。企業のデジタルコミュニケーションを支援するために起業したインフォバーンは現在、オンラインメディアとコマースを運営するグループ会社をもち、そこでは「ギズモード・ジャパン」や「Business Insider Japan」といったオンラインメディアに注力しています。一方、わたし自身はここ10年以上、企業や自治体のイノベーションのお手伝いをしています。その一環で、2016年からベルリンのテック・カンファレンスTOA（Tech Open Air）の日本公式パートナーも務めています。
影広：
日立製作所 研究開発グループの先端AIイノベーションセンタ長を務めている影広です。わたしは1994年に日立に入社し、主に画像処理や画像認識、パターン認識、機械学習といった技術の研究開発に携わってきました。
丸山：
お二人にとって、AIとの最初の関わりはどのようなものでしたか。
小林さん；
「WIRED」の取材で、のちに「AIの父」と呼ばれるマービン・ミンスキー氏（※1）や、彼の後進で並列分散処理（※2）を研究していたダニエル・ヒリス氏といった方々に直接お話を伺う機会がありました。まさにAIの黎明期のことです。当時、ミンスキーさんに「鉄腕アトムみたいなロボットを実際に作れる時代が来るのでしょうか？」と質問したところ、「そんなものできるわけありません」と。「とにかく、AIに常識を教え込むのが大変なのです。“常識データベース”が必要です」と話されていたのをよく憶えています。
※1 Marvin Lee Minsky（1927―2016）。アメリカ合衆国のコンピューター科学者・認知科学者。
※2 コンピューターにおいて特定の処理をいくつかの独立した小さな処理に細分化し、複数の処理装置（プロセッサ）上でそれぞれの処理を同時に実行させること。
影広：
日立に入社して間もない頃、郵便番号が5桁から7桁に増えることにともない、当時の郵政省が郵便区分機をOCR（Optical Character Recognition：光学文字認識）で郵便物の宛先を読み取る新型区分機と入れ替えることになり、そのプロジェクトで認識アルゴリズムを研究したのがわたしと企業におけるAIとの最初の接点でした。その後、印字されたURLをカメラで撮影して文字認識し、そのリンク先にアクセスするという技術を、当時インタフェース技術のコンセプト開発をしていたデザイナーの丸山と一緒に研究して、プロトタイプを作るところまで行きました。まだ、携帯電話の「写メール」もない時代に、カメラをセンサーにして文字の入力支援をする提案でした。
「AI対AI」という構図
丸山：
そんなバックグラウンドをお持ちのお二人に、1つめの問いを投げかけたいと思います。「AIが人々の生活に入り込んでいる今、社会システムはどう変わるのか？」。社会システムと聞くと鉄道やエネルギーといったインフラの設備に目が行きがちですが、実際にはジャーナリズムや租税、法律といった要素も含めた大きな社会の営みとしての「系」を指すものだと思います。小林さん、いかがでしょうか。
小林さん：
まずご紹介したいのが、Automated Insightsという会社が開発した、データから自動で記事を生成するライティングエンジン「Wordsmith」です。もともと想定されていた用途は、投資信託の運用会社が顧客一人ひとりに対し毎月送付していた収益・損益レポートを自動で作成・送信することでした。データを入力すれば、人間が書いたものにある程度近いクオリティの記事を自動で作成できるため、アメリカではスポーツの試合結果や企業の株価の推移といった簡単なWebニュースの記事作成に使われています。
このほか、記事だけでなく見出しのレコメンドや、Webサイトのコンセプトを記述してくれるものも出てきています。例えば、Wordflow AI ArticlesというWebサイトの記事は全部、Wordflow AIというライティングエンジンが書いたものなのですが、実はどれもフェイクニュースなのです。
こうしたライティングエンジンが登場する一方で、近年、AIが書いたニュース記事をフェイクなのか事実なのか分析するAIも生まれています。少なくともジャーナルの世界は、いずれ「AI対AI」の時代に突入していくのではないかと感じています。
影広：
「AI対AI」の構図は画像認識の世界でも起きています。GAN（Generative Adversarial Networks）、つまり敵対的生成ネットワークといって、一方のAIには本物と同じような画像を作らせ、もう一方のAIにそれを見破らせるという学習を繰り返すアルゴリズムの登場です。すでにいろいろな分野で使われ出しており、AI対AIの構図はこれからどんどん広がっていくと思います。
AIの限界と、「人間力」介入の余地
小林さん：
先ほど、Web記事の見出しをレコメンドしてくれるライティングエンジンをご紹介しましたが、わたしの実体験として興味深かったことがあります。毎回AIがレコメンドする見出しを記事に付けていると、やはり似た傾向の表現ばかりになってしまうので、アクセス数もだんだん頭打ちになってきます。ところが、ある日突然アクセス数がスパイク（急激に増加）した記事があり、データ分析を行っている人からその理由を尋ねられました。そこで記事を見てみたところ、見出しの表現がそれまでとまったく違っていたのです。そのときの見出しはAIではなく人間が考えて付けたもので、「時代の気分」をうまく先回りして言葉にしていました。この体験から、人間がAIに介入する余地はまだまだあるのではないかと感じました。
丸山：
要するに、統計的に収斂（しゅうれん）されている状態に突然、人間的な要素が入ってくることで、予期していなかった変化が起きる。なぜこういったことが可能なのでしょう。
影広：
機械学習は、ある程度連続性をもって――つまり、規則的に学習させるとどんどん精度が上がっていくのですが、そこからもう一段精度を高めるには、どこかのタイミングで異質なものを学習させる、つまり非連続性が必要になってきます。昔、遺伝的アルゴリズム（※）を活用して、突然変異により大きな変化を起こすことができたという事例がたくさんありました。今まさに、多くの研究者がいろいろなアプリケーションで取り組んでいると思いますし、もしかすると、自分でそれをやり始める計算機がいずれ出てくるかもしれません。
※ データ（解の候補）を遺伝子で表現した「個体」を複数用意し、適応度の高い個体を優先的に選択して、突然変異などの操作を繰り返しながら解を探索する近似解探索手法。
AIによる起訴」V.S.「人間による起訴」
小林さん：
カリフォルニア州にニコール・シャナハン氏という弁護士がいます。知的財産権の管理ソリューションを提供しているスタートアップ「ClearAccessIP」の創設者であり、法学とコンピューター科学を組み合わせたリーガルインフォマティクスという学問に取り組むスタンフォード大学の研究機関「CodeX」のフェローでもある女性です。この方が、AIを用いた検察の起訴システムと人間それぞれに起訴させ、起訴率を競わせるという研究をしました。
すると、人間のほうが起訴率が高いという結果が出たそうです。これは人間のほうが優秀ということではなく、検察が起訴・不起訴を判断する際にどうしてもバイアスがかかるからです。特に有色人種が起訴されるケースが多いと、以前に話されていました。
この話を聞いて、AIが人間の主観に流されず、ある意味公正に判断している点が面白いと思いました。ただ、この逆の現象も近年起きています。AIがどんどんWeb上の情報を網羅してきたと同時に、その情報自体にバイアスがかかっていたために、例えば有色人種の画像に対する認識率が低いという結果も出ています。AIの能力を過大評価せず、そこにどれだけ人間の判断を組み込むか。そのバランスの見極めが大切だと感じています。
丸山：
まさに、人間がどこまでAIに介入すべきか考えるべき局面に我々は直面している、と。
影広：
やはり、計算機というものはとても正直ですからね。データそのものにバイアスがかかっていれば、計算機はそれを素直に計算し、偏りのある結果が生まれてしまいます。バイアスをキャンセルしたり、人間がデータをチェックしたりといった何かしらのガバナンスを利かせるしくみが、AIにはまだまだ必要だと思います。
「自然なデジタル」こそ、未来のあるべき姿
小林さん：
わたしは未来の裁判がどうなっているのかが気になります。例えば、人やAIがAIを訴えることはできるのか。訴える相手は、AIのサービスを提供している企業、もしくはAIを開発した企業になるのでしょうが、そのAI自身が正常かどうかを監査するAIもいずれ必要になってくるのではないかと思います。よくSF映画だと、AIが突然狂って世の中に大変なことが起こるじゃないですか。これまでにどんなデータを学習したのか、あるいは判断基準のアルゴリズムはどんな内容なのかなど、AIにかかっているバイアスやAIがはらむ脆弱性がわかっていれば、大きな事故は防げそうです。そして、そのような事態を未然に防ぐしくみが今から必要かもしれません。
影広：
今、研究の分野ではXAI（Explainable AI）、つまり説明可能AIがホットなテーマです。そのAIがどう動いていて、どんな要因でどんなことが起きるのかを人間に説明できるしくみが我々研究者に期待されています。さらに、それぞれの分野に特化したAIだけでなく、いろいろな意見を統合できるしくみの開発にもこれからは取り組まなくてはいけないと思います。
小林さん：
それはわたしも常々感じています。今、人間と同じような感性なり思考回路なりを持ったAGI（Artificial General Intelligence：汎用人工知能）の開発に多くの方々が取り組んでいますが、やはり開発者の志向に似るものだと思います。もし、世界の問題をすべて数式で解決できると考えている方が開発すると、そういう方向性のAIができあがるでしょう。実際、スティーブ・ジョブズが生み出したプロダクトには、彼の強い美意識が、ほかとの混在を許さないスタンドアローンな立ち位置を希求しているような印象を受けます。また、ダイソンの製品には、ジェームズ・ダイソンの「よい機能こそが優れたデザインである」といった思想が色濃く表れています。多様な人間がいるように、多様なAIが存在している状態こそが、いわば“自然なデジタル”なのかなと感じます。
小林弘人
株式会社インフォバーン 代表取締役 会長（CVO）
- ビジネス・ブレークスルー大学 IT学科専任教授
- ビジネス・インサイダー・ジャパン 発行人
- Israeli Blockchain Association （イスラエル・ブロックチェーン協会）アドバイザリーボード
- 長野県 信州ITバレー構想 アンバサダー
「ワイアード・ジャパン」「ギズモード・ジャパン」など、紙とウェブの両分野で多くの媒体を創刊。また、日本ではじめてブログを書籍化し刊行。『真鍋かをりのココだけの話』はベストセラーに。1998年より企業のデジタル・コミュニケーションを支援する会社インフォバーンを起業。コンテンツ・マーケティング、オウンドメディアの先駆として活動。2005年、経済産業省と内閣府によるコンテンツ政策委員を務める。2012年より、日本におけるオープン・イノベーションの啓蒙を行い、現在は企業や自治体のDX（デジタル・トランスフォーメーション）やイノベーション推進支援を行う。2016年、ベルリンのテック・カンファレンスTOAの日本公式パートナーとなる。2018年より、企業内起業家をネットワークするUnchainedを創設。2021年夏、日本の企業と自治体による循環型経済や生物多様性を軸にしたラーニング＆コラボレーション・プログラム『GREEN SHIFT』を実施。
主な著書に『AFTER GAFA 分散化する世界の未来地図』（カドカワ）『メディア化する企業はなぜ強いのか？』（技術評論社）『ウェブとはすなわち現実世界の未来図である』（PHP新書）主な監修・解説書に『フリー』『シェア』『パブリック』（NHK出版）ほか多数。
影広 達彦
研究開発グループ テクノロジーイノベーションセンタ統括本部
先端AIイノベーションセンタ長（General Manager CTI - Advanced Artificial Intelligence）
博士 (工学)
1994年 筑波大学大学院理工学研究科修士課程修了後、日立製作所入社。2015年 University of Surrey にて客員研究員。その後、中央研究所にて、映像監視システム、産業向けメディア処理技術の研究開発を取り纏め、2015年から社会イノベーション協創統括本部にて、ヒューマノイドロボットEMIEWの事業化に携わる。2017年にメディア知能処理研究部長、2020年より現職。
丸山 幸伸（ナビゲーター）
研究開発グループ 社会イノベーション協創統括本部東京社会イノベーション協創センタ 主管デザイン長（Head of Design）
日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズに出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人財教育にも従事。2020年より現職。
プログラム1「日立のAIガバナンス」
プログラム2「AIはサイバーとフィジカルの暮らしを繋ぐことができるのか」
プログラム3「社会から信頼されるAI」
