プログラム1
プログラム2「未来を思索するためのSFプロトタイピング」
プログラム3「EUのAI規制政策と企業のリスクとチャンス」
世界各国において、それぞれの独自のAIガバナンス検討の動きが加速している
AIの信頼性確保に向けた世界の動き
近年AIは、深層学習技術の飛躍的な進歩により、 Googleの「アルファ碁」がプロ囲碁棋士に初勝利するなどしている一方、自動走行車のAIの判断ミスによる初めての事故が起きたり、昨年6月には白人警官による黒人暴行死事件を受けて、警察向け顔認証AI事業を停止する企業が出るなど、AIがもたらす差別や誤作動リスクが懸念されるようになっています。
そのような現状の中で、各国地域はそれぞれのAIガバナンスの枠組み検討の動きを加速しています。
AI大国の地位堅持をめざす米国は、企業の自主裁量を基本に、自国技術の改変や搾取を防止する方向で検討。これに対し”中国式”AI経済圏を確立したい中国は、政府主導・官民一体で米国を追い上げるため、自国が優位にある分野の技術標準への準拠を迫っています。
そしてEUは、欧州発のルールを作ることでEU産業の権利保護と産業競争力の確保を両立することをめざし、２021年4月にAI規制の法的枠組み案を公表しました。これにより、さらに各国の動きが活発化しています。
企業ではマイクロソフト、Google、ソニー、富士通、NEC、日立、Facebook、KDDIが相次いでAI開発、利活用に関わる原則を公表。国際機関でも、OECD （経済協力開発機構）がAIに関する初の国際的な政策ガイドラインを採択するなど、企業や国際機関でも検討が本格化しています。
“世界のルールメーカー”EUのAI規制政策とは
EUが2021年4月に提案した AI Act は、法的拘束力を伴う世界初のAI利用に関する包括的規制案です。EU以外の国で開発されたAIであってもEU域内で利用されれば規制の対象になること、禁止規定や法定要件に違反した場合には最大で世界売り上げの6%の罰金を課すことなどが盛り込まれています。
もう一つ、リスクを「禁止されるAI」「ハイリスクAI」「限定リスクAI」「最小リスクAI」の4段階に分類し、それぞれ異なる法的要件や義務を設けたのも大きな特徴です。
EUが2021年4月に提案した、世界初のAI利用に関する包括的規制案「AI Act」
「禁止されるAI」は、人権侵害リスクが極めて高い4つのAI利用をEU域内において禁止する規定を提示しています。「サブリミナル技術で人の行動を操作、または身体的・心理的損害をもたらすもの」、「子どもまたは精神障がいをもった個人の脆弱性を利用するもの」、「公的機関が行う個人の不利益につながるような社会的スコアリング」、「公的機関が法の執行を目的に公共の場でリアルタイムに遠隔生体認証を行うもの」ーーこの４つです。
一方、安全・人権侵害リスクが高い分野のAI利用は「ハイリスクAI」に指定されました。医療機器や工作機械分野など、その誤作動によって人間の身体に危害が及ぶ可能性があるもの、顔認証技術などプライバシー上の懸念があるものに代表される幅広い分野を対象としました。
ハイリスクAIを提供する事業者へは、ライフサイクル全般にわたる要件遵守義務を課すほか、市場投入前のEU基準に基づく適合評価などの法的手続きや、市場投入後もAIに変更が生じた場合は再度手続きを繰り返すことなどを法的要件として規定しています。
AI Act審議の流れと論点
AI Actは今後、欧州議会での法案の審議・公布・施行という3つのプロセスを経るため、実際に規制の適用が開始されるまでには一定の猶予があるとみています。
GDPR（General Data Protection Regulation／EU一般データ保護規則）の場合は法案審議に4年強かかっており、この1.5倍の時間はかかるだろうと予測されています。その後法案成立、公布と進み、施行後24ヶ月後に規制適用開始の予定ですが、市場投入済みのAIに関しては遡及適用（過去にさかのぼって適用すること）なしという規定になっているので、これは事業者としても安心できる内容といえます。
審議では、具体的な規制の対象の範囲と、ハイリスクAIへの法定要件、特に利用者と提供者の間での責任分界点が大きな論点となると見られています。
AI Actによって、企業のイノベーション意欲の萎縮などのリスクも懸念されている
そして、これらの項目に対して考慮されるべきなのが企業の負担です。市場のイノベーション意欲の萎縮リスク、企業のコンプライアンスコストの増加、流通チャネル上の責任分界点の置き所などが大きな論点となっていくでしょう。
これらの論点に対して、欧州議会や在欧NGO、市民団体などは規制よりのスタンスを示す一方、産業界は総じて規制の導入によるイノベーションの阻害リスクを懸念しています。日本の経団連もAIの提供者のみを厳しく規制することを避け、ユーザーの努力も促すことを期待しています。
予想される変化と企業のリスクとチャンス
AI Actの公表によって、今後は次の3つの変化が想定されていましす。一つ目は、EU市場における法定要件の厳格化、二つ目は企業のコンプライアンス負担増、三つ目は米国や日本をはじめ各地におけるガバナンス検討の加速です。
こうした変化が起きる中でリスクとチャンス両面がありますが、私たちとしては生じた変化をチャンスに変えていくための企業のAIガバナンスの重要性が増すのではないか、と見ています。
AI Actによって、リスクだけではなく、さまざまなチャンスが生まれる可能性を秘めている
EU市場における法定要件の厳格化によって、法定要件を満たせない製品・サービスはそもそもEU市場に投入できなくなるというリスクがありますが、視点を変えれば、要件をクリアすることができれば”EU基準をクリアした製品・サービス”として顧客からの信頼を得やすくなるといえます。
法定要件に耐えるAIガバナンスの体制整備も必要となっていきますが、この変化により効率的なAIガバナンス体制の構築を支援できる製品・サービスの価値が高まっていくと捉えることもできます。AIサプライチェーン上の調達先が要件に耐えられるかという恐れも、見方を変えればコンプライアンス意識の低い企業の参入障壁が高まるともいえます。
そして、EU以外にも規制強化のトレンドが波及する恐れがある一方で、自社のAIガバナンスに対する理解が得られれば幅広い市場から信頼を獲得するチャンスにもなり得ます。
日立は「AIガバナンス」と「技術」により、社会トラストの確保をめざす
その中で当社は、「AIガバナンス」と「技術」をイノベーション推進の両輪と位置付け、社会システムのトラスト確保に向けたAI倫理意識の浸透を継続できるように取り組んでいます。
2021年2月に当社が公開したAI倫理に基づき、開発における社内スキームもあり、原則に基づく社内教育の推進や、プロジェクトへの考え方の浸透も図っています。
次回のウェビナーでは、こうした変化に応じた当社の具体的な取り組みを紹介させていただきます。
鵜飼順哉
Hitachi Europe GmbH Brussels Office
2012年、株式会社日立製作所に入社。日立工場、公共営業、コーポレート渉外部門勤務を経て、2020年から日立製作所 欧州コーポレート事務所（現在の日立ヨーロッパ ブリュッセル事務所）赴任。主にEUのAI政策の動向把握および欧州委員会や欧州議会、在欧業界団体などへの働きかけに従事。
プログラム1
プログラム2「未来を思索するためのSFプロトタイピング」
プログラム3「EUのAI規制政策と企業のリスクとチャンス」
協創の森ウェビナーとは
日立製作所研究開発グループによるオンラインイベントシリーズ。日立の研究者やデザイナーとの対話を通じて、新しい協創スタイルの輪郭を内外の視点から浮き上がらせることで、みなさまを「問いからはじめるイノベーション」の世界へいざないます。
関連リンク
