一般財団法人日本情報経済社会推進協会
電子情報利活用研究部　主幹　恩田　さくら

• 「IT-Report2023 Winter」全文はこちらから

2022年11月、米国のOpenAI社が、ChatGPTの提供を開始した。GoogleやMicrosoftをはじめとする米国の大手IT企業も大規模言語モデル（LLM）の開発・提供を進めている。生成AIの利用者は急増しており、文章、画像、音声、音楽、動画、プログラムコード等を生成する生成AIが多くの人に広く利用されることで、生活やビジネスにおけるイノベーションの期待が高まっている一方で、偽情報、プライバシー、著作権、公平性等の課題も、改めて認識されている¹。

AIをめぐる政策的な議論は2015年頃から始まったといわれ、2016年のG7情報通信大臣会合（高松）にて日本からAIの開発原則の議論を提案し、2019年5月にOECDで合意されたAI原則が公開され、同年6月のG20首脳会合で、AI原則を首脳宣言の付属文書として、G20AI原則が合意された²。このように当時AI原則については概ねコンセンサスが形成されつつあり、AI原則を社会に実装するための具体的な制度や規律の策定についての議論に移行してきていたが、2022年の生成AIの登場により、各国においても、G7等の国際協調の場においても、AIガバナンスの議論が加速している。

2023年4月のG7デジタル・技術大臣会合（高崎）では、G7メンバーの間で異なる場合のある、AIガバナンスの枠組み間の相互運用性の重要性が確認され、5月に開催されたG7広島サミット首脳宣言においては、包摂的なAIガバナンス及び相互運用性に関する国際的な議論を進めることとなり、広島AIプロセスが創設された。同年10月には、広島AIプロセスに関し、まずは、開発者を対象とした行動規範と指針について、G7首脳声明が発出された³。AIの利用者や事業者向けのルールは、別途2023年中にまとめられる予定である。

各国のレベルで、AIに関する具体的な制度や規律の策定も進んでいる⁴。欧州においては、AI法案について、2023年6月に欧州議会が修正案を採択し、今後早期の法の公布と施行を目指し調整を行う方向とされている。リスクベースアプローチで、許容できないリスクをもつAIシステム（個人の意思決定を歪ませるAI、公的機関によるソーシャルスコアリング、法執行を目的とした公にアクセスできる場所でのリアルタイム遠隔生体識別システムの利用等）は原則禁止、ハイリスクなAIとされるものには、データベース登録、適合性評価等、厳格な要件が課せられる。米国においては、2023年7月に、AI開発で先行する米国企業7社（OpenAI、Google、Microsoft、Meta等）がAIの安全な開発のための自主的な取組みを約束したこと、9月にはさらに8社（Amazon、Adobe等）が新たにそれに参加することを米国政府が発表した。10月30日には、バイデン大統領が、AIに関して、新たな安全性評価、公平性と公民権に関するガイダンス、AIが労働市場に与える影響に関する調査を義務付ける大統領令を発表した⁵。英国は、2023年11月1日～2日に、世界28カ国がAIの安全性を議論する国際会議「AI安全サミット」を英国で開催し、報道によれば、AIの安全性を政府の研究機関で事前検証することなどが議論されたという。このように、AIガバナンスをめぐる各国の取組みや議論は、日々更新されている状況である。

• 1-1　「AIに関する暫定的な論点整理」（AI戦略会議、2023年5月）別ウインドウで開く
• 1-2　「AIの責任ある展開に向けて　広島AIプロセスへの政策提言」（東京大学未来ビジョン研究センター　技術ガバナンス研究ユニット、2023年9月）別ウインドウで開く
• 2　「我が国のAIガバナンスの在り方ver.1.1」（経済産業省、2021年3月）別ウインドウで開く
• 3　「広島AIプロセスに関するG7首脳声明」（2023年10月）別ウインドウで開く
• 4　詳細は以下のレポートも参照いただきたい。
• 「AIに関する国際的なルールメイキングと生成AIのインパクト　（1）欧米における議論の動向」（JIPDEC、2023年9月）
• 「AIに関する国際的なルールメイキングと生成AIのインパクト　（2）広島AIプロセス及び国際動向」（JIPDEC、2023年10月）
• 5　「バイデン米政権、AIの安全性に関する新基準などの大統領令公表」（JETRO、2023年11月）別ウインドウで開く

日本においては、2019年に「AI利活用ガイドライン」⁶「人間中心のAI社会原則」⁷、2021年に「AI原則実践のためのガバナンス・ガイドライン」（2022年に改訂）⁸ 等が制定されてきた。2023年、政府は AI戦略会議を設置し5月に初会合を開催し、6月に「AIに関する暫定的な論点整理」⁹を公表するとともに、各省庁のガイドラインの統合に向けた作業を進めることとされ、9月には同会議にて「新AI事業者ガイドライン スケルトン（案）」が示された¹⁰。原稿執筆点（2023年11月）では、政府で検討が進められているところであり、公表が待たれる。

個人情報保護の観点では、2023年6月には、個人情報保護委員会が、「生成AIサービスの利用に関する注意喚起等」を発出した¹¹。生成AIに個人情報を含むプロンプトを入力する場合には、特定された利用目的を達成するために必要な範囲かを十分確認することや、特に、入力する情報が、生成AIサービスの提供者において、AIの学習データとして利用されることが予定されている場合には、あらかじめ本人同意を得ることなく個人データを含むプロンプトを入力してしまうと、個人情報保護法の規定に違反することとなる可能性があることが注意喚起されている。

今回は生成AIに係る制度・規律の議論の状況を中心に記載したが、制度・規律の議論・検討状況や関係省庁からの注意喚起等の情報と併せて、実務においては生成AIやLLM自体の技術革新、提供されるサービス自体のアップデートの状況等も注視していくこととなる。業界団体、関連する協議会、商工会議所などから、生成AIの利活用を進める際のポイントや注意事項等、実務で参照できる内容が公表されているものもある。こういった成果物を活用することや、場合によっては団体活動への参画なども、利活用を進める企業にとって有益であると考えられる¹²。

• 6　「AI利活用ガイドライン〜AI利活用のためのプラクティカルリファレンス〜」（AIネットワーク社会推進会議、2019年8月）別ウインドウで開く
• 7　「人間中心のAI社会原則」（統合イノベーション戦略推進会議、2019年3月）別ウインドウで開く
• 8　「AI原則実践のためのガバナンス・ガイドラインver.1.1」（経済産業省、2022年1月）別ウインドウで開く
• 9　「AIに関する暫定的な論点整理」（AI戦略会議、2023年5月）別ウインドウで開く
• 10　AI戦略会議　第5回　議事次第・配布資料（2023年9月）別ウインドウで開く
• 11-1 「生成AIサービスの利用に関する注意喚起等について」（個人情報保護委員会、2023年6月）別ウインドウで開く
• 11-2　リーフレット「生成AIサービスの利用に関する注意喚起」（個人情報保護委員会）別ウインドウで開く
• 12-1　日本ディープラーニング協会からは、生成AIの活用を考える組織の円滑な導入のために利用ガイドラインのひな形が公表されている。別ウインドウで開く
• 12-2　2023年10月には、AIガバナンスをめぐるマルチステークホルダーでの議論の必要性を受けて、有志企業で構成されるAIガバナンス協会が設立された。別ウインドウで開く
• 12-3　また、東京商工会議所からは「中小企業のための『生成AI』活用入門ガイド」が公表されており、2023年10月31日には第2版が公表されている。別ウインドウで開く