三菱総合研究所は生成AI時代の始まりに向け「生成AIラボ」を新設する。それを記念して「三菱総研 生成AIコラム」の連載をお届けする。
AI事業者ガイドライン案の概要と5つの特徴
第3部 第3回のコラムでは、世界のAI法規制やガイドラインの議論の動向を紹介した。
日本でも、2023年12月に、AI戦略会議から新しいAI事業者ガイドラインの案（以降、ガイドライン案）が公表された。パブリックコメントを経て、2024年3月に正式公表予定である。今後、AIに関連する事業者はガイドラインに沿って事業を展開することとなる。
今回のコラムは、このガイドライン案について紹介する。
日本でも、2023年12月に、AI戦略会議から新しいAI事業者ガイドラインの案（以降、ガイドライン案）が公表された。パブリックコメントを経て、2024年3月に正式公表予定である。今後、AIに関連する事業者はガイドラインに沿って事業を展開することとなる。
今回のコラムは、このガイドライン案について紹介する。
ガイドライン案は、「AIの安全安心な活用が促進されるよう、我が国におけるAIガバナンスの統一的な指針を示す」ものとして策定された。AIの活用が拡大する一方、AIがもたらす企業のリスクや社会的懸念があることは、以前のコラムでも紹介した通りである。これらのリスクや懸念の緩和と、イノベーションの促進を両立する枠組みを創ろうとするものである。
ガイドライン案には、5つの特徴がある。ガイドライン案は約200頁と大部だが、この5つの特徴を把握することで、内容も理解しやすくなる。以下、順を追って見てみよう。
ガイドライン案には、5つの特徴がある。ガイドライン案は約200頁と大部だが、この5つの特徴を把握することで、内容も理解しやすくなる。以下、順を追って見てみよう。
出所：AI事業者ガイドライン案より三菱総合研究所作成
① 国際／国内での議論の反映
ガイドライン案には、OECDやG7広島AIプロセスなど国際的な場での議論が反映されている。G7広島AIプロセスでは、2023年のG7議長国であった日本によって、国際指針や国際行動規範として成果が取りまとめられた。国際指針では、現時点での世界のAIに対するG7共通の理解として、OECDのレポートが参照されている。生成AIも含む、G7広島AIプロセスでの「高度なAIシステム」の議論も参照されている。
国内に関しては、既存のガイドラインが統合・アップデートされることで、AI関連の議論が反映される形となっている。具体的には、「AI開発ガイドライン（総務省）」、「AI利活用ガイドライン（総務省）」、「AI原則実践のためのガバナンス・ガイドライン（経済産業省）」 などである。ここに、日本のAI戦略の司令塔であるAI戦略会議での議論も反映され、ガイドライン案が策定されている。AI戦略会議では、AIの利用、開発、懸念・リスクといった幅広い論点が議論されている。
国内に関しては、既存のガイドラインが統合・アップデートされることで、AI関連の議論が反映される形となっている。具体的には、「AI開発ガイドライン（総務省）」、「AI利活用ガイドライン（総務省）」、「AI原則実践のためのガバナンス・ガイドライン（経済産業省）」 などである。ここに、日本のAI戦略の司令塔であるAI戦略会議での議論も反映され、ガイドライン案が策定されている。AI戦略会議では、AIの利用、開発、懸念・リスクといった幅広い論点が議論されている。
出所：AI事業者ガイドライン案より三菱総合研究所作成
② 全てのAI関係事業者が対象（開発者／提供者／利用者に3区分）
ガイドライン案の対象は、「事業活動においてAIに関係する全ての者（企業に限らず、公的機関を含めた組織全般）」とされている。対象はさらに、AI開発者／AI提供者／AI利用者に3区分されている。
世界各国の法規制やガイドラインは開発者や提供者を主な対象としたものがみられるが、本ガイドライン案は利用者に具体的な取組を定めていることも特徴的である。G7広島AIプロセス国際指針でも、利用者が対象とされていた。AIは非常に幅広い産業で利用され、社会への影響も大きい。利用時には、開発・提供時に予期していなかった動作が起こる可能性もある。AIを安全に安心して使うためには、開発・提供に携わる事業者だけでなく、利用者の取り組みも不可欠だ。
世界各国の法規制やガイドラインは開発者や提供者を主な対象としたものがみられるが、本ガイドライン案は利用者に具体的な取組を定めていることも特徴的である。G7広島AIプロセス国際指針でも、利用者が対象とされていた。AIは非常に幅広い産業で利用され、社会への影響も大きい。利用時には、開発・提供時に予期していなかった動作が起こる可能性もある。AIを安全に安心して使うためには、開発・提供に携わる事業者だけでなく、利用者の取り組みも不可欠だ。
出所：AI事業者ガイドライン案より三菱総合研究所作成
③ リスクベースアプローチの採用
ガイドライン案は、全体を通じて「リスクベースアプローチ」を採用している。リスクベースアプローチは、AIがもたらすリスクのレベルに応じた対策を取るという考え方であり、EUのAI規則案の議論で注目された。世界のAIガバナンスの議論ではスタンダードなものとなりつつある。
具体的には、事業者が対応すべき事項が、禁止／要対策／適切実施／文書化／要検討／期待などの様々なレベル感で記述されている。実務で運用されるものとしてはチェックリストが用意されており、各事業者の環境・リスク分析に応じてカスタマイズしながら運用することとされている。
具体的には、事業者が対応すべき事項が、禁止／要対策／適切実施／文書化／要検討／期待などの様々なレベル感で記述されている。実務で運用されるものとしてはチェックリストが用意されており、各事業者の環境・リスク分析に応じてカスタマイズしながら運用することとされている。
出所：AI事業者ガイドライン案より三菱総合研究所作成
④ 多様なステークホルダーによる議論
ガイドライン案は、「政府が単独で主導するのではなく、教育・研究機関、一般消費者を含む市民社会、民間企業等で構成されるマルチステークホルダーとして検討を重ねることで、実効性・正当性を重視したものとして策定」されている。ガイドライン案の3つの基本理念の一つに、「多様な背景を持つ人々が多様な幸せを追求できる社会（Diversity and Inclusion）」がある。現代では非常に重視されている価値観であり、多くのステークホルダーをもつAI事業にも重要な観点であろう。全てのAI関係者を対象とするガイドラインとするためには、多様な背景をもつ関係者が議論に参画することが重要である。
⑤ Living document（継続的な更新）
生成AIはじめ技術の進歩は急速である。ガイドラインも、一度策定すればよいというものではなく、状況に応じて今後も継続的に更新していく必要があるだろう。実際に、ガイドライン案の中でも「Living document」であることが述べられている。更新を行う具体的な体制については、今後の検討とされている。
事業者にも、「アジャイル・ガバメント」が求められている。社内のガバナンス体制も一度構築すればよいというものではなく、社内外の状況を把握しながら、より良いガバナンスへと継続的な更新が必要である。
事業者にも、「アジャイル・ガバメント」が求められている。社内のガバナンス体制も一度構築すればよいというものではなく、社内外の状況を把握しながら、より良いガバナンスへと継続的な更新が必要である。
ガイドライン案の構成
ガイドライン案は、本編と別添の2部構成である。
本編は、総論となる第1部と第2部の後、各論となる第3部～第5部で各事業者に該当する事項が説明されている。第1部は総論と用語の定義、第2部は基本理念や原則のほか、事業者共通の指針、ガバナンスの構築について整理されている。第3部はAI開発者、第4部はAI提供者、第5部はAI利用者に関する事項について整理されている。
別添は本編を補完する位置付けである。AIによるサービスやリスクの例、ガバナンス構築時のポイント、各事業者が対応する具体的な手法や「チェックリスト」などが提示されている。事業者は、このチェックリストを取捨選択・カスタマイズする形で運用することが求められる。
本編は、総論となる第1部と第2部の後、各論となる第3部～第5部で各事業者に該当する事項が説明されている。第1部は総論と用語の定義、第2部は基本理念や原則のほか、事業者共通の指針、ガバナンスの構築について整理されている。第3部はAI開発者、第4部はAI提供者、第5部はAI利用者に関する事項について整理されている。
別添は本編を補完する位置付けである。AIによるサービスやリスクの例、ガバナンス構築時のポイント、各事業者が対応する具体的な手法や「チェックリスト」などが提示されている。事業者は、このチェックリストを取捨選択・カスタマイズする形で運用することが求められる。
出所：AI事業者ガイドライン案より三菱総合研究所作成
基本理念には、2019年3月に策定された「人間中心のAI社会原則」の３つの価値である「人間の尊厳が尊重される社会（Dignity）」「多様な背景を持つ人々が多様な幸せを追求できる社会（Diversity and Inclusion）」「持続可能な社会（Sustainability）」が採用されている。ガイドラインでも述べられているとおり、この３つの価値は技術の進歩によって変わるものではなく、普遍的な価値である。この3つの価値をベースとしてOECDのAI原則など海外の議論も考慮しつつ、各主体共通の10指針が策定されている。
10指針は、「人間中心」という理念のもと、「安全性」「公平性」「プライバシー」「セキュリティ」「透明性」「アカウンタビリティ」が中核を占めている。いずれも、生成AIによってクローズアップされてきた課題だ。また、要検討や期待されるものとして、「教育・リテラシー」「公正競争確保」「イノベーション」も挙げられている。
10指針は、「人間中心」という理念のもと、「安全性」「公平性」「プライバシー」「セキュリティ」「透明性」「アカウンタビリティ」が中核を占めている。いずれも、生成AIによってクローズアップされてきた課題だ。また、要検討や期待されるものとして、「教育・リテラシー」「公正競争確保」「イノベーション」も挙げられている。
出所：AI事業者ガイドライン案より三菱総合研究所作成
事業者共通の対応事項、各事業者の対応事項は、この10指針に対応する形で整理されている。具体的な対応事項については、次回のコラムで解説したい。
AI事業者ガイドライン案の意義と今後の課題
ガイドライン案は、AIのリスクや懸念に対応しつつイノベーションを促進するための取組内容を包括的に示す文書として、大きな意義をもつものである。国内外でのAIの論点を取り込みつつ既存のガイドラインを統合したことで、網羅性・整合性とともに、実務で参照する文書の統一性も実現された。
また、AIに関係する事業者全てを対象としながらも、主体別に対応事項を整理した点が評価できる。自社の事業が該当する対策を特定することで、過剰な対応負荷を軽減することが可能だ。
また、AIに関係する事業者全てを対象としながらも、主体別に対応事項を整理した点が評価できる。自社の事業が該当する対策を特定することで、過剰な対応負荷を軽減することが可能だ。
一方で、運用に際しての課題も挙げられる。以下、3つの課題を述べたい。
一つ目は、ガイドラインのアップデートである。AI技術は、生成AIの登場以降特に急速な技術進歩がみられる。技術動向に合わせてアップデートしていく必要性は、ガイドライン案でも「Living document」であると述べられている通りだ。アップデートのスピードが技術の進歩に後れを取らないか、また、アップデートをどのように実施してくのか、体制構築も含め検討を要する。
一つ目は、ガイドラインのアップデートである。AI技術は、生成AIの登場以降特に急速な技術進歩がみられる。技術動向に合わせてアップデートしていく必要性は、ガイドライン案でも「Living document」であると述べられている通りだ。アップデートのスピードが技術の進歩に後れを取らないか、また、アップデートをどのように実施してくのか、体制構築も含め検討を要する。
二つ目は、事業外のリスク軽減である。ガイドライン案はAIの事業に関係する全ての事業者が対象だが、生成AIがもたらすリスクや懸念は、事業活動以外の場での行為に起因するものもある。今や、個人が生成AIを用いてコンテンツを生成し、社会に大きな影響を与えるような情報操作も可能な状況となっている。2024年は国際的に重要なイベントや選挙が続く。選挙結果が民主主義に及ぼす影響は、日本も無縁ではない。ガイドライン案では、「業務外利用者に何らかの影響が考えられる場合」についても触れられているが、事業外の活動をどのようにコントロールしていくかは別途検討が必要であろう。
三つめは、ガイドラインの実効性の担保である。ガイドラインは、リスクのレベルに応じて事業者の対応を促すものではあるが、法的な拘束力をもつものではない。事業活動のコントロールに一定の効果はあると考えられるものの、EUのAI規則案や米国の大統領令のように、一定の拘束力を持たせる必要があるのではないかという指摘もある。実効性の担保については、法的な拘束力のほか、リスクレベルの目安の設定も検討の余地があるのではないだろうか。
また、AIの利用促進という観点からは、制約一辺倒ではなく、利用しやすい環境の構築という観点でのルール整備も重要だ。「AI 戦略会議の今後の課題（案）」で指摘されているように、AIの利用が認められる基準を明確化することで、事業者は安心してAIを利用することができる。例えば、「ＡＩ等を用いた契約書等関連業務支援サービスの提供と弁護士法第 72 条との関係について」（法務省）では、どのような条件のサービスであればAI利用に問題が無く、どのような条件であれば問題があるのか、所管省庁が条件を明確化している。事業者は、自社の事業を条件に合った形とすることで、事業リスクを軽減することができる。
また、AIの利用促進という観点からは、制約一辺倒ではなく、利用しやすい環境の構築という観点でのルール整備も重要だ。「AI 戦略会議の今後の課題（案）」で指摘されているように、AIの利用が認められる基準を明確化することで、事業者は安心してAIを利用することができる。例えば、「ＡＩ等を用いた契約書等関連業務支援サービスの提供と弁護士法第 72 条との関係について」（法務省）では、どのような条件のサービスであればAI利用に問題が無く、どのような条件であれば問題があるのか、所管省庁が条件を明確化している。事業者は、自社の事業を条件に合った形とすることで、事業リスクを軽減することができる。
次回のコラムでは、AI事業者ガイドラインに企業が対応する際のポイントを解説する。
-
ＡＩ戦略会議 第７回 資料1-3 AI事業者ガイドライン案 総務省 経済産業省
https://www8.cao.go.jp/cstp/ai/ai_senryaku/7kai/13gaidorain.pdf（2024年1月12日閲覧） -
総務省AIネットワーク社会推進会議 国際的な議論のためのAI開発ガイドライン案
https://www.soumu.go.jp/main_content/000499625.pdf（2024年2月14日閲覧） -
総務省AIネットワーク社会推進会議 AI利活用ガイドライン～AI利活用のためのプラクティカルリファレンス～
https://www.soumu.go.jp/main_content/000809595.pdf（2024年2月14日閲覧） -
経済産業省AI原則の実践の在り方に関する検討会AIガバナンス・ガイドラインWG AI原則実践のためのガバナンス・ガイドラインVer. 1.1
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20220128_1.pdf（2024年1月12日閲覧） - 例えばリスクの高い順に、ソーシャルスコアリングや人の認知行動を操作するAI、機微な特徴を利用した生体認証システムのAIなどは「禁止」、重要インフラや人材採用・選考AIなどは「規制（事前評価）」、チャットボットやリアルなコンテンツを生成するAIなどは「透明性確保」、上記レベル外のAIは「必須義務無し」、とされている。
- パリオリンピック・パラリンピック、台湾総統選、ロシア大統領選、欧州議会議員選挙、アメリカ大統領選など
- AI利用者に対して、「当該者に対するAIによる意図しない不利益の回避、AIによる便益最大化の実現に努める役割を担う」ことが規定されているとともに、業務外利用者は、「AI利用者の指示、注意に従わない場合、何らかの被害を受ける可能性があることを留意する必要がある。」とされている。
-
ＡＩ戦略会議 第７回 資料2 AI戦略会議の今後の課題（案）AI 戦略会議座長
https://www8.cao.go.jp/cstp/ai/ai_senryaku/7kai/2kadai.pdf（2024年1月12日閲覧） -
ＡＩ等を用いた契約書等関連業務支援サービスの提供と弁護士法第 72 条との関係について 令和5年8月 法務省大臣官房司法法制部
https://www.moj.go.jp/content/001400675.pdf（2024年1月12日閲覧）
筆者
DXメルマガ
配信中
関連サービス・
ソリューション
プロダクト
マネージャー募集中
