2026.04.03

【シンガポール】森・濱田松本法律事務所 アジアニュース／第125回「エージェンティックAIに関するモデルAIガバナンス・フレームワークの公表」

【シンガポール】森・濱田松本法律事務所 アジアニュース／第125回「エージェンティックAIに関するモデルAIガバナンス・フレームワークの公表」

◇シンガポール

1.　エージェンティックAIのリスク

2026年1月22日、シンガポール政府は、世界経済フォーラムにおいてエージェンティックAI（Agentic AI）を対象とする「Model AI Governance Framework for Agentic AI」（「本フレームワーク」）を公表しました。従来の生成AIは、ユーザの指示に基づいてのみ返答するという受け身的なものですが、エージェンティックAIは自らタスクを設定した上で、自律的に行動、評価、改善ができるという点に大きな違いがあると言われています。そのため、エージェンティックAIでは、当初の意図に反した行為や与えられた権限から逸脱する行為を行うリスクや、偏った判断を行うリスク、データ漏洩のリスク等、従来の生成AIとは異なる重大なリスクが存在すると指摘されています。

このようなリスクに対応するため、本フレームワークは、組織がエージェンティックAIを導入・運用する際に参考とすべき事項を規定しています。以下では、本フレームワークがエージェンティックAIの導入にあたり、リスク管理のための「ベストプラクティス」として示しているガバナンスの方法の概要を説明します。

2.　本フレームワークが示すガバナンスの方法

本フレームワークが示すガバナンスの考え方は、以下の4つの項目に整理されています。
 
（1）事前のリスクの評価と境界の設定（Assess and Bound the Risks Upfront）
エージェンティックAIの導入・運用に先立ち、想定されるリスクの評価を行い、エージェンティックAIの導入に適した場面を特定することが求められます。また、エージェンティックAIのツールやシステムへのアクセスを制限し、明確な権限管理の枠組みを設計する等、設計段階においてリスクをあらかじめ抑制するための措置を講じるべきとされています。
 
（2）人間の説明責任（Make humans meaningfully accountable）
エージェンティックAIの行動に対して、人間が最終的な責任を負う体制を設計するべきとされています。例えば、エージェンティックAIのワークフローの中で関係者の責任範囲を明確にし、一定の重要なポイントで人間による承認を必要とする仕組みを設けること等が挙げられています。
 
（3）技術的統制（Implement technical controls and processes）
エージェンティックAIに特有のリスクに対応するため、設計・開発、運用前及び運用時の各段階を通じた技術的統制の実装を求めています。その具体的内容は以下のとおりです。

・設計・開発段階：エージェンティックAIに適切なガードレール（想定外のAIの動作を防ぎ、AIのリスクを軽減するための技術）や計画のリフレクション（AIが、自身の行動を振り返り、その妥当性をチェックする仕組み）等を実装するとともに、エージェンティックAIが外部システムや外部データへのアクセスできる範囲を最小限に留める。

・運用前段階：本番環境への導入前には、タスク全体の遂行能力、ポリシー遵守の状況、ツール利用の正確性といったポイントについて、網羅的な検証を行う。

・運用段階：実際に運用する際には、エージェンティックAIを段階的に展開するとともに、本番環境において、リアルタイムの監視体制と継続的にモニタリングを行う。
 
（4）エンドユーザーの責任（Enable end-user responsibility）
本フレームワークでは、エージェンティックAIを利用し、その結果に依拠するエンドユーザーにも説明責任が及ぶことも示しています。そのため、エージェンティックAIを導入する組織は、エンドユーザーに対して、その機能等に関して十分な情報提供や教育を行うとともに、問題発生時の通報窓口の周知すること等が求められています。

3.　実務上の留意点

エージェンティックAIは、業務プロセスの合理化の観点から今後ますます導入が見込まれるところであり、本フレームワークで示されたガバナンスに関する事項はシンガポールで事業を行う日系企業にとっても参考になるものと思われます。もっとも開発段階から運用まで複数の事業者・当事者が関与することから、問題発生時の責任の帰属に関する議論は残されているとも指摘されており、法的リスクの観点からは不透明な部分も少なからずあるという印象です。
AIに関する実務は今後急速に発展することが見込まれる分野であり、継続的に注視していく必要がありそうです。
 
※当事務所は、シンガポールにおいて外国法律事務を行う資格を有しています。シンガポール法に関するアドバイスをご依頼いただく場合、必要に応じて、資格を有するシンガポール法事務所と協働して対応させていただきます。
 
本記事掲載URL
https://www.morihamada.com/ja/insights/newsletters/134301

（直近記事）
○第122回【シンガポール】「会社法及び会計法（改正）法案の可決」
○第123回【マレーシア】「オンライン・セーフティ法の施行」
○第124回【タイ】「会社設立登記時の必要書類の追加」

前のページへ戻る