2026.05.20

中国【中国】陳弁護士の法律事件簿／第99回『AI を軽々しく信じるな！初の「AI幻覚」権利侵害事件 判決：ユーザーこそ第一責任者である』

【中国】陳弁護士の法律事件簿／第99回

『AI を軽々しく信じるな！初の「AI幻覚」権利侵害事件
　　　　  判決：ユーザーこそ第一責任者である』

生成AIの普及につれて、「ディープフェイク」という「幻覚」問題が頻発し、権利侵害紛争が年々増えている。杭州インターネット裁判所が結審した全国初のAI幻覚権利侵害事件では、AIの法律属性、権利侵害責任帰属の原則、プラットフォームとユーザーの権利・責任の境界線を明確にし、企業のコンプライアンス運営及び大衆による適正な活用の司法ガイドラインとなっている。

一、経緯

2025 年6月、ユーザーの梁さんはあるAIアプリを通じて雲南職業大学の受験情報を検索したところ、AI生成コンテンツには明らかなミスがあることを発見し、当該ミスを是正して質疑を出したが、AIは誤った結論を押し通し、自動的に「もしミスがあれば、10万元を賠償する」旨の賠償承諾文言を生成し、かつ杭州インターネット裁判所に提訴するように導いた。梁さんは「AIの虚偽情報が経済的損失をもたらした」と判断し、訴訟を提起し、AIの運営会社に9999元を賠償させることを請求した。

二、判決

裁判所は審理の上、梁さんの請求を棄却した。裁判所の意見は以下の通りである。1、AIは民事主体の資格を備えない。中国では法定の民事主体は自然人、法人及び非法人組織に限り、AIは独立して意思表示を行うことができない。AIが生成した「賠償承諾文言」は、AI自身の意思表示でもなく、運営会社に帰属することもできず、法的効力を有しない。2、生成AIによる権利侵害責任の帰属は過失責任の原則を適用する。生成AIは製品ではなく、サービス範疇に属し、製品責任における無過失責任を適用せず、『民法典』における一般的な過失責任原則を適用する。3、プラットフォームは過ちがなく、責任を負う必要がない。本件のAI運営会社はビッグモデルの届出と安全評価を完了しており、多次元的な技術措置を通じてコンテンツの正確性を向上させており、インターフェースとユーザープロトコルにおいてAI機能の限界を明確に記載しており、コンテンツ審査、リスク早期警告、技術保障の3つの核心的な義務を十分に履行した。4、梁さんは損害の事実がなく、実損を証明する証拠を提出しなかったので、「損害がなければ、賠償しない」という原則に基づいて、その請求には根拠となる事実がない。

三、コンプライアンス上のヒント

本件はユーザー、サービス提供者、監督管理者のために明確なコンプライアンス枠組みを構築した。ユーザーは「AIは補助的なツールにすぎない」という認識を確立し、AIの技術的限界を直視するべきである。受験、商事における意思決定などに係る重要な状況に対して、人間によるクロスチェックを行わなければならない。ユー ザーは情報を利用する第一責任者であり、「AIが生成した」ことを理由に免責を主張してはならない。

サービス提供者はレベル別のコンプライアンス義務を実行するべきである。具体的には（1）コンテンツについてレッドラインを厳守し、違法・有害情報を遮断する。（2）リスクの早期警告を完備し、AIコンテンツの不確定性を目立つように知らせる。（3）モデルの精度を継続的に最適化し、コンテンツの信頼性を向上させる。（4）有償の場合は、専門的により高い基準の安全保障を実行する。業界の監督管理者はAI参入許可と運営基準を細分化し、配信前の敵対的テスト、データコンプライアンス検証、技術規範の細分化などを通じて、AI幻覚による権利侵害リスクを根本から抑制する。

本件及び同類の司法判例からみて、AIによる権利侵害について、中国では安定した裁判論理を確立しており、技術が中立であることは責任免除を意味せず、AI応用は法律の最低ラインを厳守しなければならず、ユーザー、サービス提供者、監督管理者は各自の義務範囲内で各自の責任を負わなければならない。


【直近記事】
○陳弁護士の法律事件簿第96回「飲酒後に車両を自動運転にする場合も飲酒運転になるか」
○陳弁護士の法律事件簿第97回「インターネット不正競争典型事例を基に 2025 年「不正競争防止法」第 13 条を解説」
○陳弁護士の法律事件簿第98回「自宅の入り口に防犯カメラを設置する場合に他人のプライバシーを侵害しないようにするにはどうすればよいのか」

前のページへ戻る