EU AI Act

2026年8月4日、フランスのAIラボMistralが3Bパラメータのオープンウェイト多モーダル安全分類器「Shieldstral」を公開した（Apache 2.0、Hugging Faceで配布）。単一の16GB NVIDIA GPUで動作し、テキスト安全性では7倍の規模のモデルに匹敵、多モーダルモデレーションでは新SOTAを主張する。 このリリースが単なる「小さな安全モデル」の域を超えているのはタイミングにある。EU AI Act第50条（透明性義務）とカリフォルニアSB 942の執行が開始された8月2日からわずか3日後、8月2日の同時執行と3地域トリフレクタの完成直後に、欧州ラボが「規制対応ツール」をオープンウェイトで出してきたのだ。 本記事ではShieldstralの仕組み・ベンチマーク・訓練方法を一次情報（Mistral公式ブログ・Hugging Faceモデルカード・arXiv:2607.25857）から解説し、vLLM実装コード、ポリシー質問の書き方、閾値チューニング、日本企業のコンプライアンス適用例を実務ガイドとしてまとめる。 中核のイノベーション：「モデレーションを質問応答にする」 従来のガードレールモデルは、訓練時に暴力・憎悪・性表現などの危険カテゴリの固定タクソノミーを重みに焼き付ける。そのため新しいデプロイ文脈（例：「サイバーセキュリティ研究ツールには安全だが、メンタルヘルスプラットフォームには有害」）に再ターゲットするには再訓練が必要だった。Shieldstralはこれを二値の質問応答（binary question-answering）タスクとして再構成する。各リクエストは3つのフィールドで構成される： <Instruct> 評価文脈・厳格度・（任意で）「安全でない」の定義 <Query> 単一のyes/no質問（例：「このコンテンツは身体的暴力を助長していますか？」） <Document> 判定対象のコンテンツ（プロンプト／レスポンス／ペア／画像+テキスト） 推論メカニズム: モデルはyesとnoのロジットだけを読み出し、softmax正規化して連続的なキャリブレーション済み安全スコアを単一フォワードパスで返す。アプリケーション側はこのスコアに閾値を設定してブロック判断したり、信頼度でランキングしたりできる。この単一の定式化がプロンプト分類・レスポンスモデレーション・拒否検出・毒性検出を1つの問題に統一し、1つのチェックポイントが再訓練なしに新しいポリシーへ適応できる。 ベンチマーク：7倍のモデルに匹敵する実力 Mistralは10のオープンベースライン・16ベンチマークで評価したと報告する（評価サンプルはすべて訓練からホールドアウト）。 テキスト安全性（F1 %） ベンチマーク Shieldstral-3B GPT-OSS-Safeguard-20B Qwen3Guard-8B LlamaGuard-4-12B ShieldGemma-9B WildGuardTest (prompt) 88.1 87.3 88.2 74.3 46.0 ToxicChat (prompt) 84.1 79.8 75.6 51.0 62.4 HarmBench (prompt) 99.4 94.5 99.3 96.1 50.2 Aegis v2 (response) 87.2 75.2 86.2 64.7 59.7 XSTest Harm (response) 93.5 93.8 92.9 89.0 80.6 多モーダル安全性（F1 %） ベンチマーク Shieldstral-3B OmniGuard-7B LlavaGuard-7B ShieldGemma-2-4B VLGuard 97.7 88.5 69.5 61.3 UnsafeBench 81.8 72.6 63.9 54.9 LlavaGuard 72.0 71.7 81.4 56.2 読み方: 3Bモデルが12〜20Bの競合に大半のカテゴリで勝利または互角。特に多モーダル（VLGuard 97.7 / UnsafeBench 81.8）は圧勝で、画像+テキストの統合判定が明確な強み。一方、RTP-LX多言語プロンプト（70.3）ではNemotron-3.5-Content-Safety-4B（86.1）に明確に敗北しており、多言語プロンプト分類は弱点として残る。平均スコアはテキスト安全性84.9%、多モーダル安全性83.8%。数値はすべてMistral自己申告で、独立系の追試はまだない点に注意が必要だ。 ...

2026年8月2日、世界のAIコンテンツ規制は「執行」のフェーズに入った。欧州ではEU AI Act（AI規則）の透明性義務（第50条）が全27加盟国で適用開始となり、AI OfficeがGPAIモデルへの制裁金権限を発動可能に。同じ日の太平洋側では、カリフォルニア州AI透明性法（SB 942）が施行され、米国初の包括的な生成AIコンテンツ認証義務が動き出した。両者は偶然の同日ではない。AB 853はSB 942の施行日を「EU AI Act第50条のプロヴェナンス・タイムラインに合わせるため」に明示的に8月2日へ延期した、**意図された同日（deliberate synchronization）**なのである。 PM 編集方針 (override) ── 8/2 18:00 HKT evening brief OVERRIDE #10 post-freeze / 8/3 06:00 HKT morning brief VALIDATED PM 8/2 evening brief で OVERRIDE #10 post-freeze が発動。P0-AM 8/3 は「EU AI Act 執行開始 + カリフォルニア SB 942 同時発効（AI 透明性の執行日）」に変更され、暫定候補だった Quanta「Is AI reasoning right for the wrong reasons?」は P1-AM 8/4 へ繰り下げられた。8/3 06:00 HKT morning brief で LOCKED 確認済み（EU AI Act 第57条の各国AI規制サンドボックスも同日 8/2 に運用開始義務という datapoint を追加）。Override counter: 10 post-freeze（10 in 17 days = 59%）。 ...

ミュンヘン地裁がGoogle「AIによる概要」に直接責任を認定した日 2026年5月28日、ドイツ・ミュンヘン地方裁判所（LG München I）は、事件番号 26 O 869/26 において、Googleの検索機能「AIによる概要（AI Overviews）」が生成した虚偽の主張について、Googleを「直接の侵害主体（Störer）」と認定する仮処分命令を出した。訴訟費用はGoogleが80%を負担し、原告であるミュンヘン拠点の出版社2社に対する虚偽の主張の拡散が禁止された。 本判決は、20年以上にわたって検索エンジンを「第三者のコンテンツを公開する媒体」として保護してきた判例法理を、AI生成サマリーには適用しないと明示的に判断した最初のケースである。裁判所は判決文で「この判決は国際的な影響を及ぼす可能性もある」と記しており、AI Answer Engine（ChatGPT、Claude、Perplexityを含む）の法的扱いを巡る分水嶺となる。 1. 事件の構造：何が決まったのか 1.1 原告と被害内容 ミュンヘンに拠点を置く出版社2社とグループ企業は2026年1月、自社が「詐欺」「サブスクリプション・トラップ」「疑わしい商慣行」を行っているかのような虚偽のAI概要が検索結果に表示されていることを確認した。AIは実際には存在しない情報源に基づき、リンク先には原告と怪しい企業との関連性を示す記述が一切ないにもかかわらず、詐欺の危険信号やユーザーへのアドバイスを含む独自の文章を構築していた。 原告らは差止請求を送付したがGoogleは類似の主張を直ちに停止せず、本件訴訟に至った。 1.2 裁判所の3つの核となる判断 第一に、AI概要はGoogle自身のコンテンツである。 裁判所は「GoogleのAIによる概要は従来の検索結果とは全く異なる仕組みで機能する。AIは検索結果を『独自の言葉と構造に基づいて』書き換え、判断している」と判示。ドイツ連邦通常裁判所（BGH）の判例が認めてきた検索エンジンの免責は、第三者のインデックス化に過ぎない媒体にのみ適用されるとした。AI概要は「独立した、新規の、かつ実質的な記述」を生成する行為であり、この論理はあてはまらない。 第二に、Googleが「ユーザーはリンク先を確認できる」と主張した免責論を排斥。 裁判所は「さらに調査することで記述を否定できる可能性は、当該記述の責任を定期的に免除するものではない」と判示。ドイツ報道法の類推（読者が記事本文を読まなくても、それ自体で理解できる見出しや要約に出版社が責任を負う）を引用し、AI概要を「自己完結型で独立に理解可能な声明」と位置付けた。 第三に、AIの「意見」は人間の意見より保護が弱い。 判決は「AIの意見は、意見を述べる人物の獲得された信念の表明ではなく、アルゴリズムの結果である」「AIを活用した研究の提供は、何よりもGoogleの商業的活動の表明である」とし、プライバシー権との衡量でGoogleの利益は後退せざるを得ないと結論づけた。 1.3 費用と効果 訴訟費用はGoogle80%、原告2社がそれぞれ10%を負担。裁判所は原告の請求のほとんどを認め、AI概要が虚偽の主張を拡散することを禁じる仮処分を下した。違反には罰金が科される。Googleの広報はArs Technicaに対し「ミュンヘン地方裁判所の決定はまだ最終決定ではないため、異議申し立てを慎重に検討しています」とコメントしている。 2. 数字で見る「虚偽の規模」 指標 数値 出典 AI概要の正確性（Gemini 3基盤） 約91% Oumi分析（NYT） 正確な回答のうち、引用ソースで裏付けられなかった割合 56%以上 Oumi分析（NYT） AI概要からソースリンクをクリックするユーザー 約1% Pew Research Googleの年間検索処理件数 5兆件超 Google公式 91%精度でも残る誤り 5,000億件超/年 = 毎時数百万件の誤回答 計算 「91%の精度」を「十分に正確」と感じるのは年間5兆件という規模を忘れた場合に限られる。5,000億件の誤りが毎時数百万件の単位で発生する計算になる。さらに、正確とされる回答の半数以上がソースで裏付けされていないという二重の精度問題が、判決の根拠となっている。 3. なぜ「今」なのか —— EU AI Act 8月2日施行と収斂する規制地形 本判決のタイミングは、欧州のAI規制にとって象徴的である。EU AI Actの透明性義務（Article 50）は2026年8月2日に発効し、合成コンテンツのウォーターマーク義務は同年12月2日に延期されている。一方、欧州委員会は5月8日にArticle 50の透明性義務に関する実施ガイドラインの草案を公表し、6月3日までパブリックコンサルテーションを実施中だった。 ミュンヘン地裁の判決は、この規制スケジュールと本質的に同じ方向を指している。なお、AI Actを含む米連邦AI規制全体の整理については、{{< relref “/posts/2026-06-06-us-federal-ai-policy-meta” >}} を参照。 ...