EU AI Act第50条 チャットボット・ディープフェイク表示基準

EU AI Act 第50条は、2026年8月2日から適用される。チャットボットの告知とディープフェイクの開示が中心となる。生成物の機械可読表示も求められる。ただし、義務ごとに責任主体や例外・猶予が異なる。

本記事の日程・数値は、欧州委員会による2026年7～8月の公式案内に基づく。

第50条は何を求めているのか

第50条は、AIを使用している事実を知らせる透明性規定である。すべての義務がすべてのAIシステムに適用されるわけではない。システムの機能とコンテンツの用途に応じて、適用される条項が異なる。

欧州委員会は2026年7月20日に解釈指針を公開した。同年7月31日の発表で、8月2日からの適用を改めて確認した。この日付がAI Actのすべての条項に同様に適用されるわけではない。欧州委員会の施行発表

提供者と運用者の責任比較

責任は企業の業種ではなく、実際に果たす役割に応じて分けられる。提供者は、AIを開発するか、その開発を委託した主体である。自らの名称または商標で市場に投入するか、使用を開始する。運用者は、自らの権限の下でAIシステムを使用する主体である。

本記事における運用者とは、deployerを意味する。販売流通業者を意味するdistributorとは異なる概念である。1つの組織が提供者と運用者の役割を兼ねる場合もある。定義はAI Act 第3条に基づく。

EU域外の事業者も適用対象となり得る。EU市場にAIシステムを提供する場合が含まれる。システムの出力がEUで使用される場合も適用範囲に入る。韓国に所在しているという事実だけでは除外されない。

純粋に個人的かつ非職業的な使用には、運用者の義務は適用されない。事業または職業上の活動は、この例外と区別される。無料・オープンソースであることのみを理由に、第50条が免除されるわけでもない。AI Act 第2条

チャットボットはいつAIだと知らせる必要があるのか

直接会話するAIは、遅くとも最初のやり取りの時点で告知しなければならない。チャットボットだけでなく、対話型AIエージェントやアバターも含まれる場合がある。画面または音声上で、告知を明確に識別できなければならない。

欧州委員会の指針では、次の条件を併せて確認する。

• AI Act上のAIシステムに該当する。
• 人と実質的な双方向のやり取りを行うよう設計されている。
• 人が仲介して伝えるのではなく、AIが直接コミュニケーションを行う。
• 会話の相手が自然人である。

人が見ない機械間通信は、この告知義務とは区別される。バックグラウンドで作動する分析機能も、直接的な会話には該当しない。単純な自動応答であることだけを理由に、適用の有無が決まるわけではない。

AIであることが明白な場合は、別途告知する義務の例外が認められ得る。判断基準は、合理的に注意を払う一般利用者である。欧州委員会は、この例外を狭く解釈するよう説明している。第50条公式FAQ

機械可読表示と画面上のラベルの違い

機械可読表示は、ソフトウェアがAIによる生成・操作の有無を検出できるよう支援する。人が読む画面上のラベルは、利用者にその事実を直接知らせる。両方式は目的と責任主体が異なる。

提供者の技術は、可能な範囲で堅牢かつ信頼できるものでなければならない。他のシステムとの相互運用性も考慮の対象となる。コンテンツ形式の限界と実装費用も併せて考慮する。

JSONファイルとして保存したという事実だけでは、この義務を満たしたことにはならない。機械がファイルを読み取ることと、AIに由来することを検出することは異なる。この区別は、第50条における表示の目的から導かれる。AI Act 第50条

ディープフェイクの表示基準

ディープフェイクは、本物のように見せるAI生成・操作コンテンツである。対象となる形式は画像・音声・映像である。人だけでなく、物・場所・団体・事件も関連する場合がある。

判断の中心となるのは、元の対象との類似性と真正性に関する誤認である。したがって、すべてのAI画像が直ちにディープフェイクになるわけではない。反対に、顔の合成がないことだけを理由に除外されるわけでもない。定義は欧州委員会の透明性概要で説明されている。

開示対象となるディープフェイクは、最初に接した時点でAIの使用を認識できなければならない。芸術・風刺・フィクション作品では、開示方法の調整が認められる。この場合、作品の鑑賞を妨げない方法で知らせることができる。芸術作品であることを理由に、開示義務がすべてなくなるわけではない。

EUが提供する表示アイコンの使用は任意である。アイコンの使用自体が法令遵守を保証するわけではない。当該開示は、アクセシビリティ要件も満たさなければならない。EU表示アイコンの案内

情報は、適用されるアクセシビリティ要件に適合しなければならない。

— EU AI Act 第50条第5項

この文言は、情報提供に適用されるアクセシビリティ要件を明記している。小さなアイコンだけで意味が伝わるかどうかは、別途判断しなければならない。音声コンテンツでは、聴取者が告知を認識する方法も考慮の対象となる。

公益テキストは人が確認すれば免除されるのか

実質的な確認と編集責任があれば、開示の例外が認められ得る。対象は、公益に関する事項を一般公衆に知らせる目的で公開するテキストである。すべてのAI作成文書に、運用者の開示義務が課されるわけではない。

例外には、次の要素が併せて必要となる。

• 人による確認または実質的な編集管理が行われる。
• 自然人または法人が当該公開物の編集責任を負う。

スペルチェックだけでは、実質的な確認とはならない。人による確認は、内容の妥当性を検討する過程である。編集管理には、内容を承認・修正・拒否する権限が関係する。

この例外は、公益テキストの開示に関するものである。提供者の機械可読表示義務まで併せて免除するものではない。人が確認したディープフェイクにも、同じ例外が自動的に適用されるわけではない。公式FAQの編集確認に関する説明

感情認識・生体分類も告知対象となるのか

運用者は、対象者に当該システムが作動している事実を知らせなければならない。この義務は、チャットボットや生成物の表示とは別のものである。個人データの処理には、該当するデータ保護規則も適用される。

告知したという事実だけで、システムの使用が認められるわけではない。他の禁止規定や高リスクAIの要件が別途適用される場合がある。第50条は、他の規制上の義務をなくす条項ではない。欧州委員会の適用範囲案内

条件別の整理

例外は、該当する義務の範囲内でのみ判断しなければならない。同じコンテンツでも、提供者と運用者で結論が異なる場合がある。次の表は、公式規則を状況別に比較したものである。

犯罪対応目的であるとの主張だけでは、例外は成立しない。法律上認められているかどうかと、条項ごとの条件を満たす必要がある。市民が犯罪を通報する公開型AIには、別途注意が必要である。第1項では、この場合を犯罪対応の例外から再び除外している。第50条の義務別の例外

適用日と猶予を混同するよくある誤り

2026年12月までの猶予は、第50条全体の猶予ではない。対象となるシステムと該当する義務は限定されている。既存コンテンツへの遡及的な表示の問題も、別途区別される。

システムの市場投入日とコンテンツの生成日は、互いに異なる判断基準である。既存システムであることを理由に、新しいコンテンツまですべて除外されるわけではない。日程は公式FAQの適用日・猶予に関する説明に基づく。

HTML・JSON・RSSでの再配信時に表示が消える問題

複数の形式で配信する場合、それぞれの表示経路における表示を確認する必要がある。ウェブページ上のラベルが、ダウンロードしたファイルにも残るかどうかは別問題である。本節は、開示義務と再共有の案内を組み合わせた運用上の分析である。

法律が特定のJSONキー名を指定しているという意味ではない。データ構造だけで開示義務を満たしたと断定することもできない。開示対象コンテンツが人にどのように提示されるかが中心となる。

EUアイコンの案内では、再共有・ダウンロード時の視認性を扱っている。したがって、配信経路ごとの検証は有用な運用上の確認となる。これは、すべてのデータファイルに同じラベルを付けるという独立した義務とは区別される。EUアイコンの配置案内

指針と行動規範の違い

指針は適用範囲を説明し、行動規範は履行方法を支援する。法的義務の根拠はAI Actである。行動規範への参加は任意である。

参加していない事業者も、法的義務を遵守しなければならない。他の方法による措置が適切であることを立証できる。この行動規範は、GPAIモデル向けの行動規範とは区別される。前者は主に出力物の表示を扱う。生成物透明性行動規範

執行機関と公式の通報・苦情窓口

通報窓口は、問題となるシステムを監督する機関によって異なる。一般的なAIシステムは、加盟国の管轄当局が担当する。AI Officeは、法令上管轄するシステムを担当する。EU機関のシステムにはEDPSが関与する。

通報先は、次の順序で区分できる。

1. 問題の対象がAIシステムなのか、GPAIモデルなのかを区別する。
2. 欧州委員会の監督範囲に関する案内で管轄を確認する。
3. 該当機関が案内する苦情・通報窓口へ移動する。

企業による関連違反には、多額の金銭的制裁が科される可能性がある。欧州委員会は、上限を最大1,500万ユーロとして案内している。直前の会計年度における全世界売上高の3%も基準となる。一般企業では、2つの基準のうち高い金額が上限となる。

実際の制裁は、違反の性質・重大性・期間などに応じて決定される。中小企業などについては、比例性が別途考慮される。第50条違反に一律の定額制裁が科される仕組みではない。執行体制と公式通報窓口

よくある質問

AIで作成したコンテンツには、すべて目に見える表示が必要なのか

運用者の開示義務は、すべての生成物に一律に適用されるわけではない。ディープフェイクと特定の公益テキストが中心的な対象である。提供者の機械可読表示義務は、別途判断する。

チャットボットが回答するたびに告知を繰り返す必要があるのか

第50条の基準時点は、遅くとも最初のやり取りの時点である。各文ごとに同じ文言を繰り返すよう求める規定ではない。ただし、初回利用者が明確に認識できなければならない。

人による確認を経たAI記事には表示が不要なのか

実質的な確認または編集管理だけで判断が完結するわけではない。公開物の編集責任を負う主体も必要である。スペルチェックだけでこの例外を適用することは難しい。

風刺映像ならディープフェイク表示は免除されるのか

風刺であることだけを理由に全面的に免除されるわけではない。ディープフェイクに該当する場合、開示方法の調整が可能である。作品の展示や鑑賞を妨げない方法が認められる。

EUアイコンを付ければ遵守が保証されるのか

アイコンの使用だけで法令遵守が保証されるわけではない。使用は任意である。表示時点・認識可能性・アクセシビリティも併せて判断する。

2026年12月まですべての義務が猶予されるのか

猶予は、既存システムに関する第50条第2項の義務に限定される。当該システムは、2026年12月2日からこれを遵守しなければならない。チャットボットの告知とディープフェイクの開示が一律に猶予されるわけではない。

AI表示があれば、内容が事実であることを意味するのか

AI表示は、生成・操作の有無を知らせる情報である。ファクトチェックや著作権上の許諾を証明する表示ではない。コンテンツの正確性と適法性は、別途判断しなければならない。