AI Act第50条は製品UIの要件になった
EU AI Act第50条は、AIとの対話や生成コンテンツについて具体的な表示を求めます。義務を役割、UI状態、最小限の計測に落とし込みます。
EU AI Actの第50条の透明性義務は2026年8月2日から適用されており、複数の種類のAIシステムで、表示はポリシー文書の一文ではなく製品要件になりました。開発者は、どの組織がproviderまたはdeployerに当たるかを特定し、必要な情報を適切なやり取りの場面で提示する必要があります。
第50条は、AIを含むすべてのページに適用される一律のルールではありません。定義された活動に適用され、providerとdeployerに異なる義務を課します。そのため、最初に行うべき実装作業は役割と機能の棚卸しです。人と直接やり取りするシステム、合成コンテンツを生成するシステム、コンテンツを公開または提示するdeployerはどれでしょうか。
providerとdeployerの義務を分ける
人と直接やり取りする目的のAIシステムを提供するproviderは、合理的に情報を持ち注意深い人にとって利用状況から明らかな場合を除き、ユーザーがAIとやり取りしていると分かるように設計する必要があります。チャットボットの説明を、別の場所にあるプライバシー通知に委ねてはいけません。会話の入口で知らせるべきです。
合成音声、画像、動画、テキストを生成するシステムのproviderは、出力に機械可読なマークを付け、人工的に生成または操作されたものと検出できるようにしなければなりません。AI Actは、技術的に実行可能な範囲で有効、相互運用可能、堅牢かつ信頼できる技術的解決策を求めています。コンテンツごとの制限、実装コスト、技術水準を考慮します。入力や意味を実質的に変えない標準的な編集・補助機能などには例外もあります。
deployerには別の開示義務があります。AIシステムを使ってディープフェイクに当たる画像、音声、動画を生成または操作するdeployerは、人工的に生成または操作されたことを開示しなければなりません。公共の利益に関する事項を知らせる目的で公開するAI生成・操作テキストも開示が必要です。ただし、人によるレビューまたは編集管理を受け、個人が編集責任を負う場合は例外です。明らかに芸術的、創作的、風刺的、フィクションなどの作品については、より限定的な開示が認められます。
最初に接する時点で表示する
該当する義務では、情報を明確に区別できる形で、遅くとも本人がシステムと初めてやり取りする時点、またはコンテンツに初めて接する時点までに提供する必要があります。第50条は適用されるアクセシビリティ要件への準拠も求めています。フッターに隠したバッジや、ユーザーが質問した後だけに出る説明では、このタイミング要件を適切に満たしません。
法的な役割を製品状態に落とし込みます。会話型システムでは、会話の前または開始時にAIであることを表示します。生成メディアでは、エクスポート経路でも機械可読マークを保持し、公開時に生成・操作されたことを示せる手段をdeployerに提供します。providerの出力マークとdeployerの可視表示は別の義務であり、担当チームも異なる可能性があります。
コンテンツのprovenance標準は、メディアの出所や履歴に関する情報の保持に役立ちます。C2PA仕様はこの分野の技術的な参考資料の一つですが、provenance形式を採用するだけで第50条のすべての義務を満たしたことにはなりません。具体的な法的義務、出力形式、後続の変換、ユーザーへの提示方法を確認してください。
人ではなく機能を測る
Analyticsでは、開示インターフェースが表示されたか、公開経路で機械可読マークが失われたかを検証できます。これらのエンジニアリング上の確認に、会話テキスト、生成メディア、アカウントID、永続的な訪問者プロファイルは不要です。開示状態、表示エラー、形式検証の失敗を集計し、イベントハンドラーから取得できるという理由だけでpromptやコンテンツを記録しないでください。
役割とコンテンツ種別ごとにテストします。AIとの直接対話、生成音声・画像、公共の利益に関するテキスト、メディア編集、例外が適用される可能性があるケースを含めます。初回接触前に表示されるか、遷移やエクスポート後も表示が保たれるか、ローカライズと支援技術で機能するか確認してください。テスト記録は利用者の身元ではなく、ビルドと機能設定に紐付けます。
実務上は、プロダクト、エンジニアリング、アクセシビリティ、法務が共同で管理するリリースチェックリストになります。システムを分類し、責任主体を特定し、適切な表示を出し、必要なマークを保持し、最小限のテレメトリで経路を検証します。透明性要件は、人々が実際に使うUIで実装するものであり、人について収集した分析データで実現するものではありません。
Comments
Loading comments…