← ブログに戻る

カリフォルニア州の2026年ADMT規則が求めるのは、AIというラベルではなく判断の境界である

カリフォルニア州CCPAは特定の自動判断に関する権利を定めています。システムの判断、人の確認、対応すべき請求を整理しましょう。

機能を「AI」と呼ぶだけでは、カリフォルニア州の自動化された判断に関する規則が適用されるかどうかは決まりません。重要なのは、システムがどの個人情報を処理するか、計算が人による判断を置き換えるか、または実質的に置き換えるか、そして結果が対象となる重要な判断に使われるかです。

California Privacy Protection Agencyは2025年7月、automated decisionmaking technology(ADMT)、リスク評価、サイバーセキュリティ監査に関する規則を採択しました。Office of Administrative Lawは2025年9月22日に承認し、規則は2026年1月1日に施行されました。プロダクトチームにとって、ADMTは将来のポリシー確認だけでなく、設計とデータフローの問題です。

ソフトウェアが行う判断を定義する

規則は、ADMTを個人情報を処理し、計算を用いて人による意思決定を置き換える、または実質的に置き換える技術と定義します。プロファイリングがその置き換えを行う場合も含まれます。一方、人の判断を置き換えない限り、hosting、caching、storage、database、spreadsheetなどの一般的な技術機能は定義から除外されます。

この違いはanalyticsで重要です。pageviewを集計したり、分析担当者にレポートを提供したりするdashboardは、統計やmachine learningを使うだけで自動的にADMTになるわけではありません。行動データを使って申請を受理・拒否する、従業員を順位付けする、住宅や教育へのアクセスを決める、または規則対象の重要な判断をするシステムには、別の分析が必要です。

判断に至る全経路を整理します。入力データ、モデルやルール、出力、人による確認、最終的な措置を記録してください。確認者が出力を理解できない、または独立した実質的判断をせずに日常的に承認するのであれば、「人が関与する」だけでは不十分です。その人が実際に何を判断し、システムの出力が結果を実質的に決めているかを記録します。

アクセスとopt-outをプロダクトに組み込む

対象となる利用について、規則は事業者のADMT利用に関する情報へのアクセス権と、特定の利用に対するopt-out権を定めています。opt-out権は、重要な判断に使う技術を含む、規則で定められたADMTの利用に限られます。すべてのアルゴリズム、レポート、analytics queryを停止する一般的な権利ではありません。

これらの請求をプロダクト運用として扱います。各ADMTの用途を、目的、入力カテゴリ、判断の種類、影響を受けるフローに紐付けた一覧を維持します。明確な申請経路を用意し、対応に必要な範囲だけを確認し、同じデータを使うシステムに結果を伝え、完了の証拠を保持してください。追加情報なしにopt-outを実施できるなら、アカウント作成や余分な情報の提供を強制しないでください。

アクセス請求への回答では、宣伝文句ではなくシステムの動作を説明する必要があります。利用目的、消費者に関する出力、技術が個人情報をどう処理し、出力が重要な判断にどう影響したかを説明する情報を特定できるようにします。将来の請求に備えてすべての入力を無期限に記録してはいけません。判断経路を文書化し、正当な理由がある証拠だけを保持してください。

測定を適格性判断のロジックから分離する

analytics event streamが気づかないうちに判断システムになるのを防ぎます。プロダクト指標を、資格、雇用、信用、住宅、教育、その他重大な結果を伴う処理から分離してください。analyticsを判断モデルに入力する場合は、新しい処理目的として扱います。リリース前に法的根拠、通知、リスク評価、データ品質、消費者の権利、人による確認設計を再評価します。

影響を調べずに、dashboardの「conversion」や「engagement」スコアを判断ルールの代わりに使わないでください。誰がオファー、サービス、機会を受けるかを決める指標は、重大な影響を持つことがあります。逆に、機能を「モデル」と呼ぶだけでは、通常の記述的analyticsが規則上のADMTになるわけではありません。

実装作業は具体的です。判断の一覧を維持し、人の判断が置き換わる地点を記し、その用途をアクセス・opt-out対応に結び付け、請求がすべての下流システムに届くことをテストします。製品全体を「AI」か「AIではない」かに分類するより、こちらの境界を明確にするほうが有用です。

出典

Comments

Loading comments…