← 返回博客

加州 2026 年 ADMT 规则要求明确决策边界,而非贴上 AI 标签

加州 CCPA 规则为某些自动化决策设定了权利。产品团队应梳理系统决策、人工审查和必须处理的消费者请求。

把某项功能称为“AI”,并不能决定加州自动化决策规则是否适用。关键在于系统处理哪些个人信息、计算是否取代或实质性取代人工决策,以及结果是否推动了受规则涵盖的重要决策。

加州隐私保护局(California Privacy Protection Agency)于 2025 年 7 月通过了有关自动化决策技术(automated decisionmaking technology,ADMT)、风险评估和网络安全审计的规则。行政法办公室(Office of Administrative Law)于 2025 年 9 月 22 日批准了这些规则,规则自 2026 年 1 月 1 日起生效。对产品团队而言,ADMT 已是设计和数据流问题,而不只是未来的政策审查。

明确软件作出的决定

规则将 ADMT 定义为处理个人信息并使用计算来取代或实质性取代人工决策的技术。如果 profiling 实现了这种取代,也属于定义范围。规则还排除了一些常见技术功能,例如 hosting、caching、storage、database 和 spreadsheet,前提是它们没有取代人工决策。

这一区别对 analytics 很重要。只统计 pageview 或向分析师提供报告的 dashboard,不会仅仅因为使用统计或 machine learning 就自动成为 ADMT。若系统使用行为数据来接受或拒绝申请、给员工排序、决定住房或教育机会,或作出其他受规则涵盖的重要决定,就需要进行不同的分析。

梳理完整的决策路径:输入数据、模型或规则、输出、人工审查者和最终行动。如果审查者无法理解输出,或通常不经独立且有实质意义的判断就批准结果,仅仅说“有人参与”是不够的。记录此人实际作出的判断,以及系统输出在实践中是否控制了结果。

在产品中支持访问和选择退出

对于受涵盖的用途,规则赋予消费者访问企业 ADMT 使用信息的权利,并允许其选择退出某些用途。选择退出权针对规定的 ADMT 使用场景,包括用于作出重要决定的技术;它并不是关闭所有算法、报告或 analytics 查询的一般权利。

将这些请求作为产品运营来处理。维护一份清单,将每项 ADMT 用途与其目的、输入类别、决策类型和受影响的流程关联起来。提供明确的提交渠道,只核实处理请求所需的信息,将结果传递给使用相同数据的系统,并保存完成处理的证据。如果无需创建账户或提供额外信息也能执行选择退出,就不要强迫用户这么做。

访问请求的答复需要解释系统行为,而不是营销描述。应能说明使用目的、系统针对消费者产生的结果,以及解释技术如何处理个人信息、输出如何影响重要决定所需的信息。不要为了将来可能收到请求而无限期记录所有输入;记录决策路径,并只保留有正当理由的证据。

将测量与资格判定逻辑分开

Analytics event stream 不应悄然变成决策系统。将产品指标与资格、就业、信贷、住房、教育或其他具有重大影响的流程分开。如果团队希望将 analytics 数据输入决策模型,就应将其视为新的处理目的:上线前重新评估法律依据、通知、风险评估、数据质量、消费者权利和人工审查设计。

不要未经影响分析就用 dashboard 的“转化率”或“参与度”分数代替决策规则。如果某项指标决定谁能获得优惠、服务或机会,它就可能产生重大影响。反过来,仅仅把某项功能称作“模型”,也不会让普通描述性 analytics 按规则定义自动成为 ADMT。

具体的实施任务包括:维护决策清单,标出人工判断被取代的位置,将此类用途与访问和选择退出请求处理关联起来,并测试请求是否传达到所有下游系统。明确这一边界,比给整个产品贴上“AI”或“非 AI”的标签更有用。

来源

Comments

Loading comments…