Kaliforniens ADMT-Regeln von 2026 Verlangen eine Entscheidungsgrenze, Kein KI-Label
Kaliforniens CCPA-Regeln definieren Rechte bei bestimmten automatisierten Entscheidungen. Produktteams sollten Systementscheidungen, menschliche Prüfung und zu bearbeitende Anfragen abbilden.
Ob Kaliforniens Regeln für automatisierte Entscheidungen gelten, hängt nicht davon ab, ob ein Feature als „KI“ bezeichnet wird. Entscheidend ist, welche personenbezogenen Daten das System verarbeitet, ob Berechnungen menschliche Entscheidungen ersetzen oder wesentlich ersetzen und ob das Ergebnis eine erfasste bedeutsame Entscheidung beeinflusst.
Die California Privacy Protection Agency verabschiedete im Juli 2025 Verordnungen zu Automated Decisionmaking Technology (ADMT), Risikobewertungen und Cybersicherheitsaudits. Das Office of Administrative Law genehmigte sie am 22. September 2025; in Kraft traten sie am 1. Januar 2026. Für Produktteams ist ADMT damit eine Frage von Design und Datenfluss – nicht nur eine künftige Richtlinienprüfung.
Die vom System getroffene Entscheidung definieren
Die Verordnungen definieren ADMT als Technologie, die personenbezogene Daten verarbeitet und Berechnungen nutzt, um menschliche Entscheidungen zu ersetzen oder wesentlich zu ersetzen. Profiling ist eingeschlossen, wenn es diese Ersetzung bewirkt. Ausgenommen sind auch gewöhnliche technische Funktionen wie Hosting, Caching, Speicherung, Datenbanken und Tabellenkalkulationen, sofern sie keine menschliche Entscheidung ersetzen.
Diese Abgrenzung ist für Analytics wichtig. Ein Dashboard, das Pageviews zählt oder einem Analysten einen Bericht liefert, wird nicht allein durch Statistik oder Machine Learning automatisch zu ADMT. Ein System, das Verhaltensdaten nutzt, um Bewerbungen anzunehmen oder abzulehnen, Beschäftigte einzustufen, den Zugang zu Wohnraum oder Bildung zu bestimmen oder eine andere erfasste bedeutsame Entscheidung zu treffen, erfordert eine andere Prüfung.
Modellieren Sie den gesamten Entscheidungsweg: Eingabedaten, Modell oder Regel, Ausgabe, menschliche Prüfung und endgültige Maßnahme. „Ein Mensch ist beteiligt“ reicht nicht, wenn die prüfende Person das Ergebnis nicht verstehen kann oder es routinemäßig ohne unabhängige, substanzielle Beurteilung genehmigt. Dokumentieren Sie, was die Person tatsächlich entscheidet und ob das Systemergebnis die Entscheidung in der Praxis steuert.
Auskunft und Widerspruch im Produkt unterstützen
Für erfasste Verwendungen begründen die Verordnungen Verbraucherrechte auf Auskunft über den ADMT-Einsatz eines Unternehmens und auf Widerspruch gegen bestimmte Verwendungen. Das Widerspruchsrecht bezieht sich auf festgelegte ADMT-Verwendungen, darunter Technologie für bedeutsame Entscheidungen. Es ist kein allgemeines Recht, jeden Algorithmus, Bericht oder jede Analytics-Abfrage abzuschalten.
Behandeln Sie solche Anfragen als Produktbetrieb. Führen Sie ein Verzeichnis, das jede ADMT-Verwendung mit Zweck, Eingabekategorien, Entscheidungstyp und betroffenem Ablauf verknüpft. Bieten Sie einen klaren Einreichungsweg, prüfen Sie nur die zur Bearbeitung nötigen Angaben, übermitteln Sie das Ergebnis an Systeme mit denselben Daten und dokumentieren Sie die Erledigung. Zwingen Sie Betroffene nicht zur Kontoerstellung oder zusätzlichen Angaben, wenn sich der Widerspruch ohne sie umsetzen lässt.
Auskunftsantworten müssen das Systemverhalten erklären und dürfen sich nicht auf Marketingtexte beschränken. Sie sollten Zweck der Verwendung, das über den Verbraucher erzeugte Ergebnis und die nötigen Informationen dazu benennen, wie die Technologie personenbezogene Daten verarbeitet hat und wie die Ausgabe die bedeutsame Entscheidung beeinflusste. Speichern Sie nicht vorsorglich alle Eingaben unbegrenzt, um künftige Anfragen beantworten zu können; dokumentieren Sie den Entscheidungsweg und bewahren Sie nur begründete Nachweise auf.
Messung von der Berechtigungslogik trennen
Ein Analytics-Ereignisstrom darf nicht unbemerkt zum Entscheidungssystem werden. Trennen Sie Produktmetriken von Abläufen für Berechtigung, Beschäftigung, Kredit, Wohnraum, Bildung und andere folgenreiche Bereiche. Soll Analytics in ein Entscheidungsmodell einfließen, behandeln Sie das als neuen Verarbeitungszweck: Prüfen Sie vor dem Start Rechtsgrundlage, Hinweise, Risikobewertung, Datenqualität, Verbraucherrechte und die Gestaltung menschlicher Prüfung erneut.
Verwenden Sie einen „Conversion“- oder „Engagement“-Score im Dashboard nicht ohne Folgenprüfung als Entscheidungsregel. Eine Kennzahl kann folgenreich werden, wenn sie bestimmt, wer ein Angebot, einen Dienst oder eine Chance erhält. Umgekehrt macht das Label „Modell“ gewöhnliche deskriptive Analytics nach der Verordnungsdefinition nicht zu ADMT.
Die Umsetzung ist konkret: Führen Sie ein Entscheidungsverzeichnis, kennzeichnen Sie den Punkt, an dem menschliches Urteil ersetzt wird, verknüpfen Sie die Verwendung mit Auskunfts- und Widerspruchsprozessen und testen Sie, ob eine Anfrage alle nachgelagerten Systeme erreicht. Diese Grenze ist hilfreicher, als ein ganzes Produkt pauschal als „KI“ oder „keine KI“ einzuordnen.
Comments
Loading comments…