Artikel 50 des AI Act ist jetzt eine Anforderung an die Produktoberfläche
Artikel 50 des EU AI Act verlangt konkrete Hinweise zu KI-Interaktionen und generierten Inhalten. Ordnen Sie die Pflichten Rollen, UI-Zuständen und schlanker Messung zu.
Die Transparenzpflichten aus Artikel 50 des EU AI Act gelten seit dem 2. August 2026. Damit ist die Offenlegung für mehrere Arten von KI-Systemen eine Produktanforderung und nicht nur ein Satz in einer Richtlinie. Entwickler müssen feststellen, welche Organisation Anbieter oder Betreiber ist, und die erforderlichen Informationen an der relevanten Interaktion anzeigen.
Artikel 50 ist keine pauschale Regel für jede Seite mit KI. Er gilt für bestimmte Tätigkeiten und legt unterschiedliche Pflichten für Anbieter und Betreiber fest. Die erste Implementierungsaufgabe ist daher eine Bestandsaufnahme von Rollen und Funktionen: Welche Systeme interagieren direkt mit Menschen, welche erzeugen synthetische Inhalte und welche Betreiber veröffentlichen oder präsentieren diese Inhalte?
Pflichten von Anbietern und Betreibern trennen
Anbieter von KI-Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, müssen sie so gestalten, dass Nutzer erfahren, dass sie mit einer KI interagieren – außer dies ist im Kontext für eine angemessen informierte und aufmerksame Person offensichtlich. Eine Chatbot-Oberfläche sollte nicht auf einen entfernten Datenschutzhinweis verweisen, um die Interaktion zu erklären; der Hinweis gehört an den Einstieg in das Gespräch.
Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Der AI Act verlangt technische Lösungen, die soweit technisch machbar wirksam, interoperabel, robust und zuverlässig sind. Zu berücksichtigen sind inhaltsspezifische Grenzen, Implementierungskosten und der Stand der Technik. Ausnahmen gibt es unter anderem für bestimmte Standardbearbeitungs- und Assistenzfunktionen, die Eingabe oder Bedeutung nicht wesentlich verändern.
Betreiber haben eigene Offenlegungspflichten. Wer ein KI-System einsetzt, um ein Deepfake darstellende Bilder, Audio- oder Videoinhalte zu erzeugen oder zu manipulieren, muss offenlegen, dass sie künstlich erzeugt oder manipuliert wurden. Auch KI-generierter oder manipulierter Text, der zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht wird, muss offengelegt werden – außer er wurde menschlich geprüft oder redaktionell kontrolliert und eine Person trägt die redaktionelle Verantwortung. Für offensichtlich künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke ist eine engere Offenlegung vorgesehen.
Hinweise bei der ersten Begegnung anzeigen
Bei den erfassten Pflichten müssen die Informationen klar und unterscheidbar sein und spätestens bei der ersten Interaktion mit dem System oder dem ersten Kontakt mit dem Inhalt bereitgestellt werden. Artikel 50 verlangt außerdem, dass die Informationen geltende Barrierefreiheitsanforderungen erfüllen. Ein Hinweis, der in einer Fußzeile versteckt ist oder erst nach einer Nachfrage erscheint, passt schlecht zu dieser Frist.
Übersetzen Sie die rechtlichen Rollen in Produktzustände. Bei einem dialogorientierten System erscheint der KI-Hinweis vor oder beim Gesprächsbeginn. Bei generierten Medien bleibt die maschinenlesbare Kennzeichnung im Export erhalten; zugleich erhält der Betreiber eine Möglichkeit, bei der Veröffentlichung auf manipulierte oder generierte Inhalte hinzuweisen. Die Kennzeichnung der Anbieterausgabe und der sichtbare Hinweis des Betreibers sind getrennte Pflichten und können bei verschiedenen Teams liegen.
Standards zur Inhaltsherkunft können helfen, Informationen über Quelle und Verlauf eines Medienobjekts zu erhalten. Die C2PA-Spezifikation ist eine technische Referenz in diesem Bereich. Ein Herkunftsformat allein belegt jedoch nicht, dass alle Pflichten aus Artikel 50 erfüllt sind. Prüfen Sie die konkrete gesetzliche Pflicht, das Ausgabeformat, nachgelagerte Umwandlungen und die Darstellung für Menschen.
Die Funktion messen, nicht die Person
Analytics kann prüfen, ob Offenlegungsschnittstellen angezeigt werden und ob eine Veröffentlichungskette maschinenlesbare Kennzeichnungen entfernt. Dafür braucht es weder Gesprächsinhalte noch generierte Medien, Kontenidentitäten oder ein dauerhaftes Besucherprofil. Verwenden Sie aggregierte Zählungen nach Offenlegungszustand, Darstellungsfehlern und Formatprüfungen; protokollieren Sie keine Prompts oder Inhalte, nur weil sie im Event-Handler verfügbar sind.
Testen Sie nach Rolle und Inhaltstyp. Berücksichtigen Sie direkte KI-Interaktion, generierte Audio- und Bildinhalte, Texte von öffentlichem Interesse, Medienbearbeitungen und mögliche Ausnahmen. Prüfen Sie, ob der Hinweis vor dem ersten Kontakt erscheint, nach Navigation oder Export erhalten bleibt und mit Lokalisierung sowie assistiven Technologien funktioniert. Verknüpfen Sie den Testnachweis mit Build und Funktionskonfiguration, nicht mit den Identitäten der betroffenen Personen.
Das praktische Ergebnis ist eine gemeinsame Release-Checkliste für Produkt, Engineering, Barrierefreiheit und Recht: System einordnen, verantwortlichen Akteur bestimmen, den passenden Hinweis anzeigen, erforderliche Kennzeichnungen erhalten und den Ablauf mit minimaler Telemetrie prüfen. Die Transparenzpflicht wird in der tatsächlich genutzten Oberfläche umgesetzt – nicht in den Analytics-Daten, die über Menschen gesammelt werden.
Comments
Loading comments…