Die Einordnung
Nicht jede KI-Nutzung löst dieselbe Pflicht aus.
Artikel 50 des AI Acts bündelt mehrere Transparenzpflichten. Anbieter müssen bestimmte Systeme technisch so gestalten, dass Menschen KI-Interaktionen erkennen und künstlich erzeugte oder manipulierte Inhalte maschinenlesbar erkannt werden können. Betreiber müssen in bestimmten Einsatzsituationen selbst informieren oder kennzeichnen.
Das System richtig gestalten
Relevant sind besonders direkte KI-Interaktionen sowie Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen oder verändern.
Menschen richtig informieren
Relevant sind besonders Emotionserkennung, biometrische Kategorisierung, Deepfakes und bestimmte KI-Texte zu Themen von öffentlichem Interesse.
Pflichten im Überblick
Vier Fragen entscheiden über den ersten Handlungsbedarf.
Interagieren Menschen direkt mit KI?
In der Regel muss spätestens bei der ersten Interaktion erkennbar sein, dass eine KI beteiligt ist. Das gilt nicht, wenn dies für eine aufmerksame Person offensichtlich ist.
Erzeugt oder verändert das System Inhalte?
Anbieter betroffener Systeme müssen Ausgaben in einem maschinenlesbaren Format markieren und als künstlich erzeugt oder manipuliert erkennbar machen.
Werden Menschen analysiert?
Betreiber von Emotionserkennung oder biometrischer Kategorisierung müssen betroffene Personen informieren. Daneben bleibt die DSGVO eigenständig zu prüfen.
Werden Deepfakes oder öffentliche Texte veröffentlicht?
Hier greifen Offenlegungspflichten mit gesetzlichen Ausnahmen und angepassten Anforderungen, etwa für redaktionell geprüfte Texte oder künstlerische Werke.