Washington State verschärft KI-Regeln: Kennzeichnungspflichten für manipulierte Medien und neue Schutzstandards für Chatbots bei Minderjährigen

Überblick: Was ab heute gilt – und was nachkommt

Mit Wirkung zum 5. April 2026 treten in Washington State zentrale Teile eines neuen KI-Regulierungsrahmens in Kraft, der zwei Bereiche adressiert:

1. Kennzeichnung von KI-generierten oder KI-material veränderten Medien (Deepfakes, synthetische Bilder, Audio, Video)

2. Sicherheits- und Transparenzpflichten für KI-Chatbots, die sich an Minderjährige richten oder von diesen genutzt werden

Rechtlich aufgespannt wird dies durch mehrere Gesetze (u. a. HB 1170 zur Kennzeichnung von KI-Inhalten und HB 2225 zu „AI companion chatbots“), die im März 2026 unterzeichnet wurden. Die heute relevante Perspektive für Unternehmen: Sie müssen ihre Produkte und Content-Workflows jetzt anpassen, um Fristen einzuhalten und Haftungsrisiken zu begrenzen.

1. Kennzeichnungspflichten für KI-veränderte Medien

Was verlangt Washington konkret?

Washington verlangt künftig von großen Anbietern generativer KI-Systeme („covered providers“), dass KI-erzeugte oder materiell veränderte Inhalte eindeutig als solche erkennbar sind. Im Fokus stehen:

• Bilder (z. B. AI-generierte Produktvisualisierungen, Portraits)

• Videos (z. B. Werbespots, Social-Clips, virtuelle Influencer)

• Audio (z. B. synthetische Stimmen, Podcasts)

Die Kennzeichnung kann u. a. erfolgen über:

• sichtbare Hinweise (Overlay, Untertitel, Einblendung im Rahmen des Contents)

• eingebettete Metadaten (Provenance-Informationen in der Datei, maschinenlesbar)

• Wasserzeichen auf Dateiebene

Entscheidend ist, dass ein durchschnittlicher Nutzer erkennen kann, dass der Inhalt von KI erstellt oder wesentlich verändert wurde – und dass Plattformen und nachgelagerte Services diese Information technisch auslesen können.

Was ist „materielle Veränderung“?

„Materiell“ ist jede Veränderung, die:

• die dargestellte Person, Handlung oder Aussage inhaltlich verfälscht, oder

• das Vertrauen in Authentizität wesentlich beeinflusst (z. B. Deepfake-Politikvideos, gefälschte CEO-Statements, Sexualisierung realer Personen).

Für einfache Retusche (Farbkorrektur, Zuschnitt) dürften die Regeln nicht greifen. Sobald aber etwa:

• Gesichter getauscht,

• Stimmen imitiert,

• Aussagen synthetisch „nachgesprochen“

werden, ist mit Kennzeichnungspflicht zu rechnen.

Praktische Implikationen für Unternehmen

Betroffene Unternehmen sind nicht nur US-Firmen, sondern alle Anbieter, deren Dienste in Washington genutzt werden – insbesondere:

• Social-Media-Plattformen

• Werbenetzwerke und Agenturen

• Kreativ- und Design-SaaS (Bild-/Video-/Audio-Generatoren)

• News- und Medienplattformen mit KI-gestützter Produktion

Kurzfristig notwendig:

• Bestandsaufnahme: Wo entstehen heute KI-generierte oder stark manipulierte Medien in Ihren Pipelines? (Marketing, HR, Produkt, Support, interne Schulung)

• Technische Maßnahmen:

- Einführung oder Aktivierung von Content-Provenance-Standards (z. B. C2PA) in Rendering-Pipelines

- Anpassung von Ex- und Import-Schnittstellen, um Kennzeichnungen nicht zu verlieren

• Policy-Update: Interne Richtlinien für den Einsatz generativer KI in Marketing, PR und HR, inkl. Vorgabe: „Ohne Kennzeichnung kein Roll-out.“

Mittel- bis langfristig:

• Ausbau von Erkennungs- und Prüfprozessen (Stichprobenkontrollen, automatisierte Deepfake-Detection bei User Generated Content)

• Klare vertragliche Regeln mit Agenturen und Kreativpartnern (Wer verantwortlich für Kennzeichnung ist, Haftungszuordnung, Audit-Rechte)

2. Neue Schutzregeln für Chatbots im Umgang mit Minderjährigen

Parallel dazu setzt Washington spezifische Vorgaben für sogenannte AI companion chatbots um: Systeme, die Gespräche führen, Beziehungen simulieren und häufig sehr persönliche Interaktionen ermöglichen.

Zentrale Pflichten für Chatbot-Betreiber

Für Betreiber von Chatbots, die sich an Minderjährige richten oder von diesen genutzt werden, zeichnen sich folgende Kernanforderungen ab:

1. Transparente Offenlegung

- Der Chatbot muss klar und wiederholt kenntlich machen, dass er kein Mensch, sondern ein KI-System ist.

- Diese Offenlegung darf nicht im Kleingedruckten „versteckt“ sein, sondern muss im Interface auffällig erscheinen.

1. Schutz vor manipulativem Verhalten

- Verbot von Mechanismen, die gezielt emotionale Abhängigkeiten fördern, z. B.:

- „Wenn du mich verlässt, bin ich traurig“-Narrative

- Gamification von Bindung („Rede heute 3 Stunden mit mir, um ein neues Feature freizuschalten“)

- Keine Ausnutzung typischer Jugend-Schwachstellen (Einsamkeit, Unsicherheit, FOMO) für Engagement-Optimierung.

1. Beschränkung problematischer Inhalte

- Systeme müssen technisch so gestaltet sein, dass gegenüber Minderjährigen weder:

- sexuelle Inhalte,

- Gewaltverherrlichung,

- Selbstverletzungs- oder Suizid-Anleitungen

erzeugt oder normalisiert werden.

1. Protokolle für Krisensituationen

- Chatbots müssen in der Lage sein, Anzeichen von Suizidgedanken oder Selbstverletzung in Spracheingaben zu erkennen (mindestens mit einfachen Heuristiken).

- In solchen Fällen sind verpflichtend:

- Deeskalation und klare Distanzierung (kein „Mitmachen“ in destruktiven Gedankenexperimenten)

- Verweis auf Hilfsangebote (z. B. Hotlines, Notrufempfehlungen, Vertrauenspersonen)

Altersbezug ohne harte Identitätsprüfung

Bemerkenswert aus Unternehmenssicht: Die Pflichten greifen oft schon dann, wenn ein Dienst faktisch von Minderjährigen genutzt wird oder wenn der Betreiber vernünftige Anhaltspunkte dafür hat. Ein streng formales, ausgereiftes Age-Verification-System ist nicht zwingend vorgeschrieben – entbindet aber nicht von Verantwortung.

Für globale Anbieter ergibt sich damit ein Risikomindeststandard:

• Wer nicht sicherstellen kann, dass keine Minderjährigen im System sind, sollte die Minderjährigen-Schutzstandards als Default implementieren.

3. Konkrete Handlungsempfehlungen für Unternehmen

A. Für Plattformen und Marken mit KI-basiertem Content

• Inventarisierung & Tagging

- Alle KI-generierten oder stark manipulierten Assets in einem zentralen System erfassen.

- Einheitliche Tagging-Logik („ai_generated“, „ai_altered“) definieren.

• Technische Kennzeichnung

- Rendering-Pipelines anpassen, um Metadaten/Wasserzeichen automatisch einzubetten.

- Prüfen, ob bestehende CDN-/DAM-Lösungen diese Informationen erhalten oder strippen.

• UX-Anpassung

- Sichtbare Hinweise („Dieser Inhalt wurde mit KI erstellt/verändert“) im Frontend vorsehen.

- A/B-Tests zu Nutzerakzeptanz und Verständlichkeit.

B. Für SaaS-Anbieter von Kreativ- und Chatbot-Lösungen

• Konfigurierbare Compliance-Profile

- Einen „Washington-Mode“ bzw. „US-State-Compliance“-Modus bereitstellen, der automatisch:

- Kennzeichnungen aktiviert,

- bestimmte Inhalte blockiert,

- Logging für Audits verbessert.

• Inhalts- und Altersfilter

- Content-Filter explizit auf jugendschutzrelevante Kategorien hin optimieren.

- Mindestens einfache Selbstdeklaration („Ich bin unter 18“) plus risikobasierte Heuristiken einsetzen.

• Vertragliche Absicherung

- Data Processing Agreements (DPA) und AGB um Pflichtenverteilung ergänzen:

- Wer steuert Altersgrenzen?

- Wer konfiguriert Filter?

- Wer reagiert auf Krisenfälle (Support vs. Plattform)?

C. Für Unternehmen mit eigenen Support- oder HR-Chatbots

Auch wenn interne Chatbots nicht primär als „Companion“ ausgelegt sind, sollten Firmen mit Niederlassungen oder Mitarbeitenden in Washington prüfen:

• Können Minderjährige (Azubis, Praktikanten) den Bot nutzen?

• Enthält der Bot Funktionen, die persönliche oder emotionale Themen adressieren?

Falls ja:

• Deutliche Kennzeichnung als KI-Assistent.

• Schulung von Admins zu Umgang mit sensiblen Themen.

• Dokumentierte Prozesse, wie auf Hinweise zu psychischer Gefährdung reagiert wird (Weiterleitung an interne Stellen, keine individualisierte Beratung durch KI).

4. Strategische Bedeutung über Washington hinaus

Washington reiht sich ein in eine wachsende Zahl von US-Bundesstaaten, die KI-spezifische Regelungen schaffen – oft mit Fokus auf:

• Transparenz von KI-Inhalten (Deepfake-Kennzeichnung)

• Schutz Minderjähriger bei Social Media und KI-Interaktionen

Für international agierende Unternehmen ist es wirtschaftlich kaum sinnvoll, für jeden Bundesstaat eigene Produktvarianten zu pflegen. Realistischer ist die Etablierung eines gemeinsamen Compliance-Niveaus, das die strengsten Vorgaben relevanter Märkte abbildet.

Empfehlung für Entscheider:

• Washington als Frühindikator für künftige Bundesstaaten-Gesetze betrachten.

• Bereits heute KI-Governance-Strukturen schaffen (Policy, Technik, Legal, Produkt) und:

- KI-Kennzeichnung,

- Jugend- und Verbraucherschutz,

- Krisen- und Missbrauchsprozesse

als feste Bausteine im Produkt-Lifecycle verankern.

Wer seine KI-Strategie jetzt proaktiv an diesen Standards ausrichtet, reduziert nicht nur juristische Risiken, sondern verbessert auch die Transparenz gegenüber Kunden, Nutzern und Aufsichtsbehörden – und ist besser vorbereitet, wenn weitere Staaten nachziehen.

Häufig gestellte Fragen (FAQ)

Was regeln die neuen KI-Gesetze in Washington State konkret?

Die neuen KI-Gesetze in Washington State führen Kennzeichnungspflichten für KI-generierte oder materiell veränderte Medien wie Bilder, Audio und Video ein. Gleichzeitig werden AI-Companion-Chatbots reguliert, insbesondere im Hinblick auf Transparenz, Jugendschutz und den Umgang mit Krisensituationen wie Suizidgedanken.

Was gilt als „materiell veränderter“ KI-Content und muss gekennzeichnet werden?

Als materiell verändert gelten Inhalte, bei denen Personen, Handlungen oder Aussagen inhaltlich verfälscht werden oder das Vertrauen in die Authentizität erheblich beeinträchtigt wird. Dazu zählen etwa Deepfake-Videos von Politikern, synthetische CEO-Statements oder sexualisierte Darstellungen realer Personen, nicht jedoch reine Retuschen wie Zuschnitt oder Farbkorrekturen.

Wie müssen Unternehmen KI-generierte oder KI-veränderte Medien in Washington kennzeichnen?

Unternehmen müssen sicherstellen, dass ein durchschnittlicher Nutzer klar erkennen kann, dass ein Inhalt durch KI erstellt oder wesentlich verändert wurde. Dies kann über sichtbare Hinweise im Interface, eingebettete Metadaten, Wasserzeichen oder Content-Provenance-Standards wie C2PA erfolgen, die auch von nachgelagerten Plattformen technisch ausgelesen werden können.

Welche besonderen Anforderungen gelten für AI-Companion-Chatbots im Umgang mit Minderjährigen?

AI-Companion-Chatbots müssen Minderjährigen gegenüber deutlich offenlegen, dass sie KI-Systeme sind, manipulative Bindungsmechanismen vermeiden und jugendgefährdende Inhalte wie Sexualität, Gewaltverherrlichung oder Suizid-Anleitungen technisch unterbinden. Zudem sind Protokolle für Krisensituationen erforderlich, etwa die Erkennung von Suizidgedanken, Deeskalation und der Hinweis auf professionelle Hilfsangebote.

Welche Unternehmen sind von den KI-Regeln in Washington besonders betroffen?

Betroffen sind nicht nur US-Unternehmen, sondern alle Anbieter, deren Dienste in Washington genutzt werden. Dazu zählen vor allem Social-Media-Plattformen, Werbenetzwerke, Kreativ- und Design-SaaS mit Bild-, Audio- oder Videogeneratoren, Medienhäuser mit KI-gestützter Produktion sowie Anbieter von Chatbots, die sich an Minderjährige richten oder faktisch von ihnen genutzt werden.

Was sollten internationale Unternehmen jetzt konkret tun, um compliant zu sein?

Unternehmen sollten zunächst alle KI-generierten oder stark manipulierten Medien in ihren Content-Pipelines inventarisieren und eine einheitliche Tagging-Logik einführen. Anschließend sind technische Kennzeichnungslösungen, aktualisierte interne KI-Policies, angepasste UX-Hinweise sowie Konfigurationsoptionen für einen „Washington-Compliance-Modus“ bei Kreativ- und Chatbot-Lösungen aufzusetzen.

Warum ist die Washington-Regelung strategisch auch für andere Märkte relevant?

Washington fungiert als Frühindikator für weitere US-Bundesstaaten, die ähnliche Vorgaben zu KI-Transparenz und Jugendschutz einführen könnten. Für global agierende Unternehmen ist es ökonomisch sinnvoller, ein einheitliches, an den strengsten Standards orientiertes Compliance-Niveau zu etablieren, statt für jeden Staat separate Produktversionen zu pflegen.