EcomTask
Termin vereinbaren
Compliance

EU AI Act: Was seit August für Agenten im Kundenservice gilt

Seit 2. August 2026 gelten die Transparenzpflichten des AI Act. Was das für Agenten am Telefon, im Chat und per Mail heißt, und was verschoben wurde.

5 Min. Lesezeit

Seit dem 2. August 2026 gelten die Transparenzpflichten des EU AI Act. Wer Agenten Mails beantworten, Anrufe annehmen oder per WhatsApp schreiben lässt, ist direkt betroffen. Kurz davor trat der „Digital Omnibus on AI“ (Verordnung (EU) 2026/1744) in Kraft (27. Juli 2026). Er verschiebt die Pflichten für Hochrisiko-Systeme und fasst die Pflicht zur KI-Kompetenz neu. An der Pflicht, Menschen zu sagen, dass sie mit einer KI sprechen, ändert er nichts.

Was seit August gilt

Transparenz: Kunden müssen wissen, dass sie mit KI sprechen

Nach Art. 50 Abs. 1 AI Act müssen KI-Systeme, die direkt mit Menschen interagieren, so gebaut sein, dass die Person erfährt, dass sie es mit einem KI-System zu tun hat. Das entfällt nur, wenn es für eine angemessen informierte, aufmerksame und verständige Person ohnehin offensichtlich ist. Der Hinweis muss spätestens bei der ersten Interaktion kommen, klar, eindeutig und barrierefrei (Art. 50 Abs. 5). Bußgelder reichen bis 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes, bei KMU gilt der niedrigere Wert (Art. 99).

Die EU-Kommission hat dazu am 20. Juli 2026 Leitlinien verabschiedet. Sie nennen Agenten im Kundensupport, in der Reklamationsbearbeitung und im E-Commerce ausdrücklich, ob über Website, Telefon oder E-Mail. Die Ausnahme „offensichtlich“ legen sie eng aus: Dass Menschen wissen, dass es KI-Agenten gibt, heißt nicht, dass sie einen im Gespräch auch erkennen. Wer sich trotzdem auf die Ausnahme stützt, muss das begründen und belegen können.

In der Pflicht steht der Anbieter. Auch wer einen Agenten entwickeln lässt und unter eigenem Namen in Betrieb nimmt, ist nach Art. 3 Nr. 3 Anbieter. Bei individuell entwickelten Agenten sollte deshalb klar geregelt sein, wer den Hinweis umsetzt.

Kennzeichnung KI-erzeugter Inhalte

Anbieter generativer Systeme müssen deren Ausgaben maschinenlesbar markieren (Art. 50 Abs. 2). Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt das nach dem Omnibus ab dem 2. Dezember 2026. Betreiber müssen außerdem Deepfakes offenlegen sowie KI-Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren (Art. 50 Abs. 4). Die Antwort an einen einzelnen Kunden gehört nicht dazu: Private Korrespondenz, auch beruflich, gilt laut Leitlinien nicht als veröffentlicht. Für Markierung und Kennzeichnung hat die Kommission am 10. Juni 2026 einen freiwilligen Verhaltenskodex veröffentlicht. Den Hinweis im Gespräch nach Abs. 1 regelt er nicht.

Hochrisiko-Pflichten: verschoben

Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten erst ab dem 2. Dezember 2027, für KI in Produkten nach Anhang I ab dem 2. August 2028. Agenten im Kundenservice gehören in der Regel nicht dazu. Ausnahmen sind etwa Systeme, die die Kreditwürdigkeit prüfen oder Risiken und Preise bei Lebens- und Krankenversicherungen bewerten (Anhang III Nr. 5).

KI-Kompetenz: abgeschwächt, nicht gestrichen

Ab dem 2. Februar 2025 verlangte Art. 4 von Anbietern und Betreibern, für KI-Kompetenz ihrer Leute zu sorgen. Seit dem 27. Juli 2026 müssen sie nur noch Maßnahmen ergreifen, die die KI-Kompetenz ihres Personals und anderer Personen fördern, die KI-Systeme in ihrem Auftrag betreiben. Ein bestimmtes Niveau bei einzelnen Personen schreibt das Gesetz nicht mehr vor.

Aufsicht in Deutschland

Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) ist am 29. Juli 2026 in Kraft getreten. Zuständig ist damit grundsätzlich die Bundesnetzagentur: als Marktüberwachungsbehörde, Anlaufstelle und zentrale Beschwerdestelle. Sie überwacht unter anderem die Transparenzpflichten und berät über ihren KI-Service-Desk. Für KI-Systeme regulierter Finanzunternehmen ist die BaFin zuständig.

Was das für die Praxis heißt

Am Telefon sagt der Agent zu Beginn des Gesprächs, dass er eine KI ist. Bei längeren Gesprächen empfehlen die Leitlinien Erinnerungen, etwa nach Unterbrechungen. Ein Signalton allein reicht nicht.

Im Chat und bei WhatsApp gehört der Hinweis in die erste Nachricht. Wo die Oberfläche es zulässt, empfehlen die Leitlinien zusätzlich ein dauerhaftes Kennzeichen nahe am Eingabefeld. Per Mail nennen sie als Beispiel ein KI-Label oben in der Nachricht.

Nicht ausreichend ist laut Leitlinien ein Hinweis, der nur in AGB, Dokumentation oder hinter einem Link steht, ein pauschaler Satz für eine ganze Website und eine unklare Bezeichnung wie „assistant“. Fragt jemand, ob er mit einem Menschen spricht, muss der Agent so gebaut sein, dass er seine Natur offenlegt. Agenten sollen außerdem erkennbar machen, in wessen Auftrag sie handeln. Bei Reklamationen und ähnlich heiklen Themen halten die Leitlinien wiederholte Hinweise für wahrscheinlich nötig.

Freigabe durch Mitarbeiter: Prüft ein Mitarbeiter eine Antwort und verschickt sie selbst, gilt das nicht als direkte Interaktion mit der KI. Die bloße Möglichkeit, einzugreifen, hebt die Hinweispflicht aber nicht auf. Mischen sich Antworten von Agent und Mensch, sind die KI-Anteile zu kennzeichnen.

Übergabe an Menschen: Eine allgemeine Pflicht dazu enthält der AI Act für solche Agenten nicht. Trifft ein System aber ausschließlich automatisiert Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, gilt Art. 22 DSGVO. Betroffene haben dann grundsätzlich das Recht, dass eine Person eingreift.

Checkliste

  • Alle Kanäle erfassen, in denen ein Agent direkt mit Kunden spricht oder schreibt, und je Kanal festlegen, wie der KI-Hinweis kommt: Begrüßung am Telefon, erste Nachricht im Chat, Label in der Mail.
  • Den Hinweis in klarer Sprache formulieren und barrierefrei umsetzen.
  • Den Agenten so einstellen, dass er auf Nachfrage offenlegt, dass er eine KI ist, und für welches Unternehmen er handelt.
  • Klären und festhalten, wer Anbieter ist und wer den Hinweis umsetzt.
  • Prüfen, ob ein Anwendungsfall unter Anhang III fällt. Dann gilt ab dem 2. Dezember 2027 mehr.
  • Maßnahmen zur KI-Kompetenz für das Team ergreifen, das mit den Agenten arbeitet, zum Beispiel eine Einweisung.

Dieser Beitrag gibt den Stand vom 2. Oktober 2026 wieder und ist keine Rechtsberatung. Erste Anlaufstelle für Fragen ist der KI-Service-Desk der Bundesnetzagentur.

Quellen

Weitere Artikel

Termin vereinbaren

60 Minuten. Deine Prozesse.Eine ehrliche Einschätzung.

Artikel sind nett. Lass uns gemeinsam auf deine Abläufe schauen und herausfinden, wo Automatisierung den größten Hebel hat.

Termin vereinbarenProjekte ansehen