Wurde der EU AI Act verschoben?

Teilweise. Im Rahmen des Digital Omnibus wurden die Fristen für Hochrisiko-KI-Systeme auf Dezember 2027 beziehungsweise August 2028 verschoben. Die Transparenzpflichten nach Art. 50 AI Act sind von dieser Verschiebung nicht betroffen und gelten unverändert seit dem 2. August 2026.

Gilt Artikel 50 für Chatbots?

Ja. Art. 50 AI Act verpflichtet Anbieter und Betreiber von KI-Systemen, die im direkten Kontakt mit natürlichen Personen stehen, etwa Chat-Assistenten, zur Offenlegung, dass es sich um ein KI-System handelt, sofern das nicht bereits offensichtlich ist.

Muss ein Chatbot offenlegen, dass er KI ist?

Ja, sofern für den Nutzer nicht ohnehin offensichtlich ist, dass er mit einem KI-System interagiert. LoyJoy setzt das über einen KI-Hinweis im Begrüßungsmodul, ein anpassbares KI-Label an jeder KI-generierten Nachricht und eine permanente Hinweiszeile unter dem Eingabefeld um.

Wer ist Anbieter und wer ist Betreiber?

LoyJoy ist Anbieter (Provider) der KI-gestützten SaaS-Plattform und des darauf aufbauenden KI-Systems. Der Kunde, der die Plattform in seinem Chat oder seiner Telefonie einsetzt, ist in der Regel Betreiber (Deployer) des konkreten KI-Systems im Sinne des AI Act und dafür verantwortlich, wie es in seinem Einsatzfall konfiguriert und genutzt wird.

Kurz-Stellungnahme zur EU-KI-Verordnung (AI Act)

Änderungshistorie (7 Einträge)

10.08.2026 Speech-to-Speech-Modell des Phone Agents läuft jetzt in der EU-Datenzone von Azure OpenAI statt über globale Azure-Dienste. Abschnitt Datenschutz entsprechend aktualisiert.
05.08.2026 Digital-Omnibus-Update ergänzt: Hochrisiko-Fristen auf Dezember 2027 und August 2028 verschoben, Art.-50-Transparenzpflichten davon unberührt und unverändert seit 2. August 2026 in Kraft. Frist 2. Dezember 2026 für Bestandssysteme bei der Kennzeichnung synthetischer Audioinhalte ergänzt (technische Umsetzung in Prüfung). Fristen-Zeitleiste und FAQ-Abschnitt mit FAQPage-Schema ergänzt.
30.07.2026 Abschnitt zu Transparenzpflichten in 'Chat' und 'Phone Agent' unterteilt. Chat-Transparenz ergänzt: KI-Hinweis im Begrüßungsmodul, anpassbares KI-Label an KI-generierten Nachrichten, permanente Hinweiszeile unter dem Eingabefeld. Kennzeichnung von KI-Chat-Nachrichten verbindlich formuliert.
03.07.2026 Klarstellung ergänzt, dass LoyJoy das GPAI-Modell Gemma 4 im eigenen Rechenzentrum in Münster auf eigener Hardware betreibt. Rolle unter Art. 3 Nr. 3 und Art. 25 Abs. 1c AI Act präzisiert.
06.05.2026 Standard-Begrüßung des Phonebots dokumentiert. Plattformhinweis zur Verantwortung bei abweichender Begrüßung ergänzt.
05.05.2026 Rolle von LoyJoy um Phone Agent und Speech-to-Speech erweitert. Transparenzpflichten für Phonebot-Konversationen ergänzt. Pflichten-Tabelle aktualisiert.
20.05.2025 Erstveröffentlichung der AI-Act-Stellungnahme.

Fristen im Überblick

2. August 2026

Die Transparenzpflichten nach Art. 50 AI Act treten in Kraft, für den direkten Kontakt mit KI-Systemen per Chat und Telefon.
2. Dezember 2026

Umsetzungsfrist für die Kennzeichnung synthetischer Audioinhalte bei generativen Systemen, die bereits vor dem 2. August 2026 am Markt waren.
Dezember 2027

Im Digital Omnibus verschobene neue Frist für einen Teil der Hochrisiko-Pflichten.
August 2028

Im Digital Omnibus verschobene neue Frist für weitere Hochrisiko-Pflichten.

Diese Kurz-Stellungnahme erläutert, wie LoyJoy als Plattformanbieter die Pflichten des EU AI Act umsetzt, insbesondere die Transparenzpflichten nach Art. 50 für den direkten Kontakt mit KI-Systemen per Chat und Telefon.

Digital Omnibus

Was verschoben wurde, und was nicht

Im Rahmen des „Digital Omnibus" wurden die Fristen für Hochrisiko-KI-Systeme verschoben, auf Dezember 2027 beziehungsweise August 2028.

Nicht verschoben wurden die Transparenzpflichten nach Art. 50 AI Act für den direkten Kontakt mit KI-Systemen. Diese gelten unverändert seit dem 2. August 2026.

Rolle von LoyJoy

LoyJoy stellt Unternehmenskunden eine SaaS-Plattform zur Erstellung und Ausführung von KI-gestützten Kundeninteraktionen per Chat und Telefon bereit. LoyJoy entwickelt keine eigenen Foundation Models.

Als Standard-Modell für Chat-Interaktionen betreibt LoyJoy das GPAI-Modell Gemma 4 von Google auf eigener Hardware im Rechenzentrum Münster. Google bleibt Anbieter (Provider) des GPAI-Modells im Sinne von Art. 3 Nr. 3 und Art. 51 ff. AI Act; die Anbieter-Pflichten des GPAI-Modells liegen weiterhin bei Google. LoyJoy nimmt am Modell selbst keine substantielle Modifikation im Sinne von Art. 25 Abs. 1c AI Act vor (kein Fine-Tuning, kein Weitertraining) und wird durch das reine On-Prem-Hosting nicht selbst zum Anbieter des GPAI-Modells. LoyJoy tritt weiterhin als Anbieter des darauf aufbauenden KI-Systems auf.

Ergänzend werden je nach Konfiguration KI-Modelle und Speech-to-Speech-Dienste von Unterauftragsverarbeitern wie Microsoft Azure, Mistral, Scaleway, Nebius oder Anthropic genutzt.

Im Verhältnis zu Endnutzern ist der Kunde regelmäßig Betreiber des konkreten KI-Systems bzw. Verantwortlicher für den konkreten Einsatzfall. LoyJoy unterstützt Kunden als Plattformanbieter und Auftragsverarbeiter durch technische und organisatorische Funktionen zur transparenten und datenschutzkonformen Nutzung.

Transparenzpflichten

Die Transparenzpflichten nach Art. 50 AI Act gelten seit dem 2. August 2026 und sind von der im Digital Omnibus vorgesehenen Verschiebung der Hochrisiko-Fristen nicht betroffen.

Chat

Bei Chat-Interaktionen stellt LoyJoy im Begrüßungsmodul einen KI-Hinweis bereit, der den Nutzer zu Beginn der Konversation darüber informiert, dass er mit einem KI-System interagiert. Jede KI-generierte Nachricht wird zusätzlich mit einem anpassbaren KI-Label gekennzeichnet. Ergänzend zeigt LoyJoy unterhalb des Eingabefelds eine permanente Hinweiszeile an, die während der gesamten Konversation sichtbar bleibt.

Passende Textvorschläge für Begrüßungsmodul und Hinweiszeile finden Sie unter KI-Hinweis-Textvorschläge.

Phone Agent

Bei Phonebot-Konversationen stellt LoyJoy eine konfigurierbare Standard-Begrüßung bereit, die den Anrufer zu Beginn darüber informiert, dass er mit einem KI-System interagiert. Die Standard-Begrüßung lautet:

“Hallo, ich bin die KI-Telefonassistenz von [Firmenname]. Das Gespräch wird zur Bearbeitung Ihres Anliegens vorübergehend gespeichert, natürlich vertraulich. Wie kann ich Ihnen helfen?”

Kunden können diese Begrüßung an ihren Einsatzfall anpassen. Die Plattform enthält dabei folgenden Hinweis: “Die Begrüßung sollte klar sagen, dass der Anrufer mit einem KI-System spricht. Wenn Sie diesen Hinweis entfernen, sind Sie für die rechtliche Bewertung Ihrer abweichenden Begrüßung verantwortlich.”

Bei Gesprächsaufzeichnungen muss der Auftraggeber zusätzlich prüfen, ob und in welcher Form ein Hinweis oder eine Einwilligung für die Aufzeichnung erforderlich ist.

Passende Textvorschläge für die Telefon-Begrüßung finden Sie ebenfalls unter KI-Hinweis-Textvorschläge.

Pflichten des Betreibers und Umsetzung

Pflicht	Umsetzung bei LoyJoy
Transparenz bei direkter KI-Interaktion, Art. 50 AI Act	KI-generierte Chat-Nachrichten werden durch KI-Hinweis im Begrüßungsmodul, anpassbares KI-Label und permanente Hinweiszeile gekennzeichnet. Bei Phonebot-Interaktionen stellt LoyJoy eine Standard-Begrüßung mit klarem KI-Hinweis bereit.
Kennzeichnung synthetischer Audioinhalte, Art. 50 AI Act	Bei Speech-to-Speech-Dialogen wird der Anrufer zu Beginn der Interaktion darauf hingewiesen, dass er mit einem KI-System bzw. KI-Telefonassistenten spricht. Für generative Systeme, die bereits vor dem 2. August 2026 am Markt waren, gilt hierfür eine Umsetzungsfrist bis zum 2. Dezember 2026.
Protokollierung	Konversationsdaten, einschließlich Transkripte und Gesprächsaufzeichnungen, werden nach Mandantenkonfiguration gespeichert, im Standard 30 Tage.
Menschliche Aufsicht	Kunden können Prozesslogik, Wissensquellen und Antworten konfigurieren und überprüfen. Eine Übergabe an menschliche Bearbeitung kann pro Prozess vorgesehen werden.
Cybersicherheit	Verschlüsselte Übertragung, rollenbasierte Zugriffskontrolle, Protokollierung, Unterauftragsverarbeiter mit dokumentierten Sicherheitsmaßnahmen.

Datenschutz

Verarbeitung als Auftragsverarbeiter gemäß Art. 28 DSGVO.
Standardmäßig wird Gemma 4 als Chat-LLM auf LoyJoy-eigener Hardware im Rechenzentrum Münster (Deutschland) betrieben. Für diesen Standardpfad findet kein Datenabfluss an einen externen KI-Modellanbieter statt.
Weitere LLM-Verarbeitung erfolgt standardmäßig in EU-Regionen. LoyJoy bietet eine Auswahl an KI-Modellen verschiedener Anbieter, die in der EU betrieben werden. Für Kunden, die nicht dem EU AI Act unterliegen, stellt LoyJoy zusätzlich KI-Modelle mit Server-Standort USA zur Verfügung. Diese sind in der Plattform klar gekennzeichnet und werden für EU-Kunden nicht als Standard konfiguriert.
Das Speech-to-Speech-Modell des Phone Agents wird seit August 2026 in der EU-Datenzone von Azure OpenAI verarbeitet.
Verschlüsselte Speicherung und Übertragung von personenbezogenen Daten.