EU-KI-Gesetz (Transparenz von Chatbots)
Kurze Definition
Das EU-KI-Gesetz (Verordnung (EU) 2024/1689) ist das Gesetz der Europäischen Union über künstliche Intelligenz. Für Chatbots lautet die zentrale Regel, dass die Menschen informiert werden müssen, dass sie mit einem KI-System interagieren.
Auf dieser Seite
Ein risikobasiertes Gesetz
Das KI-Gesetz sortiert KI-Systeme nach Risiko. Einige Praktiken sind grundsätzlich verboten, wie manipulative Techniken, die erheblichen Schaden verursachen. Hochrisikosysteme — in Bereichen wie Rekrutierung, Kreditbewertung oder kritischer Infrastruktur — unterliegen strengen Anforderungen. Allgemeine KI-Modelle haben eigene Verpflichtungen. Viele andere Systeme, einschließlich Kundenservice-Chatbots, unterliegen hauptsächlich Transparenzpflichten.
Das Gesetz trat am 1. August 2024 in Kraft und gilt schrittweise. Verbote gelten seit dem 2. Februar 2025, Regeln für allgemeine KI-Modelle seit dem 2. August 2025 und der Großteil des Übrigen, einschließlich der Artikel 50-Transparenzpflichten, seit dem 2. August 2026. Die Digital Omnibus-Änderungen haben einige Fristen für Hochrisikosysteme auf Dezember 2027 und August 2028 verschoben, aber die Pflicht aus Artikel 50 für Chatbots unverändert gelassen.
Was Artikel 50 von Chatbots verlangt
Artikel 50(1) verlangt von Anbietern, KI-Systeme zu entwerfen, die direkt mit Menschen interagieren, sodass diese Menschen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist einem vernünftig informierten, aufmerksamen und umsichtigen Menschen im gegebenen Kontext offensichtlich. Die Leitlinien der Europäischen Kommission besagen, dass diese Ausnahme restriktiv ausgelegt werden sollte. Nach Artikel 50(5) muss die Information klar und unterscheidbar gegeben werden, spätestens zum Zeitpunkt der ersten Interaktion, und die Zugänglichkeitsanforderungen erfüllen.
Artikel 50 betrifft auch KI-generierte Inhalte: synthetische Audios, Bilder, Videos und Texte müssen in bestimmten Fällen als künstlich generiert gekennzeichnet werden, und Deepfakes müssen offengelegt werden. Geldstrafen für Verstöße gegen diese Verpflichtungen können bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes erreichen, mit Verhältnismäßigkeit für KMUs.
Anbieter oder Betreiber: wer macht was
Der Anbieter ist derjenige, der ein KI-System entwickelt oder entwickeln lässt und es unter seinem Namen auf den Markt bringt. Der Betreiber ist die Organisation, die es in einem professionellen Kontext nutzt — zum Beispiel ein Geschäft, das einen KI-Assistenten auf seiner Website installiert. Für Chatbots liegt die Pflicht aus Artikel 50(1) beim Anbieter, aber in der Praxis erscheint die Offenlegung im Chatfenster des Betreibers, sodass beide ein Interesse daran haben, es richtig zu machen.
Ein einfacher, effektiver Ansatz: Benennen Sie den Assistenten als KI, geben Sie dies in der ersten Nachricht oder neben dem Chatfenster an und vermeiden Sie es, ihn als menschlichen Mitarbeiter darzustellen. Diese Seite ist allgemeine Information, keine Rechtsberatung.
Verwendung von AI SmartTalk in diesem Kontext
Mit AI SmartTalk wählt das Unternehmen den Namen seines Assistenten und formuliert seine Anweisungen, sodass es den Assistenten als KI vorstellen kann und sicherstellt, dass dies ab dem ersten Austausch auf jedem Kanal sichtbar ist. Der menschliche Übergang ermöglicht es den Kunden, eine Person zu erreichen, und in der EU gehostete Modelle werden standardmäßig verwendet. Unternehmen mit spezifischen Fragen zu ihren Verpflichtungen sollten rechtlichen Rat einholen.
Häufig gestellte Fragen
Wann gelten die Regeln des KI-Gesetzes für Chatbots?
Die Transparenzpflichten aus Artikel 50, einschließlich der Information der Menschen, dass sie mit einer KI interagieren, gelten ab dem 2. August 2026. Der Digital Omnibus hat sie nicht verschoben.
Ist ein Kundenservice-Chatbot ein Hochrisiko-KI-System?
Im Allgemeinen nicht. Ein Unterstützungs- oder Einkaufsassistent fällt normalerweise unter die Transparenzpflichten und nicht unter das Hochrisikoregime, es sei denn, er wird für Zwecke verwendet, die als hochriskant eingestuft sind, wie die Bewertung der Kreditwürdigkeit.
Gilt das AI-Gesetz für Unternehmen außerhalb der EU?
Ja, wenn sie KI-Systeme auf dem EU-Markt bereitstellen oder wenn die Ergebnisse ihrer Systeme in der EU verwendet werden.
Was sind die Strafen für die Nichtoffenlegung eines Chatbots?
Verstöße gegen die Verpflichtungen aus Artikel 50 können zu Geldstrafen von bis zu 15 Millionen Euro oder 3 % des gesamten weltweiten Jahresumsatzes führen, je nachdem, welcher Betrag höher ist, mit niedrigeren Obergrenzen für KMU.