Eine neue Phase des KI-Gesetzes der Europäischen Union hat begonnen, wodurch wichtige Transparenzpflichten für Unternehmen in Kraft treten, die Chatbots, generative KI und synthetische Inhalte nutzen.
Ab dem 2. August 2026 gilt Artikel 50 des EU-KI-Gesetzes in der gesamten Europäischen Union. Die Vorschriften sollen sicherstellen, dass Verbraucher erkennen können, wann sie mit einem KI-System interagieren und wann scheinbar authentische Inhalte künstlich generiert oder manipuliert wurden.
Für E-Commerce-Unternehmen können sich die Änderungen auf Kundenservice-Bots, virtuelle Einkaufsassistenten, KI-generierte Werbung, Produktbilder, synthetische Influencer und automatisierte redaktionelle Inhalte auswirken.
Die Verordnung verpflichtet Einzelhändler jedoch nicht dazu, jede mit KI erstellte Produktbeschreibung oder jedes Marketingbild zu kennzeichnen. Die Verpflichtungen hängen von der Art des Systems, der Beschaffenheit der Inhalte und davon ab, ob das Unternehmen als KI-Anbieter auftritt oder lediglich ein Tool eines Drittanbieters nutzt.
Eine der eindeutigsten Anforderungen betrifft KI-Systeme, die direkt mit Verbrauchern interagieren.
Anbieter dieser Systeme müssen sicherstellen, dass die Nutzer darüber informiert werden, dass sie mit einer KI kommunizieren, es sei denn, dies ist für eine angemessen informierte Person bereits offensichtlich.
Für Online-Händler kann dies Folgendes umfassen:
Die Offenlegung sollte spätestens bei der ersten Interaktion erfolgen. Eine Meldung wie „Hallo, ich bin ein KI-gestützter Einkaufsassistent“ oder eine dauerhaft angezeigte Kennzeichnung als „KI-Assistent“ innerhalb der Benutzeroberfläche kann diese Anforderung erfüllen.
Händler sollten nicht davon ausgehen, dass ein Roboter-Symbol, ein ungewöhnlicher Bot-Name oder ein automatisierter Schreibstil den künstlichen Charakter des Systems ausreichend deutlich machen.
Obwohl die gesetzliche Informationspflicht in erster Linie beim Systemanbieter liegt, sollten E-Commerce-Unternehmen sicherstellen, dass die entsprechenden Hinweise auf ihren Websites, in ihren Anwendungen und über ihre Kundendienstkanäle ordnungsgemäß angezeigt werden.
In Lieferantenverträgen sollte zudem klar geregelt werden, wer für die Umsetzung, Prüfung und Pflege des Hinweises verantwortlich ist.
Artikel 50 umfasst auch KI-generierte und manipulierte Audio-, Bild-, Video- und Textinhalte.
Anbieter generativer KI-Systeme müssen sicherstellen, dass die betroffenen Ergebnisse in einem maschinenlesbaren Format identifiziert werden können. Dies kann Metadaten, Wasserzeichen, Inhaltszertifikate oder andere technische Methoden umfassen.
Diese technische Kennzeichnungspflicht bedeutet nicht, dass jeder Händler jeden KI-gestützten Inhalt mit einem sichtbaren Hinweis „KI-generiert“ versehen muss.
Die sichtbaren Offenlegungspflichten für Unternehmen, die diese Inhalte nutzen, sind enger gefasst. Sie betreffen in erster Linie:
Eine Standard-Produktbeschreibung, eine Kategorieseite oder eine Werbe-E-Mail muss nicht automatisch mit einem sichtbaren KI-Hinweis versehen werden, nur weil sie mithilfe generativer KI erstellt wurde.
Einzelhändler nutzen zunehmend KI, um Folgendes zu erstellen:
Die meisten gewöhnlichen Werbetexte erfordern keine sichtbare Kennzeichnung als KI-generiert.
Die spezifische Offenlegungspflicht für KI-generierte Texte gilt, wenn das Material veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.
Dies könnte relevant werden, wenn ein E-Commerce-Unternehmen KI-generierte Inhalte veröffentlicht, die Folgendes beinhalten:
So ist es beispielsweise unwahrscheinlich, dass eine einfache Beschreibung der Produktabmessungen die Regelung auslöst. Ein von KI verfasster Artikel, in dem behauptet wird, das Produkt habe medizinische Vorteile oder entspreche Umweltvorschriften, muss möglicherweise genauer unter die Lupe genommen werden.
Selbst wenn KI-generierte Texte ein Thema von öffentlichem Interesse behandeln, ist eine sichtbare Kennzeichnung möglicherweise nicht erforderlich, sofern der Inhalt einer fundierten Überprüfung durch Menschen unterzogen wurde und eine Person oder ein Unternehmen die redaktionelle Verantwortung übernimmt.
Die Überprüfung muss über eine einfache Rechtschreib- oder Grammatikprüfung hinausgehen.
Ein qualifizierter Redakteur sollte den Inhalt inhaltlich prüfen, die Quellen verifizieren, unrichtige Angaben korrigieren und die Befugnis haben, die endgültige Fassung zu genehmigen oder abzulehnen.
Einzelhändler sollten Folgendes dokumentieren:
Dies ist insbesondere für Unternehmensblogs, Nachhaltigkeitsberichte, Erläuterungen zu regulatorischen Vorschriften und Inhalte zur Produktsicherheit relevant.
KI-generierte Werbe- und Produktbilder müssen nicht automatisch sichtbar gekennzeichnet werden.
Die wichtigste Offenlegungspflicht gilt, wenn der Inhalt als Deepfake einzustufen ist.
Gemäß dem KI-Gesetz ist ein Deepfake ein KI-generierter oder manipulierter Bild-, Audio- oder Videoinhalt, der einer realen Person, einem Objekt, einem Ort, einer Organisation oder einem Ereignis ähnelt und fälschlicherweise als authentisch erscheinen könnte.
Im E-Commerce könnte dies Folgendes umfassen:
Wenn Inhalte als Deepfake eingestuft werden, muss ihr künstlicher Charakter deutlich kenntlich gemacht werden, sobald der Betrachter zum ersten Mal darauf stößt.
Maschinenlesbare Metadaten allein reichen nicht aus. Verbraucher müssen auch ohne spezielle Software erkennen können, dass es sich um künstlich erzeugte Inhalte handelt.
Nicht jedes virtuelle Modell gilt zwangsläufig als Deepfake.
Eine eindeutig fiktive Zeichentrickfigur oder ein offensichtliches digitales Maskottchen ist weniger geeignet, Verbraucher in die Irre zu führen, als ein fotorealistischer virtueller Influencer, der als echter Kunde präsentiert wird.
Einzelhändler sollten Folgendes beachten:
Auch wenn das KI-Gesetz keine Kennzeichnung vorschreibt, können dennoch die EU-Vorschriften für Werbung und Verbraucherschutz gelten.
Unternehmen sollten nicht den falschen Eindruck erwecken, dass ein echtes Kundenprofil ein Produkt genutzt, bewertet oder empfohlen hat, wenn es sich bei der Person um eine rein synthetische Figur handelt.
Die routinemäßige Bildbearbeitung löst nicht automatisch die Transparenzanforderungen des KI-Gesetzes aus.
Grundlegende Bearbeitungen wie Größenanpassung, Farbkorrektur, Schärfen und Rauschunterdrückung werden eher nicht als Erstellung synthetischer Inhalte angesehen.
Das Risiko steigt, wenn KI dazu verwendet wird, wesentliche Änderungen vorzunehmen, darunter:
Diese Praktiken können gegen Verbraucherschutzvorschriften verstoßen, selbst wenn sie nicht unter die strenge Definition von Deepfakes fallen.
Die neuen Transparenzvorschriften sollten nicht als Erlaubnis zur Erstellung gefälschter Kundenbewertungen ausgelegt werden.
Die Veröffentlichung gefälschter Bewertungen, Empfehlungen oder Erfahrungsberichte kann bereits einen Verstoß gegen das EU-Verbraucherschutzrecht darstellen.
Ein KI-generiertes Kundenfeedback kann auch als Deepfake gelten, wenn es eine realistisch wirkende Person zeigt, die eine Erfahrung beschreibt, die nie stattgefunden hat.
Einzelhändler sollten klar unterscheiden zwischen:
Am sichersten ist es, synthetische Kundenbewertungen gänzlich zu verbieten.
Online-Marktplätze müssen möglicherweise KI-generierte Inhalte verwalten, die von Tausenden von Drittanbietern erstellt werden.
Sie sollten prüfen, ob ihre Systeme:
Marktplätze, die eigene KI-basierte Anzeigengeneratoren anbieten, sollten ebenfalls prüfen, ob sie lediglich als Betreiber fungieren oder möglicherweise zusätzliche Verantwortlichkeiten als Anbieter übernehmen.
E-Commerce-Unternehmen sollten nun unverzüglich mehrere Maßnahmen ergreifen.
Erfassen Sie jeden Chatbot, jeden Einkaufsassistenten, jeden Sprachassistenten und jedes automatisierte Support-Tool, das mit Kunden interagiert.
Stellen Sie sicher, dass jedes System sich eindeutig als KI ausweist.
Stellen Sie für jedes KI-System fest, ob das Unternehmen als Anbieter, Betreiber, Vertreiber oder Importeur auftritt.
Verlassen Sie sich nicht ausschließlich auf die vom Anbieter verwendete Terminologie.
Geben Sie an, wo KI eingesetzt wird, um Bilder, Audio- oder Videodateien zu erzeugen oder wesentlich zu verändern.
Prüfen Sie, ob Material als Deepfake eingestuft werden könnte.
Prüfen Sie, ob bei der Website-Optimierung, der Bildkomprimierung, beim Hochladen auf Marktplätze oder in Content-Management-Systemen die vom KI-Anbieter hinzugefügten Metadaten oder Wasserzeichen entfernt werden.
Richten Sie einen dokumentierten Prozess zur Überprüfung durch Menschen für KI-generierte Inhalte ein, die Themen wie Sicherheit, Gesundheit, Nachhaltigkeit, Regulierung oder andere Themen von öffentlichem Interesse betreffen.
KI-Anbieter müssen folgende Erläuterungen abgeben:
Marketing-, Rechts-, Kundenservice-, E-Commerce-, Content- und Technologie-Teams sollten sich alle über die Transparenzanforderungen im Klaren sein.
Die Einhaltung der Vorschriften liegt nicht allein in der Verantwortung der IT-Abteilung.
Verstöße gegen die entsprechenden Verpflichtungen des EU-KI-Gesetzes können zu Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes des Unternehmens führen, je nachdem, welcher Betrag höher ist.
Die Behörden müssen die Verhältnismäßigkeit berücksichtigen, einschließlich der Größe des Unternehmens und der Schwere des Verstoßes.
Finanzielle Sanktionen sind jedoch nicht das einzige Problem.
Irreführende KI-generierte Inhalte können außerdem zu Folgendem führen:
Das EU-KI-Gesetz hindert Einzelhändler nicht daran, Chatbots oder generative KI zu nutzen.
Das zentrale Prinzip lautet, dass Verbraucher nicht darüber getäuscht werden dürfen, ob sie mit einer Person interagieren oder Inhalte betrachten, die authentisch wirken, aber künstlich generiert wurden.
Ein eindeutig als solcher gekennzeichneter Chatbot kann weiterhin einen schnellen und effektiven Service bieten. KI-gestützte Inhalte können die Produktivität weiterhin steigern, wenn die darin enthaltenen Aussagen ordnungsgemäß überprüft werden. Virtuelle Modelle und synthetische Medien können weiterhin verwendet werden, sofern ihre Darstellung transparent und nicht irreführend ist.
Für E-Commerce-Unternehmen sollte es vorrangig darum gehen, zu ermitteln, wo KI direkt mit Verbrauchern interagiert, wo synthetische Inhalte mit der Realität verwechselt werden könnten und wo menschliche redaktionelle Verantwortung erforderlich ist.
Da KI immer stärker in den Online-Handel integriert wird, wird Transparenz sowohl zu einer gesetzlichen Verpflichtung als auch zu einem Vertrauenssignal im Wettbewerb.
Wenn Sie die Website weiter nutzen, stimmen Sie der Verwendung von Cookies zu. Weitere Informationen
Die Cookie-Einstellungen auf dieser Website sind auf "Cookies zulassen" eingestellt, um Ihnen das bestmögliche Surferlebnis zu bieten. Wenn Sie diese Website weiter nutzen, ohne Ihre Cookie-Einstellungen zu ändern, oder wenn Sie unten auf "Akzeptieren" klicken, erklären Sie sich damit einverstanden.
