FAQ zur KI-Verordnung: Welche neuen Pflichten haben Shopbetreiber ab Februar 2025?
Auf Betreiber von Onlineshops, die KI-Systeme nutzen, kommen schon ab Februar 2025 neue Pflichten zu. Wir fassen zusammen, was es jetzt zu beachten gibt – und welche weiteren rechtlichen Änderungen für den Einsatz von künstlicher Intelligenz auch im E-Commerce schon in naher Zukunft anstehen.
KI-Verordnung, AI-Act: Was ist das?
Von der KI-Verordnung ist oft unter der englischen Bezeichnung „AI Act“ (Artificial Intelligence Act) die Rede. Die Europäische Union hat dieses rechtliche Rahmenwerk aufgestellt, um die Verwendung von KI innerhalb der EU-Mitgliedstaaten zu regeln. In Kraft getreten ist die KI-Verordnung am 1. August 2024. Nach einem halben Jahr Vorlauf wird sie nun schrittweise rechtlich bindend.
Was gilt ab dem 2. Februar 2025?
Vom 2. Februar 2025 an gelten mit den Artikeln 4 und 5 die ersten Bestandteile der KI-Verordnung rechtlich bindend. Artikel 5 bezieht sich auf verbotene Praktiken im KI-Bereich und legt fest, in welcher Form und in welchen Szenarien durch künstliche Intelligenz gestützte Systeme nicht zulässig sind: Beeinflussung, Diskrimierung, Social Scoring, Predictive Policing, Gesichtserkennung, biometrische Kategorisierung und Echtzeit-Fernidentifizierung.
Verboten ist dabei nicht nur die Entwicklung der entsprechenden Praktiken, also das „Inverkehrbringen“, sondern auch die Inbetriebnahme und die Verwendung. Auf diese Weise soll das Gefahrenpotenzial, das mit den noch relativ jungen Technologien einhergeht, eingedämmt werden. Shopbetreiber dürften diese Regelungen aber vor keine rechtlichen Schwierigkeiten stellen. Der vorangehende Artikel allerdings ist für einen sehr breiten Personenkreis relevant – auch für viele Händler im E-Commerce.
Denn Artikel 4 der KI-Verordnung enthält Bestimmungen zum Thema „KI-Kompetenz“:
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.
Was bedeutet das für Betreiber von Onlineshops?
Wer einen Onlineshop betreibt und dabei in irgendeiner Form KI-Systeme verwendet, also beispielsweise einen Chatbot zum Erstellen von Meta-Descriptions von Produktseiten einsetzt, muss nun sicherstellen, dass das hiermit betraute Personal auch die entsprechenden Kompetenzen mitbringt – „nach besten Kräften“, wie der Gesetzgeber schreibt. In welcher Form genau das umgesetzt werden soll, wird in der Verordnung nicht erläutert. Aktuell arbeitet die EU wohl noch an den Leitlinien zur konkreten Umsetzung der Bestimmungen zur KI-Kompetenz. Sinnvoll erscheinen aber – je nach Unternehmensgröße – mehrere Ansätze:
- Professionelle Schulungen, die über Risiken und Best Practices in der Arbeit mit KI informieren
- Etablieren von KI-Richtlinien und Standards im Unternehmen
- Ernennung von KI-Beauftragten
- Bilden von KI-Arbeitsgruppen
Ein reines Selbststudium der entsprechenden Mitarbeiter ist vermutlich nicht ausreichend. Hilfe bei der Suche nach geeigneten Maßnahmen bietet die Bundesnetzagentur, über deren Datenbank zu Digitalisierungsthemen sich Anlaufstellen heraussuchen lassen.
Was passiert bei Verstößen gegen die Verordnung?
Kontrollmechanismen für die Einhaltung der Verordnung gibt es zunächst noch keine. Die Bestimmungen zur KI-Kompetenz in Unternehmen gelten – zumindest vorerst – wohl eher im Rahmen von Sorgfaltspflichten. Das heißt für die Praxis: Unternehmen sind auch mit ungeschulten Mitarbeitern erst einmal noch sicher unterwegs – solange nichts schief geht. Sobald es aber zu einem möglichen Rechtsbruch kommt, bei dem KI-Systeme eine Rolle gespielt haben, kann das Unternehmen mit Verweis auf die KI-Verordnung zur Rechenschaft gezogen und mit Bußgeldern belegt werden.
Es ist also dringend zu empfehlen, dass alle, die KI-Systeme geschäftlich einsetzen, bereits jetzt aktiv werden. Sie sollten sicherstellen, dass die Menschen, die mit KI arbeiten, auch wirklich wissen, was sie tun, worauf sie dabei achten müssen – und was sie besser bleiben lassen.
Wie geht es mit der KI-Verordnung weiter?
In den folgenden Monaten und Jahren werden nach und nach noch weitere Teile der KI-Verordnung rechtlich bindend:
- Ab dem 2. August 2025 werden zusätzliche Regelungen für KI mit allgemeinem Verwendungszweck sowie Regelungen für Behörden, Governance und Sanktionen rechtlich bindend sein.
- Am 2. August 2026 beginnt die generelle Anwendbarkeit der KI-Verordnung (unter anderem die Regelung zur Kennzeichnungspflicht für KI-generierte Inhalte).
- Und ab dem 2. August 2027 sollen dann auch die Regelungen für Hochrisiko-KI und deren Einstufung gelten.
Brauchen Sie Beratung oder Unterstützung?
Können wir Sie zur Umsetzung der KI-Verordnung für Ihren Onlineshop beraten? Wir unterstützen Sie gern.
