Neue EU-Regeln: KI-generierte Inhalte müssen gekennzeichnet werden

In der Europäischen Union gelten seit dem 2. August neue Regeln für künstliche Intelligenz. Bestimmte KI-Systeme müssen künftig offenlegen, dass Nutzer mit einer Maschine kommunizieren. Auch Bilder, Videos und Audiodateien, die mit künstlicher Intelligenz erstellt oder verändert wurden, müssen gekennzeichnet werden.

Die Europäische Kommission hat gemeinsam mit den nationalen Behörden mit der Umsetzung weiterer Bestimmungen des EU-Gesetzes über künstliche Intelligenz begonnen. Im Mittelpunkt stehen neue Transparenzregeln. Sie sollen es für die Bevölkerung einfacher machen, künstlich erzeugte oder bearbeitete Inhalte zu erkennen.  

Chatbots und andere interaktive Systeme müssen die Nutzer klar darauf hinweisen, dass sie mit künstlicher Intelligenz und nicht mit einem Menschen kommunizieren. Auch Bilder, Videos und Audioinhalte, die durch KI erstellt oder verändert wurden, müssen entsprechend gekennzeichnet sein. Dies gilt auch für sogenannte Deepfakes, bei denen echte Personen oder Ereignisse täuschend echt dargestellt oder verändert werden.

Die Inhalte müssen zusätzlich maschinenlesbare Kennzeichnungen enthalten. Dadurch sollen Plattformen und technische Systeme KI-generierte Inhalte leichter erkennen können.

Das Ziel der neuen Regeln ist es, Täuschung und Manipulation zu erschweren. Gleichzeitig sollen die Bürgerinnen und Bürger besser beurteilen können, ob ein Inhalt echt ist oder künstlich erstellt wurde. 

Die Europäische Kommission hat zudem eine erste Liste mit mehr als 180 Organisationen veröffentlicht, die einen Verhaltenskodex zur Transparenz von KI-generierten Inhalten unterzeichnet haben. Der Kodex soll Unternehmen dabei unterstützen, die neuen Anforderungen in der Praxis umzusetzen. Der europäische KI-Ausschuss kann nun auch Regeln für Anbieter sogenannter KI-Modelle mit allgemeinem Verwendungszweck durchsetzen. 

Solche Modelle können für zahlreiche Aufgaben eingesetzt und in unterschiedliche Programme, Plattformen und Dienstleistungen integriert werden. Für besonders leistungsfähige Modelle gelten zusätzliche Pflichten. Dies betrifft Systeme, die möglicherweise Risiken für die gesamte Gesellschaft mit sich bringen können.

Dazu zählen Gefahren im Zusammenhang mit chemischen, biologischen, radiologischen oder nuklearen Zwischenfällen. Genannt werden auch der mögliche Kontrollverlust über Systeme, Cyberkriminalität, schädliche Manipulationen und Verletzungen der Grundrechte.  

Alle Anbieter allgemein einsetzbarer KI-Modelle müssen bestimmte technische Informationen dokumentieren und den zuständigen Behörden oder anderen Anbietern zur Verfügung stellen. Sie müssen ausserdem Regeln zum Schutz des Urheberrechts einführen. Zusätzlich sollen sie eine ausreichend detaillierte Zusammenfassung darüber veröffentlichen, welche Inhalte für das Training ihrer Modelle verwendet wurden. Die Behörden setzen auch das Verbot bestimmter besonders schädlicher KI-Systeme um.

Dazu gehören Systeme, die Menschen manipulieren oder ihre persönlichen Schwächen auf schädliche Weise ausnutzen. Verboten werden auch Systeme, die Menschen unfair bewerten und dadurch ihre Rechte gefährden. Der europäische KI-Ausschuss ist für Systeme zuständig, die vom gleichen Anbieter wie das zugrunde liegende allgemein einsetzbare KI-Modell angeboten werden.

Er beaufsichtigt auch Systeme, die in sehr grosse Onlineplattformen und Suchmaschinen integriert sind. Für andere KI-Systeme sind die nationalen Behörden zuständig. Der Europäische Datenschutzbeauftragte überwacht Systeme, die von Institutionen, Organen und Agenturen der Europäischen Union verwendet werden. 

Bei der Umsetzung der Regeln hilft ein wissenschaftlicher Ausschuss mit 60 unabhängigen Fachleuten. Zum leitenden wissenschaftlichen Berater des europäischen KI-Ausschusses wurde Professor Alessandro Abate von der Universität Oxford ernannt. Bürgerinnen, Bürger und Unternehmen können mögliche Verstösse gegen das europäische KI-Gesetz über ein eigenes Beschwerdeverfahren melden. Personen, die mit Anbietern von KI-Systemen oder KI-Modellen arbeiten, können mögliche Verstösse auch über einen geschützten Hinweisgeberkanal melden.

Ein weiterer Meldeweg richtet sich an Unternehmen, die auf der Grundlage allgemein einsetzbarer KI-Modelle eigene Systeme entwickeln. Der europäische KI-Ausschuss kündigte an, alle über diese Kanäle erhaltenen Informationen vertraulich zu behandeln. Die Anwendung der Vorschriften für Hochrisiko-KI-Systeme wurde bis zum 2. Dezember 2027 verschoben. Für Hochrisiko-Systeme, die in bereits regulierte Produkte integriert sind, gilt eine längere Übergangsfrist bis zum 2. August 2028. Neue Verbote für KI-Systeme, die ohne Zustimmung sexuell explizite Inhalte oder Darstellungen sexuellen Missbrauchs von Kindern erzeugen, sollen ab dem 2. Dezember 2026 gelten.