Berlin
8 °C
München
Hamburg
9 °C
Düsseldorf
Frankfurt am Main
Potsdam
Leipzig
8 °C
Dortmund
Hannover
Köln
Kiel
9 °C
Bremen
Flensburg
Rostock
10 °C
EU einigt sich auf Verbot von KI-Anwendungen für Porno-Deepfakes / Foto: © AFP/Archiv
EU einigt sich auf Verbot von KI-Anwendungen für Porno-Deepfakes
Die EU geht gegen Porno-Deepfakes im Netz vor: Vertreter der Mitgliedstaaten und des Europäischen Parlaments haben sich bei einer nächtlichen Verhandlungsrunde auf ein Verbot von Künstlicher Intelligenz für Porno-Deepfakes und sexualisierte Bilder geeinigt. Das Verbot werde am 2. Dezember in Kraft treten, teilte eine Sprecherin der zyprischen Ratspräsidentschaft am frühen Donnerstagmorgen mit. Parlamentsangaben zufolge zielt es auf Systeme ab, die Bilder, Videos und Töne mit kinderpornografischem Inhalt erstellen können oder intime Darstellungen eines identifizierbaren Menschen ohne dessen Einwilligung zeigen.
Die KI-Systeme müssen nach Ablaufen der Frist mit Sicherheitsvorkehrungen ausgestattet sein, die sie davon abhalten, solche Inhalte zu erzeugen.
Die EU reagiert damit unter anderem auf Vorfälle vom Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.
Das Vorgehen in Brüssel ist das Gegenstück zu einem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig (SPD) Anfang des Monats vorgestellt hatte: Die EU kann Anwendungen und technische Systeme verbieten, die einzelnen EU-Länder entscheiden über Strafen für Nutzer, die Deepfakes erstellen. Hubigs Vorschlägen zufolge sollen das Erstellen und Verbreiten von pornografischen Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden können. Die Ministerin will damit Gesetzeslücken schließen: Derzeit ist etwa das bloße Herstellen gefälschter pornografischer Aufnahmen hierzulande nicht strafbar.
Das Verbot auf EU-Ebene ist Teil einer Reform eines KI-Gesetzes, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle Lockerungen vor: Parlament und Mitgliedstaaten einigten sich darauf, Regeln für den Einsatz von Künstlicher Intelligenz in "Hochrisiko"-Bereichen wie Sicherheitsbehörden und Gesundheitssystemen zu verschieben. Diese Regeln hätten im August in Kraft treten sollen.
Der Einigung zufolge sollen die Regeln nun ab dem 2. Dezember 2027 für "autonome" Hochrisiko-KI-Systeme und zum 2. August 2028 für solche gelten, die in andere Programme oder Produkte integriert sind. Nach der Einigung in der Unterhändler in der Nacht zum Donnerstag müssen beide Seiten den Kompromiss noch absegnen. Dies gilt nach Abschluss der Verhandlungen aber als Formalie.
D.Cieslak--GL
