Deutsche Regierung wird aufgefordert, eine angemessene Überwachung der KI einzuführen

Deutsche Verbraucherschützer haben die Regierung aufgefordert, offiziell eine nationale Behörde zu ernennen, die die Aufsicht über Anbieter künstlicher Intelligenz übernimmt. Das KI-Gesetz der EU, der sogenannte AI Act, ist weltweit das erste Regelwerk für den Einsatz von Künstlicher Intelligenz.

Deutschland hat die EU-Frist vom 2. August versäumt, der Europäischen Kommission mitzuteilen, welche Aufsichtsbehörden für die Überwachung der Einhaltung des KI-Gesetzes durch die Unternehmen eingesetzt hat. Diese Aufsichtsbehörden sollen sichersellen, dass die KI-Anbieter im Land die EU-Regeln einhalten.

Der Hamburger Datenschutzbeauftragte Thomas Fuchs forderte die Bundesregierung auf, die KI-Marktüberwachungsbehörden, zu denen in einigen Bereichen auch die Datenschutzbehörden gehören, schnell zu benennen.

"Durch die Verzögerung fehlt den Unternehmen und Behörden nun ein verbindlicher Ansprechpartner für Fragen zur KI-Verordnung. Das ist auch ein Nachteil für den KI-Innovationsstandort Deutschland", sagte Fuchs.

Gefahr durch Manipulation der Verbraucher?

Diesen Bedenken schloss sich auch Lina Ehrig, Leiterin des Bereichs Digitales beim Verbraucherzentrale Bundesverband (VZBV), an. Ohne Aufsicht könnten Unternehmen KI nutzen, um Verbraucher zu manipulieren oder individuelle Schwächen auszunutzen, zum Beispiel durch Echtzeit-Sprachanalyse in Callcentern, warnte der VZBV.

"Es muss eine Aufsichtsbehörde geben, die das im Auge behält und gegen Verstöße vorgeht. Das ist bisher nicht geschehen", so Ehrig.

Die Bundesregierung schreibt im Internet, sie wolle "Deutschland zu einem führenden Standort für die Entwicklung und Anwendung von KI-Technologien machen".

Nach Angaben eines Kommissionsbeamten haben einige der 27 EU-Mitgliedsstaaten Meldungen über die Ernennungen geschickt - die nun geprüft werden - aber es scheint, dass die meisten Mitgliedsstaaten die Frist verpasst haben.

Euronews berichtete im Mai, dass drei Monate vor Ablauf der Frist Anfang August in mindestens der Hälfte der Mitgliedstaaten noch unklar war, welche Behörde ernannt werden würde.

Trotz des Fehlens einer nationalen Regelung sagte der Hamburger Datenschutzbeauftragte, dass er mit dem Aufbau von Kapazitäten und der Ausbildung von Personal für die komplexen Tests von KI-Systemen begonnen habe, um für den Moment der gesetzlichen Benennung bereit zu sein. Die Aufsichtsbehörde hatte Meta Anfang des Jahres Fragen zu ihren KI-Tools gestellt.

Das KI-Gesetz ist im August 2024 in Kraft getreten, aber die Bestimmungen werden erst nach und nach angewendet. In diesem Monat müssen die nationalen Behörden benannt werden, und die Vorschriften für allgemeine Anbieter - wie ChatGPT und Gemini - beginnen zu gelten.