EU-Parlament will KI-Gesetz umsetzen

Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten.

Auch selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.

Das nun anstehende Gesetz geht auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten ("Social Scoring"). Damit werden die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt. Und auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.

Auch die Gesichtserkennung im öffentlichen Raum - also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen - soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.

EU-Kommissionspräsidentin Ursula von der Leyen sprach der nach Abstimmung im Parlament von einem "wegweisenden Rahmen für innovative KI". Europa werde damit eine Blaupause für vertrauenswürdige KI in der ganzen Welt schaffen, schrieb sie auf der Plattform X (vormals Twitter).

Die Verbraucherzentrale Bundesverband begrüßte es, dass sich die EU-Institutionen auf Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen geeinigt haben. Doch die Regeln würde Verbraucherinnen und Verbrauchern keinen ausreichenden Schutz bieten, kritisierte dessen Vorständin Ramona Pop in einer Mitteilung. "Der deutsche Gesetzgeber muss sicherstellen, dass es effiziente Aufsichtsstrukturen gibt und Aufsichtsbehörden ausreichend mit Personal und Know-how ausgestattet sind." Bei der Kontrolle von KI-Systemen und dem Durchsetzen der Regeln müssten Verbraucherinteressen höchste Priorität bekommen.

Mit der Zustimmung des Parlaments kann das Regelwerk nun in Kraft treten. Zuvor hatten Unterhändler von Europaparlament und EU-Ländern im Dezember nach langen Verhandlungen eine Einigung über eine Regulierung erzielt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu.

Für die Mitgliedsstaaten bedeutet das nun, dass sie zunächst schrittweise verbotene Systeme außer Betrieb nehmen müssen. Nach zwei Jahren sollen alle Punkte des Gesetzes vollständig umgesetzt sein.

Die Mitgliedstaaten müssen etwa Sanktionen beschließen, wenn Unternehmen die Vorschriften nicht einhalten. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.

GDV bewertet AI Act weitgehend positiv - kritisiert jedoch Hochrisikoeinstufung

Die deutschen Versicherer haben die Zustimmung des Europäischen Parlaments zur Regulierung Künstlicher Intelligenz (AI Act) begrüßt, kritisieren jedoch die Hochrisikoeinstufung von bestimmten Lebens- und Krankenversicherungen.

Insgesamt erwartet der Versicherungssektor durch die KI einen großen Entwicklungsschub für die Branche. Viele KI-Anwendungen auf der Basis von generativen KI-Systemen wie zum Beispiel das Vorformulieren von E-Mails oder Briefen oder die Zusammenfassung von langen Texten schafften in den Unternehmen schon heute große Produktivitätsgewinne.

"Mit der KI-Verordnung hat sich die EU auf einen Rechtsrahmen verständigt, der aller Voraussicht nach ausreichend flexibel ist, um innovationsfähig zu bleiben. Das ist gut für den KI-Standort Europa", sagte Jörg Asmussen, Hauptgeschäftsführer des Gesamtverbands der Deutschen Versicherungswirtschaft (GDV).

Kritisch sehen die Versicherer aber die Zuordnung von bestimmten KI-Systemen bei Lebens- und Krankenversicherungen zum besonders stark regulierten Hochrisikobereich. Konkret geht es dabei um Systeme, mit denen die Risiken von Einzelpersonen bewertet oder Preise gestaltet werden. "In diesen Bereichen werden der Branche neue Verpflichtungen auferlegt, obwohl das Schutzniveau durch bestehende Vorschriften schon enorm hoch ist. Hier hätten wir uns von der EU mehr Weitblick gewünscht", so Asmussen.

STRASSBURG / BERLIN (dpa-AFX / Dow Jones Newswires)