Die Mitgliedstaaten der Europäischen Union haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Sie stimmten am Dienstag in Brüssel den Plänen zu, mit denen unter anderem bestimmte KI-Anwendungen ganz verboten werden. Es sei das weltweit erste Gesetz dieser Art und könne einen globalen Standard für die Regulierung von KI setzen, heisst es in einer Aussendung dazu.
Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll gewährleisten, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.
Ralf Wintergerst, Präsident des deutschen Digitalverbandes Bitkom, kommentiert: "Mit der heutigen Entscheidung nimmt der AI Act die letzte formale Hürde. Europa gibt damit einen EU-weiten Regulierungsrahmen für Künstliche Intelligenz vor. Allerdings lässt der AI Act wesentliche Fragen offen, in Deutschland und den anderen EU-Ländern beginnt die Regulierungsarbeit jetzt erst. Ob KI in Deutschland und Europa einen Schub erhält oder vor allem vor neue Hindernisse gestellt wird, hängt entscheidend davon ab, wie dieser Rahmen ausgestaltet und die Regelungen umgesetzt werden. Wir müssen Raum lassen für KI-Innovationen, die den Menschen dienen. Ziel muss sein, den Einsatz von KI in Wirtschaft, Verwaltung und Gesellschaft voranzubringen. Erst 13 Prozent der Unternehmen setzen KI ein, weitere 33 Prozent planen oder diskutieren es. Die Umsetzung des AI-Acts muss dafür sorgen, dass KI in Deutschland erfolgreich entwickelt und umfassend eingesetzt wird. Dafür braucht es u.a. praxisnahe Hilfestellungen der Behörden."
Bestimmte KI-Anwendungen jedoch, die gegen EU-Werte verstossen, sollen ganz verboten werden. Dazu zählt beispielsweise die Bewertung von sozialem Verhalten ("Social Scoring"). Damit werden in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Auch die Gesichtserkennung im öffentlichen Raum, etwa durch Videoüberwachung an öffentlichen Plätzen, soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.
Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch ausserhalb der EU.
