Der Einsatz von Künstlicher Intelligenz (KI) soll in der Europäischen Union künftig strenger reguliert werden. Unterhändler der EU-Staaten und des Europäischen Parlaments einigten sich am Freitagabend nach langwierigen Verhandlungen auf weitreichende Vorgaben. Damit setzt sich die EU nach eigenen Angaben weltweit an die Spitze der KI-Regulierung.
«Historische Einigung»
EU-Binnenmarkt-Kommissar Thierry Breton nannte die Einigung historisch: «Die EU wird der erste Kontinent sein, der klare Regeln für den Einsatz von KI aufstell», erklärte er. EU-Kommissionspräsidentin Ursula von der Leyen sprach von einem einzigartigen Rechtsrahmen für die Entwicklung vertrauenswürdiger Technologien, der die Sicherheit und die Grundrechte von Menschen und Unternehmen schütze.
Kritik kam aus der Wirtschaft: «Mit dem AI-Act droht Europa, bei einer zentralen Schlüsseltechnologie ins Hintertreffen zu geraten», erklärte der deutsche Industrieverband BDI am Samstag.Nach dieser politischen Einigung sollen in den kommenden Tagen noch Details ausgearbeitet werden. Dies könnte die finale Fassung des Gesetzespaktes noch verändern, die die bis zum Jahresende stehen soll.
Transparenzverpflichtungen und biometrische Daten im Vordergrund
Im Zentrum der Vorgaben steht der Umgang mit «Grundlagenmodellen» der KI. Diese Programme wie Chat GPT dienen als Basis, auf denen andere Firmen Chatbots für den Kundendienst oder digitale Assistenten für Ärzte entwickeln können.
Die Einigung sieht vor allem Transparenzverpflichtungen vor. Dies umfasst eine technische Dokumentation, die Einhaltung des EU-Urheberrechts und detaillierte Erklärungen zu den für die Ausbildung der KI verwendeten Daten und Inhalte. Zudem gibt es besondere Vorgaben für risikoreichere Anwendungen und ein System für ein Risikomanagement. Grösster Streitpunkt war der Umgang mit biometrischen Daten und Anwendungen. Hier wurden enge Grenzen gesetzt. So dürfen Behörden KI-Anwendungen wie eine automatisierte Gesichtserkennung im öffentlichen Raum nur der Verfolgung schwerer Straftaten und zur Terrorabwehr einsetzen.
Europäischer «AI Act» als Blaupause für die Schweiz?
Europa habe sich als Pionier positioniert «und ist sich der Bedeutung seiner Rolle als globaler Standardsetzer bewusst», sagte Breton.
Die EU-Regeln könnten eine Blaupause für andere Länder werden, denen die Vorgaben der USA zu locker und die in China zu restriktiv sind. Zu den Ländern, welche die Vorgaben der EU übernehmen, könnte auch die Schweiz gehören.
Vor einigen Monaten hatten namhafte Forscher, Entwickler und Manager wie der OpenAI-Chef Sam Altman vor den Gefahren der neuen Technik und sogar einer Auslöschung der Menschheit durch KI gewarnt. Die Arbeiten zum «AI Act» begannen schon 2021, wurden durch den rasanten Vormarsch von Generativer KI wie Chat GPT in den vergangenen Monaten allerdings unter Zugzwang gesetzt.
Wirtschaft kritisiert die Vorgaben
Kritik an den EU-Vorgaben kam aus der Wirtschaft. Sie seien eine weitere Belastung für die Unternehmen, erklärte der Branchenverband DigitalEurope. Der Bundesverband der Deutschen Industrie bemängelte, das Ziel, durch den «AI Act» einen sicheren und vertrauensbildenden Rechtsrahmen auf Basis eines risikobasierten Ansatzes zu wählen, sei teilweise verfehlt worden.
Die Wettbewerbs- und Innovationsfähigkeit werde gefährdet und die von Unternehmen benötigte Rechtssicherheit in Form von praxisnaher und vorausschauender Regulierung sei durch unausgereifte Kriterien nicht gegeben: «Der Kompromiss bremst unseren Wirtschaftsstandort bei der KI-gestützten Transformation, die gerade für die Bewältigung von Fachkräftemangel und Energiewende dringend gebraucht wird, aus», erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung. Europa riskiere auf diesem Weg, den Anschluss an die weltweiten KI-Entwicklungen zu verlieren.
Auch die Datenschutzgruppe European Digital Rights äusserte sich kritisch. Es sei schwer, sich über ein Gesetz zu freuen, das zum ersten Mal in der EU Schritte unternehme, um die öffentliche Gesichtserkennung in der gesamten EU zu legalisieren. Das Gesamtpaket zur biometrischen Überwachung und zum Profiling sei bestenfalls mässig.