So untersagt die EU den Einsatz von KI-Programmen, die eine Bewertung nach sozialem Verhalten vornehmen. Bei dem sogenannten Social Scoring werden etwa die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt und belohnt oder bestraft. In der EU soll es auch keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen geben.
Lange Liste
Nicht erlaubt sind weiterhin manipulative KI-Systeme, die betrügerische Techniken anwenden, um das Verhalten von Menschen zu beeinflussen. In diese Gruppe fällt etwa sprachgesteuertes Spielzeug, das Kinder zu einem gefährlichen Verhalten verleitet.
Auf der Verbotsliste der EU stehen auch KI-Systeme, die die Schwäche von Menschen oder Gruppen ausnutzen. Dazu gehören auch automatisierte «Robo-Calls», die zum Betrug älterer Menschen eingesetzt werden können.
Die Gesichtserkennung im öffentlichen Raum soll ebenfalls grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie Menschenhandel und Terrorismus verfolgen zu können.
Stichtag 2. Februar
Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos bewerten und geeignete Massnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Ziel der neuen Verordnung ist nach Darstellung der EU-Kommission nicht nur der Schutz der Rechte der Verbraucherinnen und Verbraucher. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.
Anbieter und Betreiber von KI-Systemen müssen nun auch sicherstellen, dass alle Personen, die mit der Entwicklung oder dem Betrieb von KI-Systemen befasst sind, über ein ausreichendes Mass an «KI-Kompetenz» verfügen.
Die Präsidentin der EU-Kommission, Ursula von der Leyen, und die Präsidentin der Europäischen Zentralbank, Christine Lagarde, räumten in einem gemeinsamen Blogeintrag ein, dass die Wettbewerbsfähigkeit Europas in Gefahr sei. «Während sich eine globale Revolution der künstlichen Intelligenz entfaltet, könnte die EU ins Abseits geraten.» Europa verfüge jedoch auch über die notwendigen Voraussetzungen, um im technologischen Wettlauf aufzuholen, schrieben von der Leyen und Lagarde.