AI-Gesetz der EU schafft mehr Vertrauen in KI-Anwendungen

Umfassende Regeln für vertrauenswürdige KI-Anwendungen sind angesichts der rasenden Entwicklungen in diesem Bereich weltweit gefragt. Die EU-Lösung wird von AI-Experten und -Expertinnen bereits – eventuell in leicht angepasster Form – auch als Lösung einer weltweiten Regulierung von KI-Anwendungen angesehen. 

EY-Spezialisten zu KI

Vertrauen und KI waren auch das zentrale Thema einer kürzlich durchgeführten Veranstaltung des Wirtschaftsprüfungs- und Beratungsunternehmens EY Schweiz. Am Rande nahmen sich die zwei EY-AI-Spezialisten Adrian Ott und Roger Spichiger Zeit für ein Interview:

Vertrauen spielt eigentlich in allen Anwendungsbereichen generativer KI eine wichtige Rolle. Steigt das Vertrauen in die neue Technologie?

Spichiger: Da gibt es zwei Aspekte. Einerseits steigt das Vertrauen bei bereits bekannten Anwendungen und Risiken tendenziell. Anderseits kommen fast schon täglich neue Möglichkeiten dazu. Hier ist die Unsicherheit sicher etwas grösser, da man sich noch in unbekannten Bereichen bewegt. Am Ende hängt das Vertrauen in KI-Anwendungen neben den bekannten Risiken davon ab, wie nahe man selbst am Thema dran ist, wie gut man die Technologie versteht und vor allem auch, wer diese anwendet.

Ott: Das Vertrauen in den Umgang mit KI steigt, je öfter man KI-Anwendungen als Privatperson selber ausprobieren und sich dabei von deren Intelligenz sowie auch von den Risiken ein Bild machen kann. Wie gut KI-basierte Lösungen funktionieren müssen, um schliesslich unser Vertrauen zu gewinnen, lässt sich am Beispiel von selbstfahrenden Autos veranschaulichen: Es herrscht gegenüber KI eine Art Nulltoleranz, wenn es zu einem Unfall kommt, auch wenn Menschen unter Umständen sogar eine höhere Unfallquote haben. Nur hat man sich bei einem Menschen daran gewöhnt, bei KI hingegen ist das (noch) nicht der Fall.

Gibt es einen Gap zwischen Normalbürgerinnen und Hochintellektuellen, die vielleicht mehr Affinität für KI an den Tag legen?

Ott: Das würde ich so nicht sagen. Es gibt auch Intellektuelle, welche die grundsätzlichen Risiken der KI höher bewerten als deren Nutzen. In den USA gibt es zum Beispiel eine Petition, die von sehr vielen gebildeten Leuten und Unternehmen getragen wird. Die Petition verlangt, die KI-Entwicklung zu bremsen. Und dies, obwohl das Leute sind, die die KI sehr gut verstehen. Hinter dieser Skepsis steht der humanistische Gedanke, dass einer sehr ausgereiften KI nicht vertraut werden kann, da sie schwer kontrollierbar ist und sich eigene Ziele geben kann, die nicht unbedingt im Interesse der Menschheit sind.

Kommt das Vertrauen durch besseres Kennenlernen zustande?

Ott: Im Normalgebrauch der heutigen KI-Lösungen, ja. Menschen, die besser wissen, wie man KI einsetzen muss und wo ihre Grenzen sind, haben auch grundsätzlich mehr Vertrauen in die heute verfügbaren Lösungen und wissen, wie man mit der Technologie produktiv umgehen kann.

Spichiger: Es gibt beide Seiten der Medaille. Wie eingangs erwähnt, kann Wissen dazu beitragen, Unsicherheiten abzubauen. Anderseits: Wer über viel Wissen verfügt, sieht nicht nur die Opportunitäten, sondern auch die entsprechenden Gefahren.

Bei Finanzdienstleistern und Versicherern ist Datensicherheit ein Dauerthema. KI wird bereits für die Betrugserkennung, sprich Fraud Detection, eingesetzt. Was sind die nächsten Anwendungsfelder?

Spichiger: Wir sehen vor allem in zwei Bereichen zukünftige Anwendungsfelder. Einerseits betrifft das interne Optimierungen, die bei der Arbeit unterstützend und entlastend wirken. Etwa um Prozesse effizienter zu gestalten, den Kundinnen und Kunden die richtigen Dinge anzubieten und die Kundenbedürfnisse besser zu verstehen.

Und der zweite Bereich?

Der zweite Bereich umfasst die Interaktionen mit Kundinnen und Kunden. Hier sind Versicherungen schon weiter als Banken. Versicherer optimieren bereits die ganze Customer Experience etwa mit Chatbots. Der nächste Schritt wäre das Augmented-Relationship-Management. In diesem Bereich werden Kundenberaterinnen und -berater von KI unterstützt, um die persönliche Beratung ihrer Klientel zu verbessern.

Ott: Das sehe ich genauso. Bezüglich interner Effizienz gibt es bei Banken und Versicherern viele Anwendungsfälle in allen möglichen Bereichen. Der Weg hin zum KI-Kundenberater wird wahrscheinlich in gewissen Segmenten kommen, aber nicht so schnell. In diesem Bereich ist man in vielen Unternehmen vorerst sehr vorsichtig. Aus einem guten Grund, denn virtuelle Kundenberater können ausgetrickst werden und haben zum Beispiel auch schon einmal Rabatte gewährt, die es gar nicht gab.

Aber als Unterstützer einer Beraterin oder eines Beraters taugt KI?

Ott: Wenn KI ein Kundengespräch mithört und der Kundenberaterin jederzeit direkt die richtigen Informationen und Argumente bei der Kundenbetreuung zur Verfügung stellt, ist das natürlich extrem spannend und schon heute realisierbar – im Banking wie in der Versicherungsbranche.

Zusammenfassend heisst das: KI unterstützt Personal, ersetzt es aber nicht?

Spichiger: Ja. Ein zusätzliches Feature, das man schon jetzt in der Finanzdienstleistungsindustrie oft sieht, kommt bei in die Jahre gekommenen IT-Systemen zur Anwendung. Hier stellt sich die Frage: Habe ich überhaupt noch die Fähigkeiten und die Ressourcen, diese oder jene Plattformen zu unterhalten und zu bedienen? KI-basierte Tools helfen und unterstützen bei Migrationen, programmieren Schnittstellen und leisten weitere verbundene Dienste. Das ist vor allem bei älteren Systemen nötig, da es fast keine Mitarbeitenden mehr gibt, die diese Systeme kennen – oder sie sind fast nicht mehr auf dem Arbeitsmarkt zu finden.

Ott: Genau. Wenn es nur noch eine Handvoll Leute gibt, die diese alten Programmiersprachen beherrschen, um all diese alten Hostsysteme betreiben zu können, wird KI eine grosse Hilfe sein. Nicht zuletzt auch, da die Spezialisten und Spezialistinnen teuer sind.

Cloud und Banken, Cloud und Versicherungen, das gehört ja in der Zwischenzeit zusammen. Punkto Datensicherheit ist das nicht ganz einfach. Löst KI da Probleme punkto Sicherheit? Oder schafft sie neue? 

Ott: Ich glaube, Banken stehen hinsichtlich Cloud-Solutions vor grösseren Herausforderungen. Bei deren Nutzung befinden sich die Daten – inklusive E-Mails – in der Cloud. Und so kommt es, dass sich Banken eher konservativ aufstellen und oft noch nicht auf Cloud-Lösungen setzen. Die intelligentesten KI-Modelle werden heute jedoch vor allem von Cloud-Anbietern wie Microsoft Azure, Google oder AWS betrieben, da sie sehr viel Rechnungsleistung brauchen. Möchte eine Versicherung oder Bank alles lokal betreiben, ist das technisch ein grösserer Aufwand, oder man nimmt Qualitätskompromisse mit sogenannten lokalen Open-Source-Modellen in Kauf. In diesem Bereich finden im Moment jedoch grosse Fortschritte statt, sodass auch lokale Modelle in naher Zukunft viel Nutzen bringen können.

Spichiger: Exakt. Zahlreiche Applikationen und Anwendungsbeispiele werden für Finanzdienstleister durch die Cloud überhaupt erst möglich. Anderseits werden Security-Aspekte vor allem aufgrund des Datenschutzes ein Thema. Das führt uns zur Frage: Brauchen ein Versicherer oder eine Bank zwingend lokale Infrastruktur, sprich ein Datacenter in der Schweiz? Was wiederum eine Herausforderung für die genannten Hyperscaler darstellt, damit sich der Business Case rechnet. In einem kleineren Land wie der Schweiz sind viel weniger User zu Hause, auf welche diese Infrastrukturkosten verteilt werden können.

Schauen wir rechtliche Aspekte rund um KI an: Vor kurzem hat das EU-Parlament der Umsetzung des EU AI Act zugestimmt. Nach Angaben des Parlaments handelt es sich um das weltweit erste Gesetz, das die Nutzung von KI regeln soll. Was bedeutet das für die EU? Und welche Auswirkungen hat dieser Entscheid für die Schweiz und deren Banken und Versicherungen?

Spichiger: Es gibt direkte und indirekte Auswirkungen. Wenn zum Beispiel Kunden aus der EU ein in der Schweiz entwickeltes KI-Tool nutzen, müssen die dort im Gesetz verankerten Prinzipien angewendet werden. Das sind direkte harte Anforderungen. Indirekt stellt sich die Frage, wie auf der rechtlichen und auf der Regulierungsseite hier in der Schweiz darauf reagiert wird. Klar ist: Die schweizerische Finanzmarktaufsicht (Finma) kann sich den internationalen Entwicklungen nicht entziehen. Ich erwarte, dass es hierzulande in eine ähnliche Richtung geht, wie es sich jetzt im EU AI Act abzeichnet.

Ott: Das sehe ich ähnlich. Banken sind heute in Technologiebereichen schon stärker reguliert. Auch viele andere Firmen – egal, ob sie jetzt dem EU AI Act unterstehen oder nicht – werden meiner Meinung nach versuchen, ebenfalls konform zu sein. Ansonsten könnte ihnen ein Reputationsproblem drohen. Darum denke ich: Viele Firmen versuchen, die Vorgaben bis zu einem gewissen Grad zu adaptieren.

Spichiger: Das ist ein guter Punkt. Bezogen auf Risiko- und Governance-Funktionen sind Finanzdienstleister regulierungsgetrieben gezwungenermassen weiter als andere Unternehmen.

Das sehen Sie bei Versicherungen auch so?

Spichiger: Absolut. Grundsätzlich kann man sagen, dass typischerweise auf die internationale Regulierung die europäische Regulierung folgt, welche direkt auf Banken und Versicherungen abzielt. Die Banken erreicht ein Finma-Rundschreiben, sprich die Regulierung, dann oft immer noch ungefähr ein bis zwei Jahre früher als die Versicherungen.

Ott: Bei Versicherungen ist das Spannende, dass teilweise komplexe statistische Auswertungen, zum Beispiel bei der Prämienfestlegung, bereits eine grosse Rolle spielen.

Ein konkretes Beispiel dazu: Wenn ein Versicherer mittels KI feststellt, dass das Unfallrisiko einer Autofahrerin aufgrund bestimmter, statistisch erhobener Faktoren um ein Vielfaches höher ist als in anderen Teilen der Bevölkerung, soll dann die Versicherungsprämie für diese Kundenkategorie erhöht werden? Darf oder soll man Faktoren wie Nationalität oder Geschlecht in die Tarifierung miteinbeziehen, wenn deren Einfluss statistisch erwiesen ist, oder geht man mit dem Grundsatz, dass man von der Vergangenheit nicht auf die Zukunft schliessen sollte, um Einzelpersonen nicht zu benachteiligen? Hier kollidieren also ethische Prinzipien einer europäischen Technologieregulierung mit bestehenden ökonomischen, akzeptierten Grundprinzipien des Versicherungssektors. Der EU AI Act wirft hier im Detail noch einige Fragen auf. Nicht zuletzt wird in diesem Zusammenhang auch die Definition von KI und deren Abgrenzung zu statistischen Modellen kontrovers diskutiert.

Wie sieht es mit dem verantwortungsvollen Einsatz von KI bei Rechts- und Compliance-Funktionen aus? Werden Risiken wirklich vermindert, oder ist es noch zu früh, das abzusehen?

Ott: In diesem Bereich macht EY schon heute viel, gerade bei Compliance-Themen. Überall dort, wo es um die Beurteilung von Fällen geht, wenn man Sachverhalte einschätzen muss und mit Wissen aus Gesetzen vergleicht und logisch überlegen muss, kann eine KI heute schon gute Dienste leisten. In Zukunft wird KI noch bessere Ergebnisse erzielen.

Die KI als Chefjuristin oder gar Richterin?

Ott: Die Frage ist: Wer hat am Schluss die Verantwortung? Das wird zunächst noch der Mensch sein. Darum denke ich, wird es eine Zeit geben, in der KI vor allem sehr stark unterstützend wirkt. Ich kann mir sehr gut vorstellen, dass man das aber irgendwann neu bewertet.

Spichiger: Risikomanager haben im Zusammenhang mit KI eine sehr wichtige Rolle. Es geht ultimativ um Vertrauensförderung, wenn ich die Risiken effektiv manage. Wenn das Vertrauen in die KI-Applikationen wächst und der Vertrauenskreislauf in die gewünschte Richtung dreht, gelingt es mir nicht nur, die Risiken zu minimieren, sondern auch den Wert, den KI für das Unternehmen generieren kann, zu optimieren. Das ist ein sehr wichtiger Punkt, gerade mit Blick auf das Wertversprechen der Legal- und Compliance-Funktionen.

Einige Mitarbeitende haben Angst, dass sie ihren Job an eine KI verlieren. Andere sagen, KI schafft neue Jobs. Was sind die Auswirkungen von KI in den nächsten fünf bis zehn Jahren auf dem Arbeitsmarkt?

Spichiger: In den nächsten fünf bis zehn Jahren? Da muss ich vorausschicken, dass ich das für die momentan stattfindende rasante Entwicklung als einen sehr langen Betrachtungszeitraum ansehe. Ja, es werden neue Technologien, neue Jobs geschaffen und neue Fähigkeiten gebraucht. Bestehende Mitarbeitende müssen in die Lage versetzt werden, mit dieser Technologie wertstiftend umzugehen. Das ist zentral. Und hier schliesst sich der Kreis: Wenn es um Vertrauen geht, hängt vieles mit Unwissenheit zusammen. Leute, die eine natürliche Zurückhaltung, vielleicht sogar Angst verspüren, sollte man näher an das Thema heranführen. Dann liegt der Fokus auch stärker auf den Möglichkeiten, nicht primär auf den Gefahren.

Ott: Ich glaube, kurzfristig werden eher neue Jobs generiert. Weil Firmen zuerst ihr Datenchaos zu lösen haben. Und sie müssen die KI überhaupt erst in ihre Abläufe und Systeme integrieren und gleichzeitig die Risiken im Griff haben. Im Banking glaube ich zunächst an einen Schub, da man diese Transformation hinbekommen muss. Wie es anschliessend weitergeht, ist heute schwer abzuschätzen.

Die Aus- und Weiterbildung spielt hier eine Rolle.

Spichiger: Genau. Eine sehr grosse Rolle. Wir bei EY legen auch intern auf dieses Thema extrem grossen Wert, weil wir unseren Service für unsere Kundschaft optimieren wollen. Wie die meisten anderen Unternehmen sind auch wir stark von dieser Veränderung betroffen. 

Ersetzt KI bald Kundenberaterinnen und Kundenberater bei Banken und Versicherungen?

Ott: Es gibt schon Apps, da geben Kundinnen und Kunden ein paar Faktoren ein und bekommen Kaufempfehlungen für Anlagen oder andere Vorschläge. Diese Beratungen werden durch die neuen KI-Ansätze in Zukunft sicher immer raffinierter und ausgereifter. Inwiefern vermögende Kundinnen ihr Vermögen einem virtuellen Berater anvertrauen, wird sich jedoch zeigen. 

Spichiger: Alle auf die Schweiz bezogenen Umfragen und Studien besagen, dass KI in absehbarer Zukunft nicht vollständig die Beratung übernehmen wird respektive dass diese nicht vollständig digitalisiert wird. Auch auf der Versicherungsseite ist die Beziehung zu den Agentinnen und Beratern sehr stark. Der Direktvertrieb läuft hierzulande nicht gleich wie in anderen Ländern. Auf der anderen Seite kann man sich natürlich schon die Frage stellen, ob und wann wir hier allenfalls bei den jüngeren Generationen einen Wendepunkt erreichen. Wir gehen aktuell davon aus, dass eine Technologie- und KI-unterstützte persönliche Beratung gerade in beratungsintensiveren Segmenten die Option ist, die am meisten Erfolg verspricht. Zudem denke ich, dass vor allem die Qualität der menschlichen Interaktion in einer zunehmend digitalen Welt wohl sogar noch an Bedeutung gewinnt.