So bestehe etwa die Gefahr, «dass KI-Modelle auf Datenungleichgewichten oder Vorurteilen beruhen», erklärte die Bafin in einem Bericht. Das könne zur Verzerrung der Ergebnisse führen — «mit möglichen unbeabsichtigten Folgen, etwa der Diskriminierung» von Kunden. Über deren Schaden hinaus seien auch Haftungs- und Reputationsrisiken möglich.
Laut Bafin befinden sich viele Initiativen zur Verwendung generativer KI noch in der Erprobungsphase. Häufige Anwendungen seien etwa Chatbots für Beschäftigte, KI-Systeme zur Dokumentenaufbereitung sowie KI-Assistenzsysteme für Entwickler. Bloomberg hatte berichtet, das mehrere deutsche Banken unter anderem Chatbots einsetzen, die zunehmend nicht nur auf öffentliches Wissen zugreifen, sondern auch auf bankinterne Daten. An entsprechenden Projekten wird unter anderem bei der LBBW und der DZ Bank gearbeitet.
Der Bafin zufolge kann KI auch zu Risiken für die Finanzstabilität führen. Die Behörde verwies auf neue Abhängigkeiten von Dritten, insbesondere von grossen Cloud- sowie KI-Modellanbietern. Hier gebe es eine starke Marktkonzentration auf wenige Anbieter. Zum anderen sei Herdenverhalten möglich. Denn viele Marktteilnehmer könnten sich aufgrund gleicher Informationsverarbeitung durch KI und wegen automatisierter Handelsstrategien ähnlich verhalten. (Bloomberg/hzb/pg)