Die breite Zugänglichkeit von generativer Künstlicher Intelligenz (GenAI) treibt den Wandel in allen Branchen voran. Bisher waren KI-Systeme und ihre Vorteile nur für Experten im begrenzten Kreis verfügbar. GenAI steht durch eine branchenübergreifende und neue Tool-Landschaft nun vielen Endnutzern offen. Als Folge entsteht eine viel grössere Hebelwirkung, die etwa die Qualität von Entscheidungen, die Effizienz von Prozessen und die Individualität von Customer Excellence auf ein völlig neues Niveau heben wird.

Partner-Inhalte
 
 
 
 
 
 

Wichtig ist dabei, dass die Resultate dieser Tools für den Benutzer nützlich und korrekt sind. Ein Chatbot, der falsche Antworten oder Anweisungen gibt, wird nicht nur zu einem Mehraufwand an Arbeit führen, sondern kann auch juristische Konsequenzen auslösen und die Reputation des Unternehmens beeinträchtigen.

Der Autor

Gabriel Krummenacher, Director Data Science, Zühlke Schweiz

Retrieval-Augmented Generation als nächstes Level der GenAI

Large-Language Model (LLM) wie ChatGPT von OpenAI sind riesige Neuronale Netzwerke, die mit unvorstellbar grossen Datenmengen trainiert wurden und daher auch träger und inhaltlich nicht immer präzise und up-to-date sind. Um der Generierung von falschen oder unvollständigen Antworten entgegenzuwirken, streben Unternehmen an, ihre eigenen GenAI-Anwendungen zu entwickeln und mit eigenen Daten zu bereichern, beziehungsweise mit der so genannten Retrieval-Augmented Generation (RAG) mehr Aktualität und Detailwissen in die offenen Systeme einzubringen. Dabei stehen oft interne Prozessoptimierungen und Kostensenkungen im Zentrum. So werden unternehmenseigene Tools oft zur Unterstützung von Mitarbeitenden, zum Beispiel in Call-Centern, eingesetzt. 

RAG ist eine neue Technik der künstlichen Intelligenz, die die Qualität generativer KI verbessern kann, indem grosse Sprachmodelle (LLMs) ohne erneutes Training auf zusätzliche Datenressourcen zugreifen können. RAG-Applikationen benutzen Wissensspeicher und semantische Suche auf der Grundlage der unternehmenseigenen Daten. Diese Datenspeicher können kontinuierlich aktualisiert werden, sodass die generative KI in der Lage ist, zeitnahe, kontextbezogene Antworten bereitzustellen. RAG ist die Grundlage, um qualitativ hochwertige Resultate zu liefern und falsche oder unpassende Antworten zu minimieren.

RAG allein reicht aber noch nicht, um wirtschaftlich sinnvolle Anwendungen umzusetzen. Wenn ein Unternehmen eine Idee oder Vision einer GenAI-Anwendung hat, sollte es sich deshalb an den drei Dimensionen technischer Umsetzbarkeit (Feasibility), Wirtschaftlichkeit (Viability) sowie dem Bedürfnis der Nutzerinnen und Nutzer beziehungsweise des Marktes (Desirability) orientieren. Um mit GenAI Wert zu schaffen, braucht es alle drei Dimensionen. Die Beurteilung der Cases erfolgt in einer vertieften Auseinandersetzung mit den verantwortlichen Personen aus dem Business, mit AI-Experten sowie den Nutzern der Anwendung. Dabei sollen die folgenden Fragestellungen behandelt werden:

  • KI-Output: Welchen Output soll das Tool liefern?
  • Daten und Datenquellen: Welche Daten werden benötigt? Wo und in welchem Zustand liegen die Daten vor?
  • Handlung: Wer verwendet den Output? Für welchen Prozess? Wie oft? Welcher Automatisierungsgrad ist gefragt? Welche Integrationen sind notwendig?
  • Ziel und Erfolgsmessung: Welches Problem wird gelöst? Wodurch entsteht der Mehrwert (qualitativ, quantitativ)? Wie kann dieser gemessen werden?

Diese Strukturierung hilft, die Visionen und Ideen systematisch zu bewerten, um ein Portfolio von Anwendungsbereichen zu erstellen und die erfolgreiche Umsetzung von RAG-GenAI-Projekten sicherzustellen. 

 

Die Nutzerinnen und Nutzer müssen im Zentrum stehen

Es ist verlockend, in einem solchen Projekt sehr schnell loszulegen, aber die Entwickler müssen zuerst mit den Nutzern sprechen, die am Ende von dem Tool profitieren sollen. Ferner ist es ratsam, die Machbarkeit sehr früh im Prozess zu prüfen. Zusätzlich zu den bekannten Risiken eines Softwareprojekts bringen GenAI-Projekte ihre eigenen Unsicherheiten mit sich: Reicht die Datenqualität aus? Werden die gewünschten Informationen gefunden? Stimmt der Output? Und zu guter Letzt sollte dem Vorhaben ein Business-Case zugrunde liegen. Selbst wenn das Produkt auf Basis der Nutzerforschung gut gestaltet und technisch einwandfrei ist, kann es wirtschaftlich dennoch fragwürdig sein. 

Diese strukturierte Herangehensweise stellt sicher, dass GenAI-Projekte nicht nur technisch machbar und wirtschaftlich sinnvoll sind, sondern auch den tatsächlichen Bedürfnissen der Nutzer entsprechen. So kann die Technologie ihr volles Potenzial entfalten und signifikante Verbesserungen in verschiedenen Bereichen des Arbeitslebens und darüber hinaus bewirken.