PSLifeGPT - KI trifft Lebensversicherung

Optimiertes Wissensmanagement und Informationssuche mit dem in|sure PSLife Chatbot

Habt ihr genug davon, euch durch endlose Seiten von Softwaredokumentation zu wühlen? Unser neuer Chatbot übernimmt das und macht Schluss mit dem Papierkrieg!

In unserem Blog-Beitrag stellen wir euch ein spannendes Projekt vor, das einen unternehmensrelevanten Use Case für den Einsatz von generativer KI darstellt. Darin wird ein RAG-Ansatz genutzt, um die weitreichende Dokumentation eines umfangreichen Softwareprodukts in der Versicherungsbranche im Chat verfügbar zu machen.

Was ist in|sure PSLife?

in|sure PSLife ist das leistungsstarke Bestandsführungssystem von adesso für die Lebensversicherungsbranche. Es umfasst Produktmodellierung, Bestandsführung und Leistungsbearbeitung und ermöglicht eine effiziente und flexible Verwaltung von Lebensversicherungsverträgen. Durch den langjährigen Einsatz bietet in|sure PSLife zahlreiche Vorteile:

• Ganzheitliche Software für die Vertragsverwaltung
• Hoher Automatisierungsgrad durch integrierte Dunkelverarbeitung
• Intuitive Benutzeroberfläche
• Praxiserprobtes Migrationsverfahren großer Bestände
• Betrieb als On-Premise-, Cloud- oder SaaS-Lösung
• Moderne Java-Technologie
• Markov-Ansatz: Vereinfachung der Tariflandschaft durch performante Formeln
• Produktmodellierung: Schnelle und bedarfsgerechte Modellierung neuer und bestehender Produkte
• Vertrags- und Leistungsbearbeitung: Anpassbare Geschäftsvorfälle des gesamten Vertragslebenszyklus

Was ist RAG?

Retrieval Augmented Generation (RAG) ist ein innovativer Ansatz, der die Fähigkeiten von Large Language Models (LLMs) mit den Vorteilen der Informationsbeschaffung kombiniert. Im Gegensatz zu traditionellen Methoden der Textgenerierung, die ausschließlich auf bestehenden Trainingsdaten basieren, integriert RAG externe Wissensquellen in den Generierungsprozess. Dies geschieht durch das Durchsuchen relevanter Dokumente und die Einbettung der gefundenen Informationen in die generierten Antworten. Dadurch werden die Antworten präziser, aktueller und fundierter.

Konkret wird die semantische Suche mit Hilfe von Vektorraummodellen eingesetzt, die eine ähnliche Bedeutung von Fragen und Texten in Dokumenten erkennen. Auf diese Weise werden Informationen verfügbar gemacht, die nicht öffentlich zugänglich sind, und das LLM verweist immer auf Informationen aus realen Quellen, ohne dass die Gefahr besteht, dass es zu Halluzinationen kommt.

Projektziel und Mehrwerte

Das Ziel dieses Projekts ist es, einen intelligenten Chatbot zu entwickeln, der die Dokumentation von in|sure PSLife hinsichtlich der Fragen der User durchsucht und qualifizierte Antworten mit korrekten Quellenangaben liefert. Dabei soll der Chatbot perspektivisch folgende Mehrwerte bieten:

• Verbesserung fachliches und technisches Verständnis für User
• Unterstützung bei der Anforderungsdefinition
• Unterstützung bei der Erstellung von Dokumentation
• First-Level-Support für Fragen rund um in|sure PSLife
• Qualitätssteigerung für Projekte und Produktmanagement
• Verbesserung der Wartbarkeit
• Unterstützung bei der Testfallerstellung
• Unterstützung bei Release-Anhebungen
• Schnelleres Issue Management
• Abbau von Silowissen

Architektur der Anwendung

Die Architektur der Anwendung ist wie folgt aufgebaut:

• Frontend App UX: Eine benutzerfreundliche Oberfläche, über die Nutzerinnen und Nutzer ihre Anfragen eingeben können.
• App Server Orchestrator: Koordiniert die verschiedenen Komponenten der Anwendung und leitet die Anfragen weiter.
• Azure AI Search mit angeschlossenen Data Sources (in|sure PSLife Dokumentation): Durchsucht die angeschlossenen Data Sources nach relevanten Informationen.
• Azure OpenAI: Nutzt die Fähigkeiten des Large Language Models von OpenAI, um die endgültigen Antworten zu generieren.
• Cosmo DB: Datenbank zur Speicherung der Chatverläufe und Möglichkeit für die Nutzenden, auf ihre eigenen Chatverläufe zuzugreifen.

Ablauf des Prozesses

Der Prozess gestaltet sich mehrstufig:

• 1. User Prompt: Die User stellen eine Frage.
• 2. Search Query: Das System erzeugt eine Suchanfrage.
• 3. Search Results: Die relevanten Dokumente werden durchsucht und relevante Übereinstimmungen identifiziert.
• 4. System Prompt + Search Results + User Prompt: Die Informationen aus allgemeinen Vorgaben, Suchergebnissen und User-Frage werden zusammengefasst.
• 5. Antwort an die User: Die User erhalten eine qualifizierte Antwort mit Quellenangaben.

Testphase und aktueller Stand

Eine umfangreiche interne Testphase mit PSLife-Nutzenden wurde durchgeführt. Nach derzeitigem Stand verstehen wir den Chatbot als eine intelligente Suchmaschine, die den Nutzerinnen und Nutzern auf ihre Fragen hin optimale Quellen aus der Softwaredokumentation zur Verfügung stellt. Die Nutzerinnen und Nutzer können die bereitgestellten Quellen selbst sichten, um die bestmögliche Qualität zu gewährleisten. Aufwändige manuelle Recherchen innerhalb der Dokumentation werden dadurch massiv beschleunigt und Rückfragen an in|sure PSLife-Fachleute reduziert. Der interne GoLive erfolgt zeitnah, um die gewonnenen Vorteile innerhalb von adesso nutzen zu können. Parallel erfolgt die Weiterentwicklung der Anwendung, um die Mehrwerte auch für Kundinnen und Kunden nutzbar zu machen.