Chat with your data
DER GEWINN FÜR DEN KUNDEN
Den Firmeneigenen Datenschatz einem breiteren (Laien-)Publikum zugänglich machen in dem Einstiegshürden herabgesetzt werden, tiefere Einblicke aus den Daten gewinnen
KUNDE
Gesundheitsbranche
Die Ausgangssituation
Nach der erfolgreichen Einführung des generischen Datenmodells (siehe Erfolgsgeschichte One Data Plattform), mithilfe dessen Geschäftsprozesse und Produkt Lebenszyklen abbildbar sind, sollen diese Daten den Mitarbeitern zugänglicher zur Verfügung gestellt werden. Dem Zeitgeist entsprechend, sollen mithilfe von Large Language Models Datenabfragen ermöglicht werden.
Das Ergebnis
Der Use Case startet als Pilotprojekt und soll neue Tools auf deren Anwendbarkeit im Unternehmen getestet werden. Es werden typische Fragestellungen aufbereitet, die der LLM Use abdecken soll. Als Datenbasis dienen Views in Snowflake und es werden Python Packages wie LangChain und die Prompt flow Visual Studio Code Extension für die Interaktion mit LLMs herangezogen. Es werden verschiedene Promptstrategien für die Abfrage von unterschiedlichen Snowflake Views erprobt, die mit verschiedenen templates und Flows umgesetzt werden. Zur Evaluierung der Ergebnisse werden Metriken definiert und berechnet. Eine der Herausforderungen: Das den Daten zugrundeliegende Datenmodell ist komplex und muss dem KI-Modell samt dem nötigen Domainwissen zuerst vermittelt werden, um Anfragen richtig beantworten zu können. Die Grundlage für die weitere Entwicklung und das Fine-Tuning der Flows ist geschaffen. So können immer weitere Fragestellungen hinzugenommen und evaluiert werden. Heute stellt sich die Frage, wie wird die Akzeptanz bei den Nutzern im Unternehmen sein?
