Banken und Finanzen
Vor einem Kundentermin wühlen sich Kundenberater durch Hausmeinungen, Produktblätter und Regeln zur Eignungsprüfung, verteilt über vier Intranets.
Was wir bauen würden
Ein Assistent, der die Fragen der Kundenberater aus dem Research und den Produktdokumenten der Bank beantwortet und dabei genau den Absatz zitiert, aus dem jede Antwort stammt. Er durchsucht nur Dokumente, die der Berater ohnehin öffnen darf, und läuft auf den Servern der Bank.
FAISS, vLLM, Llama, Keycloak