Lösungen / RAG und semantische Suche

RAG und semantische Suche für Schweizer Unternehmen

Durchsuchen Sie Ihre Dokumente nach Bedeutung und erhalten Sie Antworten, die die Stelle zeigen, aus der sie stammen.

Was wir bauen könnten

Diese Szenarien sind Beispiele. Keines beschreibt einen Kunden.

Banken und Finanzen

Vor einem Kundentermin wühlen sich Kundenberater durch Hausmeinungen, Produktblätter und Regeln zur Eignungsprüfung, verteilt über vier Intranets.

Was wir bauen würden

Ein Assistent, der die Fragen der Kundenberater aus dem Research und den Produktdokumenten der Bank beantwortet und dabei genau den Absatz zitiert, aus dem jede Antwort stammt. Er durchsucht nur Dokumente, die der Berater ohnehin öffnen darf, und läuft auf den Servern der Bank.

FAISS, vLLM, Llama, Keycloak

Banken und Finanzen

Periodische KYC-Überprüfungen stocken, weil die Dokumente in fünf Systemen liegen und einige unbemerkt abgelaufen sind.

Was wir bauen würden

Ein Agent, der das Kundendossier aus jedem System zusammenträgt, Ablaufdaten und fehlende Unterlagen prüft und die Zusammenfassung der Überprüfung mit Quellen entwirft. Der Analyst zeichnet das vollständige Dossier ab, und der Agent hat keine Berechtigung, Kunden zu kontaktieren oder etwas zu genehmigen.

LangGraph, Python, PostgreSQL, Avaloq API

Uhren und Luxus

Ein Berater hat zehn Minuten, bevor ein langjähriger Kunde eintrifft, und die Vorgeschichte steckt in Notizen aus vielen Jahren, verfasst in drei Sprachen.

Was wir bauen würden

Ein Briefing-Assistent, der Kaufhistorie, Servicedaten und Beraternotizen zum Kunden liest und dann ein einseitiges Briefing in der Sprache des Beraters schreibt, mit einer Quelle für jede Zeile. Er läuft auf Infrastruktur, die das Haus kontrolliert, und speichert selbst nichts.

Mistral, vLLM, Salesforce API

Uhren und Luxus

In den Servicezentren dauert es Tage, bis ein Uhrmacher ein Stück ansieht und der Kunde einen Kostenvoranschlag erhält.

Was wir bauen würden

Ein Annahme-Assistent, der die Fotos und die Beschreibung des Kunden liest, ähnliche frühere Reparaturen findet und einen vorläufigen Kostenvoranschlag mit den wahrscheinlichen Arbeitsschritten und Teilen entwirft. Ein Uhrmacher bestätigt oder korrigiert den Entwurf, und jeder korrigierte Kostenvoranschlag kommt zu den Beispielen für die nächsten hinzu.

PyTorch, FAISS, FastAPI, Salesforce API

Pharma und Life Sciences

Wer eine Behördenanfrage beantworten will, durchsucht Einreichungen, SOPs und Leitlinien aus vielen Jahren nach dem einen Absatz, der die Frage klärt.

Was wir bauen würden

Ein Suchassistent für Ihre Einreichungen, SOPs und die Leitlinien von Swissmedic, EMA und ICH, der in wenigen Sätzen antwortet und jede Aussage mit dem genauen Abschnitt verknüpft. Er hat nur Lesezugriff und antwortet nicht, wenn die Dokumente keine Antwort hergeben.

FAISS, bge-reranker-v2-m3, vLLM, Veeva Vault

Pharma und Life Sciences

Wissenschaftler sollen jede neue Publikation in ihrem Fachgebiet verfolgen, und bei der wöchentlichen Menge ist das unmöglich.

Was wir bauen würden

Ein Literatur-Agent, der jede Woche PubMed zu den Themen jedes Teams abfragt, Abstracts nach dessen Kriterien sichtet und eine kurze Übersicht mit Links verschickt, samt dem Grund, weshalb jede Publikation ausgewählt wurde. Die Wissenschaftler bewerten die Auswahl, und das schärft die Sichtung der folgenden Woche.

PubMed API, BGE-M3, LangGraph, Microsoft Teams

Detailhandel und E-Commerce

Die Kundschaft tippt «Velo», «vélo» oder «bici», und das Suchfeld versteht nur eines davon.

Was wir bauen würden

Eine hybride Suche, die Stichwortsuche mit mehrsprachiger semantischer Suche über den Katalog kombiniert, damit eine Anfrage die richtigen Produkte findet, in jeder Sprache und Formulierung. Sie läuft neben der heutigen Suchmaschine und wird anhand echter Suchprotokolle abgestimmt.

OpenSearch, BGE-M3, Python

Detailhandel und E-Commerce

In den meisten Tickets geht es darum, wo eine Bestellung bleibt oder wie man sie zurückschickt, und das Team beantwortet den ganzen Tag dieselben Fragen.

Was wir bauen würden

Ein Service-Agent, der jedes Ticket liest, die Bestellung und die Rückgaberegeln nachschlägt und die Antwort in der Sprache der Kundschaft entwirft. Routineantworten gehen nach einer kurzen Prüfung hinaus; Rückerstattungen und Ausnahmen warten auf eine Person, mit bereits zusammengefasstem Fall.

LangGraph, Zendesk API, FAISS

Worum es geht

Retrieval-Augmented Generation findet die Passagen in Ihren Dokumenten, die zu einer Frage passen, und lässt dann ein Sprachmodell nur aus diesen Passagen antworten, mit Quellenangabe. Semantische Suche ist die erste Hälfte für sich allein: Passagen nach Bedeutung finden, über Sprachen und Formulierungen hinweg. Beides hängt davon ab, wie Dokumente zerlegt, indexiert und sortiert werden, und dort steckt der grösste Teil der Arbeit.

Passt, wenn

  • Mitarbeitende verbringen Zeit damit, Informationen zu suchen, die in Ihren Dokumenten bereits stehen.
  • Antworten müssen auf ihre Quelle verweisen, damit man ihnen vertraut.
  • Die Inhalte sind über mehrere Sprachen verteilt oder unterschiedlich formuliert.

Eher nicht, wenn

  • Die Informationen liegen in strukturierten Datenbanken: Eine Abfrage oder ein Dashboard antwortet schneller.
  • Es gibt nur ein paar Dutzend Dokumente: Ein gut geordneter Ordner kann genügen.

Weiterlesen

Inside FAISS: Billion-Scale Similarity Search 45 Min. Lesezeit

Fragen, die wir oft hören

Er ist angewiesen, aus gefundenen Passagen zu antworten, und zeigt sie an. Eine Kontrolle markiert Aussagen, die von den Passagen nicht gestützt werden. Findet die Suche nichts Relevantes, sagt er das. Die Quellentreue messen wir an echten Fragen Ihres Teams.

Ja. Die Suche filtert nach den Zugriffsrechten, die die Person bereits hat. Somit sieht niemand eine Passage, die er im Quellsystem nicht öffnen könnte.

FAISS, wenn der Index in den Arbeitsspeicher passt und die Filter einfach sind; pgvector oder OpenSearch, wenn Berechtigungen und Metadatenfilter im selben Speicher liegen müssen. Unser ausführlicher Artikel zu FAISS erklärt, wie seine Indizes Speicher gegen Geschwindigkeit abwägen.

Ja, mit mehrsprachigen Embeddings. Eine Frage auf Französisch kann eine Passage auf Deutsch finden, und die Antwort kommt in der Sprache der Frage zurück.

Verwandte Lösungen

Welche Dokumente sollte Ihr Team befragen können?

Wir beginnen mit einer Machbarkeitsstudie auf Ihren eigenen Daten, damit Sie Ergebnisse sehen, bevor etwas versprochen wird.