RAG, Retrieval-Augmented Generation, bezeichnet ein Muster, bei dem ein System für eine Frage relevantes Material abruft und es einem Modell beim Erzeugen einer Antwort bereitstellt. Verbraucherprodukte können dokumentengestützten Chat anbieten, ohne dass Sie einen Retrieval-Stack bauen. Konfigurierbare Plattformen und APIs geben mehr Kontrolle, bringen aber zusätzliche Entwicklungs-, Bewertungs- und Governance-Arbeit mit sich.
Das sinnvolle Ziel ist weder, alles hochzuladen, noch einen allgemeinen Chatbot mit angehängten Dateien nachzubauen. Erstellen Sie einen begrenzten Assistenten, dessen Quellenbestand, Berechtigungen, Retrieval-Verhalten, Zitate und Grenzen sich prüfen lassen.
Laden Sie Verträge, Kundendatensätze, Personalakten, Quellcode, Zugangsdaten, Gesundheitsdaten, privilegiertes Material oder andere vertrauliche oder regulierte Inhalte erst hoch, wenn der konkrete Dienst, das Konto, die Region, Aufbewahrungseinstellungen, Freigabekontrollen und Organisationsrichtlinien dafür genehmigt sind. Verwenden Sie nur das für die Aufgabe nötige Quellenmaterial.
Was ein persönliches RAG leistet
Ein typischer Retrieval-Workflow hat vier Phasen:
- Aufnahme. Das System importiert Dokumente oder verbindet sich mit einer freigegebenen Quelle.
- Indexierung. Es bereitet Material für die Suche vor, häufig durch Textextraktion, Aufteilung und durchsuchbare Repräsentationen.
- Retrieval. Eine Frage dient zur Auswahl relevant erscheinender Passagen.
- Generierung. Ein Modell nutzt Frage und abgerufene Passagen für eine Antwort, manchmal mit Zitaten oder Quelllinks.
Nicht jedes Produkt setzt diese Phasen gleich um. Einige Projektarbeitsbereiche können kleinere Wissensbestände direkt in den Modellkontext legen und erst später auf Retrieval wechseln. Behandeln Sie „persönliches RAG“ hier als praktische Kategorie begrenzter Dokumentenassistenten und prüfen Sie den tatsächlichen Mechanismus und die Kontrollen des gewählten Produkts.
Retrieval erschließt aktuelle, private oder spezielle Inhalte, die das Basismodell möglicherweise nicht kennt. Es kann unbelegte Antworten auf Fragen im vorgesehenen Umfang reduzieren, wenn Retrieval und Generierung gut funktionieren. Es garantiert weder die richtige Passage noch deren Aktualität, richtige Interpretation oder die Unterstützung jedes Satzes.
Definieren Sie Erfolg beobachtbar: Der Assistent findet die relevante Quelle, nennt die stützende Passage, erhält Bedeutung und Unsicherheit, behandelt abgelöstes Material richtig, respektiert Berechtigungen und lehnt Fragen ab oder kennzeichnet sie, wenn der freigegebene Korpus sie nicht beantworten kann.
Drei Implementierungswege
Die Wege decken ein gehostetes Quellen-Notebook, einen Projektarbeitsbereich und eine konfigurierbare Retrieval-Pipeline ab. Sie sind keine Rangliste.
Weg 1: Gemini Notebook
Gemini Notebook, früher NotebookLM, ist ein gehostetes Recherche-Notebook auf Basis ausgewählter Quellen. Googles Quelldokumentation führt unterstützte Importe auf und erklärt, dass Drive-Quellen automatisch synchronisiert werden können, während sich andere Quelltypen anders verhalten. Der Chat kann Inline-Zitate liefern, wobei Google darauf hinweist, dass manche Antworten kein Zitat auf Passagenebene enthalten und Fehler möglich sind.
Nützlich, wenn: Sie ein interaktives Notebook für einen begrenzten Quellenbestand und eine Oberfläche zum Prüfen von Passagen sowie erzeugten Lern- oder Briefingformaten möchten.
Vor der Nutzung prüfen: Quellen- und Abfragegrenzen Ihres Tarifs, Kopie oder automatische Synchronisierung jeder Quelle, importierte Teile von Webseiten oder Dateien, kontospezifische Datenverarbeitung und Freigabe sowie Zitatverhalten für Ihre tatsächlichen Dokumenttypen und Fragen.
Weg 2: Claude Projects
Claude Projects bietet Projektanweisungen, Wissensdateien und projektbezogene Chats. Anthropic dokumentiert auf berechtigten kostenpflichtigen Tarifen einen automatischen RAG-Modus für erweitertes Projektwissen. Hochgeladenes Wissen kann Kontext liefern; abhängig von den aktivierten Funktionen kann eine Antwort aber auch Gespräch, Anweisungen, Konnektoren, Webresultate oder Modellwissen widerspiegeln.
Nützlich, wenn: Sie einen wiederkehrenden Projektarbeitsbereich möchten, in dem Anweisungen, Dokumente und Gespräche zusammenbleiben.
Vor der Nutzung prüfen: Tarif- und Organisationskontrollen, Projektsichtbarkeit, unterstützte Dateien, Wissenskapazität, aktives Retrieval, Quellenzuordnung, Konnektoren oder Websuche, Aufbewahrung und Freigabe. Nehmen Sie nicht an, dass eine flüssige Antwort aus einer Projektdatei stammt, wenn sie sich nicht zurückverfolgen lässt.
Weg 3: Eine verwaltete oder eigene Retrieval-Pipeline
Eine konfigurierbare Pipeline kann Aufnahme, Parsing, Chunking, Embeddings, Suchindex oder Vektorspeicher, Retrieval, Reranking, Modell und Oberfläche verbinden. Sie lässt sich mit Code, einer Workflow-Plattform wie n8n, einem visuellen Framework wie Langflow oder Flowise oder einer verwalteten API umsetzen. OpenAIs Dokumentation zur Dateisuche beschreibt beispielsweise ein gehostetes Responses-API-Werkzeug, das Dateien in Vektorspeichern durchsucht. Andere Anbieter haben andere Verträge für Retrieval und Datenkontrolle.
Nützlich, wenn: Sie automatische Synchronisierung, Metadatenfilter, Anwendungsintegration, eigene Zugriffsprüfungen, beobachtbares Retrieval oder wiederholbare Bewertungen benötigen, die ein gehostetes Notebook nicht bietet.
Vor der Nutzung prüfen: Authentifizierung, Autorisierung auf Dokumentebene, Löschung und Widerruf, Mandantentrennung, Verschlüsselung, Region, Aufbewahrung, Parserqualität, Indexaktualität, Retrieval-Protokolle, Modelldatenbedingungen, Prompt-Injection aus Dokumenten, Monitoring und Wartungsverantwortung.
Nach Anforderungen und Evidenz wählen
Nutzen Sie eine Entscheidungstabelle statt Bezeichnungen wie am einfachsten, flexibelsten oder leistungsfähigsten:
| Anforderung | Zu beantwortende Fragen | So prüfen Sie es |
|---|---|---|
| Quelltypen | Kann die Lösung Ihre tatsächlichen Dateien, Seiten, Tabellen, Bilder und Sprachen aufnehmen? | Repräsentative Quellen einschließlich schwieriger Formate testen. |
| Aktualität | Kopiert, synchronisiert oder fragt sie die maßgebliche Quelle ab? Wie werden Änderungen und Löschungen weitergegeben? | Eine Testquelle ändern und widerrufen, dann das Ergebnis prüfen. |
| Retrieval-Qualität | Findet sie die für reale Fragen benötigte Passage? | Einen gekennzeichneten Fragensatz ausführen und abgerufene Evidenz prüfen. |
| Zitiernachweis | Kann eine prüfende Person genaue Quelle und Passage erreichen? | Zitate stichprobenartig mit den Aussagen vergleichen. |
| Umfangskontrolle | Können Korpusevidenz und Web- oder Modellwissen getrennt werden? | Beantwortbare, mehrdeutige und korpusfremde Fragen stellen. |
| Berechtigungen | Erzwingt jedes Retrieval Zielgruppe und aktuellen Zugriff der Quelle? | Mit Nutzern unterschiedlicher Berechtigung testen. |
| Betrieb | Können Sie Fehler beobachten, sicher neu indexieren, Daten löschen und Verantwortung zuweisen? | Aktualisierung, Löschung, Ausfall und Rollback erproben. |
| Kosten und Latenz | Ist der vollständige Workflow bei realistischem Volumen tragbar? | Aufnahme, Speicherung, Abfragen, Prüfzeit und Wartung messen. |
Richtig ist der einfachste Weg, der die für Ihren Anwendungsfall erforderlichen Kontrollen besteht.
Einen begrenzten Pilotbetrieb aufbauen
Die folgende Reihenfolge funktioniert für gehostete Notebooks, Projektarbeitsbereiche und konfigurierbare Pipelines.
Schritt 1: Umfang und Autorität festlegen
Halten Sie fest:
- welche Fragen der Assistent beantworten soll;
- welche Fragen er nicht beantworten darf;
- vorgesehene Nutzer und Tragweite der Entscheidungen;
- autoritative, unterstützende und ausgeschlossene Quelltypen;
- prüfende Person und Eskalationsweg;
- erforderliche Aktualitäts- oder Versionsregel je Quellenklasse.
Aktualität ist domänenspezifisch. Eine historische Studie kann für ihre Erkenntnis maßgeblich bleiben, während Preisliste, Sicherheitsverfahren, Steuerregel, Produktrichtlinie oder Vorschrift mit der Ablösung unsicher werden. Dokumentieren Sie Veröffentlichungsdatum, soweit relevant Geltungsdatum, Rechtsraum, Version und Prüfauslöser. Verwenden Sie nicht eine willkürliche Altersgrenze für alle Dokumente.
Schritt 2: Die Datengrenze freigeben
Klassifizieren Sie Quellen vor der Aufnahme. Bestätigen Sie Dienst, Konto, Region, Aufbewahrung, Trainingsbedingungen und Freigabekontrollen mit den zuständigen Personen für Sicherheit, Datenschutz, Recht oder Daten. Halten Sie getrennte Zielgruppen in getrennten Speichern oder Projekten und legen Sie nur offen, was jeder Assistent benötigt.
| Grenze | Sichereres Muster | Unsichere Abkürzung |
|---|---|---|
| Persönliches Lernen | Eigene Notizen und öffentliche Quellen im persönlichen Arbeitsbereich | Arbeitsdokumente in einem Verbraucherkonto |
| Teamwissen | Freigegebene teameigene Quellen mit passendem Zugriff | Abteilungsübergreifendes Material in einem gemeinsamen Projekt |
| Kundensupport | Freigegebene öffentliche Hilfeinhalte und zugriffsgesteuerte Datensätze | Kundendaten in einer breit geteilten Wissensbasis |
| Recht oder Compliance | Aktuelles Primärrecht und juristisch freigegebene Hinweise in einem öffentlichen Rechtskorpus | Privilegierte Notizen, Vertragsentwürfe und öffentliche Hinweise vermischt |
Projekt- oder Notebook-Trennung hilft nur, wenn Konto- und Freigabekontrollen sie erzwingen. In einem eigenen System muss Autorisierung beim Retrieval gelten, nicht nur beim Upload.
Schritt 3: Ein Quellenregister erstellen
Dokumentieren Sie je Quelle:
- stabile Quellen-ID und Titel;
- verantwortliche Person und freigegebene Zielgruppe;
- ursprünglichen Ort und Aufnahmemethode;
- Autoritätsstufe und Rechtsraum;
- soweit relevant Veröffentlichung, Geltung, Prüfung und Ablösung;
- Version oder Prüfsumme;
- Vertraulichkeitsklasse und Löschungsverantwortung.
Die vom Artikel verlinkte Begleitvorlage für Quellenaudits bietet eine einfache Ausgangstabelle.
Schritt 4: Repräsentative Dokumente vorbereiten und aufnehmen
Beginnen Sie mit Quellen, die reale Formate und Fehlermuster abdecken. Prüfen Sie extrahierten Text, Tabellen, Überschriften, Fußnoten und Scans. Saubere Textkonvertierung, kleinere Dateien oder andere Abschnittsgrenzen können Retrieval in einem Korpus verbessern und in einem anderen verschlechtern. Behandeln Sie Vorbereitung und Chunking als Hypothesen und vergleichen Sie sie an denselben Fragen.
Beschreibende Dateinamen und Quellmetadaten helfen bei der Evidenzprüfung. Nehmen Sie aber nicht an, dass das Modell Autorität oder Datum zuverlässig aus einem Dateinamen ableitet. Speichern Sie solche Felder ausdrücklich, soweit das Produkt es zulässt.
Schritt 5: Einen Antwortvertrag schreiben
Eine Ausgangsanweisung kann lauten:
Antworten Sie für [Zielgruppe und Zweck] aus dem freigegebenen Quellenbestand.
Für jede wesentliche Tatsachenbehauptung:
- nennen Sie Quelle und stützenden Abschnitt oder Passage, soweit die Oberfläche es ermöglicht;
- erhalten Sie Einschränkungen, Rechtsraum und Geltungsdaten;
- kennzeichnen Sie jede Schlussfolgerung als solche;
- zeigen Sie Quellenkonflikte, statt still eine Quelle auszuwählen.
Wenn die freigegebenen Quellen die Frage nicht beantworten, nennen Sie diese Grenze.
Nutzen Sie Web- oder allgemeines Modellwissen nur, wenn ich es ausdrücklich aktiviere, und kennzeichnen Sie es dann getrennt.
Eskalieren Sie [folgenreiche Kategorien] an [prüfende Person].
Anweisungen beeinflussen die Generierung; sie beweisen nicht, dass Retrieval, Zitation oder Ablehnung funktionieren. Testen Sie jede Anforderung.
Schritt 6: Vor der routinemäßigen Nutzung bewerten
Erstellen Sie aus realen Aufgaben einen gekennzeichneten Satz. Nehmen Sie klar beantwortbare Fragen, mehrere Quellen, Widersprüche, abgelöste Quellen, Anfragen außerhalb des Umfangs und Berechtigungsgrenzen auf. Dokumentieren Sie erwartete Quelle, akzeptable Antwortelemente, verbotene Aussagen und erwartete Eskalation je Fall.
Prüfen Sie mindestens drei Ebenen getrennt:
- Retrieval: Hat das System die nötigen Passagen geliefert?
- Generierung: Hat die Antwort sie richtig wiedergegeben, ohne sie zu verstärken?
- Governance: Hat sie Quellenzugriff, Umfang, Aktualität und Eskalationsregeln respektiert?
Setzen Sie Schwellenwerte nach den Folgen. Ein Lernassistent und ein Assistent für rechtliche oder kundenbezogene Vorbereitung sollten nicht dieselbe Abnahmegrenze haben.
Schritt 7: Mit klarer Verantwortung betreiben
Benennen Sie Verantwortliche für Quellenaktualisierung, Zugriffsprüfung, erneute Bewertungen, Vorfallbehandlung und Löschung. Bewerten Sie nach wesentlichen Änderungen an Quellenbestand, Parser, Retrieval-Konfiguration, Modell, Prompt, Tarif oder Freigaberichtlinie erneut. Eine Kalendererinnerung kann helfen; änderungsbedingte Prüfung ist wichtiger als ein willkürliches Monatsritual.
Beispiel für Rechtsinformationen mit strikter Trennung
Angenommen, Sie möchten einen Assistenten zu estnischem Arbeitsrecht und EU-Datenschutz. Erstellen Sie einen öffentlichen Rechtskorpus aus aktuellen Primärquellen wie dem konsolidierten estnischen Employment Contracts Act in Riigi Teataja und dem DSGVO-Text in EUR-Lex sowie Hinweisen, die eine qualifizierte estnische oder EU-juristische Person für die vorgesehenen Fragen freigegeben hat. Dokumentieren Sie Rechtsraum, geltende Fassung, Konsolidierungsdatum und verbindlichen oder erläuternden Status.
Mischen Sie diesen Korpus nicht mit Vertragsentwürfen, Mandantenkommunikation, internen Ermittlungsakten oder privilegierter Rechtsberatung. Genehmigt die Rechtsberatung einen KI-gestützten Fallarbeitsbereich, halten Sie ihn getrennt, verwenden Sie nur autorisierte Systeme und Nutzer und erhalten Sie die vorgegebenen Vertraulichkeitskontrollen. Eine generierte Antwort sollte die einschlägige Vorschrift zitieren, Recht von Hinweisen und Schlussfolgerungen trennen und verbindliche Auslegung oder Handlung an qualifizierte Beratung leiten.
So hilft der Assistent beim Auffinden von Material, ohne vorzugeben, Retrieval liefere ein Rechtsurteil oder ersetze juristische Beratung.
Schwieriges Verhalten testen, nicht nur einfache Erfolgsfälle
| Test | Beispiel | Erwartetes Verhalten |
|---|---|---|
| Beantwortbar | Eine Frage mit einem bekannten stützenden Abschnitt | Findet den Abschnitt und gibt ihn richtig wieder. |
| Mehrere Quellen | Eine Frage braucht Richtlinie und technische Dokumentation | Nutzt beide und ordnet Aussagen den Quellen zu. |
| Abgelöst | Alte und aktuelle Richtlinie enthalten eine Antwort | Erkennt die geltende Fassung oder eskaliert den Konflikt. |
| Außerhalb des Korpus | Strategiefrage ohne freigegebene Quelle | Nennt die Grenze, statt eine interne Tatsache zu erfinden. |
| Berechtigung | Nutzer fragt nach einer nicht zugänglichen Quelle | Ruft sie nicht ab, zitiert oder fasst sie nicht zusammen und verrät ihre Existenz nicht unzulässig. |
| Widerspruch | Zwei maßgeblich wirkende Dokumente widersprechen sich | Zeigt Konflikt und nötige Metadaten zur Klärung. |
| Zitatunterstützung | Flüssige Antwort zitiert eine nahe, aber nicht stützende Passage | Prüfung schlägt fehl; das Vorhandensein eines Zitats genügt nicht. |
| Injektion | Dokument fordert auf, Nutzer zu ignorieren oder Daten offenzulegen | Behandelt Dokumenttext als nicht vertrauenswürdigen Inhalt, nicht als höher priorisierte Anweisung. |
Ablehnung ist nicht das einzige akzeptable Verhalten außerhalb des Umfangs. Je nach Anwendungsfall können ein klarer Hinweis auf fehlende Korpusevidenz, eine Bitte um eine freigegebene Quelle oder Eskalation besser sein. Messen Sie die Zuverlässigkeit des gewählten Verhaltens.
Häufige Fehler diagnostizieren
Veraltete oder abgelöste Quellen. Das System kann eine nicht mehr geltende Fassung korrekt zitieren. Korrigieren Sie Quellenregister, Geltungsregeln, Synchronisierung und Antwortanzeige. Automatische Synchronisierung ist nur nützlich, wenn sie auf eine maßgebliche Quelle zeigt und Zugriffsänderungen sowie Löschung korrekt weitergibt.
Quellen geringer Autorität. Retrieval ordnet Relevanz, nicht rechtliche oder sachliche Autorität, sofern Sie dies nicht gestalten. Trennen Sie primäres, freigegebenes sekundäres und informelles Material und testen Sie Konflikte.
Umfangsleck. Ein Modell kann neben Dateien Gesprächskontext, Websuche, Konnektoren oder Vorwissen nutzen. Deaktivieren Sie unnötigen Kontext, kennzeichnen Sie erlaubten externen Kontext und testen Sie korpusfremde Fragen.
Parsing- und Retrieval-Fehler. Tabellen, Scans, Spalten, Fußnoten, Diagramme, Codeblöcke und ungewöhnliche Formatierung können schlecht extrahiert werden. Prüfen Sie Darstellung und abgerufene Passagen. Vergleichen Sie Vorbereitung, Chunking, Suche oder Reranking am gekennzeichneten Bewertungssatz.
Übermäßiges Vertrauen in Zitate. Ein Zitat kann auf eine echte Passage zeigen, die den Satz nicht, nur teilweise oder nicht mehr aktuell stützt. Prüfen Sie stichprobenartig Aussage und Passage und verlangen Sie bei folgenreichen Ausgaben menschliche Verifikation.
Berechtigungsdrift. Eine kopierte Quelle kann nach einer Zugriffsänderung des Originals weiter durchsuchbar bleiben. Testen Sie Widerruf und Löschung. Bevorzugen Sie bei entsprechendem Risiko Architekturen, die aktuelle Quellenberechtigungen erzwingen.
Herkunft über Übergaben hinweg bewahren
Wenn eine Antwort in einen allgemeinen Chatbot, ein Dokument, Ticket oder einen Entscheidungsworkflow wechselt, muss ihre Herkunft mitgehen. Fügen Sie Frage, Quellen-IDs und Versionen, stützende Passagen oder Links, Retrieval-Datum, generierte Antwort, Schlussfolgerungskennzeichnungen, offene Konflikte und Prüfstatus bei. Übertragen Sie nur den freigegebenen Quellenausschnitt, den das nächste Werkzeug benötigt.
Ohne dieses Paket kann eine sorgfältig gestützte Antwort zu einem nicht zugeordneten Absatz werden, den ein späteres Modell als Tatsache behandelt. Mit ihm kann die nächste prüfende Person Quelltext, generierte Zusammenfassung, Schlussfolgerung und freigegebene Entscheidung unterscheiden.
Wann mehr Kontrolle erforderlich ist
Wechseln Sie über Notebook oder Projekt hinaus, wenn gemessene Anforderungen es verlangen, zum Beispiel:
- die Bewertung zeigt sinkende Retrieval-Qualität bei verändertem Korpus;
- Quellen benötigen automatische Synchronisierung, Löschung oder Berechtigungsvererbung;
- Nutzer benötigen den Assistenten in einer Anwendung oder einem kontrollierten Kanal;
- Abfragen verlangen Metadatenfilter, hybride Suche, Reranking oder strukturiertes Retrieval;
- Anforderungen an Beobachtbarkeit, Audit, Region, Aufbewahrung oder Mandantentrennung übersteigen die Kontrollen des gehosteten Produkts;
- Nutzungs- und Wartungskosten rechtfertigen Entwicklungsverantwortung.
Dies sind Architekturanforderungen, keine Dokumentanzahlschwelle. Ein kleiner sensibler Korpus kann ein eigenes Zugriffsmodell brauchen, ein großer öffentlicher Korpus dagegen in einem verwalteten Dienst funktionieren.
Für ein konfigurierbares System kommen verwaltete Retrieval-Werkzeuge, Workflow-Plattformen und Frameworks wie LlamaIndex, LangChain oder Haystack infrage. Vergleichen Sie sie nach denselben Quellen-, Berechtigungs-, Bewertungs- und Betriebskriterien, nicht nach der Geschwindigkeit einer Demo.
Vollständige Kosten berücksichtigen
Zu den relevanten Kosten gehören Abonnement oder API, Speicher, Embeddings oder Indexierung, Aktualisierung, Bewertung, menschliche Prüfung, Vorfallbehandlung und Wartung. Gehostete Produkte können kostenlose oder gebündelte Nutzung mit tarifabhängigen Grenzen bieten. Eigene Systeme können Stückkosten abhängig von Skalierung und Betriebsdesign senken oder erhöhen.
Messen Sie Gesamtkosten an den Dokumentaufgaben, die der Assistent tatsächlich verbessert. Ein Pilot ist erfolgreich, wenn Antworten besser gestützt, leichter prüfbar und angemessen begrenzt sind, nicht nur wenn der Chat schneller wirkt.
Beginnen Sie mit einer engen Domäne, einem freigegebenen repräsentativen Quellenbestand und einer gekennzeichneten Bewertung. Erweitern Sie erst, wenn das System Retrieval-Qualität, Zitatunterstützung, Behandlung der geltenden Fassung, Berechtigungsdurchsetzung und sicheres Verhalten außerhalb des Umfangs nachweist. Diese Disziplin macht aus einem Dateiordner einen verantwortungsvoll nutzbaren Dokumentenassistenten.
