Ihr persönliches RAG-System: mit eigenen Dokumenten chatten — ganz ohne Code

RAG — Retrieval-Augmented Generation — ist der Fachbegriff für „Die KI beantwortet Fragen mithilfe meiner Dokumente“. 2024 war diese Fähigkeit noch weitgehend Entwicklern vorbehalten. 2026 gibt es hervorragende No-Code-Lösungen, die sich in 15 Minuten einrichten lassen und mit individuell entwickelten Systemen konkurrieren können.

Dieser Artikel zeigt drei No-Code-Wege zu einem persönlichen RAG-System, erklärt ihre jeweiligen Einsatzgebiete und beschreibt die Designentscheidungen, die einen nützlichen Assistenten von einem frustrierenden unterscheiden. Es geht nicht darum, „alles hochzuladen“, sondern einen klar abgegrenzten, quellengestützten Assistenten mit überprüfbaren Antworten zu schaffen.

Ein persönliches RAG-System ist nur so sicher wie die hochgeladenen Dokumente und der Dienst, der sie speichert. Laden Sie Verträge, Kundendaten, Personalakten, Quellcode oder regulierte Inhalte nur hoch, wenn das Werkzeug, das Konto, die Speichereinstellungen und Ihre Unternehmensrichtlinien dies ausdrücklich erlauben.

Was ein „persönliches RAG-System“ tatsächlich ist

Ein persönlicher RAG ist eine Chat-Schnittstelle, bei der:

1. Sie Ihre eigenen Dokumente hochladen (PDFs, Word-Dateien, Text, Webseiten, Transkripte).
2. Das System sie indiziert, damit sie durchsucht werden können.
3. Wenn Sie eine Frage stellen, ruft das System die relevantesten Abschnitte Ihrer Dokumente ab und übergibt sie zusammen mit Ihrer Frage an ein großes Sprachmodell.
4. Das große Sprachmodell erzeugt eine auf Ihren Dokumenten beruhende Antwort mit Quellenangaben.

Der Vorteil gegenüber reinem ChatGPT oder Claude: Das Modell verwendet Ihre spezifischen Dokumente, nicht seine Trainingsdaten. Dies bedeutet:

• Antworten sind quellenbasiert — jede Aussage lässt sich auf eine Quelle zurückführen.
• Das Modell kann Fragen zu Inhalten beantworten, die es zuvor nie gesehen hat, etwa internen Dokumenten, neuen Veröffentlichungen oder Nischenwissen.
• Bei Fragen innerhalb des definierten Umfangs sinkt das Halluzinationsrisiko erheblich.

Die Einschränkung: Alles, was nicht in den Dokumenten enthalten ist, liegt außerhalb des Umfangs. Das System sagt entweder „Diese Information liegt mir nicht vor“ oder greift — problematischer — auf Trainingswissen zurück und erfindet möglicherweise eine Antwort.

Drei No-Code-Wege

Für 90 % der persönlichen RAG-Nutzungsfälle im Jahr 2026 ist eine dieser drei Optionen die richtige Wahl:

Weg 1: NotebookLM (der einfachste)

Schon in unserem Einführungsartikel zu NotebookLM behandelt. Kurze Wiederholung:

• Erstellen Sie ein Notebook auf notebooklm.google.com.
• Laden Sie bis zu ~50 Quellen hoch (PDFs, Docs, Webseiten, YouTube, Audio).
• Chatten Sie mit dem Notebook — jede Antwort ist quellenbasiert und mit Zitaten versehen.
• Audio Overview erzeugt eine podcastähnliche Zusammenfassung.

Vorteile: Einfachste Einrichtung, beste Fundierung, zitierte Antworten, Audio-Übersicht ist tatsächlich nützlich.

Einschränkungen: Begrenzte Integrationen, keine automatische Synchronisierung und erneutes manuelles Einlesen nach Quellenänderungen. Begrenzte Quellenanzahl. Keine Einbettung in andere Werkzeuge.

Am besten geeignet für: persönliches Lernen, Dokumentenanalyse, Forschung und Projektwissen — überall dort, wo die Quellenmenge stabil ist.

Weg 2: Claude Projects (die flexibelste)

Mit Claude Projects erstellen Sie einen Arbeitsbereich mit:

• Benutzerdefinierte Anweisungen für das Verhalten des Projekts.
• Wissensdateien, auf die sich der Assistent beziehen kann.
• Alle Gespräche, die Sie innerhalb des Projekts führen.

Vorteile: Bessere Gesprächsqualität als NotebookLM (Claudes Schreibstärke), flexibleres Verhaltenskonfigurationsmodell, bequemer für laufende Arbeiten.

Einschränkungen: Weniger unterstützte Quellentypen — vor allem Text, PDF und Code. Keine native Webabfrage. Dokumentänderungen müssen erneut manuell eingelesen werden.

Am besten geeignet für: dauerhaft genutzte Projektwissensbasen, persönliche Forschung und domänenspezifische Assistenten für Recht, Technik oder internes Unternehmenswissen.

Weg 3: Eine Low-Code-RAG-Pipeline (die leistungsfähigste)

Eine individuelle Lösung mit einer No-Code-Workflow-Plattform wie n8n oder Make beziehungsweise einem Low-Code-Werkzeug wie Langflow oder Flowise. LangChain selbst ist ein Code-first-Framework und kein No-Code-Werkzeug; Langflow und Flowise bieten ähnliche Bausteine in einem visuellen Editor. In jedem Fall erstellen Sie die RAG-Pipeline selbst:

1. Ingestion: automatische Synchronisation aus Ihren Quellen (Google Drive, Notion, ein Ordner, eine Datenbank).
2. Chunking und Embeddings: Dokumente aufteilen und Vektor-Embeddings erzeugen.
3. Vektordatenbank: Pinecone, Qdrant, Weaviate oder selbst gehostetes Chroma.
4. Retrieval: Semantische Suche liefert relevante Abschnitte für jede Abfrage.
5. Generierung: Relevante Abschnitte und Abfrage werden an das große Sprachmodell übergeben.
6. Schnittstelle: Chat über n8ns Webhook + Frontend oder ein Tool wie Open WebUI.

Vorteile: Vollständige Kontrolle. Automatische Dokumentensynchronisation. Benutzerdefinierte Retrieval-Logik. Kann überall eingebettet werden.

Einschränkungen: Stunden statt Minuten zur Einrichtung. Laufende Wartung. Verständnis für Chunking, Embedding und Retrieval-Qualität erforderlich.

Am besten geeignet für: Wissensbasen von Teams oder Abteilungen, Kundensupport-Chats sowie Systeme mit häufig wechselnden Quellen oder Integrationen in andere Werkzeuge.

Entscheidung zwischen den drei Optionen

Eine Entscheidungsregel:

Wählen Sie NotebookLM, wenn: die Quellen stabil sind, Sie es in 15 Minuten laufen lassen möchten und der Anwendungsfall Studium oder Analyse ist (nicht in andere Workflows eingebettet).

Wählen Sie Claude Projects, wenn: Sie einen dauerhaften Assistenten für einen laufenden Bereich (z. B. „alle Themen im Zusammenhang mit unserer europäischen Steuerkonformität“) benötigen, Sie die Gesprächsqualität schätzen und Sie bereits ein Claude-Nutzer sind.

Wählen Sie eine individuelle n8n-/LangChain-Lösung, wenn: sich Quellen häufig ändern, eine automatische Synchronisierung nötig ist, der Chat in ein anderes Werkzeug oder eine Anwendung eingebettet werden soll oder Sie das System für ein Team entwickeln.

Ein RAG-System mit Claude Projects aufbauen

Da wir NotebookLM bereits separat behandelt haben, bauen wir nun ein RAG-System mit Claude Projects auf. Für die meisten fortgeschrittenen Nutzer ist dies der richtige Mittelweg.

Schritt 1: Erstellen Sie das Projekt. Auf claude.ai klicken Sie auf Projekte → Neues Projekt. Benennen Sie es nach dem Bereich (z. B. „EU Steuerkonformitätsassistent“).

Schritt 2: Schreiben Sie die Anweisungen. Hier entsteht der größte Mehrwert. Eine zuverlässige Vorlage:

You are a [domain] assistant for [your role/team]. Your job is to answer questions grounded in the documents I've uploaded as knowledge.

Always:
- Cite the specific document and section your answer comes from.
- Mark anything you are inferring with [my inference].
- Say "I don't have information about that" when the knowledge files don't cover the question — never invent or fall back to general knowledge unless I explicitly ask you to.

When I ask:
- A factual question: quote the specific passage.
- A how-to question: produce a step-by-step answer with references.
- A comparison: produce a table where helpful.
- An open-ended question: structure your answer with clear sections.

If documents contradict each other: surface the contradiction explicitly.

If a document is outdated (older than 2 years): mention this when citing.

Schritt 3: Laden Sie Dokumente hoch. Klicken Sie auf „Wissen hinzufügen“ und laden Sie Ihre PDFs, Word-Dokumente, Textdateien hoch. Ein paar Dutzend Dokumente funktionieren gut; mehr führt zu einer Verschlechterung der Qualität.

Einige Praktiken:

• Vorzugsweise saubere, textbasierte PDFs gegenüber gescannten.
• Sehr lange PDFs aufteilen, wenn sie mehrere Themen behandeln. Der Abruf funktioniert mit fokussierten Dokumenten besser.
• Aussagekräftige Dateinamen verwenden. „2026-04-tax-guidance-Estonia.pdf“ ist besser als „document1.pdf“. Claude kann den Kontext aus dem Dateinamen nutzen.
• Duplikate vermeiden. Drei Versionen desselben Dokuments verschlechtern den Abruf.

Führen Sie vor dem Hochladen eine kurze Quellenprüfung durch:

1. Wer besitzt dieses Dokument?
2. Enthält es personenbezogene Daten, Kundendaten, Anmeldeinformationen, Verträge, Gesundheitsdaten oder vertrauliche Preise?
3. Ist es aktuell genug, um Antworten darauf zu stützen?
4. Ist es maßgeblich oder lediglich ein grober Hinweis beziehungsweise Meinungsbeitrag?
5. Gehört diese Quelle wegen einer anderen Zielgruppe oder abweichender Berechtigungen in ein separates RAG-System?

Die in diesem Artikel verlinkte Vorlage zur Quellenprüfung enthält eine einfache Tabelle für diesen Zweck.

Halten Sie den Berechtigungsrahmen explizit

Ein persönliches RAG-System scheitert oft organisatorisch, bevor es technisch scheitert. Der Abruf kann präzise sein, während die falsche Person dennoch eine unzulässige Quelle sieht. Grenzen Sie jedes System nach Zielgruppe und Berechtigung ab:

Wenn zwei Zielgruppen nicht dieselben Quellen sehen dürfen, dürfen sie auch nicht dasselbe RAG-System nutzen. In einem No-Code-Werkzeug ist die Trennung nach Projekt oder Notebook meist das einfachste Berechtigungsmodell.

Schritt 4: Testen. Stellen Sie eine Frage, deren Antwort Sie kennen. Überprüfen Sie, ob die Antwort auf der richtigen Quelle basiert und sie zitiert. Wenn nicht, verfeinern Sie die Anweisungen oder die Dokumente.

Schritt 5: Verwenden. Jedes in diesem Projekt gestartete Gespräch nutzt die Dokumente als Grundlage. Die Gespräche bleiben im Projekt gespeichert und können später fortgesetzt werden.

Beispielfall: Ein persönlicher Assistent für rechtliche Fragen

Angenommen, Sie möchten ein persönliches RAG-System für Fragen zum estnischen Arbeitsrecht, zur DSGVO und zur allgemeinen Unternehmens-Compliance erstellen.

Quellen:

• Offizielles estnisches Arbeitsvertragsgesetz (PDF aus dem Riigi Teataja).
• Vollständiger Text der DSGVO (PDF aus EUR-Lex).
• Leitlinien des ICO und des estnischen Datenschutzinspekteurs.
• Ihre früheren Verträge und Richtlinien.
• Einige hochwertige rechtliche Blogbeiträge, die gängige Probleme zusammenfassen.

Anweisungen (im Projekt):

You are a legal-compliance assistant for a 50-person Estonian B2B SaaS company. Your job is to answer questions grounded in Estonian employment law, GDPR, and our internal policies.

Always:
- Cite the specific article, section, or document you're referencing.
- Mark anything you are inferring or extrapolating with [my inference].
- For GDPR questions, distinguish between hard requirements and best practices.
- For Estonian-specific employment questions, default to Estonian law unless I ask about another jurisdiction.

Always end with:
"This is informational, not legal advice. For binding interpretations, consult a qualified Estonian employment lawyer."

If a question would benefit from a lawyer's review: say so explicitly.

Damit verfügen Sie über einen persönlichen Assistenten, der Fragen zu Arbeitsrecht und DSGVO anhand der tatsächlichen Quelldokumente beantwortet. Er ersetzt keinen Anwalt, ist bei den 80 % der Fragen mit eindeutigen Antworten in den Quellen aber erheblich schneller als eine manuelle Suche in den Vorschriften.

Häufige Fallstricke und wie Sie sie vermeiden

Einige typische Fallstricke persönlicher RAG-Systeme:

Fallstrick 1: Veraltete Dokumente. Sie haben die Fassung einer Regelung von 2023 hochgeladen, obwohl sie 2026 geändert wurde. Das RAG-System antwortet pflichtgetreu anhand des veralteten Materials.

Lösung: Verwenden Sie Datumsangaben in Dateinamen und prüfen beziehungsweise ersetzen Sie Quellen regelmäßig. Erwägen Sie bei häufig aktualisierten Quellen eine RAG-Pipeline mit automatischer Synchronisierung.

Fallstrick 2: Minderwertige Quellen. Sie haben SEO-Spam hochgeladen, der maßgeblich wirkt, aber Fehler enthält. Das RAG-System übernimmt diese Fehler.

Lösung: Quellen rigoros kuratieren. Drei hervorragende Quellen sind besser als zehn mittelmäßige. Überprüfen Sie die Glaubwürdigkeit jeder Quelle vor dem Hochladen.

Fallstrick 3: Schleichende Ausweitung des Umfangs. Das System war für „estnisches Arbeitsrecht“ gedacht, enthält inzwischen aber allgemeine HR-Artikel, Verhandlungstipps und Vertragsvorlagen. Dadurch sinkt die Abrufqualität, und Antworten vermischen Rechtsquellen mit Meinungsbeiträgen.

Lösung: Ein Projekt pro Umfang. Erstellen Sie separate Projekte für separate Bereiche.

Fallstrick 4: Fragen außerhalb des Korpus. Nutzer stellen Fragen, die die Dokumente nicht abdecken. Das Modell greift auf Trainingswissen zurück und erfindet Antworten.

Lösung: Starke Anweisungen („nie erfinden — sagen Sie, dass Sie diese Information nicht haben“). Testen Sie Randfälle. Überlegen Sie, das Modell so einzustellen, dass es nicht auf allgemeines Wissen zurückgreift.

Fallstrick 5: Chunking ist auch bei No-Code wichtig. Moderne No-Code-Werkzeuge übernehmen das Chunking automatisch. Bei ungewöhnlich formatierten Dokumenten mit Tabellen, Spalten oder Codeblöcken sinkt dennoch die Abrufqualität.

Lösung: Wo möglich vorverarbeiten. Konvertieren Sie komplexe PDFs in sauberen Markdown, bevor Sie sie hochladen. Teilen Sie sehr lange Dokumente in fokussierte Abschnitte auf.

Testen Sie Ablehnungen, nicht nur erfolgreiche Abrufe

Die meisten Menschen testen ein RAG-System mit Fragen, die ihre Quellen sicher beantworten. Das prüft nur den Erfolgsfall. Testen Sie auch Fragen, die der Korpus nicht beantworten darf.

Diese Tests unterscheiden einen einfachen Dokumentenhelfer von einem zuverlässigen, dokumentengestützten Antwortsystem.

Jenseits von No-Code: Wann Sie aufrüsten sollten

Irgendwann erreicht ein No-Code-RAG seine Grenzen und muss durch eine leistungsfähigere Lösung ersetzt werden. Typische Auslöser:

Quellenvolumen. Sie haben 500+ Dokumente und die Qualität verschlechtert sich mit den grundlegenden Upload-Mechanismen.

Automatische Synchronisierung. Ihre Dokumente ändern sich ständig — Notion-Seiten, Google Docs, Slack-Nachrichten oder interne Wikis — und ein manuelles erneutes Einlesen ist nicht dauerhaft praktikabel.

Einbetteter Chat. Sie möchten, dass Nutzer den RAG innerhalb Ihrer App, Ihrem Slack oder Ihrer Website nutzen — nicht in der UI von Claude.

Spezifische Abrufanforderungen. Sie müssen Ergebnisse nach Metadaten wie Abteilung, Dokumenttyp oder Datum filtern, hybride Suche aus Semantik und Schlüsselwörtern einsetzen oder Ergebnisse neu gewichten.

Kostenoptimierung. Ihre Nutzung ist so hoch, dass die Kontrolle der Tokenkosten wichtig wird.

Für alle diese Fälle benötigen Sie einen benutzerdefinierten RAG. Der nächste Schritt ist entweder:

• n8n mit Vektordatenbank-Nodes. No-Code mit erheblicher Kontrolle.
• LangChain, LlamaIndex oder Haystack. Python-Bibliotheken mit echter Programmierung, aber guter Dokumentation.
• Ein gehosteter RAG-Dienst (Vectara, Unstructured, Ragie, Pinecones RAG-as-a-Service). Weniger Kontrolle, weniger Arbeit.

Ein eigener Artikel behandelt RAG-Systeme für den Produktivbetrieb. Erkennen Sie zunächst den Schwellenwert und migrieren Sie, sobald Sie ihn erreichen.

Gewohnheiten, die langfristig helfen

Einige Gewohnheiten, die ein persönliches RAG-System langfristig nützlicher machen:

Kuratieren statt abladen. Es ist verlockend, alles hochzuladen. Doch mehr ist nicht automatisch besser — bessere Quellen sind besser. Drei hervorragende Quellen beantworten viele Fragen zuverlässiger als 50 mittelmäßige.

Dokumentieren Sie den Umfang. Halten Sie fest, wofür das RAG-System vorgesehen ist und was außerhalb liegt. Halten Sie diese Grenze ein und erweitern Sie sie nicht unüberlegt.

Erstellen Sie kleine, getrennte RAG-Systeme für unterschiedliche Bereiche. Eines für „persönliche Rechtsfragen“, eines für „Produktwissen meines Unternehmens“ und eines für „Materialien meines Aufbaustudiums“. Ein engerer Umfang führt zu besseren Antworten.

Testen Sie regelmäßig erneut. Stellen Sie dem System einmal monatlich fünf Fragen aus Ihrem ursprünglichen Testbestand. So erkennen Sie Qualitätsverluste durch neue Dokumente oder Modelländerungen und können nachbessern.

Kombinieren Sie mit allgemeiner KI. Bei Fragen, die sowohl den RAG-Umfang als auch breiteres Wissen betreffen, erzeugen Sie zunächst den quellengestützten Teil und übergeben ihn anschließend mit weiterem Kontext an eine allgemeine KI. So entsteht ein Workflow mit mehreren Werkzeugen.

Ein Hinweis zu Kosten

NotebookLM ist innerhalb großzügiger Grenzen kostenlos. Claude Projects setzt ein Claude-Pro- oder Max-Abonnement für etwa 20–200 US-Dollar pro Monat voraus. Eine individuelle n8n-/Vektordatenbank-Lösung kostet je nach Volumen 10–100 US-Dollar monatlich, zuzüglich Ihrer Zeit für Aufbau und Wartung.

Für die meisten Einzelnutzer entsprechen die Kosten eines persönlichen RAG-Systems im Wesentlichen dem KI-Abonnement plus geringen Zusatzkosten für Speicher und API-Nutzung. Den größten Nutzen bietet es bei wiederkehrenden Fragen, deren Antworten in einem bekannten Dokumentbestand liegen.

Welche Einrichtung zu wählen

Ein persönliches RAG-System ist 2026 nicht mehr Entwicklern vorbehalten. NotebookLM liefert in 15 Minuten ein funktionierendes System, Claude Projects in 30 Minuten einen flexibleren Assistenten und eine individuelle n8n-Lösung innerhalb weniger Stunden vollständige Kontrolle.

Wählen Sie die passende Lösung für Ihren Anwendungsfall. Kuratieren Sie Quellen sorgfältig, optimieren Sie die Anweisungen und testen Sie sowohl Abruf als auch Ablehnung. Innerhalb einer Woche können Sie viele manuelle Dokumentensuchen durch zitierte, überprüfbare Antworten ersetzen.

Wählen Sie einen Bereich, in dem Sie regelmäßig Informationen in Dokumenten nachschlagen. Richten Sie das System noch diese Woche ein und bewerten Sie, ob die Antworten quellenbasiert, zitiert, aktuell und sicher innerhalb des definierten Umfangs bleiben.