KI-Wissensdatenbank erstellen: Mit deinen eigenen Dokumenten

Ein Kollege fragt dich nach den Regeln für Rückerstattungen. Schon wieder. Du weißt, dass sie irgendwo stehen: in einem gemeinsamen Ordner, einer alten E-Mail oder einem Dokument, das seit dem Frühjahr niemand mehr geöffnet hat. Also suchst du zehn Minuten. Oder du antwortest einfach aus dem Gedächtnis und hoffst, dass es noch stimmt.

Die kurze Antwort: Eine KI-Wissensdatenbank besteht aus deinen eigenen Dokumenten. Ein KI-Assistent beantwortet Fragen anhand dieser Dokumente statt mit Informationen aus dem offenen Internet. Dafür musst du keine Software entwickeln. Lade deine Dokumente in ein Claude-Projekt oder einen Gemini Gem hoch. Gib dem Assistenten vor, nur daraus zu antworten, und teste ihn mit zehn echten Fragen. Das ist die ganze Methode. Die einzelnen Schritte findest du unten.

Was eine KI-Wissensdatenbank eigentlich ist

Ohne Fachbegriffe sind es drei Dinge: deine Dokumente, ein Assistent, der sie liest, und eine Regel: „Nutze nur diese Dokumente.“ Die Regel ist am wichtigsten. Ohne sie füllt der Assistent Lücken mit Vermutungen, die überzeugend klingen. Mit ihr bekommst du eine Antwort aus deinen eigenen Texten oder ein ehrliches „nicht gefunden“.

Das ist etwas anderes, als einem Chatbot eine allgemeine Frage zu stellen. Wenn du zuerst sehen möchtest, wie aus einem einzelnen Dokument eine verständliche Zusammenfassung wird, findest du diesen Schritt in unserer Anleitung zum Zusammenfassen langer Dokumente mit ChatGPT.

Schritt 1: Wähle EINEN Bereich, nicht das ganze Unternehmen

Der Fehler, an dem die meisten Versuche scheitern: mit allem gleichzeitig anzufangen. Wähle einen Bereich, in dem jede Woche dieselben Fragen auftauchen. Für den Einstieg eignen sich:

• Fragen neuer Kollegen beim Onboarding
• Preise, Rückerstattungen und Standardantworten für Kunden
• Der Ablauf eines wiederkehrenden Prozesses, etwa eines Auftaktgesprächs mit Kunden

Zehn bis fünfzehn Dokumente reichen für eine erste Version völlig aus. Wenn du deine Abläufe noch nicht schriftlich festgehalten hast, fang damit an. Unsere Anleitung zum Erstellen von Arbeitsanweisungen mit KI führt dich Schritt für Schritt durch den Prozess. Der Beitrag KI für das Mitarbeiter-Onboarding zeigt, wie gute Unterlagen für die Einarbeitung aussehen.

Schritt 2: Überarbeite die Dokumente vor dem Hochladen

Der Assistent ist nur so gut wie die Unterlagen, die du ihm gibst. Erledige vor dem Hochladen kurz diese vier Dinge:

1. Lösche oder korrigiere alles, was veraltet ist. Zwei Versionen der Rückerstattungsregeln führen zu zwei unterschiedlichen Antworten.
2. Gib jeder Datei einen eindeutigen Namen, etwa „Rückerstattungsregeln, aktualisiert im März“ statt „final_v3“.
3. Entferne, was nicht hineingehört. Gehälter, Passwörter, personenbezogene Daten und vertrauliche Kundendetails gehören nur dann in ein KI-Tool, wenn deine Unternehmensrichtlinien das erlauben. Wenn du unsicher bist, frag zuerst nach.
4. Nutze lieber Text als Screenshots. Eine gescannte Seite oder ein Foto von einem Whiteboard ist für den Assistenten schwer zu lesen.

Auch beim Überarbeiten kann dir die KI helfen. Füge ein Dokument ein und nutze diesen Prompt:

Lies das folgende Dokument. Fasse es in einem Absatz zusammen. Liste dann die 5 Fragen auf, die ein neuer Kollege dazu am ehesten stellen würde. Gib zu jeder Frage eine kurze Antwort, die ausschließlich aus dem Text stammt. Markiere alles, was veraltet oder unklar wirkt.

[Dokument einfügen]

Besonders nützlich ist die Aufforderung, Veraltetes zu markieren. Sie macht oft auf Widersprüche aufmerksam, die dir selbst nicht mehr aufgefallen sind.

Schritt 3: Entscheide, wo du die Wissensdatenbank anlegst

Du hast zwei einfache Möglichkeiten, die du kostenlos ausprobieren kannst.

Claude Projects

Anthropic beschreibt Projects als eigenständige Arbeitsbereiche mit eigenen Chatverläufen und Wissensdatenbanken. Du lädst Dokumente hoch und hinterlegst Anweisungen. Jeder Chat innerhalb des Projekts kann darauf zugreifen. Laut dieser Hilfeseite stehen Projects allen Nutzern zur Verfügung, auch mit einem kostenlosen Konto. Bei kostenlosen Konten ist allerdings begrenzt, wie viele Projekte du erstellen kannst. Für einen ersten Test reicht das. Ich würde hier anfangen, wenn deine Dokumente lang sind, zum Beispiel Handbücher oder Verträge. Unsere Anleitung zu Claude im Arbeitsalltag zeigt dir die weiteren Einrichtungsschritte.

Gemini Gems

Google nennt seine Variante Gems: angepasste Versionen von Gemini, die du mit eigenen Anweisungen und Dateien einrichtest. Wenn dein Team ohnehin mit Google Docs und Drive arbeitet, bleibt so alles an einem Ort. Welche Funktionen dir zur Verfügung stehen, hängt von deinem Tarif ab. Prüfe deshalb auf Googles Hilfeseite, was für dein Konto gilt. Mehr dazu findest du in unserer Anleitung zu Gemini im Arbeitsalltag.

ChatGPT bietet mit Projects eine ähnliche Funktion für Arbeitsbereiche. Verfügbarkeit und Dateilimits hängen von deinem Tarif ab. Schau deshalb in deinem eigenen Konto nach, bevor du damit planst.

Schritt 4: Formuliere die Anweisung, mit der der Assistent bei den Fakten bleibt

Dieser Schritt macht aus einem Chatbot eine Wissensdatenbank. Füge den folgenden Text in die Projektanweisungen oder die Anweisungen des Gems ein. Passe die erste Zeile an dein Team an:

Du bist der Wissensdatenbank-Assistent für mein Team.
Antworte ausschließlich anhand der Dokumente in diesem Projekt.
Wenn die Antwort nicht in den Dokumenten steht, sage „Das finde ich nicht in unseren Dokumenten“ und nenne das Dokument, das thematisch am nächsten liegt.
Nenne am Ende jeder Antwort den Namen des Dokuments, aus dem sie stammt.

Die Quellenangabe in jeder Antwort ist kein nettes Extra. Wer die Frage stellt, kann damit das Dokument öffnen und die Antwort prüfen. So entsteht Vertrauen in das Tool.

Schritt 5: Teste die Wissensdatenbank mit zehn echten Fragen

Kündige noch nichts an. Schreibe zehn Fragen auf, die dein Team tatsächlich stellt. Nimm auch zwei oder drei Fragen auf, deren Antwort NICHT in den Dokumenten steht. Stelle sie dann einzeln und bewerte jede Antwort:

• Richtig und mit Quelle: gut.
• Richtig, aber ohne Quelle: formuliere die Anweisung strenger.
• Falsch oder erfunden: finde heraus, woran es liegt. Meist widersprechen sich zwei Dokumente, oder die Antwort steckt in einer gescannten Datei.
• Nicht in den Dokumenten, und der Assistent sagt das auch: genau so soll er reagieren.

Wenn der Assistent bei Fragen, deren Antwort nicht in den Dokumenten steht, falsch reagiert, ist das ein Zeichen dafür, dass er rät. Formuliere die Anweisung strenger, überarbeite die Dateien und teste erneut. Erst wenn er bei den meisten der zehn Fragen richtig reagiert, solltest du ihn einem Kollegen zeigen. Auch dann gilt: Behandle Antworten zu rechtlichen, finanziellen oder sicherheitsrelevanten Themen als Hinweis auf das Dokument, nicht als abschließende Entscheidung.

Halte die Wissensdatenbank aktuell: eine Routine von zehn Minuten

Eine Wissensdatenbank veraltet genauso wie ein gemeinsamer Ordner. Lege einen festen Tag im Monat fest. Ersetze die Dokumente, die sich geändert haben, und ergänze eine neue Frage, die im Alltag aufgetaucht ist. Führe außerdem eine kurze Liste mit Fragen, die der Assistent nicht beantworten konnte. Diese Liste zeigt dir, welches Dokument fehlt. Es zu schreiben bringt meist mehr, als noch mehr KI einzusetzen.

Wann das nicht ausreicht

Ein Projekt oder Gem eignet sich gut für ein kleines Team und eine überschaubare Zahl von Dokumenten. Soll die Wissensdatenbank Kunden auf deiner Website antworten oder auf Hunderte laufend aktualisierte Dokumente zugreifen, ist das eine andere Aufgabe. Für den Einsatz im Kundenservice lies zuerst unseren Beitrag KI-Chatbot für den Kundenservice. Lege klar fest, was der Bot versprechen darf und was nicht.

Fang diese Woche klein an

Wähle einen Bereich, stelle zehn überarbeitete Dokumente zusammen und mache den Test mit zehn Fragen. Wenn es klappt, sparst du dir die nächste Nachricht mit der Frage „Wo steht das?“. Wenn nicht, weißt du, welche Dokumente du verbessern solltest. Das bringt dich in jedem Fall weiter. Wenn du einen kostenlosen Einstieg suchst, um KI so in deinem Arbeitsalltag zu nutzen, melde dich unten bei Launchpad an.

Wenn du noch überlegst, welchen Assistenten du dafür nutzen möchtest: Unser Vergleich Claude vs Gemini 2026 zeigt dir, wie du beide mit deinen echten Arbeitsaufgaben testest.