KI mit eigenen Daten: Antworten aus deinem Firmenwissen, mit Quelle.

Ja, auf zwei Wegen. Für dich allein kannst du Dateien in ChatGPT oder Claude hochladen, etwa in einem Projekt oder einem eigenen GPT. Für ein paar Dokumente reicht das. Achte bei Firmendaten auf deinen Tarif: Bei privaten Tarifen können Eingaben zum Training genutzt werden, wenn du es nicht abschaltest.

Für ein Team mit vielen Dokumenten baue ich einen Assistenten, der deine Ablage direkt durchsucht, mit Quelle, Rechten je Person und immer auf dem aktuellen Stand.

Fast nie. Die KI muss deine Daten nicht lernen, sie muss sie finden. Bei jeder Frage sucht das System die passenden Stellen in deinen Dokumenten heraus, und das Modell antwortet daraus. Das ist schneller, günstiger und leichter aktuell zu halten als ein eigenes Training, und jede Antwort kommt mit Quelle.

RAG steht für Retrieval-Augmented Generation, auf Deutsch etwa: Antworten mit Nachschlagen. Statt aus dem Gedächtnis zu antworten, bekommt die KI zu jeder Frage die passenden Stellen aus deinen Dokumenten und antwortet daraus.

Wie eine Kollegin, die erst im Ordner nachsieht, bevor sie antwortet, und dir die Seite zeigt, auf der es steht.

Wenn die KI eine Form lernen soll, kein Wissen: einen festen Aufbau für Berichte, eure Fachsprache, einen bestimmten Ton. Dafür braucht es viele gute Beispiele, oft Hunderte.

Für Wissen, das sich ändert, ist es der falsche Weg. Ein trainiertes Modell nennt keine Quelle, kann Fakten durcheinanderbringen, und jede Änderung heißt neu trainieren. Manchmal ist die Kombination am besten: ein angepasstes Modell, das trotzdem nachschlägt.

Ja. Offene Modelle laufen auch auf einem eigenen Server, in deinem Büro oder bei einem Hoster deiner Wahl. Läuft er bei dir, verlassen deine Daten dein Haus nicht.

Lokale Modelle reichen für viele Wissensfragen, brauchen aber passende Hardware und sind bei schwierigen Aufgaben schwächer als die großen Modelle in der Cloud. Ob es für deine Fragen reicht, teste ich vorher.

Mit den meisten: PDFs, Word und Excel, E-Mails, Wiki-Seiten, Tickets. Gescannte Unterlagen werden vorher per Texterkennung lesbar gemacht.

Tabellen und Datenbanken durchsucht die KI besser nicht als Text. Dort fragt sie gezielt ab, etwa „alle offenen Aufträge von Kunde X“, und bekommt genaue Zahlen statt ungefährer Treffer.

Ich nutze Anbieter und Verträge, bei denen deine Daten nicht zum Training verwendet werden, wo möglich mit Servern in der EU. Für sensible Daten gibt es lokale Modelle auf deinem eigenen Server.

Dazu gelten die Rechte aus deiner Ablage: Wer ein Dokument nicht öffnen darf, bekommt auch keine Antwort daraus.

Der Chatbot spricht mit deinen Kunden und kennt nur, was öffentlich sein darf. Der Wissens-Assistent ist für dein Team und darf auch interne Unterlagen kennen, mit Rechten je Person. Beides lässt sich auf denselben Dokumenten aufbauen.