In fast jedem Unternehmen existiert das Wissen, das im Arbeitsalltag gebraucht wird, bereits. Es steht in Handbüchern, Richtlinien, Angeboten, Projektunterlagen und Prozessbeschreibungen. Das Problem ist selten, dass Informationen fehlen. Das Problem ist, dass sie über Laufwerke, Postfächer und Systeme verstreut sind und im entscheidenden Moment niemand weiß, in welchem Dokument die Antwort steht.
Genau an dieser Stelle setzen Corporate-LLM-Setups an: ein Sprachmodell, das nicht allgemein aus dem Internet antwortet, sondern gezielt aus den Unterlagen des Unternehmens. Statt einer Trefferliste bekommen Mitarbeitende eine Antwort auf ihre konkrete Frage, mit Verweis auf die Quelle, aus der sie stammt.
Der Unterschied zwischen Ablage und Zugriff
Klassische Dokumentenmanagement-Systeme lösen die Ablage. Sie lösen aber nicht den Zugriff im Arbeitsfluss. Wer wissen will, welche Regelung für einen bestimmten Kundenfall gilt, sucht nicht nach einem Dateinamen, sondern hat eine Frage. Ein gut aufgesetztes Firmen-LLM übersetzt diese Frage in die passende Stelle im Dokument und formuliert die Antwort so, dass sie ohne Vorwissen verständlich ist.
Der Nutzen zeigt sich vor allem bei wiederkehrenden Fragen: Welche Fristen gelten, wie läuft ein bestimmter Prozess ab, was wurde im letzten vergleichbaren Projekt vereinbart. Das sind die Fragen, die heute per Zuruf oder Rückfrage bei erfahrenen Kolleginnen und Kollegen geklärt werden, und die deren Zeit binden.
Warum der Betriebsort über die Machbarkeit entscheidet
Sobald interne Dokumente ins Spiel kommen, wird die Frage nach dem Betriebsort zur zentralen Weiche. Handbücher enthalten Betriebsinterna, Projektunterlagen enthalten Kundendaten, Personalrichtlinien enthalten personenbezogene Informationen. Wer solche Inhalte in einen öffentlichen Dienst gibt, dessen Nutzungsbedingungen die Weiterverwendung erlauben, hat kein Wissensproblem mehr, sondern ein Datenschutzproblem.
Deshalb gehören Firmen-LLMs in eine kontrollierte Umgebung, im eigenen Rechenzentrum oder in einer abgeschotteten Instanz. Das ist keine ideologische Frage, sondern eine praktische: Nur so lässt sich verlässlich beantworten, wo die Daten liegen, wer darauf zugreift und was mit den Eingaben geschieht.
Rechte mitdenken, sonst wird es unangenehm
Ein Punkt, der bei der Planung gerne unterschätzt wird: Ein Sprachmodell, das alle Dokumente kennt, kennt auch die, die nicht jeder sehen darf. Gehaltslisten, Kündigungsentwürfe, Vertragsverhandlungen. Ohne ein Berechtigungskonzept, das die vorhandenen Zugriffsrechte übernimmt, wird aus dem Wissenswerkzeug schnell ein Leck.
Praktisch bedeutet das: Die Rechte aus den Quellsystemen müssen bis in die Antwort durchgereicht werden. Wer ein Dokument nicht öffnen darf, darf auch keine Antwort daraus bekommen. Das ist technisch lösbar, muss aber von Anfang an Teil des Konzepts sein und lässt sich schlecht nachrüsten.
Klein anfangen schlägt großes Konzept
Erfolgreiche Projekte beginnen selten mit dem Versuch, das gesamte Unternehmenswissen auf einmal zu erschließen. Sie beginnen mit einem klar umrissenen Bereich, in dem viele gleichartige Fragen anfallen: der Support, die Einarbeitung neuer Mitarbeitender, ein bestimmtes Regelwerk.
In diesem Rahmen lässt sich schnell messen, ob die Antworten stimmen und ob sie im Alltag wirklich genutzt werden. Erst wenn das steht, lohnt sich die Ausweitung. Der Aufwand liegt ohnehin weniger im Modell als in der Vorarbeit: veraltete Dokumente aussortieren, Dubletten bereinigen, Zuständigkeiten klären. Diese Arbeit zahlt sich unabhängig von jeder KI aus.