KI-Assistent mit Firmenwissen: So funktioniert er im Unternehmen
Ein KI-Assistent mit Firmenwissen sucht zu jeder Frage zuerst die passenden Stellen in den Unterlagen des Unternehmens und formuliert daraus eine Antwort mit Quellenangabe. Das Sprachmodell wird dafür nicht neu trainiert, es bekommt die Textstellen erst im Moment der Frage vorgelegt. Wie gut das gelingt, hängt vor allem von der Ordnung in der Ablage ab.
Kurz gesagt
- Der Assistent schlägt bei jeder Frage in den hinterlegten Dokumenten nach und nennt, woher die Antwort stammt.
- Gepflegte Anleitungen, Regelungen und Leistungsbeschreibungen eignen sich gut, Zahlenkolonnen und alte Doppelfassungen schlecht.
- Zugriffsrechte gelten auch für den Assistenten: Wer einen Ordner nicht öffnen darf, bekommt daraus keine Antwort.
- Auskünfte an Kunden und alles Verbindliche prüft weiterhin ein Mensch.
Was eine allgemeine Chat-KI über deinen Betrieb nicht weiß
Eine allgemeine Chat-KI hat aus sehr vielen öffentlichen Texten gelernt. Die Rückgaberegeln für Sonderanfertigungen, die aktuelle Reisekostenregelung oder die Einstellwerte einer bestimmten Maschine stehen dort nicht. Fragt jemand trotzdem danach, kommt eine allgemeine Antwort oder eine erfundene.
Das Wissen ist im Betrieb vorhanden, nur verteilt: in Ordnern, Handbüchern, Postfächern und im Kopf der Kollegin, die seit zwanzig Jahren da ist. Ein Assistent mit Firmenwissen macht den schriftlichen Teil davon befragbar.
In vier Schritten von der Frage zur Antwort
- Einlesen. Die ausgewählten Dokumente werden in kurze Abschnitte zerlegt und in einem Suchindex abgelegt.
- Suchen. Zu jeder Frage findet das System die Abschnitte, die inhaltlich passen, auch wenn andere Wörter verwendet werden als im Dokument.
- Formulieren. Das Sprachmodell erhält die Frage, die gefundenen Abschnitte und die Anweisung, nur daraus zu antworten.
- Belegen. Die Antwort nennt das Dokument, aus dem sie stammt. Findet sich nichts, sagt der Assistent genau das.
Ein Beispiel: Ein Monteur fragt, in welchem Abstand die Filter einer Lüftungsanlage getauscht werden. Das System findet den passenden Abschnitt in der Wartungsanleitung. Das Sprachmodell formuliert daraus zwei Sätze und setzt den Namen der Datei darunter.
Fachleute nennen dieses Vorgehen Retrieval-Augmented Generation, kurz RAG: erst nachschlagen, dann formulieren.
Der Assistent lernt die Unterlagen nicht auswendig. Er schlägt jedes Mal neu nach. Wird ein Dokument ersetzt, gilt nach dem nächsten Abgleich die neue Fassung.
Allgemeine Chat-KI und Assistent mit Firmenwissen im Vergleich
| Merkmal | Allgemeine Chat-KI | Assistent mit Firmenwissen |
|---|---|---|
| Grundlage der Antwort | Öffentliches Trainingswissen | Ausgewählte Unterlagen des Betriebs |
| Fragen zum eigenen Betrieb | Rät oder bleibt allgemein | Antwortet aus den Dokumenten |
| Quellenangabe | Meist keine | Verweis auf das Dokument |
| Zugriffsrechte | Spielen keine Rolle | Richten sich nach der Ablage |
| Einrichtung | Ein Zugang genügt | Auswahl der Quellen, Aufbau und Tests |
| Laufende Pflege | Keine | Unterlagen aktuell halten |
Für allgemeine Texte, Ideen und Formulierungen reicht die allgemeine Chat-KI. Sobald Antworten auf eigenen Regeln, Leistungen oder Anleitungen beruhen sollen, braucht es die Anbindung an die Unterlagen. Sie lohnt sich für Betriebe, in denen dieselben Fragen immer wieder bei denselben Personen landen.
Welche Unterlagen sich eignen und welche nicht
Die Qualität der Antworten folgt der Qualität der Dokumente. Gut geeignet sind Texte, die eine Frage in ganzen Sätzen beantworten:
- Arbeitsanweisungen, Checklisten und Handbücher
- Montage- und Wartungsanleitungen
- Betriebliche Regelungen, etwa zu Urlaub, Reisekosten oder Reklamationen
- Leistungsbeschreibungen und häufige Kundenfragen mit Antwort
Schwierig wird es bei diesen Quellen:
- Gescannte Seiten ohne Texterkennung
- Große Tabellen mit Preisen oder Lagerbeständen. Dafür ist eine direkte Abfrage der Datenbank zuverlässiger.
- Mehrere Fassungen desselben Dokuments, von denen nur eine gilt
- Zeichnungen und Pläne, deren Inhalt nicht als Text vorliegt
Deshalb beginnt jedes Projekt mit Aussortieren. Zwanzig gepflegte Anleitungen bringen mehr als ein Archiv, in dem drei Jahrgänge derselben Preisliste liegen.
Wer darf was sehen? Rechte gelten auch für den Assistenten
Ein Assistent, der alles lesen kann, beantwortet auch Fragen zu Gehältern und Abmahnungen. Deshalb richtet sich sein Zugriff nach den Rechten der Person, die fragt. Personal, Buchhaltung und Geschäftsführung bekommen getrennte Bereiche oder bleiben ganz außen vor.
Liegt die Ablage in SharePoint, bilden die dort vergebenen Rechte die Grundlage. Oft zeigt sich bei der Vorbereitung, dass Ordner großzügiger freigegeben sind als gedacht. Das Aufräumen der Benutzer und Berechtigungen und der Ablage in Microsoft 365 gehört dann zum Projekt.
Grenzen, die auch saubere Technik nicht aufhebt
- Was nirgends aufgeschrieben ist, kann der Assistent nicht wissen.
- Eine veraltete Anleitung liefert eine veraltete Antwort, sauber formuliert.
- Auswertungen über viele Dokumente gelingen schlecht. „Wie viele Reklamationen gab es im Frühjahr?“ ist eine Frage für eine Datenbank.
- Auch mit Quelle kann eine Textstelle falsch gedeutet sein. Bei wichtigen Auskünften wird das Dokument geöffnet.
Nach außen geht deshalb nichts ungeprüft. Der Assistent liefert die Fundstelle und einen Vorschlag, die Auskunft gibt eine Person.
So beginnt ein Betrieb mit dem ersten Wissens-Assistenten
- Einen Bereich wählen, in dem viele Rückfragen entstehen, etwa Innendienst oder Einarbeitung.
- Die gültigen Unterlagen dafür zusammenstellen und alte Fassungen entfernen.
- Zwanzig bis dreißig echte Fragen aus dem Alltag sammeln und als Test verwenden.
- Eine kleine Gruppe arbeitet damit und meldet falsche oder fehlende Antworten.
- Eine Person benennen, die die Unterlagen aktuell hält.
Wie wir Quellen, Rechte und Tests aufbauen, steht auf der Seite zu KI-Assistenten für den Arbeitsalltag.
