KI-Server für Unternehmen: Was die Hardware leisten muss
Ein KI-Server muss ein Sprachmodell so schnell rechnen, dass alle, die gleichzeitig damit arbeiten, zügig eine Antwort bekommen. Den Ausschlag geben dafür die Grafikkarte und ihr eigener Speicher, weniger der Prozessor. Wie groß das Gerät sein muss, ergibt sich aus den Aufgaben, der Zahl der Nutzer und der Länge der Texte.
Kurz gesagt
- Die Grafikkarte rechnet das Sprachmodell. Ihr Speicher entscheidet, welches Modell überhaupt hineinpasst.
- Die Größe richtet sich nach gleichzeitigen Nutzern, der Länge der Dokumente und der gewünschten Antwortzeit.
- Für ein kleines Team genügt oft ein KI-PC, für mehrere Abteilungen und Dauerbetrieb ein kleiner Server.
- Standort, Notstrom, Sicherung und Wartung gehören genauso zur Planung wie das Gerät selbst.
Warum ein normaler Büro-PC nicht reicht
Ein Sprachmodell erzeugt seine Antwort Stück für Stück, und für jedes Stück fallen sehr viele einfache Rechnungen gleichzeitig an. Genau dafür sind Grafikkarten gebaut, ursprünglich für Bilder und Spiele. Der Prozessor eines Büro-PCs erledigt dieselbe Arbeit nur im Schneckentempo.
Dazu kommt der Speicher. Das Modell muss beim Arbeiten im Speicher der Grafikkarte liegen. Passt es nicht vollständig hinein, wird es spürbar langsamer. Übliche Büro-PCs haben meist gar keine eigene Grafikkarte, die Bilddarstellung übernimmt ein kleiner Teil des Prozessors.
Im Handel heißen inzwischen auch Laptops mit einem kleinen Zusatzchip „KI-PC“. Der reicht für einzelne Funktionen am eigenen Gerät, nicht für ein Sprachmodell, mit dem ein ganzes Team arbeitet. Wenn hier von einem KI-PC die Rede ist, ist ein Rechner mit leistungsstarker Grafikkarte gemeint.
Die Bauteile, auf die es ankommt
- Grafikkarte. Das wichtigste Bauteil. Ihr Speicher bestimmt, wie groß das Modell sein darf und wie lange Texte es auf einmal bearbeiten kann. Ihre Rechenleistung bestimmt das Tempo.
- Arbeitsspeicher. Er hält das Betriebssystem, den Suchindex für die Dokumente und alles, was nebenher läuft.
- Datenträger. Eine schnelle SSD lädt das Modell beim Start zügig und speichert Dokumente, Index und Verläufe.
- Netzteil und Kühlung. Unter Last braucht die Grafikkarte viel Strom und gibt viel Wärme ab. Beides muss für lange Laufzeiten ausgelegt sein.
- Netzwerkanschluss. Das Gerät hängt per Kabel im Firmennetz und nicht im WLAN.
Der Prozessor spielt eine Nebenrolle. Er sollte solide sein, ein Spitzenmodell bringt für die KI aber wenig.
Drei Fragen bestimmen, wie groß das Gerät sein muss
Die passende Hardware ergibt sich aus der Aufgabe. Diese Fragen klären wir deshalb vor jeder Auswahl:
- Wie viele Personen arbeiten gleichzeitig damit? Maßgeblich ist der Moment, in dem mehrere zugleich auf eine Antwort warten. Zehn Konten mit verteilten Anfragen belasten ein Gerät weniger als fünf Leute, die nach derselben Besprechung gleichzeitig ein Protokoll anfordern.
- Wie lang sind die Texte? Eine kurze Frage an ein Handbuch braucht wenig Speicher. Ein ganzer Vertrag, der auf einmal zusammengefasst werden soll, braucht ein Vielfaches davon.
- Wie schnell muss die Antwort kommen? Während ein Kunde am Telefon wartet, zählt jede Sekunde. Eine Zusammenfassung, die über Nacht entsteht, darf länger dauern.
Dazu kommt die Art der Aufgabe. Wer Besprechungen aus Aufnahmen protokollieren oder gescannte Seiten auslesen lassen will, braucht neben dem Sprachmodell Programme für Spracherkennung und Texterkennung. Auch sie rechnen meist auf der Grafikkarte.
KI-PC oder kleiner Server im Vergleich
| Merkmal | KI-PC | Kleiner Server |
|---|---|---|
| Bauform | Tower für Büro oder Technikraum | Oft als Einschub für den Netzwerkschrank |
| Gleichzeitige Nutzer | Ein kleines Team | Mehrere Abteilungen oder Aufgaben zugleich |
| Erweiterung | Begrenzt | Platz für weitere Grafikkarten und mehr Speicher |
| Ausfallschutz | Übliche Bauteile | Bauteile für Dauerbetrieb, Netzteil mit Reserve |
| Lautstärke | Unter Last hörbar | Laut, gehört in einen eigenen Raum |
| Passt für | Einen Bereich mit klarer Aufgabe | Mehrere Bereiche und Dauerbetrieb |
Unsere Empfehlung: Für den Einstieg mit einem kleinen Team und ein oder zwei Aufgaben reicht in vielen Fällen ein KI-PC. Ein kleiner Server lohnt sich, wenn mehrere Bereiche die KI täglich nutzen, ein Ausfall teuer wäre oder weitere Aufgaben absehbar dazukommen.
Wärme, Lautstärke und Strom einplanen
Ein KI-Rechner wird bei der Arbeit warm und hörbar. Neben einem Schreibtisch stört das schnell, in einem geschlossenen Schrank ohne Luftzufuhr leidet die Technik. Gut geeignet ist ein belüfteter Technikraum oder ein Netzwerkschrank mit ausreichend Platz und Lüftung. Wie der Schrank dafür vorbereitet wird, gehört zur Netzwerktechnik.
Eine USV gehört dazu. Bei kurzen Aussetzern liefert sie weiter Strom, bei längeren sorgt sie dafür, dass alle Programme geordnet enden und das Gerät herunterfährt. Ohne sie drohen beschädigte Dateien und ein mühsamer Neustart.
Auch der Stromverbrauch gehört in die Planung, vor allem wenn das Gerät viele Stunden am Tag rechnet.
Mit Reserve planen, ohne zu übertreiben
Bei einer einzigen Aufgabe bleibt es selten. Kommt nach einigen Monaten eine zweite Abteilung dazu oder sollen längere Unterlagen verarbeitet werden, braucht die KI mehr Speicher auf der Grafikkarte. Etwas Luft nach oben ist deshalb vernünftig.
Wer dagegen für jeden denkbaren Zukunftsplan kauft, bezahlt Leistung, die jahrelang ungenutzt bleibt. Sinnvoller ist eine Reserve für das, was absehbar ist, und ein Gerät, das sich später erweitern lässt.
Sicherung und Wartung gehören von Anfang an dazu. Einstellungen, Suchindex und Verlaufsdaten werden in festen Abständen auf ein NAS kopiert, wie bei der übrigen Datensicherung. Für Treiber, KI-Software und Sprachmodell gilt: Ein Update kommt erst nach einem Test mit eigenen Prüffragen auf das Gerät. Das erledigen wir im Rahmen der Wartung, je nach Vereinbarung jeden Monat, jedes Quartal oder jedes halbe Jahr.
Typische Fehler bei der Anschaffung
- Erst kaufen, dann überlegen. Ohne geklärte Aufgabe ist jede Größe geraten.
- Zu knapp bemessen. Passt das gewünschte Modell nicht in den Speicher der Grafikkarte, wird die KI zäh, und das Team verliert die Lust.
- Den Standort vergessen. Ein lautes, warmes Gerät unter dem Schreibtisch der Buchhaltung sorgt für Ärger.
- Ohne USV und Sicherung starten. Ein einziger Stromausfall kann die Einrichtung vieler Tage kosten.
Wir wählen den Rechner deshalb erst aus, wenn Aufgaben, Nutzer und Texte feststehen. Bei unserer lokalen KI für Unternehmen gehören Auswahl, Einrichtung und Wartung des Geräts zusammen.
