Ein eigener KI-Server kostet, je nachdem, wie du ihn baust, zwischen rund 900 US-Dollar für einen kleinen Mac Mini und weit über 9.000 Euro für einen leistungsstarken GPU-Server. Dazwischen liegt der Nvidia DGX Spark, ein kompakter Rechner mit viel gemeinsamem Arbeitsspeicher für ein einzelnes großes Modell. Welcher Weg zu dir passt, hängt weniger vom Budget ab als davon, welche Modellgröße du wirklich brauchst.
Ich betreibe selbst einen DGX Spark neben meinem MacBook Pro M3 Max und vergleiche beide Setups an denselben Aufgaben, parallel zu meiner KI-Belegschaft auf Claude-Basis. Alles, was ich zu KI im Alltag schreibe, sammle ich auf der Seite KI.
Drei Wege führen zum eigenen KI-Server, und sie unterscheiden sich weniger im Ergebnis als im Aufwand: ein fertiger Mac, ein spezialisiertes Gerät oder ein selbst gebauter Server. Welcher davon reicht, entscheidet die Modellgröße.
Drei Wege zum eigenen KI-Server
Der erste Weg ist ein Mac Mini oder ein vergleichbarer Laptop: leise, sofort einsatzbereit, aber mit Grenzen beim Arbeitsspeicher. Der zweite Weg ist ein spezialisierter Rechner wie der Nvidia DGX Spark, gebaut für genau eine Aufgabe: ein großes Modell mit viel gemeinsamem Speicher lokal laufen zu lassen. Der dritte Weg ist ein selbst zusammengestellter GPU-Server, meist mit einer oder mehreren Grafikkarten aus dem Gaming-Segment, mit dem größten Aufwand bei Einrichtung und Wartung, aber auch der meisten Leistung pro investiertem Euro.
Keiner dieser Wege ersetzt automatisch eine Cloud-Lösung wie Claude. Ein eigener Server lohnt sich vor allem dann, wenn Daten das eigene Netz nicht verlassen dürfen oder wenn dieselbe Aufgabe so oft läuft, dass sich die Anschaffung gegen laufende Cloud-Kosten rechnet. Wie du diese Abwägung im Detail triffst, beschreibe ich in Lokale KI: was 2026 wirklich geht.
Wie viel Speicher ein Modell wirklich braucht
Die Modellgröße bestimmt den Speicherbedarf, nicht der Rechner. Als grobe Orientierung, rein qualitativ und ohne Anspruch auf Genauigkeit für ein bestimmtes Modell:
| Modellklasse |
Typischer Umfang |
Speicherbedarf im Verhältnis |
Beispiel |
| Klein |
einstelliger bis niedriger zweistelliger Milliardenbereich |
passt auf die meisten aktuellen Laptops und kleine Mac-Mini-Konfigurationen |
Assistenz für einfache Textaufgaben |
| Mittel |
mittlerer zweistelliger Milliardenbereich, dicht statt aus mehreren Experten zusammengesetzt |
braucht schon in starker Kompression mehrere Dutzend Gigabyte |
Qwen3.8-27B, bei mir rund 21,9 GB als NVFP4-Checkpoint |
| Groß |
dreistelliger Milliardenbereich oder viele gleichzeitig aktive Experten |
sprengt den Speicher der meisten Einzelgeräte aus diesem Beitrag |
Frontier-Modelle, eher etwas für Cluster oder Cloud |
Der Sprung von klein zu mittel ist der, der für die meisten Selbstständigen interessant wird: Ein mittelgroßes, dicht besetztes Modell wie das, das ich einsetze, bringt schon spürbar bessere Ergebnisse als ein kleines Modell, verlangt aber auch deutlich mehr Speicher als ein Laptop von der Stange typischerweise mitbringt. Genau an dieser Grenze entscheidet sich, ob ein Mac Mini reicht oder ob es ein Gerät mit mehr gemeinsamem Speicher braucht.
Budget 1: Mac Mini für den Einstieg
Apple hat den Mac Mini am 25. August 2026 mit den Chips M6 und M5 Pro neu vorgestellt, lieferbar ab dem 22. September 2026. Laut Apples eigener Ankündigung, Stand September 2026, startet die M6-Variante bei 899 US-Dollar mit 16 GB Standardspeicher, konfigurierbar bis 32 GB. Die M5-Pro-Variante startet bei 1.699 US-Dollar und unterstützt bis zu 64 GB gemeinsamen Arbeitsspeicher, damit reicht sie für spürbar größere Modelle als die M6-Variante.
Für lokale-LLM-Hardware auf Mac-Basis gilt: Kleine Modelle laufen bequem, mittelgroße Modelle wie ein 27-Milliarden-Parameter-Modell brauchen bereits eine gut ausgestattete Konfiguration und geben in Alltagsnutzung spürbar weniger Tokens pro Sekunde aus als ein spezialisierter Rechner. Der Vorteil ist der geringe Aufwand: Ein Mac Mini läuft leise, braucht kein eigenes Betriebssystem-Setup und lässt sich mit Werkzeugen wie Ollama oder LM Studio in wenigen Minuten einrichten. Die Schritte dafür, inklusive des Wegs zu einem stärkeren Setup, stehen in Lokale KI einrichten: Ollama bis SGLang.
Budget 2: Nvidia DGX Spark für große Modelle im eigenen Netz
Der DGX Spark ist ein kompakter Rechner mit dem GB10-Chip von Nvidia und 128 GB gemeinsamem Arbeitsspeicher, von denen mir das System rund 119 GB als nutzbar meldet. Er läuft bei mir im eigenen Tailnet, erreichbar von jedem Gerät im Netz, nicht nur vom Schreibtisch aus. Der Listenpreis liegt bei 4.699 US-Dollar, angehoben im Februar 2026 von ursprünglich 3.999 US-Dollar wegen Engpässen bei Speicherbausteinen, nachzulesen in der Ankündigung im Nvidia-Entwicklerforum. Stand dieser Angabe ist September 2026.
Einen direkten Messvergleich kann ich beisteuern: Auf dem DGX Spark läuft mein Qwen3.8-27B-Modell unter dem Serving-Framework SGLang mit 50,7 Tokens pro Sekunde beim Decodieren, gemessen bei 300 Token und einem Stream, abgerufen vom Mac über Tailscale. Dasselbe Modell läuft auf meinem MacBook Pro M3 Max mit 64 GB Arbeitsspeicher über LM Studio in 8-Bit-Quantisierung mit rund 27,5 GiB Speicherbedarf, dort komme ich auf 11 Tokens pro Sekunde. Der DGX Spark ist für diese Aufgabe also deutlich schneller als selbst ein gut ausgestatteter Laptop, weil er für genau diesen Anwendungsfall gebaut ist: ein großes Modell mit viel gemeinsamem Speicher und ordentlicher Bandbreite zu bedienen. Wie sich das Gerät im Alltag schlägt, samt der Unified-Memory-Falle und dem Vergleich mit einer Workstation-Karte, steht in DGX Spark im Test: lohnt sich der Kauf?.
Budget 3: GPU-Server aus Einzelteilen für maximale Leistung
Wer selbst einen KI-Server bauen will, statt ein fertiges Gerät zu kaufen, greift meist zu einer oder mehreren Grafikkarten aus dem Gaming-Segment in einem eigenen PC. Laut einer Kalkulation von ki-mittelstand.eu, Stand März 2026, kostet eine Einstiegskonfiguration mit einer RTX 4060 Ti rund 3.500 Euro, eine Konfiguration mit einer RTX 4090 rund 5.785 Euro, und zwei RTX-4090-Karten zusammen rund 9.470 Euro. Dieselbe Quelle nennt für solche Konfigurationen eine Leistungsaufnahme zwischen 180 und 550 Watt, was bei 0,30 Euro pro Kilowattstunde auf rund 470 bis 1.440 Euro Stromkosten im Jahr hinausläuft. Diese Zahlen sind eine Fremdrechnung aus dieser Quelle, keine eigene Messung: Ich habe keines der Geräte an einem Steckdosenmessgerät betrieben, und der tatsächliche Verbrauch hängt stark davon ab, wie viele Stunden am Tag ein Modell wirklich rechnet.
Dieser Weg lohnt sich vor allem, wenn du bereits Erfahrung mit Hardware-Zusammenbau und Linux-Betrieb hast oder jemanden im Team hast, der das übernimmt. Der Zeitaufwand für Einrichtung, Treiber und laufende Wartung ist real und gehört in jede ehrliche Kostenrechnung dazu, auch wenn er sich nicht in Euro beziffern lässt wie Hardware und Strom.
Welches Budget zu welchem Einsatzzweck passt
| Budget |
Preis-Anker |
Gut für |
Aufwand |
| Mac Mini |
ab 899 US-Dollar (M6) beziehungsweise ab 1.699 US-Dollar (M5 Pro), laut Apple, Stand: September 2026 |
kleine bis mittlere Modelle, gelegentliche Nutzung, leiser Dauerbetrieb |
gering, in Minuten eingerichtet |
| Nvidia DGX Spark |
4.699 US-Dollar Listenpreis laut Nvidia, Stand: September 2026 |
ein großes Modell dauerhaft im eigenen Netz, spürbar schneller als ein Laptop |
mittel, ein einmaliges Setup |
| GPU-Server |
ab rund 3.500 Euro laut ki-mittelstand.eu, Stand März 2026, nach oben offen |
maximale Leistung pro Euro, mehrere Nutzer oder Modelle gleichzeitig |
hoch, laufende Wartung nötig |
Wenn du unsicher bist, wo du anfängst: Ein Mac Mini oder ein vorhandener Laptop ist der risikoärmste erste Schritt, um überhaupt zu spüren, wo deine eigenen Aufgaben an Grenzen stoßen. Erst wenn diese Grenze regelmäßig erreicht wird, lohnt sich die nächste Stufe.
Häufige Fragen
Was kostet ein eigener KI-Server?
Das hängt vom Weg ab. Ein Mac Mini startet laut Apple, Stand: September 2026, bei 899 US-Dollar, ein Nvidia DGX Spark kostet laut Nvidia 4.699 US-Dollar, und ein selbst gebauter GPU-Server beginnt laut ki-mittelstand.eu bei rund 3.500 Euro und ist nach oben offen. Dazu kommen bei allen drei Wegen laufende Stromkosten.
Reicht ein Mac Mini für KI zu Hause?
Für kleinere Modelle und gelegentliche Aufgaben ja. Für ein mittelgroßes Modell wie das, das ich einsetze, brauchst du die M5-Pro-Variante mit viel Speicher, und selbst dann ist ein spezialisierter Rechner wie der DGX Spark bei mir deutlich schneller.
Wie schnell ist ein DGX Spark im Vergleich zu einem Mac?
Bei mir liefert der DGX Spark mit demselben Modell 50,7 Tokens pro Sekunde beim Decodieren, mein MacBook Pro M3 Max mit 64 GB kommt auf 11 Tokens pro Sekunde. Das ist eine einzelne Messung aus meinem Setup, keine allgemeingültige Benchmark-Aussage.
Kann ich einen KI-Server selbst zusammenbauen?
Ja, mit handelsüblichen Grafikkarten in einem eigenen PC. Das braucht mehr Aufwand bei Einrichtung und Wartung als ein fertiges Gerät, dafür bekommst du oft mehr Leistung pro investiertem Euro, besonders bei mehreren Grafikkarten.
Wo kaufe ich am besten einen KI-Server?
Einen Mac Mini bekommst du direkt bei Apple, den DGX Spark direkt bei Nvidia oder Partnern wie Dell, Lenovo oder Asus. Für einen GPU-Server kaufst du Einzelteile bei üblichen PC-Händlern und baust selbst zusammen oder lässt zusammenbauen.
Wie du weitermachst
Wenn du erst einmal ausprobieren willst, wie weit lokale KI für deine Aufgaben reicht: Die Einrichtung vom Mac mit Ollama bis zum Server mit SGLang beschreibe ich Schritt für Schritt in Lokale KI einrichten: Ollama bis SGLang. Meine Erfahrung mit dem DGX Spark im Alltag steht in DGX Spark im Test: lohnt sich der Kauf?, und die Einordnung, wann lokal überhaupt sinnvoll ist, in Lokale KI: was 2026 wirklich geht.
