Lokale KI auf dem Mac funktioniert, weil Apple Silicon den Arbeitsspeicher zwischen CPU und GPU teilt: Ein Mac mini mit 32 GB lädt ein 27B-Modell in 4-bit, ein Mac mini M5 Pro mit 48 oder 64 GB dasselbe Modell in 8-bit, und ein Mac Studio mit 256 GB trägt Modelle mit mehreren hundert Milliarden Parametern. Als KI-Server im eigenen Netz läuft der Mac mini mit Ollama oder LM Studio, beide bieten eine OpenAI-kompatible Schnittstelle, auf die jeder Rechner im Haus zugreift. Die Grenze liegt bei der Speicherbandbreite und beim Nvidia-Ökosystem: Wer CUDA, SGLang oder NVFP4-Checkpoints braucht, landet beim DGX Spark.
Ich betreibe lokale Modelle seit Dezember 2025 auf einem Nvidia DGX Spark und daneben auf meinem MacBook Pro M3 Max mit 64 GB. Einen Mac mini habe ich nie besessen, das sage ich gleich vorweg: Mein einziger eigener Mac-Messwert stammt vom MacBook, alle Mac-mini- und Mac-Studio-Zahlen hier kommen aus Apples Datenblättern, aus der Doku der Werkzeuge und aus der Preismeldung von ComputerBase, jeweils mit Stand. Alles zu lokaler KI sammle ich auf meiner Seite KI.
Dieser Beitrag geht den Mac-Weg in die Tiefe. Den Vergleich der drei Budgets vom Mac mini bis zum GPU-Server findest du in Eigener KI-Server: Hardware und Kosten, die Kaufberatung zum Spark in DGX Spark kaufen: Preis und Alternativen.
Warum der Mac für lokale KI taugt: Unified Memory und Bandbreite
Ein Sprachmodell wird beim Antworten für jedes Token einmal komplett aus dem Speicher gelesen. Zwei Zahlen entscheiden deshalb, was auf einem Rechner läuft: wie viel Speicher die GPU adressieren kann und wie schnell sie ihn liest. Bei einer klassischen Grafikkarte ist der Speicher knapp, 24 GB sind schon die Oberklasse. Apple Silicon teilt den gesamten Arbeitsspeicher zwischen CPU und GPU, Apple nennt das Unified Memory; ein Mac mini mit 64 GB stellt dem Modell davon den größten Teil zur Verfügung.
Die zweite Zahl ist die Speicherbandbreite, und hier unterscheiden sich die Macs stark. Laut Apples Datenblatt zum Mac mini liest der M6 mit 153 oder 170 GB/s, der M5 Pro mit 307 GB/s. Der Mac Studio kommt mit M5 Max auf 460 oder 614 GB/s und mit M5 Ultra auf 1,2 TB/s. Als Faustregel gilt: Die Bandbreite geteilt durch die Modellgröße in Gigabyte ergibt die Obergrenze der Tokens pro Sekunde beim Antworten. Das ist eine Heuristik, keine Messung, aber sie erklärt, warum ein Mac Studio ein Modell derselben Größe um ein Vielfaches schneller ausgibt als ein Mac mini M6.
Mac mini oder Mac Studio: welche Konfiguration für welche Modellgröße
Apple hat den Mac mini und den Mac Studio im August 2026 neu aufgelegt. Die Preise stammen aus den Meldungen von ComputerBase vom 25.08.2026 zum Mac mini und zum Mac Studio, weil Apples Konfigurator die Preise nur per Script nachlädt und sich nicht sauber zitieren lässt. Die Spalte „passt für" leite ich aus Dateigrößen ab, nicht aus eigenen Messungen.
Zu den Preisen: Beim Mac mini M6 kostet jede Speicherstufe laut ComputerBase 220 Euro Aufpreis, der Vollausbau des M5 Pro mit 64 GB und 8 TB SSD liegt bei 7.499 Euro. Was der M5 Pro mit 64 GB und kleiner SSD kostet, konnte ich nicht belegen, weil diese Kombination nur im Konfigurator erscheint. Beim Mac Studio kostet die Stufe von 96 auf 256 GB 4.400 Euro Aufpreis, die 512-GB-Variante folgt Ende Oktober ohne veröffentlichten Preis. Die Bandbreite des Spark stammt von der Nvidia-Produktseite zum DGX Spark, Stand September 2026.
Für die Kaufentscheidung heißt das: Der Mac mini M6 ist ein Einstieg zum Ausprobieren, kein Server für mehrere Nutzer. Der Mac mini M5 Pro mit 48 oder 64 GB ist die Konfiguration, die ich mit „Mini als KI-Server" meine: genug Speicher für ein 27B-Modell in 8-bit und laut Datenblatt eine Bandbreite über der des Spark. Der Mac Studio ist die Antwort, wenn das Modell größer werden soll als der Speicher des Mini.
Welches Modell in wie viel Speicher passt
Bei 4-bit-Quantisierung braucht ein Modell rund 0,5 bis 0,6 GB je Milliarde Parameter, dazu der KV-Cache für den Kontext, der mit der Länge deiner Eingaben wächst. Diese Faustregel stammt aus einem Erfahrungsbericht zum Mac Studio mit 512 GB vom September 2026 und deckt sich mit den Dateigrößen, die ich selbst sehe. Ein 27B-Modell landet in 4-bit bei rund 15 bis 18 GB, in 8-bit beim Doppelten.
Konkret für Qwen 3.8 27B, das Modell, das ich auf dem Spark betreibe: Der MLX-Tag bei Ollama ist 18 GB groß in 4-bit und 56 GB in bf16, die 8-bit-Variante von unsloth liegt bei 31 GB. Daraus folgt, ohne dass ich es auf einem Mac mini gemessen habe: 4-bit passt ab 32 GB Arbeitsspeicher, 8-bit braucht 48 oder 64 GB, und die volle bf16-Fassung passt in keinen Mac mini. Wie du das Modell mit Ollama lädst, steht in Qwen 3.8 mit Ollama installieren.
Nach oben wird es teuer. Ein Modell der 70B-Klasse braucht in 4-bit rund 35 bis 42 GB und läuft damit auf dem Mac Studio M5 Max mit 64 GB, mit 128 GB bleibt Reserve für langen Kontext. Der Erfahrungsbericht zum M5 Ultra nennt ein 4-bit-Modell mit 418 GB, das nur in die 512-GB-Variante passt. Welche Modelle in welcher Größe überhaupt in Frage kommen, vergleiche ich in Open-Source-KI-Modelle im Vergleich.
LM Studio empfiehlt Apple Silicon mit macOS 14 und 16 GB; mit 8 GB laufen laut Doku nur kleine Modelle mit knappem Kontext. Meine Einschätzung: Unter 32 GB taugt ein Mac nicht als KI-Server, weil neben dem Modell auch macOS und der Kontext Platz brauchen.
Mein Messwert: Qwen 3.8 auf dem MacBook Pro M3 Max
Meine einzige eigene Mac-Messung, Stand August 2026: Qwen 3.8 27B in LM Studio, 8-bit, belegt 27,5 GiB Arbeitsspeicher auf meinem MacBook Pro M3 Max mit 64 GB und liefert 11 Tokens pro Sekunde beim Antworten. Das ist lesbar, aber nicht flüssig; für einen Terminal-Agenten, der viele Runden dreht, ist es zäh. Dazu kam, was in keiner Tokenzahl steht: Auf dem MacBook brachen Läufe häufiger ab als auf dem Spark, und die Arbeit mit dem Modell war insgesamt mühsam. Genau das hat meine Kaufentscheidung getragen.
Zum Vergleich: Derselbe Modellstand läuft auf meinem DGX Spark als NVFP4-Checkpoint unter SGLang mit 50,7 Tokens pro Sekunde, gemessen mit 300 Token in einem Stream vom Mac aus über Tailscale. Die beiden Zahlen darfst du nicht eins zu eins nebeneinanderlegen: Andere Quantisierung, andere Laufzeit, andere Bandbreite. Sie zeigen aber die Größenordnung, die ein 27B-Modell in 8-bit auf einem Mac mit Bandbreite der M3-Max-Klasse erreicht. Was der Spark im Alltag leistet, steht in Qwen 3.8 lokal: Erfahrung mit DGX Spark.
Wie schnell ein Mac mini M5 Pro mit 307 GB/s dasselbe Modell ausgibt, habe ich nicht gemessen. Aus der Faustregel oben erwarte ich in 8-bit eher weniger als 11 Tokens pro Sekunde und in 4-bit mehr; das ist eine Hypothese, kein Messwert. Nachmessen werde ich das nicht: Einen Mac mini habe ich nie besessen und schaffe mir für diesen Beitrag keinen an.
Mac mini als KI-Server im Netz einrichten
Ein Mac mini als KI-Server bedeutet: Das Modell läuft auf dem Mini, und dein MacBook, dein Windows-Rechner oder ein Terminal-Agent sprechen über das Netz mit ihm. Beide gängigen Werkzeuge können das ab Werk. LM Studio startet auf Wunsch einen lokalen Server mit OpenAI-kompatibler API, Standard-Port 1234, erreichbar unter http://<adresse>:1234/v1. Ollama hört standardmäßig nur auf dem eigenen Rechner; für das Netz setzt du laut Ollama-FAQ auf macOS die Umgebungsvariable per launchctl und startest Ollama neu.
# Ollama auf dem Mac mini für andere Rechner im Netz öffnen
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"
# danach die Ollama-App beenden und neu starten
# vom MacBook aus prüfen, ob der Server antwortet
curl http://mac-mini.local:11434/api/tags
Der zweite Befehl listet die auf dem Mini geladenen Modelle. Der Hostname mit .local funktioniert im Heimnetz über Bonjour; solche Adressen nutze ich auch in meinem Raspberry-Pi-Cluster. Für den Dauerbetrieb gibst du dem Mini im Router eine feste Adresse, schaltest den Ruhezustand ab und setzt für den Zugriff von außen ein VPN davor. Für meinen Spark nutze ich Tailscale und öffne nie einen Port ins Internet. Die Werkzeuge im Detail, von Ollama bis SGLang, beschreibe ich in Lokale KI einrichten: Ollama bis SGLang.
Auf der Client-Seite nimmt jedes Programm, das eine OpenAI-kompatible Adresse akzeptiert, den Mini als Endpunkt: eine Chat-Oberfläche, ein Editor-Plugin oder ein Terminal-Agent wie Pi, mit dem ich auf dem Spark arbeite. Wie das mit einem lokalen Modell läuft und wo es hakt, steht in Claude Code Alternative ohne Cloud: Pi.
Ein Wort zu meiner eigenen Belegschaft, damit kein falscher Eindruck entsteht: Meine KI-Mitarbeiter laufen auf Claude, nicht auf dem Mac. Peter, der meine Buchhaltung macht, ist am Ende des Tages ein Ordner auf meinem Computer mit Personalakte, Regeln und Learnings. Als er am 06.09.2026 63 Belege ausgewertet hat, stellte er vor der Ausgabe zwei Rückfragen, unter anderem zu zwei Währungen, und erfand keine Kurse. Diese Arbeitsweise hängt am Ordner, nicht am Modell. Ein Mac mini mit lokalem Modell ersetzt nur das Modell dahinter; ob das Ergebnis reicht, hängt von der Aufgabe ab.
Mac mini gegen DGX Spark: wo welcher gewinnt
Beide sind kleine Kisten mit geteiltem Speicher, und beide bringen mit 64 beziehungsweise 128 GB ein 27B-Modell zum Laufen. Trotzdem lösen sie verschiedene Probleme. Der Mac mini M5 Pro gewinnt beim Einstiegspreis, bei der Bandbreite (307 gegen 273 GB/s laut Herstellerangaben) und im Alltag: Er ist ein normaler Mac, LM Studio installiert sich wie jede andere App, und wer schon Macs im Haus hat, lernt kein neues Betriebssystem.
Der Spark gewinnt, sobald das Nvidia-Ökosystem gefragt ist. SGLang, vLLM, NVFP4-Checkpoints und Speculative Decoding, mit denen ich auf dem Spark 50,7 Tokens pro Sekunde erreiche, gibt es auf dem Mac in dieser Form nicht; dort bleibt es bei Ollama, LM Studio und MLX. Der Spark hat 128 GB in einer Box, während der Mac mini bei 64 GB endet, und laut Nvidia lassen sich mehrere Spark-Geräte für noch größere Modelle koppeln. Dafür ist der Spark ein Linux-System, das Pflege will: Bei mir laufen die Dienste als systemd-User-Units, der erste Modellstart dauert rund 9 Minuten wegen des Compile-Schritts, und ein falscher Speicherparameter friert den Host ein.
Meine Einordnung: Für ein kleines Team, das ein 27B-Modell als Chat- und Schreibhilfe im eigenen Netz will und keine CUDA-Werkzeuge braucht, ist der Mac mini M5 Pro mit 64 GB der einfachere Weg. Wer größere Modelle, Nvidia-Werkzeuge oder Cluster will, nimmt den Spark oder den Mac Studio, je nachdem, ob Ökosystem oder Bandbreite wichtiger ist. Beim Datenschutz gilt für beide dasselbe: Das Modell antwortet im eigenen Netz, ohne Cloud-Anbieter für die Anfrage. Was das rechtlich bedeutet und was nicht, ordne ich in Lokale KI und Datenschutz: Cloud oder Server? ein.
Häufige Fragen
Reicht ein Mac mini mit 32 GB für lokale KI?
Zum Ausprobieren ja: Ein 27B-Modell in 4-bit belegt rund 18 GB und lässt Platz für macOS und Kontext. Als Server für mehrere Nutzer oder für einen Terminal-Agenten mit vielen Runden wird es eng, weil der M6 nur 153 bis 170 GB/s Bandbreite hat. Ab 48 GB und M5 Pro wird der Mini zum brauchbaren Server.
Wie viel RAM brauche ich für ein 27B-Modell auf dem Mac?
In 4-bit rund 18 GB Modellgröße, also mindestens 32 GB im Gerät. In 8-bit rund 31 GB, auf meinem MacBook belegt Qwen 3.8 27B in LM Studio 27,5 GiB, also 48 oder 64 GB im Gerät. Die volle bf16-Fassung mit 56 GB passt in keinen Mac mini, dafür brauchst du einen Mac Studio.
Ist der Mac mini als KI-Server günstiger als ein DGX Spark?
Beim Einstieg ja: Der Mac mini M5 Pro beginnt laut ComputerBase bei 1.999 Euro mit 24 GB, Stand August 2026. Mit 64 GB und größerer SSD nähert er sich den Spark-Preisen, die ich in der Kaufberatung mit Quellen aufgeschlüsselt habe. Günstiger ist der Mini also vor allem, wenn dir 48 GB reichen.
Kann ich vom MacBook auf den Mac-mini-Server zugreifen?
Ja, das ist der Normalfall. LM Studio bietet einen Server auf Port 1234, Ollama hört nach dem Setzen von OLLAMA_HOST auf allen Adressen. Vom MacBook sprichst du den Mini über seinen .local-Namen oder seine feste IP an, außerhalb des Hauses über ein VPN wie Tailscale.
Lohnt sich der Mac Studio mit 512 GB für ein kleines Unternehmen?
Nur, wenn du ein Modell mit mehreren hundert Milliarden Parametern lokal brauchst und weißt, warum. Für Chat, Schreibhilfe und die meisten Agenten-Aufgaben reicht ein 27B-Modell auf einem Mac mini mit 64 GB. Die 512-GB-Variante hatte im September 2026 keinen veröffentlichten Preis.
Läuft ein LLM auf dem Mac auch auf einem MacBook?
Ja, genau so habe ich gemessen: Qwen 3.8 27B in 8-bit auf einem MacBook Pro M3 Max mit 64 GB, 11 Tokens pro Sekunde. Als Dauerserver taugt ein MacBook aber schlecht, weil es zugeklappt wird, mitreist und im Akkubetrieb drosselt.
Wie du weitermachst
Wenn du noch nicht weißt, ob es überhaupt ein Mac werden soll, lies zuerst Eigener KI-Server: Hardware und Kosten mit den drei Budgets. Steht die Entscheidung, installiere Ollama oder LM Studio nach Lokale KI einrichten: Ollama bis SGLang, lade Qwen 3.8 nach Qwen 3.8 mit Ollama installieren und miss selbst, wie viele Tokens pro Sekunde dein Gerät liefert. Die Einordnung, wofür lokale Modelle heute taugen und wofür nicht, steht in Lokale KI: was 2026 wirklich geht.
