In der Ollama-Bibliothek stehen zwei Arten von Modellen. Modelle mit einer Größenangabe wie 8b, 30b oder 120b lädst du herunter, und sie laufen auf deinem eigenen Rechner. Modelle mit dem Etikett „cloud“ laufen auf Ollamas Servern: Du meldest dich an, verbrauchst Nutzungsguthaben, und deine Eingaben verlassen dein Netz. Von den 50 neuesten Einträgen der Bibliothek waren am 15.11.2026 vierzehn nur in der Cloud nutzbar, darunter Mistral Large 4, Muse Spark Open, DeepSeek V4.1 Flash, Kimi K3 und GLM-5.3. Ollama verarbeitet Cloud-Anfragen laut eigenen Angaben vor allem in den USA. Wenn nichts dein Netz verlassen soll, schaltest du die Cloud-Funktionen mit OLLAMA_NO_CLOUD=1 ab. Welches lokale Modell für dich passt, entscheidet vor allem dein Speicher: Mit 16 GB laufen Modelle wie gpt-oss:20b, mit 24 bis 32 GB die starken Modelle der 30B-Klasse, und ab 80 GB Modelle wie gpt-oss:120b.
Ich betreibe mein Business mit einer Belegschaft aus fünfzehn KI-Mitarbeitern auf Claude-Basis und teste lokale Modelle auf einem DGX Spark. Ollama ist dort installiert, mein Hauptmodell läuft aber unter SGLang. Für den schnellen Einstieg auf dem Mac oder einem PC ist Ollama trotzdem das Werkzeug, das ich als Erstes empfehle. Alles zu lokaler KI sammle ich auf der Seite KI.
Lokal oder Cloud: so erkennst du den Unterschied
Ollama schreibt in seiner Doku über die Cloud: „Run larger models in Ollama’s cloud without requiring a powerful GPU. Inference runs on Ollama’s cloud service.“ In der Bibliothek erkennst du ein Cloud-Modell an drei Dingen:
- In der Liste trägt das Modell das Etikett „cloud“ und keine Größenangabe wie 8b oder 30b.
- Auf der Seite mit den Tags steht statt einer Dateigröße wie „18GB“ eine Nutzungsstufe wie „Low Usage“, „Medium Usage“, „High Usage“ oder „Extra High Usage“.
- Der Tag heißt
cloud oder endet auf -cloud, etwa gemma4:cloud oder gpt-oss:120b-cloud.
Manche Modelle gibt es auf beiden Wegen. Gemma 4 und gpt-oss lädst du in mehreren Größen herunter, beide haben zusätzlich Cloud-Tags. Ob ein Aufruf lokal oder in der Cloud läuft, entscheidet dann der Tag, den du startest.
Die vierzehn reinen Cloud-Modelle unter den 50 neuesten Einträgen waren am 15.11.2026: Inkling 2 Small, Kimi K3.1 Pro, MiniMax M3.1 Flash, Beam, Muse Spark Open, Mistral Large 4, MiMo V2.6 Pro, MiMo V2.6 Flash, DeepSeek V4.1 Flash, GLM-5.3 Flash, GLM-5.3, Kimi K3, GLM-5.2 und Kimi K2.7 Code. Die meisten davon haben laut Modellkarten und Ollamas Beschreibungen mehrere hundert Milliarden bis rund drei Billionen Parameter: Kimi K3 etwa 2,8 Billionen, Kimi K3.1 Pro gehört laut Ollama zur Klasse um drei Billionen. Solche Modelle passen auf keinen normalen Rechner, deshalb bietet Ollama sie nur auf eigenen Servern an. Bei Mistral Large 4 liegen die Gewichte seit dem 29. Oktober 2026 offen auf Hugging Face, in Ollama gibt es das Modell trotzdem nur in der Cloud.
Was mit deinen Daten passiert
Für den lokalen Betrieb ist Ollamas Aussage klar: „Ollama runs locally. We don’t see your prompts or data when you run locally.“ Für Cloud-Modelle schreibt Ollama in der Datenschutzerklärung (Stand März 2026), Eingaben und Antworten würden nur vorübergehend verarbeitet, um die Anfrage zu beantworten, und nicht zum Training genutzt. Auf der Preisseite heißt es zum Standort: „Ollama hosts models and compute resources primarily in the United States. To serve global demand, we may route to Europe for additional capacity.“ Die Modelle laufen dort bei Partnern aus Nvidias Cloud-Programm, von denen Ollama laut eigener Aussage verlangt, nichts zu speichern und nichts zu protokollieren.
Für dich heißt das: Sobald du ein Cloud-Modell nutzt, gehen deine Texte in der Regel in die USA, bei Bedarf auch nach Europa, auch wenn sie dort nicht gespeichert werden sollen. Für Übermittlungen ins Ausland verspricht Ollama „appropriate safeguards“, wo das Gesetz sie verlangt. Einen Auftragsverarbeitungsvertrag habe ich auf Ollamas Datenschutz- und Preisseite nicht gefunden. Für Kundendaten oder Daten von Mitarbeitern brauchst du eine Rechtsgrundlage und in aller Regel genau so einen Vertrag. Ich bin Entwickler, kein Anwalt. Das ist keine Rechtsberatung, sondern die Betreiber-Perspektive. Wie ich das Thema für mein eigenes Setup sortiere, steht in Lokale KI und Datenschutz: Cloud oder Server?.
Willst du sicher sein, dass nichts dein Netz verlässt, schaltest du die Cloud-Funktionen ganz ab. Laut Ollamas FAQ geht das in der Datei ~/.ollama/server.json:
{
"disable_ollama_cloud": true
}
Oder über eine Umgebungsvariable:
OLLAMA_NO_CLOUD=1
Die Variable muss für den Ollama-Dienst gelten, nicht nur in deinem Terminal. Auf dem Mac setzt du sie laut Ollama mit launchctl setenv OLLAMA_NO_CLOUD 1 und startest die App neu, unter Linux trägst du sie mit systemctl edit ollama.service als Environment="OLLAMA_NO_CLOUD=1" in den Dienst ein. Einfacher ist meist der Eintrag in server.json. Nach einem Neustart zeigt Ollama im Log „Ollama cloud disabled: true“. Damit fallen die Cloud-Modelle und Ollamas Websuche weg, die lokalen Modelle laufen weiter.
Was die Cloud kostet
Lokal kostet Ollama nichts, auf der Preisseite steht: „Running models on your own hardware is always unlimited.“ Für die Cloud gibt es laut Preisseite fünf Stufen, Stand 15.11.2026:
Was über das Guthaben hinausgeht, rechnet Ollama je Million Tokens ab. Für Eingabe und Ausgabe nennt die Preisseite zum Beispiel 0,15 und 0,60 US-Dollar für gpt-oss:120b, 0,70 und 2,10 US-Dollar für Mistral Large 4 und 3,00 und 15,00 US-Dollar für Kimi K3. Werktags außerhalb von 12 bis 18 Uhr UTC und am Wochenende gelten für einige Modelle günstigere Preise.
Welches Ollama-Modell zu deinem Speicher passt
Die Größe der Datei ist nicht der ganze Speicherbedarf. Der Kontext braucht zusätzlich Platz, und Ollama stellt ihn laut Doku nach dem Grafikspeicher ein: unter 24 GiB auf 4k Tokens, von 24 bis 48 GiB auf 32k und ab 48 GiB auf 256k. Für Agenten und Coding-Werkzeuge empfiehlt Ollama mindestens 64.000 Tokens. Rechne deshalb zur Dateigröße eine Reserve dazu. Die Einteilung unten ist meine Faustregel, gemessen habe ich sie nicht.
Für gpt-oss-20b schreibt OpenAI selbst, das Modell laufe „within 16GB of memory“, für gpt-oss-120b nennt OpenAI eine GPU mit 80 GB. Für Muse Glimmer nennt Meta 24 oder 32 GB. Die übrigen Zuordnungen folgen aus der Dateigröße plus Reserve.
Wie du Qwen 3.8 Schritt für Schritt in Ollama installierst, welcher Tag zu welchem Speicher passt und welche zwei Einstellungen du danach ändern solltest, steht in meiner eigenen Anleitung Qwen 3.8 mit Ollama installieren. In diesem Beitrag geht es um die Auswahl über alle Modelle hinweg. Wie sich die drei stärksten Modelle der 30B-Klasse unterscheiden, vergleiche ich in Muse Glimmer vs Qwen 3.8 vs Gemma 4. Die Mistral-Modelle in der Tabelle stelle ich in Mistral lokal betreiben: Modelle und Lizenzen ausführlich vor.
Die Lizenz gehört zur Auswahl
Ein Modell, das in Ollama lokal läuft, darfst du deshalb nicht automatisch für alles nutzen. Die meisten Modelle in der Tabelle stehen unter Apache 2.0 und sind damit auch kommerziell frei. Die Nemotron-Modelle stehen unter OpenMDW-1.1, für die Super-Fassung schreibt Nvidia: „This model is ready for commercial or non-commercial use.“ Mistral Medium 3.5 schließt Firmen mit mehr als 20 Millionen US-Dollar Monatsumsatz aus. Und Qwen3.8-Flash-Next, das in Ollama mit 105 GB als lokales Modell steht, hat eine eigene Lizenz mit Sonderregeln für Anbieter von KI-Diensten. Lies die Lizenz deshalb auf der Modellkarte, bevor du ein Modell für Kunden einsetzt. Das ist keine Rechtsberatung. Die wichtigsten Klauseln im Vergleich stehen in meinem Beitrag über Open-Weight-Lizenzen.
Wann Ollama nicht mehr reicht
Ollama ist gebaut für einen Nutzer an einem Rechner. Sobald mehrere Menschen, ein Agent und ein Skript gleichzeitig auf dasselbe Modell zugreifen oder ein Modell rund um die Uhr erreichbar sein soll, wechsle ich zu einem Serving-Framework wie SGLang oder vLLM. Auf meinem DGX Spark läuft Qwen3.8-27B unter SGLang, gemessen mit 50,7 Tokens pro Sekunde im August 2026; bei deutschem Fließtext waren es in meiner Messung im November 18,2. Wie der Weg von Ollama dorthin aussieht, beschreibe ich in Lokale KI einrichten: Ollama bis SGLang. Welche Modelle auf dem DGX Spark wie schnell laufen, messe ich in Beste Modelle für den DGX Spark, gemessen.
Häufige Fragen
Welche Ollama-Modelle laufen lokal?
Alle Modelle, deren Tag-Seite eine Dateigröße in GB zeigt. In der Liste der Bibliothek steht die Größe nicht immer dabei, Qwen3.8-Flash-Next etwa läuft lokal, obwohl die Liste keine Größe nennt. Modelle, die nur das Etikett „cloud“ tragen, laufen ausschließlich auf Ollamas Servern.
Was sind Ollama-Cloud-Modelle?
Modelle, die Ollama auf eigenen Servern betreibt, meist weil sie für einen normalen Rechner zu groß sind. Du rufst sie über die App, das Terminal oder die API auf, ohne das Modell herunterzuladen, brauchst dafür aber ein Konto und Nutzungsguthaben.
Sind Ollama-Cloud-Modelle DSGVO-konform?
Das hängt von deinem Einsatz ab und ist keine Frage, die ich pauschal beantworten kann. Fest steht laut Ollama: Die Verarbeitung läuft vor allem in den USA, Eingaben werden nicht zum Training genutzt und sollen nicht gespeichert werden. Einen Auftragsverarbeitungsvertrag habe ich auf den Seiten nicht gefunden. Für personenbezogene Daten nimm lokale Modelle oder lass es prüfen. Das ist keine Rechtsberatung.
Wie schalte ich die Cloud in Ollama ab?
Trage "disable_ollama_cloud": true in ~/.ollama/server.json ein oder setze OLLAMA_NO_CLOUD=1 für den Ollama-Dienst, auf dem Mac mit launchctl setenv, unter Linux in der Dienst-Konfiguration, und starte Ollama neu. Im Log steht danach „Ollama cloud disabled: true“.
Was kostet Ollama?
Lokal nichts. Für die Cloud gibt es Pay as you go ohne Grundgebühr, bei dem du je Token aus gekauftem Guthaben zahlst, Pro für 20 US-Dollar und Max für 100 US-Dollar im Monat, Stand 15.11.2026. Was über das enthaltene Guthaben hinausgeht, rechnet Ollama je Million Tokens ab.
Welches Ollama-Modell passt auf 16 GB?
gpt-oss:20b mit 14 GB, für das OpenAI ausdrücklich 16 GB nennt, außerdem Devstral Small 2 mit 15 GB für Coding und Ministral 3 14B mit 9,1 GB. Rechne zum Modell immer etwas Speicher für den Kontext dazu.
Wie du weitermachst
Wenn du Ollama noch nicht installiert hast, fang mit Lokale KI einrichten: Ollama bis SGLang an. Planst du dafür einen Mac, hilft dir Lokale KI auf dem Mac: Mini als KI-Server. Bevor du Kundendaten in ein Modell gibst, lies Lokale KI und Datenschutz: Cloud oder Server?, und einen Überblick über alle offenen Modelle gebe ich in meinem Vergleich der Open-Source-KI-Modelle.
