Ein Corporate LLM ist die KI, die ein Unternehmen seinen Leuten offiziell zur Verfügung stellt: eine Chat-Oberfläche oder ein Modellzugang mit Firmenkonto, Vertrag und Regeln, statt privater Gratis-Accounts. Dafür gibt es drei Wege. Erstens den Business-Plan eines Anbieters wie Claude oder ChatGPT. Zweitens ein US-Modell, das über eine Cloud wie AWS oder Azure in EU-Regionen rechnet. Drittens einen eigenen Server mit einem offenen Modell, im Haus oder gemietet in Deutschland. Welcher Weg passt, entscheidet zuerst die Datenklasse, dann Kosten, Betrieb und Qualität. Für die meisten kleinen Betriebe reicht der erste Weg mit Auftragsverarbeitungsvertrag; besonders schutzwürdige Daten lasse ich selbst meist über den dritten laufen.
Ich nutze alle drei Wege nebeneinander und entscheide pro Datenklasse, nicht pro Werkzeug. Ich bin Entwickler und kein Anwalt, das hier ist keine Rechtsberatung, sondern die Betreiber-Perspektive. Alles, was ich zu KI im Alltag schreibe, sammle ich auf der Seite KI.
Was ist ein Corporate LLM?
LLM steht für Large Language Model, also ein großes Sprachmodell. „Corporate“ heißt hier nicht, dass ein Unternehmen ein eigenes Modell trainiert. Gemeint ist ein firmeneigener Zugang zu einem Modell: eine Oberfläche, in der alle mit demselben Konto arbeiten, mit festgelegten Rechten, einem Vertrag zur Datenverarbeitung und einer Regel, welche Daten hinein dürfen. Andere Namen dafür sind private KI, Firmen-GPT oder KI on premise, wenn das Modell im eigenen Haus läuft.
Ein Corporate LLM besteht immer aus zwei Schichten. Unten das Modell, das rechnet. Oben die Oberfläche, mit der deine Leute arbeiten. Bei einem Business-Plan bekommst du beides aus einer Hand. Beim eigenen Server stellst du beides selbst zusammen, zum Beispiel ein offenes Modell unter einem Inferenz-Server und darüber eine Chat-Oberfläche wie Open WebUI, die sich selbst als „self-hosted AI platform“ beschreibt.
Drei Wege zum Corporate LLM
Weg 1: der Business-Plan eines Anbieters
Du schließt einen Team- oder Enterprise-Plan ab, bekommst Nutzerverwaltung und einen Auftragsverarbeitungsvertrag und arbeitest mit dem neuesten Modell des Herstellers. Das ist der schnellste Weg und der mit der besten Qualität. Die Frage, die du klären musst, ist der Ort. Für die Claude-API nennt Anthropic als Verarbeitungsort nur „global“ oder „us“ und als Speicherort nur „us“, Stand 31.10.2026; eine EU-Option gibt es dort nicht. Für die Business-Pläne prüfst du den Ort im Vertrag und in der Datenschutzdoku des Plans, nicht auf der Werbeseite.
Plattformen wie Langdock bündeln mehrere Modelle unter einer Oberfläche mit EU-Hosting. Was das im Betrieb bedeutet, habe ich in Langdock vs Claude: was ich im Betrieb nutze beschrieben.
Weg 2: ein US-Modell in einer EU-Cloud
Dasselbe Modell, aber über einen Cloud-Anbieter, der es in EU-Regionen betreibt. Bei Amazon Bedrock gibt es für Claude Sonnet 5.5 ein EU-Profil. Wer es aus Frankfurt aufruft, landet laut Modellkarte in einer von sechs Regionen: Frankfurt, Stockholm, Mailand, Spanien, Irland oder Paris. Bei Google Vertex gibt es für Claude laut Anthropic einen Multi-Region-Endpunkt „eu“, ab Claude Sonnet 4.5 mit 10 Prozent Aufschlag gegenüber global; regionale Endpunkte wie europe-west1 bedienen nur Claude Sonnet 4.6 und ältere. Bei Microsoft Foundry heißt das Gegenstück „Data Zone Standard“; die EU-Datenzone folgt laut Microsoft der EU Data Boundary, kann also auch EFTA-Länder wie Norwegen und die Schweiz umfassen. Für Claude gilt das allerdings nicht: Anthropic nennt für Claude in Foundry nur „Global Standard“ und „US Data Zone Standard“, für Claude Sonnet 5.5 sogar nur „Global Standard“. Wer Claude mit Verarbeitung in der EU braucht, kommt über Foundry derzeit nicht dorthin.
Du bekommst Spitzenmodelle mit Verarbeitung in der EU und den Vertrag des Cloud-Anbieters, zahlst aber mit einem Cloud-Konto, Rechteverwaltung, Abrechnung nach Token und ohne fertige Oberfläche für alle. Die Details für Claude stehen in Claude über AWS Bedrock: EU, DSGVO, Kosten.
Weg 3: eigener Server mit offenem Modell
Ein offenes Modell wie Qwen, Mistral oder gpt-oss läuft auf Hardware, die du kontrollierst. Entweder steht sie bei dir, oder du mietest sie in einem deutschen Rechenzentrum. Kein Anbieter sieht deine Eingaben, und kein Modellwechsel kommt ungefragt. Dafür bist du für Updates, Ausfälle und Modellwechsel selbst zuständig, und die Qualität liegt unter den besten Cloud-Modellen. Welche Hardware für welche Modellgröße reicht, steht in Eigener KI-Server: Hardware und Kosten. Welche offenen Modelle es gibt, steht in Open-Source-KI-Modelle 2026 im Vergleich.
Vier Kriterien für die Entscheidung
Datenklasse kommt zuerst, weil sie die anderen begrenzt: Verlangt ein Kunde, dass seine Daten dein Netz nicht verlassen, fällt Weg 1 aus, egal wie günstig er ist. Kosten vergleichst du pro Nutzung: Sitzpreis bei täglicher Arbeit, Token-Preis bei seltener, eigener Server bei Dauerlast. Betrieb unterschätzen fast alle, ein Server bleibt ein Server. Qualität prüfst du an deinen eigenen Aufgaben, nicht an Benchmarks.
LLM-Hosting in Deutschland: wer was anbietet
Zwischen Weg 2 und Weg 3 liegt ein Mittelweg: offene Modelle, die ein deutscher Anbieter für dich betreibt und per Schnittstelle bereitstellt. Drei Beispiele; die Angaben stammen von den Seiten der Anbieter (Stand 31.10.2026), nicht aus einem eigenen Test. Das ist keine Empfehlung und keine Rangliste.
- IONOS AI Model Hub. Rechnet laut Doku nur in Rechenzentren in Deutschland, bietet unter anderem Qwen3.8-27B, gpt-oss-120b, Mistral Small 24B und Llama 3.3 70B an, abgerechnet je Million Token.
- STACKIT AI Model Serving. Läuft laut Doku in der Region EU01 in Deutschland, bietet unter anderem Qwen3.8 27B, gpt-oss-120b, Gemma 4 31B und Llama 3.3 70B an, ebenfalls je Million Token.
- Hetzner GPU-Server. Hier mietest du die Hardware, nicht das Modell. Der GEX131 mit einer Nvidia RTX PRO 6000 Blackwell Max-Q und 96 GB Grafikspeicher kostet laut Hetzner 1.499 Euro im Monat zuzüglich Mehrwertsteuer, dazu eine einmalige Einrichtung in derselben Höhe. Er ist als einziges der GPU-Modelle auch in Falkenstein verfügbar, die anderen nur in Helsinki. Einrichtung und Betrieb des Modells liegen bei dir.
Zwei der Anbieter führen Qwen3.8-27B, das Modell, das ich selbst betreibe. Der Unterschied liegt dann darin, wer den Server pflegt und die Daten verarbeitet. Bei allen drei verarbeitet oder beherbergt ein Dienstleister deine Daten, ein AVV gehört deshalb in der Regel dazu. Und Modelle wechseln: IONOS führt auf seiner Modellseite eine lange Liste bereits abgeschalteter Modelle, darunter Llama 3.1 405B und Mistral 7B. Plane ein, dass das Modell, mit dem du startest, irgendwann abgelöst wird. Wie die Anbieter mit Ein- und Ausgaben umgehen, welche Verträge es gibt und wer sonst in Deutschland und der EU anbietet, steht in Deutsche und europäische KI-Anbieter.
Mein Setup: drei Wege nach einer Ampel
Meine Ampel für Kundendaten hat drei Stufen, und jede Stufe hat ihren Weg. Grün sind Texte und alles ohne Personenbezug. Gelb sind personenbezogene Daten im normalen Geschäftskontext. Für geschäftliche Daten nutze ich Claude Team, weil Anthropic dafür einen Auftragsverarbeitungsvertrag anbietet. Bedrock nutze ich in manchen Fällen selbst produktiv und habe es bei Kunden eingerichtet, jeweils dort, wo Verarbeitung in der EU verlangt ist. Rot sind Gesundheitsdaten, Bankdaten Dritter und andere besondere Kategorien, die laufen bei mir meist direkt über lokale Modelle, ohne Cloud.
Seit Dezember 2025 steht bei mir ein Nvidia DGX Spark im eigenen Netz. Darauf läuft Qwen3.8-27B unter SGLang. Die Schnittstelle spricht das OpenAI- und das Anthropic-Format, deshalb laufen Werkzeuge, die sonst Claude ansprechen, ohne Codeänderung gegen den lokalen Server. Ehrlich dazugesagt: Bei komplexen Aufgaben mit vielen Dateien und vielen Werkzeugen liegt Claude bei mir vorn. Das Ziel des lokalen Modells ist eine cloudfreie Alternative für die Fälle, in denen kein Byte das Haus verlassen darf, nicht der Ersatz meiner Belegschaft auf Claude. Wie der Aufbau im Detail aussieht, steht in Qwen 3.8 lokal: Erfahrung mit DGX Spark.
Typische Fehler bei der Entscheidung
- Mit der Technik anfangen. Wer zuerst einen Server kauft und danach fragt, welche Daten darauf laufen sollen, hat die Reihenfolge vertauscht. Erst die Datenklasse, dann der Weg.
- „Frankfurt“ für „nur Frankfurt“ halten. Ein EU-Profil hält die Verarbeitung in einer Gruppe von Regionen, nicht in einer einzelnen Stadt. Wenn ein Vertrag eine bestimmte Region verlangt, prüfe die Modellkarte.
- Lokal mit datenschutzkonform verwechseln. Ein eigener Server spart den AVV mit einem Modellanbieter, aber Rechtsgrundlage, Verzeichnis und interne Regeln bleiben. Steht die Hardware bei einem Hoster, brauchst du mit ihm in der Regel doch einen AVV. Mehr dazu in Lokale KI und Datenschutz: Cloud oder Server?.
- Den Betrieb nicht einplanen. Modelle werden abgelöst, Inferenz-Server ändern ihre Parameter, die Oberfläche braucht Updates. Ohne eine Person, die das gern macht, veraltet ein eigenes Corporate LLM schnell.
- Keine Regel für die Belegschaft. Das beste Corporate LLM hilft nichts, wenn nebenher private Accounts weiterlaufen. Wie du das kurz aufschreibst, steht in KI-Richtlinie für dein Team: was rein muss.
Häufige Fragen
Was ist ein Corporate LLM?
Ein firmeneigener Zugang zu einem Sprachmodell: eine Oberfläche oder Schnittstelle mit Firmenkonto, Vertrag und festen Regeln, welche Daten hinein dürfen. Das Modell selbst trainiert dabei fast nie das Unternehmen, es kommt von einem Anbieter oder ist ein offenes Modell.
Ist ein Corporate LLM DSGVO-konform?
Kein Werkzeug ist für sich konform, nur ein Setup. Ein Vertrag zur Auftragsverarbeitung, der passende Verarbeitungsort und eine Regel für die Daten gehören dazu, egal welcher Weg. Das ist keine Rechtsberatung. Für den Einzelfall gehört die Frage zu deinem Datenschutzbeauftragten.
Was kostet ein Corporate LLM?
Das hängt vom Weg ab. Ein Business-Plan kostet einen festen Preis je Sitz, eine EU-Cloud rechnet nach Token ab, ein gemieteter GPU-Server wie der Hetzner GEX131 kostet laut Anbieter 1.499 Euro im Monat zuzüglich Mehrwertsteuer, Stand 31.10.2026. Beim eigenen Server kommt die Arbeitszeit für den Betrieb dazu.
Welche LLM-Hosting-Anbieter gibt es in Deutschland?
Beispiele sind der IONOS AI Model Hub und STACKIT AI Model Serving, die offene Modelle per Schnittstelle bereitstellen, und GPU-Server zur Miete, etwa bei Hetzner. Prüfe bei jedem, wo laut Doku gerechnet wird, ob Eingaben gespeichert werden und welche Modelle aktuell angeboten werden.
Brauche ich für ein Corporate LLM eigene Hardware?
Nur für den dritten Weg im eigenen Haus. Business-Plan und EU-Cloud brauchen keine Hardware, und auch offene Modelle kannst du gehostet in Deutschland nutzen. Eigene Hardware lohnt sich, wenn Daten dein Netz nicht verlassen dürfen oder dieselbe Aufgabe im Dauerbetrieb läuft.
Wie du weitermachst
Schreib zu deinen drei häufigsten KI-Aufgaben die Datenklasse auf, dann weißt du meist schon, welcher Weg passt. Wenn es Richtung eigener Server geht, ist KI-Server für kleine Unternehmen der nächste Schritt, und die Einrichtung vom Mac bis zum Server steht in Lokale KI einrichten: Ollama bis SGLang. Wie andere Betriebe ihre KI aufsetzen und welche Regeln sie dafür schreiben, besprechen wir in meiner deutschsprachigen Community Claude Practitioners.
