Zum Inhalt springen
Wegenty
Hardware

Lokale KI vs. Cloud: die wahren Kosten eines LLM-Betriebs

Wegenty8 min Lesezeit

Cloud-KI rechnet pro Token ab — für immer; eine lokale Appliance ist ein Einmalkauf. Wir schlüsseln die Gesamtkosten auf — und zeigen, wo für ein KMU die Grenze kippt.

Fragen Sie einen Anbieter, was KI kostet, und Sie erhalten eine Zahl, die klein klingt: ein Bruchteil eines Cents pro Anfrage. Das Problem an dieser Zahl ist das Wort pro. Eine Cloud-KI-Rechnung ist ein Zähler, und Zähler hören nicht auf zu laufen. Eine lokale KI-Appliance hat genau die umgekehrte Form — Sie zahlen einmal für eine Box, die Ihnen gehört, danach ein schlankes Abonnement, um sie gesteuert und aktuell zu halten. Dieselbe Arbeitslast, zwei völlig unterschiedliche Kostenkurven.

Das ist keine Geschichte darüber, dass das eine grundsätzlich günstiger wäre. Es geht darum, welche Form zu Ihrem Unternehmen passt — und, mindestens ebenso wichtig, was jede Form unterwegs mit Ihren Daten macht. Denn bei Cloud-KI verlässt nicht nur der Preis das Haus.

Die zwei Kostenformen

Wenn man die Tabellenkalkulationen beiseitelässt, gibt es im Grunde nur zwei Arten, für KI zu zahlen.

Cloud-KI ist ein Zähler, der nie stoppt. Sie zahlen pro Token, pro Platz oder beides — jede Frage, jeden Monat, solange Sie es nutzen. Es gibt keinen Punkt, an dem sich der Zähler abschaltet. Der Preis dieses Jahres ist auch nicht der Preis, der Ihnen fürs nächste Jahr garantiert wird: Der Anbieter legt ihn fest und kann das Modell dahinter ändern, wann immer er will. Und jede abrechenbare Anfrage ist zugleich eine Anfrage, die Ihre Daten zu einem Dritten getragen hat, um beantwortet zu werden.

Eine lokale Appliance ist eine Box, die Sie einmal kaufen und besitzen. Sie kaufen die Hardware einmal. Danach besteht der Grenzkostenaufwand für eine weitere beantwortete Frage im Wesentlichen aus dem Strom, der die Box betreibt. Zur Hardware kommt ein schlankes Abonnement für Governance und Updates — bei uns heißt es Cloud Shield — doch das ist eine flache monatliche Basis, kein Nutzungszähler. Die Daten werden dort beantwortet, wo sie liegen; nichts überquert eine Grenze, um eine Antwort zu liefern.

Lokale ApplianceCloud-KI-API
KostenformEinmal Hardware + schlankes AboPro Token / pro Platz, für immer
Grenzkosten pro Frage≈ StromJedes Mal abgerechnet
Wo die Daten liegenIn Ihrem HausEine Drittanbieter-Cloud
Wer das Modell kontrolliertSieDer Anbieter (kann sich ändern)
Kosten bei SkalierungFlach — Nutzung ist nach Kauf freiWächst mit jedem Nutzer

Die beiden mittleren Zeilen vergisst man am ehesten, wenn man zum Taschenrechner greift. Kosten sind nicht die einzige Achse dieser Tabelle — wo Ihre Daten liegen und wer das Modell kontrolliert sind ebenfalls Posten, auch wenn keine Rechnung sie ausdruckt.

Die versteckten Kosten des Cloud-Zählers

Der Preis pro Token ist die Schlagzeile. Die Rechnung ist größer als die Schlagzeile, und das meiste Zusätzliche steht nicht auf der Preisliste.

  • Egress und Integration. Ihr Wissen in die Infrastruktur eines Anbieters hinein- und wieder herauszubewegen, hat eigene Kosten — und die wachsen tendenziell mit Ihnen, statt zu schrumpfen.
  • Compliance-Aufwand. Jede grenzüberschreitende Übermittlung personenbezogener Daten ist eine Frage, die Sie nun beantworten müssen — Übermittlungsmechanismen, Unterauftragsverarbeiter-Ketten, Residenzklauseln, die neu verhandelt werden, sobald sich die Rechtslage verschiebt. Diese Arbeit ist real, wiederkehrend und steht selten in irgendeinem KI-Budget. Es ist zugleich genau die Art Arbeit, die ein lokaler Betrieb reduzieren kann, weil der grenzüberschreitende Transfer entfällt, der vieles davon erst auslöst — wie wir in Souveräne KI, erklärt aufschlüsseln.
  • Lock-in. Sobald Ihre Prompts, Ihre Integrationen und die Gewohnheiten Ihres Teams um die API eines Anbieters herum gebaut sind, ist ein Wechsel teuer — und das ist Hebelwirkung beim Anbieter, nicht bei Ihnen.
  • Preisänderungen. Ein Zähler, den Sie nicht kontrollieren, ist eine Budgetposition, die Sie nicht prognostizieren können. Der Tarif kann sich bewegen, das Modell dahinter kann ausgetauscht werden, und beides tragen Sie.

Nichts davon taucht auf, wenn Sie Token mit einem Stückpreis multiplizieren. Alles davon taucht in der Jahresendsumme auf.

Warum lokale KI günstiger wird, je mehr Sie sie nutzen

Hier kommt die strukturelle Wendung, die den Vergleich kippt. Bei Cloud-KI erhöht jeder neue Nutzer, jeder neue Anwendungsfall, jeder geschäftige Monat die Rechnung — Nutzung und Kosten steigen gemeinsam, für immer. Genau das, was Sie sich am meisten wünschen (rege Nutzung), kostet Sie am meisten.

Eine lokale Appliance kehrt das um. Sobald die Box bezahlt ist, kosten weitere tausend Fragen fast nichts. Es gibt keinen Token-Zähler zu füttern, also ist interne Nutzung faktisch kostenlos. Je mehr sich Ihr Team und Ihre Kundschaft darauf stützen, desto besser sieht die Wirtschaftlichkeit aus — weil Sie feste Kosten über einen wachsenden Berg an Wert verteilen, statt bei jeder Interaktion eine Maut zu zahlen.

Deshalb kippt die Grenze. Für leichte, gelegentliche Nutzung kann die Pay-as-you-go-Form der Cloud durchaus sinnvoll sein — Sie mieten, und Mieten passt zu geringer Nutzung. Aber für ein Unternehmen, das KI täglich nutzt, über ein Team hinweg, auf Wissen, das ihm gehört, liegt die flache Kurve einer eigenen Box irgendwann unter der steigenden Kurve eines Zählers. Wir tun nicht so, als könnten wir Ihnen einen garantierten Break-even-Monat ausdrucken — die Preise sind 2026 zu volatil, als dass das ehrlich wäre — aber die Richtung steht außer Frage: Je intensiver und dauerhafter Ihre Nutzung, desto stärker spielt eine eigene Box zu Ihren Gunsten.

Welche Box, und was kostet sie tatsächlich?

Die Hardware reicht vom taschenbuchgroßen Mini-PC bis zur mandantenfähigen Workstation, und Sie wählen die, die zu der Modellgröße passt, die Sie betreiben müssen.

GerätModelleSpeicherRechenleistungPreis
Minisforum AI X1 Pro7–14B + long contextup to 96 GB (upgradeable)Ryzen AI 9 HX 370 · Radeon 890M · 50 TOPSab €739
GEEKOM A87–14Bup to 64 GB (upgradeable)Ryzen 9 8945HS · Radeon 780Mab €759
Minisforum MS-S1 MAX30–70B (clusters higher)128 GB unifiedRyzen AI Max+ 395 · Radeon 8060Sab €2,679
Apple Mac Studio M3 Ultra30–100B+96–256 GB unifiedM3 Ultra · 819 GB/s bandwidthab €4,799

Für eine einzelne Wissensbasis und ein 7–14B-Modell — genug, um Kundenfragen aus Ihren Dokumenten zu beantworten — beginnt ein Einstiegs-Mini-PC im niedrigen dreistelligen Eurobereich (indikativ ~490 € am unteren Ende). Steigen Sie auf eine 128-GB-Box um, die ein 70B-Modell betreibt, sind Sie in der Leistungsklasse (indikativ ~2.400 €+). Beide Zahlen sind nur indikativ; aktuelle Werte sehen Sie unter den aktuellen Preisen auf der Hardware-Seite, die monatlich neu geprüft wird. Sie können die Box auf der Hardware-Seite wählen, sobald Sie wissen, welche Klasse passt, und unser Mini-PC-Kaufratgeber führt das Feld im Detail durch.

Entscheidend ist: Das ist Kapital, einmal gezahlt — kein Abo, das sich aufsummiert. Die Gesamtkostenfrage lautet damit: Wie viele Monate Cloud-Zähler entsprechen einer Box, die Sie jahrelang behalten?

Der ehrliche Vorbehalt: Hardware ist Kapital, und jemand wartet sie

Es wäre unredlich, die eigene Box als mühelos zu verkaufen. Das ist sie nicht.

  • Hardware wird im Voraus bezahlt. Eine Investitionsausgabe ist ein anderes Gespräch mit Ihrer Finanzabteilung als ein kleiner monatlicher Posten, selbst wenn die Summe über die Zeit niedriger ausfällt. Für manche Unternehmen passt die Cashflow-Form eines Abonnements tatsächlich besser — und das ist ein legitimer Grund, es zu wählen.
  • Sie warten sie — oder jemand tut es für Sie. Eine Box in Ihrem Haus braucht Updates, gelegentlich einen Patch und jemanden, der die Governance-Ebene aktuell hält. Genau dafür ist das schlanke Cloud-Shield-Abonnement da: eine flache monatliche Basis, die das Modell aktuell und die Vertrauensgrenze gesteuert hält, ohne einen Token-Zähler wieder einzuführen. Wenn Sie sie lieber gar nicht anfassen möchten, kann eine Beraterin oder ein Berater sie für Sie betreiben — siehe unser Leitfaden zum lokalen KI-Hosting für den Mittelstand.

Der echte Vergleich lautet also nicht „kostenlose Box vs. teure Cloud". Er lautet Einmalkosten plus ein schlankes, flaches Abonnement versus ein Zähler, der mit jedem Nutzer wächst und bei jeder Anfrage Ihre Daten ins Ausland trägt. Die konkreten Abo-Stufen finden Sie auf der Preisseite — die Basis ist eine schlanke monatliche Zahl, keine Nutzungsgebühr.

Die Kosten, die auf keine Rechnung passen

Es gibt noch einen Posten, der in jede ehrliche Gesamtkostenrechnung gehört und auf keiner der beiden Rechnungen je auftaucht: Kontrolle.

Beim Cloud-Zähler verlässt Ihr Wissen bei jeder Anfrage das Haus, das Modell kann sich unter Ihnen verändern, und den Preis legt jemand anderes fest. Bei einer eigenen, gesteuerten Box trifft nichts davon zu — und das, was diese Box sicher genug macht, um sie Kunden vorzusetzen, ist gar nicht die Hardware. Es ist die Governance-Ebene: die Grenze zwischen Ihrem internen Wissen und dem öffentlichen Agenten, die im Voraus entscheidet, was eine Kundin oder ein Kunde je sehen kann. Dass diese Grenze, nicht die Box, das eigentliche Produkt ist, begründen wir in Das Produkt ist Governance.

Lokales Hosting garantiert keine Compliance — das tut nichts — aber es stärkt Ihre DSGVO- und EU-KI-Verordnungs-Haltung per Design, weil die schwierigsten Fragen (wo liegen die Daten, wer kann das Modell ändern, kann ich es belegen) gleich beantwortet werden: Nichts hat das Haus verlassen. Das ist keine Zahl auf einem Angebot. Für ein KMU im deutschen Mittelstand ist es oft die ausschlaggebende.

Bereit, Ihre eigene Rechnung aufzumachen? Wählen Sie eine Box auf der Hardware-Seite, prüfen Sie die schlanke monatliche Basis auf der Preisseite und testen Sie die Live-Demo, um einen gesteuerten Agenten auf echtem Wissen antworten zu sehen — ohne dass etwas das Haus verlässt.

Weiterlesen