Kimi K3 hat das Zeitalter der KI-Abonnements soeben beendet

Die Schlagzeilenzahl ist nicht die ganze Geschichte

Am 27. Juli veröffentlicht Moonshot AI die vollständigen Gewichte von Kimi K3 unter einer modifizierten MIT-Lizenz. Das Datenblatt liest sich wie ein Flex: 2,8 Billionen Parameter, ein Kontextfenster von einer Million Token und der Titel des größten jemals veröffentlichten Open-Weight-Modells – etwa 75 % größer als DeepSeek V4 Pro.

Aber die Größe ist nur der Köder. Die wahre Geschichte ist eine Verschiebung darüber, wer Zugang zu KI an der Spitze der Forschung kontrolliert. Drei Jahre lang lebten die besten Modelle hinter einer API. Du hast Miete gezahlt, der Vermieter hat die Bedingungen festgelegt, und wenn der Anbieter den Endpunkt neu bepreiste oder das Verhalten des Modells leise änderte, hat dein Produkt den Schaden getragen.

Offene Gewichte brechen diese Vereinbarung. Sobald die Dateien öffentlich sind, kann kein Labor die Fähigkeit mehr zurücknehmen. Diese eine Tatsache ändert die Wirtschaftlichkeit für alle, auch für Leute, die niemals einen einzigen Shard herunterladen werden.

Das Datenblatt auf einen Blick

Spezifikation

Wert

Parameter

2,8 Billionen

Experten

896 insgesamt, 16 aktiv pro Token

Kontextfenster

1.048.576 Token

Lizenz

Modifizierte MIT

Veröffentlichung der Gewichte

1. Juli

Größe im Vergleich zu DeepSeek V4 Pro

~75 % größer

Skalierungseffizienz im Vergleich zu K2

~2,5-fach

Preise

Preis

Eingabe (Cache-Treffer)

0,30 $ / 1 Mio. Token

Eingabe (Cache-Fehltreffer)

3,00 $ / 1 Mio. Token

Ausgabe

15,00 $ / 1 Mio. Token

Wie ein 2,8B-Modell eine 2,8B-Rechnung vermeidet

Ein dichtes Modell dieser Größe wäre unbrauchbar. Jeden Parameter bei jedem Token auszuführen, ist die Mauer, an die alle Modelle im Billionen-Maßstab stoßen: zu langsam, zu teuer, keine Möglichkeit, der Physik zu entkommen.

K3 umgeht sie mit einem aggressiven Mixture-of-Experts-Design. Im Inneren des Modells leben 896 spezialisierte Subnetzwerke. Bei einem bestimmten Token feuern nur 16 von ihnen. Du erhältst das gespeicherte Wissen von 2,8 Billionen Parametern, während du die Inferenzkosten eines Modells von einem Bruchteil dieser Größe zahlst.

Das ist Sparsity, und K3 setzt stärker darauf als jedes offene Modell zuvor. K2 hat bewiesen, dass der Ansatz funktioniert. K3 macht ihn zur Kernwette.

Zwei Forschungsarbeiten, die die Hauptarbeit geleistet haben

Zwei architektonische Änderungen machen den Rest möglich, und beide wurden als offene Forschung veröffentlicht, bevor das Modell ausgeliefert wurde. Das verschaffte Moonshot Glaubwürdigkeit bei Forschern, bevor ein einziger Benchmark erschien.

Die erste ist Kimi Delta Attention, ein hybrider linearer Aufmerksamkeitsmechanismus. Die Kosten der Standard-Aufmerksamkeit wachsen quadratisch, je länger der Kontext wird – weshalb Million-Token-Fenster normalerweise nur in Marketing-Decks stehen. KDA skaliert anders, und dieser Unterschied ist der einzige Grund, warum ein 1M-Fenster zu einem Preis existiert, den tatsächlich jemand bezahlen kann.

Die zweite ist Attention Residuals, ein Ersatz für standardmäßige Residualverbindungen. Moonshot führt darauf die konsistenten Skalierungsgewinne zurück, die es ihnen ermöglichen, tiefere Modelle zu bauen, ohne die übliche Degradation. Nach eigenen Zahlen liefert die Kombination etwa die 2,5-fache Skalierungseffizienz von K2.

Was eine Million Token überflüssig macht

Der größte Teil der Retrieval-Infrastruktur in der Produktions-KI existiert als Workaround. Chunking, Embeddings, Vektordatenbanken, RAG-Pipelines: All das kompensiert Modelle, die nicht genug im Arbeitsgedächtnis behalten können.

Eine Million Token ändert den Standard. Eine ganze Codebasis wird zu einem einzigen Prompt. Ein Jahr interner Dokumente. Fünfzig Videotranskripte. Alles liegt gleichzeitig in der Aufmerksamkeit, und das Modell denkt über das gesamte Korpus nach, anstatt abgerufene Fragmente zusammenzustückeln und zu hoffen, dass die Nähte halten.

Native Vision erweitert die Eingabefläche weiter. Screenshots, Whiteboard-Fotos, Architekturdiagramme und Diagramme sind im selben Kontext lesbar wie der Code und der Text um sie herum. Es ist kein Zufall, dass K3s stärkste Benchmark-Siege im Frontend-Coding kamen: Das Modell sieht das Design und schreibt die Implementierung innerhalb eines einzigen Kontextfensters.

Die Preistabelle, die wichtiger ist als Benchmarks

Die angegebenen Preise: 0,30 $ pro Million Eingabe-Token bei Cache-Treffer, 3,00 $ bei Cache-Fehltreffer, 15,00 $ pro Million Ausgabe-Token, bei einem Kontext von 1.048.576 Token.

Die Cache-Zahl ist die, die man sich ansehen sollte. Moonshot berichtet von Cache-Trefferquoten über 90 % in langen Coding-Sessions. Überlege, was ein Agent eigentlich tut: Er liest dasselbe Repository stundenlang immer wieder. Ohne Caching bezahlt er bei jedem Durchlauf den vollen Eingabepreis. Damit bricht die Kosten einer langen Session etwa um das Vierfache ein.

Langfristige Agenten leben oder sterben genau an dieser Mathematik. K3 ist für Sessions gebaut, die stundenlang mit minimaler Aufsicht laufen: ein Repository navigieren, Terminal-Tools orchestrieren, eigene Arbeit überprüfen. Die Preisstruktur ist das Produkt.

Der Haken, den niemand übersehen sollte

K3 hat keinen Economy-Modus. Reasoning ist dauerhaft eingeschaltet und auf Maximum festgelegt. Unabhängige Tester beobachteten, wie es über 13.000 Denk-Token für eine triviale SVG-Anfrage verbrannte – etwa 0,25 $ für eine Abfrage, die man wegwerfen kann.

Die Lehre ist das Routing. Schnelle, günstige, hochvolumige Aufrufe gehören auf kleinere Modelle. K3 verdient seine Kosten nur, wenn Kontextgröße und Aufgabenkomplexität das ständige Reasoning rechtfertigen. Es als allgemeinen Chat-Endpunkt zu verwenden, ist Geld verbrennen.

Einstecken dauert fünf Minuten

Die API ist OpenAI-kompatibel. Ersetze die base_url und den Schlüssel, behalte deinen vorhandenen Code:

1from openai import OpenAI
2import os
3
4client = OpenAI(
5    api_key=os.environ["MOONSHOT_API_KEY"],
6    base_url="https://api.moonshot.ai/v1",
7)
8
9completion = client.chat.completions.create(
10    model="kimi-k3",
11    messages=[{"role": "user", "content": "Stelle Kimi K3 in einem Satz vor."}],
12)
13print(completion.choices[0].message.content)

Reasoning wird über ein Top-Level-Feld konfiguriert, das derzeit nur "max" akzeptiert:

1completion = client.chat.completions.create(
2    model="kimi-k3",
3    reasoning_effort="max",
4    messages=[{"role": "user", "content": "Beweise, dass die Quadratwurzel von 2 irrational ist."}],
5)
6print(completion.choices[0].message.content)

Streaming funktioniert auf die Standardweise, wobei das Reasoning in einem separaten Delta-Feld ankommt, sodass du das Denken und die Antwort unabhängig voneinander darstellen kannst:

1stream = client.chat.completions.create(
2    model="kimi-k3",
3    messages=[{"role": "user", "content": "Erkläre, warum der Himmel blau ist."}],
4    stream=True,
5)
6
7for chunk in stream:
8    delta = chunk.choices[0].delta
9    reasoning = getattr(delta, "reasoning_content", None)
10    if reasoning:
11        print(reasoning, end="", flush=True)
12    if delta.content:
13        print(delta.content, end="", flush=True)

Vision-Eingabe nimmt base64-kodierte Bilder zusammen mit Text in derselben Nachricht entgegen. Das ist der gesamte Screenshot-zu-Code-Workflow:

1import base64
2from pathlib import Path
3
4image_data = base64.b64encode(Path("landing.png").read_bytes()).decode()
5
6completion = client.chat.completions.create(
7    model="kimi-k3",
8    messages=[
9        {
10            "role": "user",
11            "content": [
12                {
13                    "type": "image_url",
14                    "image_url": {"url": f"data:image/png;base64,{image_data}"},
15                },
16                {"type": "text", "text": "Baue diese Landingpage in HTML und Tailwind nach."},
17            ],
18        }
19    ],
20)
21print(completion.choices[0].message.content)

Warum das Menschen erreicht, die niemals die Gewichte anfassen

Hier ist der ehrliche Teil: Fast niemand wird 2,8 Billionen Parameter selbst hosten. Selbst mit Sparsity liegt die Hardware-Rechnung weit außerhalb der Reichweite von Hobbyisten und auch der meisten Unternehmen.

Das war nie der Punkt. Öffentliche Gewichte setzen eine Obergrenze dafür, was geschlossene Labore für vergleichbare Fähigkeiten verlangen können. Drittanbieter-Hosts werden sich gegenseitig darum überbieten, K3 zu Rohstoffmargen anzubieten – dieselbe Dynamik wie bei jedem großen Open-Release zuvor. Die Preise auf dem gesamten Markt tendieren zur offenen Baseline.

Der Vorteil erreicht dich über die Rechnung des Anbieters, den du bereits nutzt, egal ob du jemals eine Datei herunterlädst.

Ein praktischer Leitfaden

Füttere es mit ganzen Dingen. Vollständige Repositories zur Überprüfung, ganze Vertragsordner, eine gesamte Content-Bibliothek. Hör auf, Dinge zu chunken, die nicht mehr gechunkt werden müssen.

Lass es lange laufen. Stelle mehrstündige Engineering-Sessions in die Warteschlange und überprüfe die Ergebnisse später. Der Cache frisst die Kosten jedes erneuten Lesens.

Halt eine Kamera auf Probleme. Mach einen Screenshot von einer Landingpage und bitte um den Nachbau. Fotografiere ein Whiteboard und bitte um die Implementierung.

Halt trivialen Traffic fern. Ein Modell, das immer mit maximalem Reasoning arbeitet, ist das falsche Werkzeug für schnelle, hochvolumige Aufrufe. Leite diese woanders hin und spare K3 für Aufgaben, die es verdienen.

Der Countdown von zehn Tagen

Drei Jahre lang war die Spitze der Forschung etwas, das du gemietet hast, zu Bedingungen, die du nicht festgelegt hast, zu Preisen, die sich ohne Vorwarnung ändern konnten.

Am 27. Juli wird sie zu einer Datei. Und eine Datei, anders als ein Abonnement, ist etwas, das dir gehört.