Kimi K3 สยบยุคการสมัครสมาชิก AI อย่างเป็นทางการ

ตัวเลขหลักไม่ใช่เรื่องราวทั้งหมด

ในวันที่ 27 กรกฎาคม Moonshot AI เผยแพร่ weights เต็มของ Kimi K3 ภายใต้สัญญาอนุญาต Modified MIT เอกสารข้อมูลจำเพาะดูเหมือนการอวดอ้าง: 2.8 ล้านล้านพารามิเตอร์, หน้าต่างบริบท 1 ล้านโทเค็น, และตำแหน่งโมเดล open-weight ที่ใหญ่ที่สุดเท่าที่เคยมีมา ซึ่งใหญ่กว่า DeepSeek V4 Pro ประมาณ 75%

แต่ขนาดนั้นเป็นเพียงเหยื่อล่อ เรื่องจริงคือการเปลี่ยนแปลงว่าใครเป็นผู้ควบคุมการเข้าถึงความสามารถระดับ frontier ในช่วงสามปีที่ผ่านมา โมเดลที่ดีที่สุดอยู่เบื้องหลัง API คุณจ่ายค่าเช่า เจ้าของบ้านกำหนดเงื่อนไข และหากผู้ขายปรับราคาปลายทางหรือเปลี่ยนพฤติกรรมของโมเดลอย่างเงียบๆ สินค้าของคุณก็รับผลเสีย

Open weights ทำลายข้อตกลงนั้น เมื่อไฟล์เป็นสาธารณะแล้ว ไม่มีห้องปฏิบัติการใดสามารถเรียกคืนความสามารถนั้นได้ ข้อเท็จจริงเพียงข้อเดียวเปลี่ยนเศรษฐศาสตร์สำหรับทุกคน รวมถึงผู้ที่ไม่เคยดาวน์โหลด shard ใดๆ เลย

ข้อมูลจำเพาะโดยย่อ

ข้อมูลจำเพาะ

ค่า

พารามิเตอร์

2.8 ล้านล้าน

ผู้เชี่ยวชาญ (Experts)

896 ทั้งหมด, 16 ทำงานต่อโทเค็น

หน้าต่างบริบท (Context window)

1,048,576 โทเค็น

สัญญาอนุญาต

Modified MIT

การเผยแพร่ weights

27 กรกฎาคม

ขนาดเทียบกับ DeepSeek V4 Pro

ใหญ่กว่า ~75%

ประสิทธิภาพการปรับขนาดเทียบกับ K2

~2.5x

ราคา

อัตรา

อินพุต (cache hit)

$0.30 / 1M โทเค็น

อินพุต (cache miss)

$3.00 / 1M โทเค็น

เอาต์พุต

$15.00 / 1M โทเค็น

โมเดล 2.8T หลีกเลี่ยงค่าใช้จ่าย 2.8T ได้อย่างไร

โมเดลแบบ dense ที่มีขนาดนี้จะไม่สามารถใช้งานได้ การเรียกใช้ทุกพารามิเตอร์กับทุกโทเค็นคือกำแพงที่โมเดลระดับล้านล้านทั้งหมดชน: ช้าเกินไป แพงเกินไป ไม่มีทางเลี่ยงฟิสิกส์

K3 หลีกเลี่ยงด้วยการออกแบบ Mixture-of-Experts ที่รุนแรง ภายในโมเดลมีเครือข่ายย่อยเฉพาะทาง 896 ตัว ในแต่ละโทเค็น มีเพียง 16 ตัวเท่านั้นที่ทำงาน คุณจะได้รับความรู้ที่เก็บไว้ของ 2.8 ล้านล้านพารามิเตอร์ในขณะที่จ่ายค่าใช้จ่ายในการ infer เท่ากับโมเดลที่มีขนาดเพียงเศษเสี้ยว

นี่คือ sparsity และ K3 ใช้มันหนักกว่าโมเดล open ใดๆ ก่อนหน้านี้ K2 พิสูจน์แล้วว่าแนวทางนี้ใช้ได้ K3 เปลี่ยนมันให้เป็นหัวใจหลัก

งานวิจัยสองชิ้นที่ทำภารกิจหนัก

การเปลี่ยนแปลงทางสถาปัตยกรรมสองอย่างทำให้ส่วนที่เหลือเป็นไปได้ และทั้งสองถูกเผยแพร่เป็นงานวิจัยแบบเปิดก่อนที่โมเดลจะเปิดตัว ซึ่งทำให้ Moonshot ได้รับความน่าเชื่อถือจากนักวิจัยก่อนที่ benchmark แรกจะปรากฏ

อย่างแรกคือ Kimi Delta Attention ซึ่งเป็นกลไก attention แบบ linear ไฮบริด ต้นทุน attention มาตรฐานจะเพิ่มขึ้นแบบกำลังสองเมื่อบริบทยาวขึ้น ซึ่งเป็นเหตุผลว่าทำไมหน้าต่างล้านโทเค็นมักจะอยู่ในสไลด์การตลาดเท่านั้น KDA ปรับขนาดแตกต่างกัน และความแตกต่างนั้นเป็นเหตุผลเดียวที่หน้าต่าง 1M มีอยู่ในราคาที่ใครๆ ก็จ่ายได้

อย่างที่สองคือ Attention Residuals ซึ่งเป็นทางเลือกแทน residual connections มาตรฐาน Moonshot ให้เครดิตว่ามันให้ผลการปรับขนาดที่สม่ำเสมอ ทำให้พวกเขาสร้างโมเดลที่ลึกขึ้นได้โดยไม่มีการเสื่อมสภาพตามปกติ ตามตัวเลขของพวกเขา การรวมกันนี้ให้ประสิทธิภาพการปรับขนาดประมาณ 2.5 เท่าของ K2

หนึ่งล้านโทเค็นฆ่าอะไรบ้าง

โครงสร้างพื้นฐาน retrieval ส่วนใหญ่ในการผลิต AI มีอยู่เป็นงานแก้ปัญหา Chunking, embeddings, vector databases, RAG pipelines: ทั้งหมดนี้ชดเชยให้โมเดลที่ไม่สามารถเก็บข้อมูลในหน่วยความจำทำงานได้มากพอในครั้งเดียว

หนึ่งล้านโทเค็นเปลี่ยนค่าเริ่มต้น โค้ดเบสทั้งหมดเข้าไปใน prompt เดียว เอกสารภายในหนึ่งปี บทถอดความวิดีโอห้าสิบรายการ ทุกอย่างอยู่ใน attention พร้อมกัน และโมเดลใช้เหตุผลทั่วทั้งคลังข้อมูลแทนที่จะเย็บชิ้นส่วนที่ดึงมาเข้าด้วยกันและหวังว่ารอยต่อจะอยู่

วิสัยทัศน์แบบเนทีฟขยายพื้นผิวอินพุตให้กว้างขึ้น ภาพหน้าจอ รูปถ่ายไวท์บอร์ด แผนภาพสถาปัตยกรรม และแผนภูมิสามารถอ่านได้ในบริบทเดียวกับโค้ดและข้อความรอบๆ ไม่ใช่เรื่องบังเอิญที่ชัยชนะ benchmark ที่แข็งแกร่งที่สุดของ K3 มาจากการเขียนโค้ด front-end: โมเดลเห็นการออกแบบและเขียนการใช้งานภายในหน้าต่างบริบทเดียว

ตารางราคาที่สำคัญกว่า benchmark

อัตราที่ระบุ: $0.30 ต่อล้านโทเค็นอินพุตเมื่อ cache hit, $3.00 เมื่อ cache miss, $15.00 ต่อล้านโทเค็นเอาต์พุต, พร้อมบริบท 1,048,576 โทเค็น

ตัวเลข cache คือสิ่งที่ต้องจ้อง Moonshot รายงานอัตรา cache hit สูงกว่า 90% ในเซสชันการเขียนโค้ดยาวๆ ลองคิดว่า agent จริงๆ ทำอะไร: มันอ่าน repository เดิมซ้ำแล้วซ้ำอีกเป็นชั่วโมงๆ หากไม่มี caching มันจะจ่ายราคาอินพุตเต็มทุกครั้งที่อ่าน หากมี caching ต้นทุนของเซสชันยาวๆ จะลดลงประมาณ 4 เท่า

Long-horizon agents อยู่หรือตายด้วยคณิตศาสตร์นี้ K3 ถูกสร้างขึ้นสำหรับเซสชันที่ทำงานเป็นชั่วโมงโดยมีการควบคุมน้อยที่สุด นำทาง repo, จัดการเครื่องมือ terminal, ตรวจสอบงานของตัวเอง โครงสร้างราคาคือผลิตภัณฑ์

ข้อเสียที่ไม่มีใครควรพลาด

K3 ไม่มีโหมดประหยัด การใช้เหตุผลเปิดตลอดเวลาและคงที่ที่สูงสุด ผู้ทดสอบอิสระเห็นว่ามันใช้โทเค็นการคิดมากกว่า 13,000 โทเค็นสำหรับคำขอ SVG ที่ไม่สำคัญ ซึ่งประมาณ $0.25 สำหรับคำถามที่ใช้แล้วทิ้ง

บทเรียนคือการจัดเส้นทาง การเรียกที่รวดเร็ว ถูก และปริมาณมากควรใช้โมเดลที่เล็กกว่า K3 จะคุ้มค่าเมื่อขนาดบริบทและความซับซ้อนของงานเท่านั้นที่รับประกันการใช้เหตุผลแบบเปิดตลอดเวลา การใช้มันเป็น chat endpoint ทั่วไปคือการเผาเงิน

การเชื่อมต่อใช้เวลาห้านาที

API เข้ากันได้กับ OpenAI เปลี่ยน base_url และ key, ใช้โค้ดที่มีอยู่:

1from openai import OpenAI
2import os
3
4client = OpenAI(
5    api_key=os.environ["MOONSHOT_API_KEY"],
6    base_url="https://api.moonshot.ai/v1",
7)
8
9completion = client.chat.completions.create(
10    model="kimi-k3",
11    messages=[{"role": "user", "content": "แนะนำ Kimi K3 ในหนึ่งประโยค"}],
12)
13print(completion.choices[0].message.content)

การกำหนดค่าการใช้เหตุผลผ่านฟิลด์ระดับบนสุด ซึ่งปัจจุบันรับเฉพาะ "max":

1completion = client.chat.completions.create(
2    model="kimi-k3",
3    reasoning_effort="max",
4    messages=[{"role": "user", "content": "พิสูจน์ว่ารากที่สองของ 2 เป็นจำนวนอตรรกยะ"}],
5)
6print(completion.choices[0].message.content)

Streaming ทำงานในวิธีมาตรฐาน โดยผลการคิดจะมาถึงในฟิลด์ delta แยกต่างหากเพื่อให้คุณสามารถแสดงการคิดและคำตอบแยกกัน:

1stream = client.chat.completions.create(
2    model="kimi-k3",
3    messages=[{"role": "user", "content": "อธิบายว่าทำไมท้องฟ้าถึงเป็นสีฟ้า"}],
4    stream=True,
5)
6
7for chunk in stream:
8    delta = chunk.choices[0].delta
9    reasoning = getattr(delta, "reasoning_content", None)
10    if reasoning:
11        print(reasoning, end="", flush=True)
12    if delta.content:
13        print(delta.content, end="", flush=True)

อินพุตวิสัยทัศน์รับรูปภาพที่เข้ารหัส base64 พร้อมกับข้อความในข้อความเดียวกัน นี่คือเวิร์กโฟลว์ screenshot-to-code ทั้งหมด:

1import base64
2from pathlib import Path
3
4image_data = base64.b64encode(Path("landing.png").read_bytes()).decode()
5
6completion = client.chat.completions.create(
7    model="kimi-k3",
8    messages=[
9        {
10            "role": "user",
11            "content": [
12                {
13                    "type": "image_url",
14                    "image_url": {"url": f"data:image/png;base64,{image_data}"},
15                },
16                {"type": "text", "text": "สร้างหน้า landing นี้ใหม่ด้วย HTML และ Tailwind"},
17            ],
18        }
19    ],
20)
21print(completion.choices[0].message.content)

ทำไมสิ่งนี้ถึงถึงคนที่ไม่เคยแตะ weights

นี่คือส่วนที่ซื่อสัตย์: แทบไม่มีใครจะโฮสต์ 2.8 ล้านล้านพารามิเตอร์ด้วยตัวเอง แม้จะมี sparsity ค่าฮาร์ดแวร์ก็สูงเกินกว่าช่วงมือสมัครเล่น และเกินกว่าบริษัทส่วนใหญ่ด้วย

นั่นไม่ใช่ประเด็นเลย Public weights กำหนดเพดานราคาที่ห้องปฏิบัติการปิดสามารถเรียกเก็บสำหรับความสามารถที่เทียบเคียงได้ ผู้ให้บริการโฮสต์บุคคลที่สามจะแข่งขันกันเพื่อให้บริการ K3 ในราคาต้นทุนสินค้าโภคภัณฑ์ ซึ่งเป็นไดนามิกเดียวกับที่เกิดขึ้นทุกครั้งที่มีการเปิดตัว open release ครั้งใหญ่ ราคาทั่วทั้งตลาดจะลอยไปสู่ baseline แบบเปิด

ผลประโยชน์ถึงคุณผ่านใบแจ้งหนี้ของผู้ให้บริการที่คุณใช้อยู่แล้ว ไม่ว่าคุณจะดาวน์โหลดไฟล์หรือไม่ก็ตาม

คู่มือปฏิบัติ

ป้อนสิ่งทั้งหมดให้มัน เก็บ repository ที่สมบูรณ์สำหรับการตรวจสอบ, โฟลเดอร์สัญญาทั้งหมด, ไลบรารีเนื้อหาทั้งหมด หยุด chunking สิ่งที่ไม่ต้องการ chunking อีกต่อไป

รันมันนานๆ จัดคิวเซสชันวิศวกรรมหลายชั่วโมงแล้วตรวจสอบผลลัพธ์ทีหลัง Cache จะกินค่าใช้จ่ายของการอ่านซ้ำทุกครั้ง

ชี้กล้องไปที่ปัญหา ถ่ายภาพหน้าจอหน้า landing แล้วขอให้สร้างใหม่ ถ่ายรูปไวท์บอร์ดแล้วขอให้ implement

เก็บทราฟฟิกที่ไม่สำคัญออกไป โมเดลที่ใช้เหตุผลสูงสุดตลอดเวลาเป็นเครื่องมือผิดสำหรับการเรียกที่รวดเร็วและปริมาณมาก กำหนดเส้นทางเหล่านั้นไปที่อื่น และเก็บ K3 ไว้สำหรับงานที่สมควร

การนับถอยหลังสิบวัน

เป็นเวลาสามปีที่ frontier เป็นสิ่งที่คุณเช่า โดยมีเงื่อนไขที่คุณไม่ได้ตั้ง และราคาที่สามารถเปลี่ยนแปลงได้โดยไม่ต้องแจ้งล่วงหน้า

ในวันที่ 27 กรกฎาคม มันกลายเป็นไฟล์ และไฟล์ ซึ่งแตกต่างจากการสมัครสมาชิก เป็นสิ่งที่คุณเป็นเจ้าของ