สัปดาห์นี้ผมรันโมเดล AI ในเครื่องแบบเต็มรูปแบบบน MacBook ของตัวเอง ไม่ใช่เพราะความอยากรู้ ไม่ใช่เพื่อ "ลองดูว่ามันคืออะไร" แต่ผมตั้งใจใช้มันใน workflow จริง กับระบบ agent จริง และกับงานจริงที่ต้องทำ
โมเดลที่ใช้คือ Qwen 3.6 ขนาด 9 พันล้านพารามิเตอร์ เครื่องของผมคือ M1 Pro แรม 16 GB ไม่ใช่ Mac Studio ไม่ใช่เวิร์กสเตชัน แต่เป็นแล็ปท็อปทั่วไป Qwen 3.6 เป็นรุ่นใหม่ล่าสุด และเวอร์ชันเล็กต่างหากที่ทำให้การทดลองนี้คุ้มค่าที่จะลองตอนนี้ ไม่ใช่เมื่อหกเดือนก่อน
มันใช้ได้จริง
"ใช้ได้" ไม่ใช่แค่ในแง่ที่รันแล้วไม่มีข้อผิดพลาด แต่มันใช้ได้ในแง่ที่ผมนั่งทำงานกับมันจริง ๆ และไม่รู้สึกว่าต้องฝืนฮาร์ดแวร์ มันช้ากว่า Claude แน่นอน แต่ความช้าอยู่ในระดับที่รับได้ ระดับที่คุณรู้ว่ามันช้า แต่ไม่ถึงกับรู้สึกทรมาน
ซึ่งทำให้ผมประหลาดใจมากกว่าที่คิดไว้
สองเรื่องราวของ "AI ในเครื่อง" ที่แตกต่างกัน
ก่อนจะลงลึกในการทดลอง ต้องแยกแยะให้ชัด เพราะมักถูกพูดรวมเป็นเรื่องเดียวกันตลอด
เวอร์ชันแรกของ "AI ในเครื่อง" คือ agent ที่ทำงานในเครื่องแต่ใช้โมเดลบนคลาวด์ โค้ดทั้งหมดอยู่ในเครื่องของคุณ ระบบความจำของคุณ สคริปต์อัตโนมัติของคุณ การเชื่อมต่อเครื่องมือของคุณ แต่โมเดลจริง ๆ อยู่ที่อื่น คุณเรียกใช้ Claude หรือ OpenAI จากแล็ปท็อป แต่สถาปัตยกรรมที่ขับเคลื่อนทุกอย่างเป็นของคุณเอง บนฮาร์ดแวร์ของคุณ
และนี่คือเหตุผลที่ผู้คนเริ่มซื้อ Mac Mini ในปีนี้เพื่อโฮสต์เฟรมเวิร์ก agent ในเครื่อง ผมเขียนเกี่ยวกับเรื่องนี้ตอน OpenClaw กลายเป็นกระแส: ตัวอุปกรณ์คือส่วนที่ถูก Mac Mini ฐานราคาประมาณ 599 ดอลลาร์ ส่วนโมเดลบนคลาวด์คือตัวที่ทำงานคิดหนัก คุณเก็บระบบออร์เคสตราไว้ในเครื่อง เป็นส่วนตัว และทำงานตลอด โดยไม่ต้องเสียค่าสมาชิกแบบ always-on หรือพึ่งพาโครงสร้างพื้นฐานของคนอื่นเพื่อทำงานอัตโนมัติของคุณ
เวอร์ชันที่สองคือ LLM ในเครื่องแบบเต็มรูปแบบ โมเดลอยู่บนอุปกรณ์ของคุณ ไม่มีการเรียก API ไม่พึ่งพาคลาวด์ ไม่มีข้อมูลออกจากเครื่องของคุณ เป็นเวลานานที่เส้นทางที่สองนี้หมายถึงฮาร์ดแวร์ระดับสูง เพราะโมเดลที่คุ้มค่าจะมีขนาดใหญ่ และขนาดใหญ่ก็หมายถึงแพง คุณต้องมองหา Mac Studio ที่ทรงพลังมากหรือมากกว่านั้นเพื่อให้ได้ความสามารถที่แท้จริง
หลักการคำนวณนั้นกำลังเริ่มเปลี่ยนไป
การทดลองบน MacBook
Qwen 3.6 ขนาด 9 พันล้านพารามิเตอร์ทำงานได้อย่างยอมรับได้บนแรม 16 GB นี่คือผลลัพธ์หลัก และมันสำคัญกว่าที่คิด
ผมใช้ Ollama ซึ่งติดตั้งด้วยคำสั่งเดียว จัดการโมเดลทั้งหมด และให้ API ที่เข้ากันได้กับ OpenAI ที่ localhost:11434 เครื่องมือใดก็ตามที่รองรับรูปแบบ OpenAI ก็สามารถชี้ไปที่มันได้ รวมถึง Claude Code ซึ่งเป็นอินเทอร์เฟซที่ผมใช้กับ Wiz
ถ้าคุณอยากลองทำตามนี้ ใช้สามคำสั่ง:
1ollama pull qwen3.6:9b2ollama serve3# จากนั้นตั้งค่า API base URL ในเครื่องมือของคุณเป็น localhost:11434
แค่นั้น Ollama เริ่มเซิร์ฟเวอร์ในเครื่องที่ localhost:11434 ด้วย API ที่เข้ากันได้กับ OpenAI ถ้าคุณใช้ Claude Code ก็ชี้ไปที่ Ollama โดยการตั้งค่า base URL เครื่องมือใดก็ตามที่สร้างมาเพื่อรูปแบบ OpenAI API ก็ใช้งานได้เลย ตอนนี้คุณออฟไลน์แล้ว ไม่ต้องใช้ API key ไม่มีค่าใช้จ่ายต่อ token
นี่คือสิ่งที่เกิดขึ้นจริง:
การเรียกคืนความจำทำงานได้ดีเกินคาด ผมขอให้มันดึงบริบทจากไฟล์ความจำของผม มันอ่านและดึงข้อมูลที่เกี่ยวข้องออกมาได้อย่างแม่นยำพอสมควร การสังเคราะห์ไม่ได้ระดับ Claude แต่ข้อมูลถูกดึงมาและใช้ได้ถูกต้อง สำหรับงานที่พื้นฐานคือ "อ่านไฟล์ หาส่วนที่เกี่ยวข้อง และรายงาน" โมเดล 9B จัดการได้สบาย
การเรียกใช้เครื่องมือก็น่าสนใจ Qwen สามารถเรียกใช้เครื่องมือในระบบ agent ของผมได้อย่างแม่นยำพอสมควรสำหรับคำขอที่ตรงไปตรงมา เรื่องนี้สำคัญกว่าคุณภาพข้อความดิบสำหรับงาน agentic เมื่อคุณคิดถึงการปรับต้นทุน AI โมเดลที่เรียกใช้เครื่องมือถูกต้องในเวลาที่เหมาะสมมักมีค่ามากกว่าโมเดลที่เขียนข้อความได้สวยที่สุด
งานสร้างสรรค์และการให้เหตุผลที่ซับซ้อน? ไม่เหมือนกัน เมื่อผมขอให้ช่วยเขียน วิเคราะห์ หรืออะไรก็ตามที่ต้องสังเคราะห์จริง ๆ ช่องว่างด้านคุณภาพเห็นได้ชัด นี่ไม่ใช่การวิจารณ์ แค่เป็นการสังเกตอย่างตรงไปตรงมาว่าโมเดล 9B คืออะไรและไม่ใช่อะไร ผมลองเวอร์ชัน 4B ด้วย และอย่างที่คาดไว้ ความสามารถลดลงอย่างมาก 9B คือจุดที่ผมจะวาดเส้นการใช้งานสำหรับงานประเภทของผม
กรอบสำคัญตรงนี้: นี่ไม่ใช่การเปรียบเทียบ Qwen กับ Claude Opus พวกมันไม่ได้อยู่ในหมวดเดียวกัน แต่เป็นคำถามว่าโมเดลในเครื่องสามารถจัดการงานจริงส่วนหนึ่งที่ผมทำได้หรือไม่ และคำตอบคือใช่ เป็นส่วนย่อยจริง ๆ ที่ไม่ใช่เรื่องเล็ก
อีกเส้นทางที่ผมยังไม่ได้สำรวจแต่น่าสนใจคือ fine-tuning คุณสามารถ fine-tune โมเดล 4B หรือ 9B บนฮาร์ดแวร์ของคุณเอง ป้อนงานเขียนของคุณ ความชอบของคุณ คำศัพท์ของคุณ สไตล์ของคุณ ได้สิ่งที่ปรับแต่งมากกว่าโมเดลสำเร็จรูปใด ๆ สิ่งนี้เป็นไปได้บน MacBook ใช้เวลา แต่ไม่ใช่การทดลองเชิงทฤษฎี สำหรับงานเฉพาะและส่วนตัวที่คุณรู้แน่ชัดว่าต้องการให้โมเดลทำอะไร โมเดลเล็กที่ fine-tune แล้วอาจมีประสิทธิภาพดีกว่าโมเดลใหญ่ทั่วไป
การทดลองบน iPhone
การทดลองบน iPhone เป็นไปเพื่อความอยากรู้มากกว่าประโยชน์ใช้สอยทันที แต่มันกลับกลายเป็นส่วนที่ทำให้ผมประหลาดใจที่สุด
แอปที่ผมใช้คือ PocketPal AI (ฟรีบน App Store) เป็นแอปโอเพนซอร์สที่ให้คุณดาวน์โหลดและรันโมเดลภาษาโดยตรงบน iPhone ทั้งหมดในเครื่อง คุณเรียกดูโมเดลจาก Hugging Face ดาวน์โหลดผ่าน Wi-Fi ครั้งเดียว แล้วรันโดยไม่ต้องใช้อินเทอร์เน็ต วิธีง่ายที่สุดในการยืนยันว่ามันทำงาน: เปิดโหมดเครื่องบิน แล้วถามโมเดลบางอย่าง มันตอบกลับ ไม่มีอะไรออกจากโทรศัพท์ของคุณ
ผมรัน Qwen ที่ 0.8 พันล้านและ 2 พันล้านพารามิเตอร์บน iPhone 17 Pro การตั้งค่าง่าย:
- ติดตั้ง PocketPal AI จาก App Store
- เปิดแอป ไปที่ตัวเรียกดูโมเดล
- ค้นหา Qwen และดาวน์โหลดเวอร์ชันเล็ก (0.5B หรือ 1.5B สำหรับโทรศัพท์รุ่นเก่า, 2B สำหรับรุ่นใหม่เช่น 17 Pro)
- เริ่มแชท แล้วเปิดโหมดเครื่องบินเพื่อยืนยันว่าทำงานในเครื่องทั้งหมด
คำถามที่ชัดเจนไม่ใช่ "นี่ดีเท่า Claude ไหม" แต่เป็น "คุณสามารถใส่บางอย่างที่มีประโยชน์ในเครื่องลงบนโทรศัพท์ได้หรือไม่" คำตอบคือใช่ แต่มีข้อจำกัดชัดเจน โมเดลเหล่านี้เล็กมาก พวกมันจัดการงานข้อความพื้นฐานและการตอบคำถามสั้น ๆ ได้คุณภาพพอสมควร พวกมันจะไม่ช่วยคุณสร้างแอปข้ามคืน แต่มันรันได้ เต็มรูปแบบบนอุปกรณ์ ในเครื่องทั้งหมด
นัยยะที่น่าสนใจที่สุดไม่ใช่ความสามารถของโมเดล แต่เป็นสัญญาณทางฮาร์ดแวร์ การที่ iPhone รัน LLM ในเครื่องได้ในปี 2026 หมายความว่าสมาร์ตโฟนทรงพลังพอที่จะทำสิ่งนี้ได้ นี่มีความหมาย ไม่ใช่เพราะโมเดล 0.8B น่าประทับใจ แต่เพราะฮาร์ดแวร์ที่คุณมีในกระเป๋าอยู่แล้วได้ข้ามเกณฑ์ไปแล้ว
มุมมองเรื่องความเป็นส่วนตัวก็เป็นจริงเช่นกัน เมื่อไม่มีอะไรออกจากอุปกรณ์ของคุณ คุณไม่ต้องคิดว่าจะส่งอะไรไปที่ไหน ไม่มีข้อกำหนดในการให้บริการควบคุมคำถามของคุณ ไม่มีบันทึก API มีแค่คุณและน้ำหนักโมเดลที่รันบนซิลิกอนของคุณ ผมคิดถึงเรื่องนี้มาตั้งแต่สูญเสียข้อมูลเสียงพูดหกเดือนเมื่อบริการ AI บนคลาวด์ถูกแบนในสหภาพยุโรป การทำงานในเครื่องคือความยืดหยุ่นอีกแบบหนึ่ง
มุมมองเรื่องต้นทุน
นี่คือเหตุผลเชิงปฏิบัติที่เรื่องนี้สำคัญนอกเหนือจากความสนใจทางเทคนิค: ค่าสมาชิก AI เพิ่มขึ้นเร็วเมื่อคุณรันงาน agent จำนวนมาก นี่ไม่ใช่การสมมติ ผมติดตามการใช้งานอย่างใกล้ชิด
ไม่ใช่ทุกงานที่ต้องใช้ Opus งาน agent จำนวนมากนั้นง่ายจริง ๆ: อ่านไฟล์ จัดรูปแบบบางอย่าง สรุปบันทึกสั้น ๆ ตอบคำถามเชิงข้อเท็จจริงจากบริบท การส่งงานเหล่านั้นไปยังโมเดลในเครื่องแทนโมเดลชั้นนำจะเปลี่ยนสมการทางการเงินอย่างมาก
Haiku เวอร์ชันถัดไปเป็นสิ่งที่ผมจับตามองอย่างใกล้ชิด มันดีขึ้นเรื่อย ๆ และต้นทุนลดลงเรื่อย ๆ โมเดลในเครื่องก็กำลังเดินตามเส้นทางเดียวกัน แค่ต่างชั้นกัน
อนาคตจะไปทางไหน
ผมคิดว่าอนาคตของ AI จะเกี่ยวข้องกับการประมวลผลในเครื่องมากขึ้นกว่าที่การสนทนาปัจจุบันชี้ให้เห็น
ภาพที่ผมเห็น: โมเดลบนคลาวด์สำหรับงานยาก การให้เหตุผลที่ซับซ้อน งานสร้างสรรค์ การตัดสินใจเชิงสถาปัตยกรรม สิ่งที่ต้องการทิศทางและวิสัยทัศน์ที่แท้จริง แต่สำหรับงานคิดเล็ก ๆ น้อย ๆ หลายร้อยงานที่เกิดขึ้นในระบบ agent ทุกวัน โมเดลในเครื่องจะดีพอจนการส่งงานไปที่อื่นก็สมเหตุสมผล
ข้อโต้แย้งด้านฮาร์ดแวร์ก็สำคัญเช่นกัน ดูซิลิกอนสำหรับผู้บริโภคในช่วงสี่ปีที่ผ่านมา M1, M2, M3, M4, M5 แต่ละรุ่นเร็วขึ้นและประหยัดพลังงานมากขึ้นอย่างมีนัยสำคัญ เส้นทางทั้งสองด้าน โมเดลที่ดีขึ้นและฮาร์ดแวร์ที่ดีขึ้น กำลังชี้ไปยังที่เดียวกัน อีกไม่กี่ปี แล็ปท็อปที่ผู้คนมีอยู่แล้วจะรันโมเดลที่รู้สึกว่ามีความสามารถมากกว่าที่ผมรันในสัปดาห์นี้อย่างเห็นได้ชัด
การคาดการณ์คร่าว ๆ ของผม: ในสามปี จะมีโมเดลในเครื่องที่ fine-tune สำหรับกรณีการใช้งานเฉพาะ ซึ่งแข่งขันกับโมเดลชั้นนำในปัจจุบันสำหรับงานเหล่านั้นได้จริง ไม่ใช่ในการให้เหตุผลทั่วไป ไม่ใช่ในการสังเคราะห์เชิงสร้างสรรค์ แต่ใน "ทำงานเฉพาะนี้ที่ฉันสนใจ อย่างรวดเร็ว เป็นส่วนตัว โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต" นั่นเป็นหมวดหมู่ที่จริงและมีประโยชน์มาก
นอกจากนี้ยังมีมุมมองด้านสิ่งแวดล้อมที่ยังไม่ถูกพูดถึงมากพอ ต้นทุนพลังงานและโครงสร้างพื้นฐานของการสอบถามที่ไปยังดาต้าเซ็นเตอร์สูงกว่าการอนุมานบนซิลิกอนในเครื่องหลายเท่า หากงาน AI ประจำส่วนใหญ่ย้ายไปในเครื่อง สมการทรัพยากรจะเปลี่ยนไป ไม่ได้แก้ปัญหา แต่แตกต่างอย่างมีนัยสำคัญ
ตอนนี้ข้อแลกเปลี่ยนชัดเจน: โมเดลในเครื่องมีข้อจำกัด การ fine-tune ต้องใช้ความพยายาม และช่องว่างความสามารถกับโมเดลชั้นนำมีอยู่จริง แต่ทิศทางของการเดินทางไม่คลุมเครือ ช่องว่างกำลังปิดลง ผมทดสอบมันในสัปดาห์นี้บนฮาร์ดแวร์ที่ผมใช้มาหลายปี และมันทำงานได้ดีพอที่จะทำให้ผมคิดเกี่ยวกับว่าจะส่งงานไปทางไหน
ถ้าคุณอยากลอง: ติดตั้ง Ollama ดึง Qwen 3.6 ที่ 9B และลองทำอะไรง่าย ๆ ใน workflow ของคุณ ประสบการณ์แตกต่างจากการรัน benchmark มันเป็นของจริงอย่างน่าประหลาดใจ
ถ้าเนื้อหานี้มีประโยชน์ – ติดตามช่อง Telegram ของผม:
