Open-Source AI Stack ทางเลือกใหม่ที่มาแทนที่ SaaS

@vicky_grok
อังกฤษ4 สัปดาห์ที่ผ่านมา · 17 มิ.ย. 2569
173K
10
0
0
46

TL;DR

บทความนี้สำรวจการเปลี่ยนแปลงจากการซื้อ SaaS มาเป็นการสร้างระบบ AI ภายในองค์กรโดยใช้โมเดลแบบ Open-Source และการจัดการระบบ (Orchestration) พร้อมชี้ให้เห็นว่าซอฟต์แวร์ประเภทใดที่มีความเสี่ยงจะถูกแทนที่มากที่สุด

ผลิตภัณฑ์ SaaS จำนวนมากไม่ได้แข่งขันกับผลิตภัณฑ์ SaaS อื่นๆ อีกต่อไปอีกแล้ว พวกเขากำลังแข่งขันกับชุดเครื่องมือ AI โอเพนซอร์สที่ประกอบกันได้

AI โอเพนซอร์สได้มาถึงจุดที่หลายบริษัทไม่จำเป็นต้องสมัครสมาชิกแยกสำหรับเวิร์กโฟลว์เฉพาะแต่ละอย่างอีกต่อไป แต่พวกเขาสามารถประกอบชุดเครื่องมือที่ยืดหยุ่นของโมเดลโอเพนซอร์ส เลเยอร์การจัดลำดับ ฐานข้อมูล เครื่องมืออัตโนมัติ และอินเทอร์เฟซน้ำหนักเบาที่จัดการงานส่วนใหญ่ที่เครื่องมือ SaaS เคยเป็นเจ้าของได้

นี่ไม่ได้หมายความว่า SaaS จะตาย

แต่มันหมายความว่าคำถามเริ่มต้นกำลังเปลี่ยนจาก:

"เราควรซื้อเครื่องมือไหน?"

เป็น:

"เราควรซื้อสิ่งนี้ หรือควรประกอบขึ้นเองด้วย AI โอเพนซอร์ส?"

นั่นคือการเปลี่ยนแปลงครั้งใหญ่

และมันกำลังเกิดขึ้นเพราะระบบนิเวศโอเพนซอร์สไม่ได้มีไว้สำหรับแล็บวิจัย นักเล่นอดิเรก หรือทีมวิศวกรรมที่เน้นโครงสร้างพื้นฐานอีกต่อไป มันกำลังกลายเป็นสิ่งที่ใช้งานได้จริงสำหรับสตาร์ทอัพ เอเจนซี่ ผู้ปฏิบัติงาน และทีมเทคนิคที่ต้องการการควบคุมมากขึ้น ต้นทุนส่วนเพิ่มต่ำลง และการพึ่งพาผู้ขายน้อยลง

บทความนี้สำรวจว่าจริงๆ แล้ว ชุดเครื่องมือ AI โอเพนซอร์ส คืออะไร ทำไมมันถึงเริ่มแทนที่ส่วนต่างๆ ของ SaaS หมวดหมู่ใดที่เสี่ยงที่สุด ชุดเครื่องมือสมัยใหม่หน้าตาเป็นอย่างไร ตรงไหนที่ชนะ ตรงไหนที่ยังด้อย และวิธีคิดเกี่ยวกับการนำไปใช้โดยไม่ทำให้บริษัทของคุณกลายเป็นโครงการบำรุงรักษา

สิ่งที่ผู้คนหมายถึงจริงๆ เมื่อพวกเขาบอกว่า AI โอเพนซอร์สกำลังแทนที่ SaaS

วลีนี้ง่ายเกินกว่าจะพูดเกินจริง

AI โอเพนซอร์สไม่ได้กำลังแทนที่ทุกบริษัท SaaS ในคราวเดียว มันกำลังแทนที่ผลิตภัณฑ์กลุ่มที่เพิ่มขึ้นซึ่ง เฉพาะเจาะจงเวิร์กโฟลว์ เน้นมิดเดิลแวร์ และมีอินเทอร์เฟซแบบบาง ซึ่งคุณค่าหลักนั้นสามารถทำซ้ำได้มากขึ้นเรื่อยๆ

ในทางปฏิบัติ นั่นรวมถึงซอฟต์แวร์ที่สร้างขึ้นรอบๆ งานต่างๆ เช่น:

  • การตอบคำถามเกี่ยวกับเอกสารภายใน
  • การสรุปการประชุมหรือบทสนทนา
  • การจำแนกและกำหนดเส้นทางตั๋ว
  • การสร้างรายงานหรือข้อเสนอ
  • การทำให้งานหลังบ้านที่ซ้ำซากเป็นอัตโนมัติ
  • การเพิ่มข้อมูลลูกค้าเป้าหมายและข้อมูล CRM
  • การสร้างโคไพล็อตภายใน
  • การแยกข้อมูลที่มีโครงสร้างจากเอกสารที่ยุ่งเหยิง
  • การสร้างผู้ช่วยฝ่ายสนับสนุนลูกค้าน้ำหนักเบา
  • การเชื่อมต่อเครื่องมือผ่านกฎและทริกเกอร์

ผลิตภัณฑ์ SaaS จำนวนมากในหมวดหมู่เหล่านี้ไม่ได้มีคูเมืองลึกในการออกแบบเวิร์กโฟลว์ จุดแข็งของพวกเขามักมาจากการบรรจุหีบห่อ การจัดจำหน่าย UX และความไว้วางใจ ไม่ใช่จากแกนกลางทางเทคนิคที่ไม่สามารถทดแทนได้

นั่นสำคัญเพราะแกนกลางทางเทคนิคนั้นคือสิ่งที่ AI โอเพนซอร์สกำลังทำให้มีราคาถูกลงในการทำซ้ำ

เหตุใดการเปลี่ยนแปลงนี้จึงเกิดขึ้นตอนนี้

นี่ไม่ได้เกี่ยวกับโมเดลที่ดีขึ้นเท่านั้น

มันเป็นผลมาจากการเปลี่ยนแปลงห้าอย่างที่เกิดขึ้นพร้อมกัน

  1. โมเดลโอเพนซอร์สตอนนี้ดีพอสำหรับงานธุรกิจหลายอย่าง

การปลดล็อกครั้งใหญ่ที่สุดไม่ใช่ว่าโมเดลโอเพนซอร์สเอาชนะโมเดลฟรอนเทียร์ที่ดีที่สุดในทุกเกณฑ์มาตรฐาน

มันคือตอนนี้พวกเขาไม่จำเป็นต้องทำอีกแล้ว

สำหรับเวิร์กโฟลว์ทางธุรกิจหลายอย่าง "ดีที่สุดในโลก" ไม่จำเป็น สิ่งที่ทีมต้องการจริงๆ คือ:

  • ผลลัพธ์ที่มีโครงสร้างที่สม่ำเสมอ
  • การใช้เหตุผลที่ยอมรับได้
  • การสรุปที่แข็งแกร่ง
  • การดึงข้อมูลพื้นฐานที่ดี
  • ความหน่วงที่ยอมรับได้
  • ความเป็นส่วนตัวและการควบคุมการปรับใช้

เกณฑ์นั้นต่ำกว่าที่ hype ของโมเดลฟรอนเทียร์แนะนำมาก

ในหลายกรณีการใช้งาน โมเดลโอเพนซอร์สอยู่เหนือเกณฑ์นั้นแล้ว

  1. โครงสร้างพื้นฐานรอบๆ โมเดลเติบโตเต็มที่แล้ว

โมเดลอย่างเดียวไม่ได้แทนที่เครื่องมือ SaaS

โมเดลบวกกับ:

  • เลเยอร์การอนุมาน
  • อินเทอร์เฟซ
  • ระบบดึงข้อมูล
  • ตรรกะอัตโนมัติ
  • การบันทึก
  • สิทธิ์
  • พื้นที่จัดเก็บ
  • การประเมิน

เริ่มดูเหมือนผลิตภัณฑ์

ระบบนิเวศโดยรอบคือสิ่งที่ทำให้ชุดเครื่องมือโอเพนซอร์สใช้งานได้จริง

  1. SaaS ที่กระจายตัวกลายเป็นค่าใช้จ่ายที่แพงและยุ่งเหยิงในการดำเนินงาน

ทีมต่างๆ หมดแรงกับการซ้อนชั้นสมัครสมาชิก

ทุกเครื่องมือใหม่ทำให้เกิด:

  • ค่าใช้จ่ายอีกบิล
  • ระบบเข้าสู่ระบบอีกอัน
  • การตรวจสอบผู้ขายอีกครั้ง
  • ไซโลข้อมูลอีกอัน
  • พื้นผิวการบูรณาการอีกอัน
  • การตัดสินใจต่ออายุอีกครั้ง

เมื่อชุดเครื่องมือโอเพนซอร์สหนึ่งชุดสามารถแทนที่เครื่องมือที่จำกัดขอบเขตสามถึงหกเครื่องมือ เศรษฐศาสตร์เริ่มได้รับความสนใจอย่างรวดเร็ว

  1. เวิร์กโฟลว์ที่เน้น AI นั้นสามารถประกอบได้โดยการออกแบบ

SaaS แบบดั้งเดิมมักสมมติเวิร์กโฟลว์แบบตายตัว

ชุดเครื่องมือ AI โอเพนซอร์สให้รางวัลกับการประกอบ

นั่นหมายความว่าบริษัทต่างๆ สามารถสร้างระบบที่ปรับให้เข้ากับการดำเนินงานจริงของตนได้มากขึ้น แทนที่จะบังคับให้การดำเนินงานเข้ากับสมมติฐานซอฟต์แวร์ที่สร้างไว้ล่วงหน้า

  1. การควบคุมกลายเป็นเรื่องเชิงกลยุทธ์

ตอนนี้ทีมจำนวนมากขึ้นใส่ใจอย่างลึกซึ้งเกี่ยวกับ:

  • ข้อมูลของพวกเขาอยู่ที่ไหน
  • ผู้ให้บริการโมเดลใดที่พวกเขาพึ่งพา
  • ค่าใช้จ่ายในการใช้งานในระดับใหญ่เท่าไหร่
  • พวกเขาสามารถเปลี่ยนผู้ขายได้หรือไม่
  • พฤติกรรมของผลิตภัณฑ์ AI ของพวกเขาสามารถตรวจสอบได้หรือไม่

ชุดเครื่องมือโอเพนซอร์สให้การควบคุมในแบบที่ผลิตภัณฑ์ SaaS หลายตัวไม่สามารถทำได้

หมวดหมู่ของ SaaS ที่เสี่ยงต่อ AI โอเพนซอร์สมากที่สุด

Vikas gupta - inline image

SaaS ทั้งหมดไม่ได้เสี่ยงเท่ากัน

หมวดหมู่ที่เสี่ยงที่สุดมักมีลักษณะร่วมสี่ประการ:

  1. เวิร์กโฟลว์เป็นแบบซ้ำซาก
  2. อินเทอร์เฟซค่อนข้างบาง
  3. "ความฉลาด" ส่วนใหญ่คือการแปลงข้อความหรือกำหนดเส้นทาง
  4. ผลิตภัณฑ์สามารถสร้างขึ้นใหม่ได้โดยการรวมโมเดล พรอมต์ การดึงข้อมูล และอัตโนมัติ

หมวดหมู่ที่เสี่ยงที่สุด

  1. ผู้ช่วยความรู้ภายใน

ทีมจำนวนมากตอนนี้สร้างระบบแชทบนเอกสารภายในได้เร็วกว่าที่พวกเขาจะประเมินเครื่องมือความรู้ AI สำหรับองค์กร

  1. เครื่องมือเขียนและสรุป AI

หากผลิตภัณฑ์หลักคือ "รับข้อความเข้า สร้างข้อความที่ดีกว่าออก" อุปสรรคในการทำซ้ำลดลงอย่างรวดเร็ว

  1. โคไพล็อตสนับสนุนพื้นฐานและบอท FAQ

เมื่อการดึงข้อมูล การป้องกันความผิดพลาด และการส่งต่อได้รับการจัดการอย่างดี กรณีการใช้งานสนับสนุนหลายอย่างก็ไม่ซับซ้อนทางเทคนิคพอที่จะต้องใช้ผู้ขายเฉพาะทางอีกต่อไป

  1. เครื่องมืออัตโนมัติเวิร์กโฟลว์ที่มีเลเยอร์ AI

ส่วนแบ่งที่มีความหมายของผลิตภัณฑ์ "อัตโนมัติ AI" กำลังถูกท้าทายโดยการรวมกันของระบบจัดลำดับโอเพนซอร์ส API และโมเดลท้องถิ่นหรือโฮสต์

  1. ผู้ช่วยเพิ่มข้อมูลลูกค้าเป้าหมายและวิจัย

เครื่องมือเหล่านี้ยังต้องการแหล่งที่มาและการปฏิบัติตามข้อกำหนดอย่างระมัดระวัง แต่ส่วนใหญ่ของเวิร์กโฟลว์ตอนนี้สามารถสร้างขึ้นใหม่ได้ด้วยข้อมูลโอเพนซอร์ส ไปป์ไลน์การขูด (ที่เหมาะสม) API การเพิ่มข้อมูล และการสรุป AI

  1. ซอฟต์แวร์แยกเอกสารและจำแนกประเภท

นี่เป็นหมวดหมู่ใหญ่

สำหรับเวิร์กโฟลว์เอกสารที่มีโครงสร้างหลายอย่าง ตอนนี้ทีมสามารถรวม OCR ไปป์ไลน์การแยก ตรรกะการตรวจสอบ และ LLMs เพื่อแทนที่โซลูชันเฉพาะจุดที่มีราคาแพง

หมวดหมู่ที่เสี่ยงน้อยกว่า

SaaS บางอย่างยังคงป้องกันได้มากกว่าเพราะขึ้นอยู่กับ:

  • การจัดจำหน่ายที่เป็นกรรมสิทธิ์
  • การปฏิบัติตามข้อกำหนดเฉพาะทาง
  • ผลกระทบของเครือข่าย
  • เวิร์กโฟลว์ที่มีการควบคุม
  • การบูรณาการที่ฝังลึก
  • ความไว้วางใจและความสามารถในการตรวจสอบในระดับองค์กร
  • ชุดข้อมูลที่ไม่ซ้ำใครหรือระบบบันทึกการดำเนินงาน

กล่าวอีกนัยหนึ่ง AI โอเพนซอร์สแข็งแกร่งที่สุดเมื่อปัญหาคือ ความฉลาดของเวิร์กโฟลว์ ไม่ใช่เมื่อคูเมืองคือ ความไว้วางใจของสถาบัน การจัดจำหน่าย หรือแรงโน้มถ่วงของโครงสร้างพื้นฐาน

ชุดเครื่องมือ AI โอเพนซอร์สสมัยใหม่หน้าตาเป็นอย่างไรจริงๆ

Vikas gupta - inline image

เมื่อผู้คนพูดว่า "ชุดเครื่องมือ AI โอเพนซอร์ส" พวกเขามักอธิบายคลุมเครือเกินไป

ในทางปฏิบัติ โดยปกติแล้วมันประกอบด้วยเลเยอร์

  1. เลเยอร์โมเดล

นี่คือที่ที่ความฉลาดทางภาษาหรือมัลติโมดัลอยู่

ตัวเลือกทั่วไปรวมถึง:

  • LLM แบบเปิดน้ำหนักสำหรับการใช้เหตุผลและการสร้าง
  • โมเดลท้องถิ่นขนาดเล็กสำหรับการจำแนกและแยกราคาถูก
  • โมเดลเฉพาะทางสำหรับการฝัง การถอดความ OCR หรือการจัดลำดับใหม่

การเปลี่ยนแปลงที่สำคัญคือโมเดลไม่ได้เป็นผลิตภัณฑ์ทั้งหมดอีกต่อไป มันเป็นเลเยอร์หนึ่งในระบบที่ใหญ่กว่า

  1. เลเยอร์การอนุมาน

นี่คือรันไทม์ที่ให้บริการโมเดลจริงๆ

รูปแบบทั่วไปรวมถึง:

  • รันไทม์ท้องถิ่นสำหรับการทดลองและเวิร์กโฟลว์ส่วนตัว
  • เซิร์ฟเวอร์การอนุมานที่โฮสต์เองสำหรับทีม
  • ผู้ให้บริการโมเดลโอเพนซอร์สที่โฮสต์เมื่อไม่จำเป็นต้องจัดการ GPU

เลเยอร์นี้กำหนดต้นทุน ความเร็ว ความซับซ้อนในการดำเนินงาน และท่าทีความเป็นส่วนตัว

  1. เลเยอร์การดึงข้อมูลและข้อมูล

นี่คือสิ่งที่เปลี่ยนโมเดลทั่วไปให้เป็นเครื่องมือทางธุรกิจ

ส่วนประกอบทั่วไป:

  • Postgres หรือพื้นที่เก็บข้อมูลที่มีโครงสร้างอื่นๆ
  • การค้นหาเวกเตอร์สำหรับการดึงข้อมูลเชิงความหมาย
  • พื้นที่เก็บเอกสารและพื้นที่เก็บวัตถุ
  • ระบบข้อมูลเมตาและการกรอง
  • ตัวเชื่อมต่อข้อมูลและไปป์ไลน์การนำเข้า

ประโยชน์ส่วนใหญ่ของผลิตภัณฑ์ AI มาจากเลเยอร์นี้ ไม่ใช่โมเดลพื้นฐาน

  1. เลเยอร์การจัดลำดับ

เลเยอร์นี้ควบคุมว่าระบบทำงานอย่างไร

มันตัดสินใจ:

  • เมื่อใดควรเรียกโมเดล
  • ใช้โมเดลใด
  • วิธีดึงบริบท
  • เมื่อใดควรเรียกใช้เครื่องมือ
  • วิธีเชื่อมโยงขั้นตอนต่างๆ
  • วิธีจัดการความล้มเหลวและการลองใหม่

นี่คือที่ที่แพลตฟอร์มอัตโนมัติ เอนจินเวิร์กโฟลว์ และโครงสร้างเอเจนต์มีคุณค่า

  1. เลเยอร์อินเทอร์เฟซ

นี่คือสิ่งที่ผู้ใช้สัมผัสจริงๆ

มันอาจเป็น:

  • UI แชท
  • แดชบอร์ด
  • ส่วนขยายเบราว์เซอร์
  • เครื่องมือดูแลภายใน
  • บอท Slack
  • ปลายทาง API
  • หน้าจอเวิร์กโฟลว์แบบฟอร์ม

เหตุผลสำคัญที่ชุดเครื่องมือโอเพนซอร์สสามารถแข่งขันได้ตอนนี้คือเครื่องมือทางธุรกิจหลายอย่างไม่ต้องการ UI ที่ซับซ้อนเป็นพิเศษเพื่อส่งมอบคุณค่า

  1. เลเยอร์การสังเกตและการประเมิน

นี่คือความแตกต่างระหว่างของเล่นกับระบบที่เชื่อถือได้

คุณต้องรู้:

  • พรอมต์ใดที่ทำงาน
  • บริบทใดที่ถูกดึงมา
  • คำขอใช้เวลานานเท่าไหร่
  • การอนุมานมีค่าใช้จ่ายเท่าไหร่
  • อะไรล้มเหลว
  • คุณภาพผลลัพธ์ดีขึ้นหรือแย่ลง

เมื่อผลิตภัณฑ์ AI เติบโตขึ้น เลเยอร์นี้กำลังกลายเป็นหนึ่งในส่วนที่สำคัญที่สุดในเชิงกลยุทธ์ของชุดเครื่องมือ

ตัวอย่างเชิงปฏิบัติของชุดเครื่องมือที่แทนที่เครื่องมือหลายอย่างพร้อมกัน

Vikas gupta - inline image

ลองพิจารณาทีมขายหรือปฏิบัติการขนาดเล็ก

ในอดีต พวกเขาอาจจ่ายแยกต่างหากสำหรับ:

  • การถอดความการประชุม
  • การสรุป AI
  • การเพิ่มข้อมูล CRM
  • การค้นหาภายใน
  • การร่างข้อเสนอ
  • อัตโนมัติเวิร์กโฟลว์
  • การค้นหาเอกสารสนับสนุน

ชุดเครื่องมือโอเพนซอร์สสมัยใหม่สามารถรวมสิ่งเหล่านั้นส่วนใหญ่เป็นระบบภายในเดียว

ตัวอย่างเช่น:

  • โมเดลการถอดความหรือ API สำหรับการโทร
  • พื้นที่เก็บเอกสารสำหรับแผนงาน บทสนทนา และข้อเสนอ
  • การดึงข้อมูลเวกเตอร์สำหรับการค้นหาความรู้
  • เอนจินเวิร์กโฟลว์เพื่อส่งต่อสรุปไปยัง CRM
  • เทมเพลตพรอมต์เพื่อสร้างร่างติดตามผล
  • แดชบอร์ดหรือ UI แชทสำหรับการเข้าถึงของทีม
  • เลเยอร์การประเมินเพื่อวัดคุณภาพคำตอบและความน่าเชื่อถือของเวิร์กโฟลว์

ชุดเครื่องมือเดียวนั้นสามารถแทนที่เครื่องมือเฉพาะหลายอย่างในขณะที่ให้ทีมควบคุมรูปแบบผลลัพธ์ การเลือกโมเดล และพฤติกรรมต้นทุนได้มากขึ้น

นี่คือเหตุผลที่หมวดหมู่ SaaS หลายหมวดหมู่มีความเสี่ยง

ไม่ใช่เพราะ AI โอเพนซอร์สมีพลังในทางทฤษฎี

แต่เพราะมันสามารถรวมการซื้อซอฟต์แวร์หลายรายการเป็นระบบที่ประกอบกันได้ระบบเดียว

รูปแบบชุดเครื่องมือ AI โอเพนซอร์สที่พบบ่อยที่สุดในตอนนี้

Vikas gupta - inline image

ทีมต่างๆ นำชุดเครื่องมือรุ่นต่างๆ มาใช้ขึ้นอยู่กับวุฒิภาวะและเป้าหมาย

รูปแบบที่ 1: ชุดเครื่องมือของผู้สร้างเดี่ยว

พบได้ทั่วไปในหมู่แฮกเกอร์อิสระ ผู้สร้างด้านเทคนิค และที่ปรึกษา

ส่วนประกอบทั่วไป:

  • รันไทม์โมเดลท้องถิ่นหรือต้นทุนต่ำ
  • ฐานข้อมูลอย่างง่าย
  • เครื่องมืออัตโนมัติเวิร์กโฟลว์
  • ฟร้อนท์เอนด์น้ำหนักเบา
  • เลเยอร์การดึงข้อมูลหนึ่งชั้น
  • เป้าหมายการปรับใช้หนึ่งแห่ง

ชุดเครื่องมือนี้ปรับให้เหมาะสมสำหรับความเร็วและวินัยด้านต้นทุน

รูปแบบที่ 2: ชุดเครื่องมือเครื่องมือภายในของสตาร์ทอัพ

พบได้ทั่วไปในบริษัทที่สร้างโคไพล็อตภายในหรืออัตโนมัติกระบวนการ

ส่วนประกอบทั่วไป:

  • เลเยอร์โมเดลที่โฮสต์หรือโฮสต์เอง
  • Postgres + การสนับสนุนเวกเตอร์
  • การนำเข้าเอกสาร
  • การตรวจสอบสิทธิ์และการเข้าถึงตามบทบาท
  • เอนจินเวิร์กโฟลว์
  • การบันทึกและการติดตาม
  • แดชบอร์ดดูแล

ชุดเครื่องมือนี้ปรับให้เหมาะสมสำหรับการ leverage ภายในที่รวดเร็ว

รูปแบบที่ 3: ชุดเครื่องมือของเอเจนซี่หรือผู้ปฏิบัติงาน

รูปแบบนี้มักใช้โดยเอเจนซี่ที่แทนที่เครื่องมือ SaaS ที่เกิดซ้ำหลายตัวสำหรับตนเองหรือลูกค้า

กรณีการใช้งานทั่วไป:

  • วิจัยลูกค้าเป้าหมาย
  • การสร้างข้อเสนอ
  • อัตโนมัติการรายงาน
  • ผู้ช่วยสนับสนุนลูกค้า
  • เวิร์กโฟลว์เนื้อหา
  • ระบบรับและกำหนดเส้นทาง

ชุดเครื่องมือนี้ปรับให้เหมาะสมสำหรับการใช้ซ้ำในหลายโครงการ

รูปแบบที่ 4: ชุดเครื่องมือแทนที่ SaaS ที่ใช้ AI เป็นผลิตภัณฑ์

นี่คือเมื่อทีมหยุดใช้ชุดเครื่องมือภายในและเปลี่ยนเป็นผลิตภัณฑ์

เมื่อถึงจุดนั้นชุดเครื่องมือมักเพิ่ม:

  • การเรียกเก็บเงิน
  • ผู้เช่าหลายราย
  • สิทธิ์ละเอียด
  • การตรวจสอบที่แข็งแกร่งขึ้น
  • เวิร์กโฟลว์คำติชมและ QA
  • การกำกับดูแลข้อมูลที่แข็งแกร่งขึ้น

นี่คือที่ที่การประกอบโอเพนซอร์สกลายเป็นภัยคุกคามโดยตรงต่อบริษัท SaaS ที่เน้น AI เป็นหลัก

เครื่องมือที่ปรากฏขึ้นซ้ำๆ ในชุดเครื่องมือเหล่านี้

ชุดเครื่องมือเฉพาะเปลี่ยนตลอดเวลา แต่บางหมวดหมู่ปรากฏขึ้นซ้ำๆ

ส่วนประกอบทั่วไปตามเลเยอร์

เลเยอร์

ตัวเลือกโอเพนซอร์สทั่วไป

เหตุใดจึงสำคัญ

โมเดล

LLMs แบบเปิดน้ำหนัก, โมเดลฝัง, ตัวจัดลำดับใหม่

คุณภาพการใช้เหตุผลและการดึงข้อมูลหลัก

การอนุมาน

Ollama, vLLM, รันไทม์ที่โฮสต์เอง, API โมเดลโอเพนซอร์ส

ต้นทุน, ความเป็นส่วนตัว, ความยืดหยุ่นในการให้บริการ

ฐานข้อมูล

Postgres, pgvector, พื้นที่เก็บเอกสาร/วัตถุ

ความจำที่มีโครงสร้างและเชิงความหมาย

อัตโนมัติ

n8n และเครื่องมือเวิร์กโฟลว์ที่คล้ายกัน

เชื่อมต่อระบบและลดการทำงานด้วยมือ

เลเยอร์แอป

Next.js, React, แดชบอร์ดภายใน, API

พื้นผิวผลิตภัณฑ์น้ำหนักเบา

UI สำหรับแชท/ค้นหา

Open WebUI, อินเทอร์เฟซที่กำหนดเอง

การเข้าถึงเวิร์กโฟลว์ AI ภายในอย่างรวดเร็ว

การสังเกต

Langfuse, เครื่องมือติดตาม, บันทึกที่กำหนดเอง

ความน่าเชื่อถือ คุณภาพ และความเร็วในการทำซ้ำ

การตรวจสอบสิทธิ์/แบ็กเอนด์

Supabase, การตรวจสอบสิทธิ์ที่กำหนดเอง, เลเยอร์ DB ที่จัดการ

การประกอบผลิตภัณฑ์ที่รวดเร็ว

การประเมิน

การทดสอบพรอมต์, ชุดการถดถอย, การให้คะแนนเกณฑ์

ป้องกันการเสื่อมคุณภาพอย่างเงียบๆ

ประเด็นสำคัญไม่ใช่ชื่อแบรนด์ที่แน่นอนของแต่ละเครื่องมือ

ประเด็นสำคัญคือทุกเลเยอร์หลักตอนนี้มีตัวเลือกโอเพนซอร์สหรือโอเพนสแตนดาร์ดที่เชื่อถือได้

นั่นคือสิ่งที่เปลี่ยนสมการสร้าง-ซื้อ

เหตุใดทีมจึงเลือกเส้นทางโอเพนซอร์สแม้ว่า SaaS จะง่ายกว่า

เมื่อมองครั้งแรก SaaS ยังดูง่ายกว่า

บ่อยครั้งก็เป็นเช่นนั้น

แล้วทำไมทีมจำนวนมากถึงเลือกเส้นทางที่ยากกว่า?

เพราะในสถานการณ์ที่เหมาะสม เส้นทางที่ยากกว่านั้นดีกว่าในเชิงกลยุทธ์

  1. ต้นทุนระยะยาวต่ำกว่า

การสมัครสมาชิกหนึ่งดูเหมือนถูก

การสมัครสมาชิกเจ็ดรายการที่ทับซ้อนกันไม่ใช่

ชุดเครื่องมือโอเพนซอร์สมักมีต้นทุนการตั้งค่าที่สูงกว่าและต้นทุนส่วนเพิ่มที่ต่ำกว่า โดยเฉพาะสำหรับทีมที่มีความสามารถด้านเทคนิคอยู่แล้ว

  1. การปรับแต่งที่ดีกว่า

เวิร์กโฟลว์ AI ส่วนใหญ่ไม่เหมือนกันในทุกทีม

เครื่องมือ SaaS มักบังคับให้ทีมเข้าสู่เวิร์กโฟลว์ตรงกลาง

ระบบที่ประกอบขึ้นช่วยให้ทีมเข้ารหัสตรรกะ พรอมต์ การอนุมัติ และพฤติกรรมการดึงข้อมูลของตนเองได้

  1. ความเป็นส่วนตัวและการควบคุมข้อมูล

ธุรกิจจำนวนมากเริ่มไม่สบายใจมากขึ้นเรื่อยๆ กับการส่งข้อมูลภายในที่ละเอียดอ่อนผ่านห่วงโซ่เครื่องมือของบุคคลที่สาม เมื่อพวกเขาสามารถโฮสต์หรือกำกับดูแลชุดเครื่องมือส่วนใหญ่ได้ด้วยตนเอง

  1. การผูกมัดกับผู้ขายน้อยลง

ชุดเครื่องมือโอเพนซอร์สทำให้การเปลี่ยนส่วนประกอบง่ายขึ้น

คุณสามารถเปลี่ยน:

  • ผู้ให้บริการโมเดล
  • กลยุทธ์การอนุมาน
  • เลเยอร์ UI
  • เอนจินอัตโนมัติ
  • กระบวนการประเมิน

โดยไม่ต้องสร้างระบบทั้งหมดใหม่ตั้งแต่ต้น

  1. วงจรการเรียนรู้ที่เร็วขึ้น

เมื่อคุณเป็นเจ้าของชุดเครื่องมือ คุณจะเรียนรู้ว่าเวิร์กโฟลว์พังตรงไหน

ซึ่งมักมีค่ามากกว่าการซื้อ abstraction ที่สวยงามเร็วเกินไป

ที่ที่ SaaS ยังคงชนะอย่างชัดเจน

การวิเคราะห์ที่รอบคอบยังต้องพูดสิ่งนี้อย่างตรงไปตรงมา:

มีหลายกรณีที่ SaaS ยังคงเป็นทางเลือกที่ฉลาดกว่า

SaaS ยังคงชนะเมื่อคุณต้องการ:

  • การปรับใช้ทันทีโดยใช้ความพยายามทางวิศวกรรมน้อยที่สุด
  • การปฏิบัติตามข้อกำหนด SLA และความพร้อมในการจัดซื้อ
  • การสนับสนุนระดับองค์กรและความรับผิดชอบที่ชัดเจน
  • ประสบการณ์ผู้ใช้ที่ขัดเกลาอย่างสูงสำหรับทีมที่ไม่ใช่เทคนิค
  • การบูรณาการที่เป็นกรรมสิทธิ์ลึก
  • เวิร์กโฟลว์ที่ไม่สำคัญเชิงกลยุทธ์พอที่จะรับประกันความเป็นเจ้าของแบบกำหนดเอง
  • ระบบบันทึกแทนที่จะเป็นเลเยอร์เวิร์กโฟลว์

นี่คือเหตุผลที่ผู้ปฏิบัติงานที่ดีที่สุดไม่ดันทุรัง

พวกเขาไม่ได้แทนที่ SaaS เพราะโอเพนซอร์สเป็นที่นิยม

พวกเขาแทนที่ SaaS เมื่อเศรษฐศาสตร์ การควบคุม และความยืดหยุ่นของผลิตภัณฑ์เป็นธรรม

ความผิดพลาดที่ใหญ่ที่สุดที่ทีมทำเมื่อนำ AI โอเพนซอร์สไปใช้

พวกเขาพยายามแทนที่มากเกินไป เร็วเกินไป

ซึ่งมักสร้างผลลัพธ์ที่ไม่ดีหนึ่งในสองอย่าง

ผลลัพธ์ที่ 1: ชุดเครื่องมือกลายเป็นโครงการวิทยาศาสตร์ภายใน

ทีมใช้เวลาหลายเดือนในการประกอบโครงสร้างพื้นฐานก่อนที่จะส่งมอบคุณค่าทางธุรกิจ

ผลลัพธ์ที่ 2: พวกเขาส่งต้นแบบที่เปราะบางและเข้าใจผิดว่าเป็นผลิตภัณฑ์

เวิร์กโฟลว์ใช้งานได้ในการสาธิต แต่พังภายใต้การใช้งานจริงเพราะละเลยการสังเกต สิทธิ์ การประเมิน และตรรกะการกู้คืน

วิธีที่ถูกต้องในการนำชุดเครื่องมือนี้ไปใช้ไม่ใช่การสร้างชุดซอฟต์แวร์ทั้งหมดของคุณใหม่ตั้งแต่ต้น

แต่คือเริ่มต้นด้วยเวิร์กโฟลว์เดียวที่:

  • ต้นทุน SaaS ชัดเจน
  • เวิร์กโฟลว์ซ้ำซาก
  • ตรรกะอธิบายได้
  • ROI ของการควบคุมสูง

นั่นคือที่ที่ AI โอเพนซอร์สทำงานได้ดีที่สุด

วิธีที่ชาญฉลาดกว่าในการนำชุดเครื่องมือไปใช้

ทีมที่แข็งแกร่งที่สุดมักปฏิบัติตามลำดับ

ขั้นตอนที่ 1: ระบุเวิร์กโฟลว์ที่มีแรงเสียดทานสูงหนึ่งอย่าง

ตัวอย่างที่ดี:

  • การค้นหาภายในในเอกสารและบันทึก
  • การสร้างรายงานซ้ำซาก
  • การคัดเลือกและเพิ่มข้อมูลลูกค้าเป้าหมาย
  • การร่างฝ่ายสนับสนุน
  • การแยกเอกสาร

ขั้นตอนที่ 2: สร้างเฉพาะเลเยอร์ความฉลาดขึ้นใหม่ก่อน

อย่าแทนที่ทุกอย่าง

เริ่มต้นด้วยการแทนที่ส่วนที่มีต้นทุนสูงที่สุดหรือยืดหยุ่นน้อยที่สุด

ขั้นตอนที่ 3: เพิ่มการสังเกตเร็วกว่าที่รู้สึกว่าจำเป็น

บันทึก:

  • อินพุต
  • เอาต์พุต
  • บริบทที่ดึงมา
  • ความล้มเหลว
  • ต้นทุน
  • ความหน่วง

หากไม่มีสิ่งนี้ คุณจะไม่รู้ว่าระบบดีขึ้นหรือไม่

ขั้นตอนที่ 4: ทำให้อินเทอร์เฟซเรียบง่าย

UI พื้นฐานที่ใช้งานได้ดีกว่า UI ที่ซับซ้อนซึ่งทำให้การเปิดตัวล่าช้า

ขั้นตอนที่ 5: พิสูจน์คุณค่าทางธุรกิจก่อนขยายชุดเครื่องมือ

เมื่อเวิร์กโฟลว์หนึ่งใช้งานได้ ให้ขยายอย่างระมัดระวัง

นี่คือวิธีที่ชุดเครื่องมือ AI โอเพนซอร์สกลายเป็น leverage ในการดำเนินงาน แทนที่จะเป็นละครทางเทคนิค

ภัยคุกคามทางการแข่งขันที่แท้จริงต่อ SaaS ไม่ใช่โมเดล

มันคือการประกอบ

นั่นคือแนวคิดเชิงกลยุทธ์ที่หลายคนยังคงพลาด

บริษัท SaaS ไม่ได้ถูกคุกคามหลักโดยโมเดลที่ดีกว่าเพียงตัวเดียว

พวกเขากำลังถูกคุกคามโดยโลกที่บริษัทสามารถประกอบระบบของตนเองได้มากขึ้นจาก:

  • โมเดลโอเพนซอร์ส
  • โครงสร้างพื้นฐานโอเพนซอร์ส
  • อัตโนมัติที่ยืดหยุ่น
  • ฐานข้อมูลโภคภัณฑ์
  • อินเทอร์เฟซน้ำหนักเบา
  • พรอมต์ที่ใช้ซ้ำได้และเลเยอร์การประเมิน

เมื่อนั่นกลายเป็นปกติ จุดศูนย์ถ่วงจะเคลื่อนที่

ผลิตภัณฑ์ที่ชนะไม่ได้เป็นผลิตภัณฑ์ที่มีแดชบอร์ดสวยที่สุดโดยอัตโนมัติอีกต่อไป

มันอาจเป็นผลิตภัณฑ์ที่ปรับตัวง่ายที่สุด ถูกที่สุดในการทำงาน และเจ็บปวดน้อยที่สุดในการรวมเข้ากับเวิร์กโฟลว์ที่มีอยู่

นั่นเปลี่ยนสนามแข่งขันอย่างมีนัยสำคัญ

ความหมายสำหรับผู้ก่อตั้งและผู้ปฏิบัติงาน

ถ้าคุณกำลังสร้างหรือซื้อซอฟต์แวร์ในตอนนี้ บทเรียนเชิงปฏิบัติคือง่ายๆ

คุณควรหยุดปฏิบัติต่อทุกปัญหาเวิร์กโฟลว์ AI เป็นปัญหาการจัดหาซอฟต์แวร์

บางครั้งมันก็ยังคงเป็นเช่นนั้น

แต่บ่อยครั้งขึ้น มันคือ ปัญหาการออกแบบชุดเครื่องมือ

นั่นหมายถึงคำถามที่ควรถามคือ:

  • เวิร์กโฟลว์นี้สำคัญเชิงกลยุทธ์พอที่จะเป็นเจ้าของหรือไม่?
  • เรากำลังจ่ายราคา SaaS สำหรับสิ่งที่ตอนนี้ทำซ้ำได้หรือไม่?
  • ชุดเครื่องมือภายในที่ประกอบกันได้ระบบเดียวจะแทนที่เครื่องมือเฉพาะจุดหลายตัวหรือไม่?
  • คูเมืองที่แท้จริงอยู่ในผู้ขาย หรือเพียงแค่ในความเร็วในการดำเนินการและการบรรจุหีบห่อ?
  • เราต้องการผลิตภัณฑ์ภายนอกที่ขัดเกลา หรือแค่ระบบภายในที่เชื่อถือได้?

ทีมที่ถามคำถามเหล่านั้นดีจะตัดสินใจด้านเทคโนโลยีได้ดีขึ้นมากในอีกไม่กี่ปีข้างหน้า

ความคิดสุดท้าย

ชุดเครื่องมือ AI โอเพนซอร์สไม่ได้แทนที่ SaaS ทั้งหมด

แต่มันกำลังแทนที่มันมากพอที่ตลาดซอฟต์แวร์ถูกบังคับให้เข้าสู่ความจริงใหม่

เครื่องมือจำนวนมากขึ้นไม่ปลอดภัยอีกต่อไปเพียงเพราะสะดวก

ถ้าคุณค่าหลักของพวกเขาสามารถสร้างขึ้นใหม่ได้จากโมเดลโอเพนซอร์ส การดึงข้อมูล การจัดลำดับ พื้นที่จัดเก็บ และอินเทอร์เฟซบางๆ แล้วหมวดหมู่ของพวกเขาก็อยู่ภายใต้แรงกดดัน—ไม่ว่าพวกเขาจะยอมรับหรือยังไม่ก็ตาม

นั่นไม่ได้หมายความว่าทุกบริษัทควรรีบโฮสต์ทุกอย่างด้วยตนเอง

มันหมายความว่าสมมติฐานเก่า—ซื้อก่อน สร้างเมื่อจำเป็นจริงๆ เท่านั้น—กำลังอ่อนแอลง

ในเวิร์กโฟลว์ที่เน้น AI หนักๆ สมมติฐานใหม่กำลังเกิดขึ้น:

ประกอบก่อนเมื่อตรรกะสามารถทำซ้ำได้ ซื้อเมื่อความไว้วางใจ ขนาด หรือความซับซ้อนเป็นธรรมจริงๆ

นั่นคือการเปลี่ยนแปลง

และสำหรับซอฟต์แวร์สมัยใหม่ส่วนใหญ่ มันเพิ่งเริ่มต้นเท่านั้น

บันทึกในคลิกเดียว

อ่านบทความไวรัลเชิงลึกด้วย AI ใน YouMind

บันทึกแหล่งที่มา ถามคำถามที่ตรงประเด็น สรุปข้อโต้แย้ง และเปลี่ยนบทความไวรัลให้เป็นโน้ตที่นำกลับมาใช้ได้ใน AI เวิร์กสเปซเดียว

สำรวจ YouMind
สำหรับครีเอเตอร์

เปลี่ยน Markdown ของคุณให้เป็นบทความ 𝕏 ที่สะอาดตา

เวลาคุณเผยแพร่งานเขียนยาวของตัวเอง การจัดรูปแบบรูปภาพ ตาราง และบล็อกโค้ดให้เข้ากับ 𝕏 นั้นน่าปวดหัว YouMind เปลี่ยนร่าง Markdown ทั้งฉบับให้เป็นบทความ 𝕏 ที่สะอาดตาและพร้อมโพสต์ทันที

ลอง Markdown เป็น 𝕏

แพตเทิร์นให้ถอดรหัสเพิ่มเติม

บทความไวรัลล่าสุด

สำรวจบทความไวรัลเพิ่มเติม