ฉันเพิ่งอ่านหนังสือ "Hackers" ของ Steven Levy ซ้ำกับลูกสาวของฉัน Levy บรรยายว่าบทกวีของ Brautigan ในปี 1967 เรื่อง "All watched over by machines of loving grace" สร้างแรงบันดาลใจให้กับ "Hardware Hackers" ในแคลิฟอร์เนียยุค 1970 และองค์กรต่างๆ เช่น Community Memory ได้อย่างไร
ในปี 2026 วลี "all watched over by machines of loving grace" ทำให้เกิดภาพของมนุษยชาติที่ถูกโอบอุ้มไว้ในอ้อมแขนของ AI ที่ทรงพลังและสอดคล้องกับมนุษย์ ("รักมนุษยชาติ"): AI ทรราชผู้มีเมตตา (benevolent dictator) อันที่จริง ในเรียงความของเขาชื่อ "machines of loving grace" นั้น Dario Amodei เสนอ (แม้จะยอมรับถึงความไม่แน่นอนอย่างมาก) ว่าเศรษฐกิจในอนาคตรูปแบบหนึ่งอาจถูกจัดระบบรอบๆ ระบบ AI (ที่สอดคล้องกับค่านิยมของมนุษย์) ซึ่งกำหนดวิธีการ "แจกจ่ายทรัพยากร ... ให้กับมนุษย์โดยอิงจากเศรษฐกิจรองบางอย่างที่ระบบ AI คิดว่าเหมาะสมที่จะให้รางวัลแก่มนุษย์" สิ่งนี้ดูเหมือนจะวางตำแหน่งให้ AI เป็นพ่อแม่ที่ควบคุมและดูแลความต้องการทางวัตถุของลูกมนุษย์ของพวกเขา และตัดสินใจว่าจะให้รางวัลหรือลงโทษพวกเขาอย่างไร สำหรับฉันแล้ว "AI พ่อแม่" เช่นนี้ดูใกล้เคียงกับทรราชผู้มีเมตตา (benevolent dictator) มาก¹
ไม่ว่าคุณจะคิดว่า AI ในฐานะพ่อแม่ที่รักใคร่เป็นผลลัพธ์ที่ดีหรือไม่ดี Brautigan และ (ที่สำคัญกว่านั้น) เหล่าแฮกเกอร์ในแคลิฟอร์เนียกลับมีวิสัยทัศน์ที่แตกต่างและกระจายอำนาจมากกว่า ในยุค 1960 คอมพิวเตอร์เป็นเครื่องจักรขนาดใหญ่ที่ผลิตโดยบริษัทต่างๆ เช่น IBM พวกมันถูกเกลียดชังโดยคนจำนวนมากในฝ่ายซ้ายและถูกมองว่าเป็นส่วนหนึ่งของอุตสาหกรรมการทหาร แต่ก็มีกลุ่มคนที่ผสมผสานการเมืองฝ่ายซ้าย (หรืออย่างน้อยก็ทัศนคติที่ต่อต้านการสถาปนา) เข้ากับความรักในเทคโนโลยี และเชื่อว่าคอมพิวเตอร์สามารถกลายเป็นเครื่องมือของการกระจายอำนาจและการปลดปล่อยได้ การจะทำเช่นนั้นได้ คอมพิวเตอร์ขนาดใหญ่และราคาแพงจะต้องหลีกทางให้กับเครื่องจักรขนาดเล็กและราคาถูก นี่คือสิ่งที่ "hardware hackers" ทำ และนี่คือขบวนการที่นำไปสู่ Apple II และการปฏิวัติคอมพิวเตอร์ส่วนบุคคล
ทุกวันนี้ เช่นเดียวกับเมนเฟรม IBM ในยุค 60 ระบบ AI มีขนาดใหญ่และมีราคาแพง และกำลังถูกรวมเข้ากับการใช้งานทางทหารมากขึ้นเรื่อยๆ อีกครั้ง หลายคนในฝ่ายซ้าย (และเมื่อไม่นานมานี้ก็รวมถึงฝ่ายขวาด้วย) มีความเกลียดชังและความกลัวอย่างรุนแรงต่อเทคโนโลยีนี้ แม้ว่าความหวาดกลัวบางอย่างอาจสมเหตุสมผล แต่การปฏิเสธที่จะมีส่วนร่วมกับ AI และยอมรับความสามารถของมัน กลุ่มคนเหล่านี้กำลังทำให้ตนเองมีความเกี่ยวข้องน้อยลงในการกำหนดทิศทางความก้าวหน้าของ AI นอกจากนี้ ในขณะที่สหรัฐฯ เป็นผู้นำในแนวหน้า เรากลับกำลังตามหลังในเรื่อง AI แบบเปิด weights (open weights) และโมเดลปิด (closed models) กำลังเผชิญกับข้อจำกัดที่เพิ่มขึ้น ทั้งหมดนี้เป็นแนวโน้มที่ไม่เป็นผลดีต่ออนาคตที่กระจายอำนาจมากขึ้น
กฎแห่งการปรับขนาด (Scaling laws) บอกเราว่าวิธีการเพิ่มความฉลาดคือการใช้ทรัพยากรที่มากขึ้นเรื่อยๆ ไม่ว่าจะเป็น การคำนวณ ข้อมูล และพลังงาน ดังนั้น ต่างจากยุค 1970 ตรงที่ AI ไม่ได้เล็กลงและกระจายตัวมากขึ้น แต่กลับใหญ่ขึ้นและอยู่ในศูนย์ข้อมูลที่ใหญ่ขึ้นเรื่อยๆ ในเรียงความของเขา Amodei บรรยายถึง AGI ว่าเป็น "ประเทศแห่งอัจฉริยะในศูนย์ข้อมูล" แต่ใครคือผู้ปกครองประเทศนี้? เป็นบริษัท AI ที่เป็นเจ้าของศูนย์ข้อมูลหรือไม่? หรือตัว AI เอง?
จากแนวโน้มที่มุ่งสู่ระบบที่ใหญ่ขึ้นและมีราคาแพงขึ้น เป็นไปได้ว่าฝ่ายไม่กี่ฝ่ายที่สามารถจ่ายค่าระบบดังกล่าวได้จะยึดครองมูลค่าทางเศรษฐกิจทั้งหมดที่พวกมันสร้างขึ้น ยิ่งไปกว่านั้น หาก AI ฉลาดกว่าเรา การล่อลวงให้พวกมันควบคุมมากขึ้นเพื่อประโยชน์ทางเศรษฐกิจหรือการทหารอาจเป็นเรื่องยากที่จะต้านทาน ฉันกังวลว่าการรวมศูนย์อำนาจ ไม่ว่าจะอยู่ในมือของหน่วยงานไม่กี่แห่งหรือตัว AI เอง อาจเป็น "เส้นทางเริ่มต้น" (default path) แต่ทางเลือกนี้ไม่ได้หลีกเลี่ยงไม่ได้
ฉันเป็นคนที่ "เชื่อใน bitter lesson" และ "เชื่อใน scaling laws" มากเท่ากับใครๆ ฉันเห็นด้วยว่าท้ายที่สุดแล้ว ความฉลาดเป็นเพียงการคำนวณ ไม่ว่าจะเกิดขึ้นบนโปรตีนหรือซิลิคอน และการเพิ่มหน่วยการคำนวณจะเพิ่มความฉลาดได้ แต่นี่ไม่ได้กำหนดผลลัพธ์ทางสังคมหรือเศรษฐกิจ ใช่ ระบบ AI จะทรงพลังยิ่งขึ้นและฉลาดมากกว่าเรามาก ไม่ มันไม่ได้หมายความว่าเราต้องยอมรับเผด็จการ AI ไม่ว่าจะมีเมตตาหรือไม่ก็ตาม และไม่ได้หมายความว่ามีเพียงรัฐบาลและห้องปฏิบัติการไม่กี่แห่งเท่านั้นที่ควรเข้าถึง AI ขั้นสูง เราสามารถไปตามเส้นทางของการควบคุมแบบรวมศูนย์ได้ แต่เราไม่จำเป็นต้องทำเช่นนั้น ผู้คน สถาบัน และผู้บัญญัติกฎหมายสามารถเลือกได้ว่าจะสร้างสมดุลระหว่างประสิทธิภาพ ความปลอดภัย และอำนาจอิสระของปัจเจกบุคคลอย่างไร พวกเขาไม่จำเป็นต้องเสียสละสิ่งหลังเพื่อสิ่งแรก
บางคนอาจอ้างว่าตลาดและแรงผลักดันของระบบทุนนิยมจะผลักดันให้ผู้คนยกการควบคุมให้กับ AI แต่ท้ายที่สุดแล้วเศรษฐกิจก็เกี่ยวกับสิ่งที่มนุษย์ให้คุณค่า มนุษย์เป็นสัตว์สังคม และเราให้คุณค่ากับสินค้า (เช่น ทองคำ) ไม่ใช่เพราะมูลค่าที่แท้จริงของมัน แต่เป็นเพราะว่ามนุษย์คนอื่นๆ ให้คุณค่ากับมันอย่างไร AI จะเปลี่ยนแปลงสิ่งที่เราให้คุณค่าอย่างสิ้นเชิง แม้ว่าจะเป็นการยากที่จะคาดเดาได้ว่าอย่างไร ฉันไม่แน่ใจด้วยซ้ำว่าแนวคิดทางเศรษฐกิจ เช่น ผลิตภาพ (productivity) แรงงาน (labor) ทุน (capital) และ GDP จะยังคงมีความหมายในโลกหลัง AGI หรือไม่ นักฟิสิกส์รู้ดีว่า "ยิ่งมากก็ยิ่งแตกต่าง" (more is different) เมื่อนักวิทยาศาสตร์ศึกษามาตราส่วนใหม่ๆ ไม่ว่าจะเป็นระดับกาแล็กซีหรือระดับอะตอม พวกเขาจำเป็นต้องคิดค้นทฤษฎีใหม่ๆ ตั้งแต่ฟิสิกส์ของนิวตันไปจนถึงทฤษฎีสัมพัทธภาพทั่วไปและกลศาสตร์ควอนตัม บางทีเราอาจต้องใช้เศรษฐกิจรูปแบบใหม่
คนอื่นๆ อาจกล่าวว่าเมื่อพิจารณาถึงพลังของมัน ความปลอดภัยกำหนดให้ AI ต้องถูกควบคุมโดยรัฐบาล ห้องปฏิบัติการที่ "คำนึงถึงความปลอดภัย" หรือตัว AI ที่สอดคล้องกับมนุษย์เอง ความเสี่ยงนั้นมีอยู่จริง— ฉันเองก็ทำงานด้านความปลอดภัยของ AI แต่เราควรระลึกถึงประวัติศาสตร์อันยาวนานของการใช้ภัยคุกคามเพื่อพรากเสรีภาพของผู้คน ภัยคุกคามบางอย่างมีอยู่จริง— มีสายลับโซเวียตจำนวนมากในช่วงยุค McCarthy จริงๆ และ NSA ก็จัดการกับองค์กรก่อการร้ายจริงๆ ในช่วงที่ Snowden อยู่ที่นั่น แต่เมื่อมองย้อนกลับไป เราตระหนักว่าการแลกเปลี่ยนนั้นไม่คุ้มค่า เราควรลงทุนในมาตรการป้องกัน แต่ต้องเป็นเชิงประจักษ์ทั้งในเรื่องความเสี่ยงและประสิทธิผลของวิธีการของเรา การพยายามบรรลุความปลอดภัยที่สมบูรณ์แบบต่อความเสี่ยงทั้งหมด ทั้งที่จริงและที่จินตนาการ ไม่เพียงแต่จะล้มเหลวอย่างแน่นอน แต่ยังทำให้เราสูญเสียอิสรภาพในกระบวนการนั้นด้วย
ความเสี่ยงของ AI สามารถนำไปสู่กรอบความคิดที่ว่า "จุดมุ่งหมายเป็นเครื่องพิสูจน์วิธีการ" (ends justifies the means): "คนดีต้องชนะ" และพวกเขาหรือ "AI ที่ดี" ต้องเป็นผู้รับผิดชอบ แต่ถ้าเราต้องการอนาคตที่ยึดมนุษย์เป็นศูนย์กลางและกระจายอำนาจ แล้วก็ไม่มีหน่วยงานใดควรเป็นผู้รับผิดชอบ ไม่มีฝ่ายใดควรผูกขาดความฉลาด ซึ่งรวมถึงตัว AI เองด้วย: ในขณะที่เราสามารถและควรฝึกฝน guardrails ไว้ บุคลิกภาพของโมเดล ไม่ว่าจะดีแค่ไหน ก็ไม่สามารถทดแทนกระบวนการประชาธิปไตยของเราได้
สหรัฐอเมริกาอยู่รอดและเจริญรุ่งเรืองในช่วง 250 ปีที่ผ่านมา ไม่ใช่เพราะประธานาธิบดีของเราทุกคนเป็นนักบุญหรืออัจฉริยะ แต่เป็นเพราะระบบการตรวจสอบและถ่วงดุล (checks and balances) ของเรา ฉันหวังว่าเราจะสามารถรักษาระบบดังกล่าวไว้ต่อไปในอีก 250 ปีข้างหน้า และเพื่อให้แน่ใจว่ามนุษย์เรามีอิสระที่จะแสวงหาความสุขของเราในแบบที่เรากำหนดไว้ สิ่งนี้ต้องการให้การกระจายอำนาจของ AI ถูก "ฝังอยู่ใน DNA" ของวิธีที่เราสร้างและปรับใช้เทคโนโลยีนี้ หากเราล้มเหลวในการทำเช่นนั้น เช่นเดียวกับการปฏิวัตินองเลือดที่ มักนำไปสู่ระบอบเผด็จการ เราอาจไม่สามารถไปถึงอนาคตที่กระจายอำนาจได้ด้วยวิธีการแบบรวมศูนย์
กิตติกรรมประกาศ: ฉันตัดสินใจเขียนโพสต์นี้หลังจากการสนทนาเกี่ยวกับ AGI กับ Sam Altman อย่างไรก็ตาม มุมมองในที่นี้เป็นของฉันเอง และไม่ได้เป็นตัวแทนของ Sam, OpenAI หรือ Harvard
หมายเหตุ:
¹ ดังที่กล่าวไว้ Amodei ยอมรับความไม่แน่นอนเกี่ยวกับเรื่องนี้ ดูเพิ่มเติมได้ที่ "The Adolescence of Technology" มีหลายส่วนในเรียงความทั้งสองที่ฉันเห็นด้วย
