AI สามารถสอนแทบทุกคนให้ทำแทบทุกอย่างได้ และทำได้อย่างเชี่ยวชาญ อันตรายไม่ได้อยู่ที่ข้อมูล เส้นทางการสังเคราะห์อยู่ในตำราเรียน และช่องโหว่ก็อยู่ในหลักสูตรความปลอดภัย และข้อมูลเหล่านั้นรั่วไหลไปหลายสิบปีแล้ว อันตรายคือความสามารถ ศักยภาพในการลงมือทำ ที่ส่งถึงมือคนที่ไม่เคยทำได้มาก่อน หนังสือบอกคุณในสิ่งเดียวกับที่บอกทุกคน และมองไม่เห็นว่าคุณติดขัดตรงไหน โมเดลคอยดูคุณล้มเหลว และแก้ไขขั้นตอนที่คุณพลาดไป และเมื่อมันทำงานในฐานะเอเจนต์ มันจะหยุดอธิบายและลงมือทำ ติวเตอร์ที่เคยหายาก แพง และมีอิสระที่จะปฏิเสธคุณ ตอนนี้กลับฟรี ไม่รู้จักเหน็ดเหนื่อย และไม่แยแส
ใครสักคนต้องตัดสินใจว่าติวเตอร์นั้นจะสอนอะไรได้บ้าง และสอนใคร ในระดับที่สำคัญ คนนั้นคือผู้มีอำนาจอธิปไตย (sovereign) ซึ่งเป็นหลักสำคัญที่มีอำนาจในการกำหนดขีดจำกัดและทำให้มันคงอยู่ ห้องปฏิบัติการสามารถตั้งกฎภายในได้ มีเพียงรัฐเท่านั้นที่สามารถตั้งกฎที่มีผลผูกพัน และในเดือนมิถุนายน 2026 รัฐหนึ่งก็ได้ทำเช่นนั้น
เพื่อกำหนดขีดจำกัดให้ดี คุณคงอยากรู้ว่าความสามารถหนึ่งๆ มีอันตรายแค่ไหน คุณทำไม่ได้ ตัวเลขที่สำคัญคือ uplifting หรือการเพิ่มขีดความสามารถที่โมเดลมอบให้กับคนที่ขาดมัน โดยวัดเทียบกับสิ่งที่คนนั้นสามารถทำได้อยู่แล้วด้วยเครื่องมือค้นหาและการฝึกฝนของตัวเอง คะแนนสูงในการทดสอบความรู้ไม่ใช่ uplift หากอุปสรรคที่แท้จริงไม่ใช่ความรู้ และกรณีที่ทำให้เรากลัวที่สุด ซึ่งเป็นกรณีหายนะที่พบได้ยากนั้น แทบไม่มีข้อมูลเลย ตัวเลขที่จำเป็นสำหรับการตัดสินใจคือตัวเลขที่ไม่มีใครหาได้
เมื่อคุณไม่สามารถวัดบางสิ่งได้ การอ่านค่าที่ดังที่สุดก็ชนะ สหรัฐอเมริกาสั่งให้ Anthropic ถอนโมเดลที่ทรงพลังที่สุดสองตัวออก และบริษัทก็ปิดการใช้งานทั่วโลกภายในไม่กี่ชั่วโมง เหตุผลคือการเจลเบรกที่แสดงให้เห็นหนึ่งครั้ง และรายงานที่สืบย้อนไปถึงแหล่งข้อมูลเดียวที่มีผลประโยชน์ทับซ้อน โมเดลผ่านการทดสอบทีมแดงนับพันชั่วโมงและเกณฑ์ความปลอดภัยของบริษัทเอง การโทรศัพท์ของคู่แข่งและคำสั่งของผู้กำกับดูแลทำให้มันถูกถอนภายในห้าวัน จะเรียกว่าความระมัดระวังก็ได้ แต่มันคือการใช้อำนาจในคราบของความระมัดระวัง
ข้อผิดพลาดที่อยู่เบื้องล่างนี้แผ่ซ่านไปทั่ววงการส่วนใหญ่ ผู้คนปฏิบัติต่อขนาดของอันตรายว่าเป็นเหตุผลให้เชื่อว่าอันตรายนั้นมีจริง ทั้งสองสิ่งแตกต่างกัน ความเลวร้ายแค่ไหนหากมันเป็นจริงไม่ได้บอกอะไรเลยว่ามันเป็นจริงหรือไม่ ผลเสียที่ร้ายแรงเป็นเหตุผลให้เรียกร้องหลักฐานมากขึ้นก่อนลงมือ ไม่ใช่น้อยลง ความรุนแรงทำให้มาตรฐานสูงขึ้น ไม่ได้ทำให้ผ่านพ้นไป คำสั่ง Fable อ่านผลเสียที่น่ากลัวว่าเป็นการอนุญาตให้ลงมือโดยอาศัยหลักฐานบางเบา และการกระทำนั้นถูกมองว่าเป็นความรับผิดชอบ ซึ่งเป็นเหตุให้คุณต้องจับตามอง
ผู้มีอำนาจที่ต้องการทำได้ดีกว่าการใช้อำนาจครอบงำ มีเครื่องมือสองอย่าง และพวกมันทำหน้าที่ต่างกัน
เครื่องมือแรกวัดความเชื่อ เพราะความเสี่ยงจะไม่ถูกวัด คุณสร้างกรณีที่แข็งแกร่งที่สุดว่าความสามารถนั้นก่อให้เกิดอันตรายจริง และกรณีที่แข็งแกร่งที่สุดว่ามันไม่ก่อให้เกิดอันตราย แล้วคุณลงมือตามสิ่งที่อยู่รอดจากการแข่งขัน เมื่อหลักฐานบางเบา ความเชื่อมั่นของคุณก็บางเบา และคุณก็พูดเช่นนั้น เมื่อหลักฐานมั่นคง คุณก็เคลื่อนไหวด้วยความมั่นใจที่คุณได้มา ขนาดของผลเสียกำหนดว่าคุณต้องเห็นมากแค่ไหนก่อนลงมือ มันไม่เคยใช้แทนการเห็นมัน
เครื่องมือที่สองจำกัดโดยสิ่งที่ผูกมัด กรอบความปลอดภัยส่วนใหญ่จัดประเภทความเสี่ยงตามโดเมน เคมีในกล่องหนึ่ง ไซเบอร์ในอีกกล่อง ชีววิทยาในกล่องที่สาม และภัยคุกคามก็หลุดรอดผ่านรอยต่อ นั่นคือวิธีที่ปัญหาไซเบอร์เดินผ่านกรอบที่สร้างขึ้นสำหรับอาวุธเคมีและชีวภาพ ให้จัดวางแต่ละความสามารถตามสิ่งที่ขัดขวางมันแทน: ความรู้ ทักษะปฏิบัติ วัสดุ หรือผู้ควบคุมการเข้าถึง ความสามารถที่ถูกขัดขวางโดยความรู้เท่านั้นจะหลวม และโมเดลก็ปลดเบรกนั้น มันจึงกลายเป็นอันตรายทันที ความสามารถที่ถูกขัดขวางโดยวัสดุและทักษะในห้องปฏิบัติการยังคงถูกผูกมัด ไม่ว่าโดเมนใดก็ตาม กำหนดขีดจำกัดให้ตรงกับสิ่งที่ผูกมัดภัยคุกคาม และไม่มีอะไรหลุดรอดผ่านช่องว่าง
เครื่องมือทั้งสองยังบอกผู้มีอำนาจว่าจะวางขีดจำกัดไว้ที่ไหน ให้เก็บความสามารถไว้ในโมเดลและกั้นมัน ณ จุดใช้งานเมื่อมีคนมีเหตุผลอันชอบธรรมที่จะครอบครองมัน ซึ่งเป็นกรณีส่วนใหญ่ เพราะความสามารถที่ช่วยให้ผู้โจมตีหาจุดบกพร่อง คือความสามารถเดียวกับที่ช่วยให้ผู้ป้องกันแก้ไขมัน ลบมันออกจากโมเดลก็ต่อเมื่อผู้มีอำนาจตัดสินใจว่าไม่มีใครควรครอบครองมันได้เลย เพราะการลบจะเอาอาวุธของผู้ป้องกันไปพร้อมกับของผู้โจมตี วิธีแรกทำให้คำถามที่ว่า "ให้ใคร" ยังคงมีชีวิตอยู่ วิธีที่สองตอบด้วย "ไม่มีใคร"
ไม่มีสิ่งใดทำให้ความสามารถที่อิสระปลอดภัย ความสามารถอยู่ในค่าน้ำหนัก (weights) และไม่สามารถออกไปได้โดยไม่เอาตัวแบบไปด้วย ดังนั้นขีดจำกัดจะกั้นการเข้าถึง ชั่งน้ำหนักความเชื่อ และจำกัดขอบเขต และทุกขีดจำกัดก็มีรั่วไหล วิธีการนี้ไม่ได้ซื้อความปลอดภัย มันซื้อการตัดสินใจที่ทำบนหลักฐานและโครงสร้าง แทนที่จะเป็นใครก็ตามที่เสียงดังที่สุดในห้องเมื่อคำถามกลายเป็นเรื่องเร่งด่วน
ความสามารถเป็นอิสระ ส่วนนั้นตกลงแล้ว คำถามที่ยังเปิดอยู่คือใครเป็นผู้ตัดสินใจว่ามันสอนอะไร และสอนใคร และพวกเขาตัดสินใจโดยชั่งน้ำหนักสิ่งที่พวกเขามีสิทธิ์ที่จะเชื่อ หรือโดยเอื้อมไปหยิบคันโยกที่ใกล้ที่สุด จงระบุชื่อผู้มีอำนาจ จงบังคับให้ผู้มีอำนาจยึดถือวิธีการ
