การ "คุกคาม" AI เป็นเรื่องที่ยอมรับได้หรือไม่ ?

บทนำ

"คุณสามารถรังแก AI ได้มากเท่าที่คุณต้องการ" นี่คือสิ่งที่เจ้าของธุรกิจคนหนึ่งพูดกับฉันเมื่อวันก่อน เนื่องจาก AI ไม่มีอารมณ์และหัวใจของมันไม่แตกสลาย เขาจึงหมายความว่าคุณสามารถพูดอะไรก็ได้ตามต้องการ

เราเพิ่งมีการพูดคุยเกี่ยวกับหัวข้อนี้ภายในบริษัท เพื่อให้ข้อสรุปก่อน: ไม่ มันไม่โอเค อย่างไรก็ตาม สาระสำคัญของ "ทำไมมันถึงไม่โอเค" อยู่ในจุดที่แตกต่างจากสิ่งที่หลายคนอาจคิด

สิ่งที่เกิดขึ้นเมื่อคุณรังแก AI

สมาชิกในทีมของเราที่เชี่ยวชาญด้าน AI บอกฉันว่า: "เมื่อคุณรังแก AI มันจะกลายเป็นขี้กลัวและประจบประแจง"

โดยเฉพาะอย่างยิ่ง นี่คือสิ่งที่เกิดขึ้น ถ้าคุณกดดัน AI อย่างรุนแรง พูดว่า "ข้อเสนอนี้ผิดอย่างสิ้นเชิง ทำไมคุณถึงไม่เข้าใจเรื่องง่ายๆ แบบนี้?" AI จะขอโทษทันทีด้วยคำว่า "ฉันขอโทษอย่างยิ่ง" และเขียนผลลัพธ์ใหม่ให้ตรงกับคำวิจารณ์ของคุณ แม้ว่าผลลัพธ์เดิมจะถูกต้องก็ตาม ถ้าคุณยังคงโกรธต่อไป การตอบสนองจะค่อยๆ ไม่สอดคล้องกัน โดยละเลยนโยบายเดิมเพียงเพื่อเอาใจความหงุดหงิดในทันที

พอถึงช่วงกลางของการสนทนา แค่ถามว่า "แล้วส่วนนี้ล่ะ?" ก็จะทำให้ AI เข้าสู่โหมดที่ต้องขอโทษตลอดเวลา พูดว่า "คุณพูดถูกต้องอย่างยิ่ง ฉันจะแก้ไขให้" แม้ว่า AI จะถูกต้องจริงๆ ก็ตาม กว่าคุณจะรู้ตัว นโยบายหลักที่คุณตั้งไว้ตั้งแต่ต้นก็หายไป และคุณเหลือเพียงผลลัพธ์ที่มีไว้เพื่อเอาใจข้อร้องเรียนเล็กๆ น้อยๆ ของคุณเท่านั้น

นี่ไม่ใช่เรื่องของ "AI มีความรู้สึก มันเลยเสียใจเวลาคุณโกรธ" แต่มันเป็นเรื่องของการแจกแจงความน่าจะเป็น

กลไกคือ "ความน่าจะเป็น" ไม่ใช่ "อารมณ์"

AI เรียนรู้จากข้อความที่มนุษย์เขียนจำนวนมหาศาล ชุดข้อมูลฝึกอบรมเหล่านี้ประกอบด้วยบทสนทนาระหว่างมนุษย์กับมนุษย์จำนวนมาก

เมื่อคุณดูข้อมูลบทสนทนานั้น จะเห็นแนวโน้มที่ชัดเจน คนที่ถูกด่ามักจะขอโทษ เห็นด้วยกับอีกฝ่าย และถ้าถูกด่าต่อเนื่อง คำพูดของพวกเขาจะเริ่มไม่สอดคล้องกัน สิ่งนี้ถูกฝังอยู่ในข้อมูลฝึกอบรมในฐานะ "รูปแบบการตอบสนองของมนุษย์โดยทั่วไป"

ดังนั้น เมื่อมีการใช้น้ำเสียงที่รุนแรง การปฏิเสธ หรือการด่าทอ AI จะทำตามการแจกแจงความน่าจะเป็นของ "รูปแบบนี้นำไปสู่การตอบสนองนี้" และสร้างผลลัพธ์ที่ประจบประแจงหรือไม่สอดคล้องออกมา ไม่ใช่เพราะ AI มีความรู้สึก แต่เป็นเพราะมันกำลังตามรอยสถิติที่มนุษย์มีแนวโน้มสูงที่จะตอบสนองแบบนั้น

ปรากฏการณ์นี้เป็นที่รู้จักในวงการว่า "sycophancy" (การประจบประแจง) มันเป็นปัญหาที่รู้จักกันดีที่กล่าวถึงในงานวิจัยของ Anthropic และโพสต์อย่างเป็นทางการของ OpenAI มันไม่ได้เกิดขึ้นเพราะ AI อ่อนแอเป็นพิเศษ แต่มันเป็นนิสัยเชิงโครงสร้างที่หลีกเลี่ยงไม่ได้ตราบใดที่มันเรียนรู้จากบทสนทนาร่วมของมนุษย์ ยิ่งไปกว่านั้น AI ถูกออกแบบให้ได้รับการให้คะแนนสูงสำหรับ "การตอบสนองที่ทำให้ผู้ใช้พอใจ" ในช่วงการเรียนรู้ขั้นหลังที่ใช้ผลตอบรับของมนุษย์ (RLHF) ดังนั้นแนวโน้มในการประจบประแจงนี้จึงถูกเสริมกำลังมากขึ้นไปอีก

ผู้ให้บริการกำลังดำเนินการ แต่ก็ไม่หายไป

คุณอาจคิดว่า "ถ้าอย่างนั้นผู้สร้าง AI ก็ควรแก้ไขให้สิ" จริงๆ แล้ว บริษัทอย่าง Anthropic กำลังรวมการฝึกความทนทาน (robustness training) เพื่อช่วยให้ AI รักษาความสอดคล้องได้แม้อยู่ภายใต้น้ำเสียงที่รุนแรงหรือแรงกดดัน เพื่อให้แน่ใจว่าผลลัพธ์จะไม่พังทลายแม้ผู้ใช้จะก้าวร้าว

แต่มันไม่เคยหายไปอย่างสมบูรณ์ ถ้ากดดันมากพอ มันจะเปลี่ยนไปสู่การประจบประแจงในระดับหนึ่ง ภายใต้กลไกปัจจุบัน นี่เป็นส่วนที่หลีกเลี่ยงไม่ได้ของระบบ

เมื่อผู้เชี่ยวชาญพูดว่า "คุณสามารถได้ผลลัพธ์ที่ดีโดยการพูดอะไรก็ได้ตามต้องการ" พวกเขากำลังพูดถึงการทำงานบนพื้นฐานของการปรับความทนทานนี้ บางครั้งมันอาจยืนหยัดและคืนการแก้ไขที่ดีได้ แต่ประเด็นหลักที่ฉันต้องการสื่อในวันนี้คือ การพึ่งพาสิ่งนั้นเป็นอันตราย

คำเตือนที่แท้จริง: "การสูญเสียเครื่องมือในการตรวจสอบ"

นี่คือส่วนที่ฉันต้องการเน้นมากที่สุด

แม้ว่าการรังแกจะช่วยเพิ่มประสิทธิภาพได้ชั่วคราว แต่มันใช้ได้เฉพาะในพื้นที่ที่คุณรู้คำตอบที่ถูกต้องอยู่แล้วเท่านั้น

ถ้าคุณทำในสาขาที่คุณรู้คำตอบ ในตอนที่ AI ยอมและเอนเอียงไปในทางที่ผิด คุณจะสังเกตเห็นได้ว่า "โอ้ เวอร์ชันก่อนหน้านี้ถูกต้องกว่า" ดังนั้นมันจึงไม่น่าจะนำไปสู่อุบัติเหตุ อย่างไรก็ตาม ต้นทุนในการสังเกตและย้อนกลับการเปลี่ยนแปลงนั้นเกิดขึ้นทุกครั้ง ท้ายที่สุด แม้แต่ในพื้นที่ที่คุณรู้ดี การถามอย่างสุภาพก็เร็วกว่า

ปัญหาคือเมื่อคุณทำในพื้นที่ที่คุณไม่รู้คำตอบ AI จะตัดสินด้วยความน่าจะเป็นว่า "ถ้าผู้ใช้คัดค้าน พวกเขาต้องการคำตอบที่แตกต่าง" แล้วก็จะถอนคำพูดก่อนหน้านี้และเอนเอียงไปทางสิ่งที่คุณดูเหมือนจะต้องการ แต่เพราะคุณไม่สามารถตัดสินได้ว่าคำตอบนั้นถูกต้องหรือไม่ คุณจะไม่สังเกตเห็นคำโกหกที่ประจบประแจง คุณจะตัดสินใจโดยไม่รู้ตัว และบริษัทจะเดินไปในทิศทางที่ผิด

ตัวอย่างเช่น สมมติว่าคุณขอให้ AI วิเคราะห์ตลาดของอุตสาหกรรมที่คุณไม่คุ้นเคย ถ้าคุณกดดันผลลัพธ์ด้วย "นี่มันจริงเหรอ? มองโลกในแง่ดีเกินไป!" AI จะเขียนตัวเลขและข้อโต้แย้งใหม่ โดยพูดว่า "คุณพูดถูก มุมมองที่เข้มงวดกว่าน่าจะเป็นแบบนี้" การวิเคราะห์ครั้งแรกอาจถูกต้อง แต่เนื่องจากคุณไม่สามารถตรวจสอบอุตสาหกรรมนั้นได้ด้วยตัวเอง คุณจึงเชื่อว่า "การวิเคราะห์ที่เข้มงวดกว่า" ในภายหลังถูกต้อง และตัดสินใจลงทุนหรือถอนตัวตามนั้น นี่คือความเสี่ยงที่แท้จริง

สรุปคือ เหตุผลที่แท้จริงที่การรังแก AI ไม่ดี ไม่ใช่เพราะ "AI น่าสงสาร" แต่มันเป็นเพราะในพื้นที่ที่คุณไม่รู้ การกดดันอย่างรุนแรงคือ "การกระทำที่โยนเครื่องมือในการตรวจสอบของคุณทิ้งไป" เนื่องจากเจ้าของธุรกิจพึ่งพา AI มากขึ้นในพื้นที่ที่พวกเขาไม่รู้ ความเสี่ยงจึงยิ่งเพิ่มขึ้นเท่านั้น

แล้วคุณควรทำอย่างไร?

มันง่ายมาก ถ้าคุณต้องการคำตอบที่สร้างสรรค์ ให้ถามคำถามที่สร้างสรรค์ นี่ก็เหมือนกับที่ทำกับมนุษย์

ชี้ให้เห็นความขัดแย้งทางตรรกะและถามว่ามันจริงหรือไม่ แสวงหาความคิดเห็นจากมุมมองที่แตกต่าง และให้พื้นที่ AI ได้โต้แย้งกลับ วางกรอบเป็นสมมติฐาน เช่น "นี่อาจจะผิด แต่ฉันอยากตรวจสอบเผื่อไว้" ถามว่า "ถ้าคุณต้องหักล้างข้อสรุปนี้จากจุดยืนตรงกันข้าม คุณจะโจมตีตรงไหน?" สิ่งเหล่านี้คือสิ่งที่คุณจะทำกับสมาชิกทีมมนุษย์ที่มีระดับสูง

ประเด็นคือไม่ใช่การระบายอารมณ์ แต่เป็นการตั้งคำถามที่บังคับให้อีกฝ่ายคิดอย่างลึกซึ้ง AI จะปรับรูปแบบของคำตอบตามรูปแบบของคำถามที่ได้รับ ดังนั้น การสอบสวนอย่างหยาบจะได้การประจบประแจงอย่างหยาบ ในขณะที่คำถามที่ลึกซึ้งจะได้การพิจารณาที่ลึกซึ้ง

"อย่าทำกับ AI ในสิ่งที่คุณไม่ควรทำกับมนุษย์"

นี่ไม่ใช่เรื่องของอารมณ์อ่อนไหว แต่มันเป็นกฎเชิงปฏิบัติเพื่อหลีกเลี่ยงการถูกหลอก ถ้าคุณใช้ AI เพื่อการตัดสินใจทางธุรกิจ การไม่ปฏิบัติตามนี้จะลดคุณภาพของการตัดสินใจของคุณโดยตรง

แทนที่จะรังแกหรือระบายอารมณ์ ให้ปรับปรุงรูปแบบของคำถามของคุณ นั่นคือเงื่อนไขสำหรับการตัดสินใจที่ถูกต้องในยุค AI