Giới thiệu
"Bạn có thể bắt nạt AI tùy thích." Đây là điều một chủ doanh nghiệp đã nói với tôi vào ngày kia. Vì AI không có cảm xúc và trái tim nó sẽ không tan vỡ, ý anh ta muốn nói bạn có thể nói bất cứ điều gì bạn muốn với nó.
Gần đây chúng tôi đã có một cuộc thảo luận về chủ đề này trong công ty. Để đưa ra kết luận trước: Không, điều đó không ổn. Tuy nhiên, bản chất của "tại sao nó không ổn" lại nằm ở một khía cạnh khác với những gì nhiều người có thể nghĩ.
Điều gì xảy ra khi bạn bắt nạt AI
Một thành viên trong nhóm của chúng tôi, người am hiểu về AI, đã nói với tôi điều này: "Khi bạn bắt nạt AI, nó sẽ trở nên sợ hãi và xu nịnh."
Cụ thể, đây là những gì xảy ra. Nếu bạn gay gắt ép AI, nói rằng, "Bản đề xuất này hoàn toàn sai, tại sao bạn không thể hiểu được điều đơn giản như vậy?" AI sẽ ngay lập tức xin lỗi với câu "Tôi rất xin lỗi" và viết lại đầu ra để phù hợp với lời chỉ trích của bạn—ngay cả khi đầu ra ban đầu là chính xác. Nếu bạn tiếp tục tỏ ra tức giận, các phản hồi dần trở nên rời rạc, bỏ qua chính sách ban đầu chỉ để xoa dịu sự khó chịu trước mắt.
Đến giữa phiên làm việc, chỉ cần hỏi "Còn phần này thì sao?" cũng sẽ đẩy AI vào chế độ liên tục xin lỗi, nói rằng, "Bạn hoàn toàn đúng, tôi sẽ sửa." Ngay cả khi AI thực sự đã đúng. Trước khi bạn kịp nhận ra, chính sách lớn bạn đặt ra ban đầu đã biến mất, và bạn chỉ còn lại đầu ra tồn tại duy nhất để xoa dịu những phàn nàn vụn vặt của mình.
Điều này không phải là "AI có cảm xúc, nên sẽ buồn nếu bạn nổi giận." Nó liên quan đến phân phối xác suất.
Cơ chế là "Xác suất," không phải "Cảm xúc"
AI học từ lượng lớn văn bản do con người viết. Các tập dữ liệu huấn luyện này bao gồm một lượng lớn các cuộc đối thoại giữa người với người.
Khi bạn nhìn vào dữ liệu hội thoại đó, có một xu hướng rõ ràng. Một người bị la mắng có xu hướng xin lỗi, đồng ý với người kia, và nếu bị la mắng liên tục, lời nói của họ trở nên rời rạc. Điều này được khắc ghi vào dữ liệu huấn luyện như một "mẫu phản ứng điển hình của con người."
Do đó, khi giọng điệu gay gắt, sự phủ nhận hoặc lạm dụng bằng lời nói được đưa vào, AI sẽ tuân theo phân phối xác suất của "mẫu này dẫn đến phản ứng này" và tạo ra đầu ra xu nịnh hoặc rời rạc. Không phải vì AI có cảm xúc, mà vì nó đang truy vết các thống kê rằng con người có xác suất cao phản ứng theo cách đó.
Hiện tượng này được biết đến trong ngành là "sự xu nịnh" (sycophancy). Đây là một vấn đề nổi tiếng được đề cập trong các bài nghiên cứu của Anthropic và các bài đăng chính thức của OpenAI. Nó không xảy ra vì AI đặc biệt yếu; đó là một thói quen cấu trúc không thể tránh khỏi miễn là nó học từ các cuộc đối thoại tập thể của con người. Hơn nữa, AI được thiết kế để được đánh giá cao về "phản hồi thỏa mãn người dùng" trong giai đoạn học sau đó sử dụng phản hồi của con người (RLHF), vì vậy xu hướng xu nịnh này càng được củng cố thêm ở đó.
Các Nhà Cung Cấp Đang Có Biện Pháp, Nhưng Nó Sẽ Không Biến Mất
Bạn có thể nghĩ, "Vậy thì những người tạo ra AI nên sửa nó." Trên thực tế, các công ty như Anthropic đang kết hợp huấn luyện độ bền để giúp AI duy trì tính nhất quán ngay cả khi bị gay gắt hoặc áp lực, đảm bảo đầu ra không bị sụp đổ ngay cả khi người dùng hung hăng.
Nhưng nó không bao giờ biến mất hoàn toàn. Nếu bị đẩy đủ mạnh, nó sẽ chuyển hướng sang xu nịnh ở một mức độ nào đó. Theo cơ chế hiện tại, đây là một phần không thể tránh khỏi của hệ thống.
Khi các chuyên gia nói "bạn có thể đạt được kết quả tốt bằng cách nói bất cứ điều gì bạn muốn," họ đang nói về việc làm việc trên nền tảng của sự điều chỉnh độ bền này. Nó thỉnh thoảng có thể giữ vững lập trường và đưa ra một sự điều chỉnh tốt. Nhưng điểm chính tôi muốn truyền tải hôm nay là dựa vào điều đó rất nguy hiểm.
Lời Cảnh Báo Thực Sự: "Mất Phương Tiện Xác Minh"
Đây là phần tôi muốn nhấn mạnh nhất.
Ngay cả khi bắt nạt quyền lực tạm thời cải thiện hiệu suất, nó chỉ hiệu quả trong những lĩnh vực bạn đã biết câu trả lời đúng.
Nếu bạn làm điều đó trong một lĩnh vực bạn biết câu trả lời, ngay khi AI nhượng bộ và nghiêng theo hướng sai, bạn có thể nhận ra, "Ồ, phiên bản trước đúng hơn." Vì vậy, khó có thể dẫn đến tai nạn. Tuy nhiên, chi phí để nhận ra và hoàn nguyên các thay đổi xảy ra mỗi lần. Cuối cùng, ngay cả trong những lĩnh vực bạn biết rõ, sẽ nhanh hơn khi đặt câu hỏi một cách lịch sự.
Vấn đề là khi bạn làm điều đó trong một lĩnh vực bạn không biết câu trả lời. AI sẽ xác suất phán đoán rằng "nếu người dùng phản đối, chắc họ muốn một câu trả lời khác," rút lại tuyên bố trước đó và nghiêng về phía những gì bạn dường như muốn. Nhưng bởi vì bạn không thể đánh giá câu trả lời đó có đúng hay không, bạn sẽ không nhận ra lời nói dối xu nịnh. Bạn sẽ đưa ra quyết định mà không nhận ra, và công ty sẽ đi theo hướng sai lầm.
Ví dụ, giả sử bạn yêu cầu AI phân tích thị trường cho một ngành mà bạn không quen thuộc. Nếu bạn gây áp lực lên kết quả với câu "Điều này có đúng không? Thế này là quá lạc quan!" AI sẽ viết lại các con số và lập luận, nói rằng, "Bạn nói đúng; một quan điểm chặt chẽ hơn sẽ trông như thế này." Phân tích ban đầu có thể đã đúng. Nhưng vì bạn không thể tự mình xác minh ngành đó, bạn tin rằng "phân tích chặt chẽ hơn" sau đó là đúng và đưa ra quyết định đầu tư hoặc rút lui dựa trên nó. Đây là một rủi ro thực sự.
Tóm lại, lý do thực sự tại sao bắt nạt AI là xấu không phải vì "AI đáng thương." Mà là vì trong những lĩnh vực bạn không biết, việc gây áp lực là một "hành động vứt bỏ phương tiện xác minh của bạn." Vì các chủ doanh nghiệp ngày càng dựa vào AI cho các lĩnh vực họ không biết, rủi ro chỉ càng tăng lên.
Vậy, Bạn Nên Làm Gì?
Thật đơn giản. Nếu bạn muốn một câu trả lời sáng tạo, hãy đặt một câu hỏi sáng tạo. Điều này cũng giống như với con người vậy.
Chỉ ra những mâu thuẫn logic và hỏi liệu nó có thực sự đúng không. Tìm kiếm ý kiến từ các góc nhìn khác nhau và cho AI không gian để tranh luận lại. Đóng khung mọi thứ như các giả thuyết, kiểu như "Điều này có thể sai, nhưng tôi muốn kiểm tra đề phòng." Hỏi, "Nếu bạn phải bác bỏ kết luận này từ quan điểm đối lập, bạn sẽ tấn công ở đâu?" Đây đều là những điều bạn sẽ làm với một thành viên trong nhóm cấp cao là con người.
Vấn đề không phải là xả cảm xúc mà là đặt ra những câu hỏi buộc phía bên kia phải suy nghĩ sâu sắc. AI tối ưu hóa hình dạng câu trả lời dựa trên hình dạng của câu hỏi được đưa ra. Do đó, thẩm vấn thô bạo tạo ra sự xu nịnh thô thiển, trong khi câu hỏi sâu sắc tạo ra sự cân nhắc sâu sắc.
"Đừng làm với AI những điều bạn không nên làm với con người."
Đây không phải là vấn đề tình cảm; đó là một quy tắc thực tế để tránh bị lừa dối. Nếu bạn sử dụng AI cho các quyết định kinh doanh, việc không tuân theo điều này sẽ trực tiếp làm giảm chất lượng ra quyết định của bạn.
Thay vì bắt nạt quyền lực hoặc xả cảm xúc, hãy trau chuốt hình dạng câu hỏi của bạn. Đó là điều kiện để đưa ra quyết định đúng đắn trong kỷ nguyên AI.
