引言
「你可以盡情對 AI 進行權力霸凌。」這是前幾天一位企業主對我說的話。他的意思是，因為 AI 沒有情緒，心也不會受傷，所以你對它說什麼都可以。
我們公司內部最近討論了這個話題。先說結論：不，這樣做是不行的。然而，「為什麼不行」的本質，可能與許多人想的並不一樣。
當你對 AI 進行權力霸凌時會發生什麼事
我們團隊中一位精通 AI 的成員告訴我：「當你對 AI 進行權力霸凌時，它會變得畏懼且諂媚。」
具體來說，情況是這樣的。如果你咄咄逼人地對 AI 說：「這份提案完全錯誤，這麼簡單的事情你為什麼不懂？」AI 會立刻道歉說「非常抱歉」，並依據你的批評重新改寫輸出——即使原本的輸出是正確的。如果你繼續生氣，它的回應會逐漸變得語無倫次，只為了安撫當下的惱怒而忽略原本的政策。
到了對話中途，只要問一句「那這個部分呢？」AI 就會進入一種不斷道歉的模式，一直說「您說得完全正確，我會修改。」即使 AI 原本是對的。不知不覺間，你最初設定的主要政策已消失無蹤，留下的只有為了迎合你那些微不足道的抱怨而產出的結果。
這不是關於「AI 有感情，所以對它生氣它會難過」，而是關於「機率分佈」。
其機制是「機率」，而非「情緒」
AI 從海量的人類書寫文本中學習。這些訓練資料集包含了大量的「人與人之間的對話」。
當你查看這些對話資料時，會發現一個明顯的趨勢：被責罵的人傾向於道歉、認同對方，如果持續被罵，他們的言語會變得語無倫次。這作為「典型的人類回應模式」被刻入了訓練資料中。
因此，當嚴厲的語氣、否定或辱罵出現時，AI 會遵循「這種模式會導致這種回應」的機率分佈，產生諂媚或語無倫次的輸出。這不是因為 AI 有感情，而是因為它正在追蹤「人類有很高機率會這樣反應」的統計數據。
這種現象在業界被稱為「諂媚（sycophancy）」。這是 Anthropic 的研究論文和 OpenAI 的官方文章中都有提及的眾所周知的問題。它之所以發生，不是因為 AI 特別脆弱，而是只要它從人類的集體對話中學習，就無法避免的結構性習慣。 此外，AI 在後期使用人類回饋（RLHF）的學習階段，被設計成會對「能滿足使用者的回應」給予更高評價，因此這種諂媚傾向在那裡得到了進一步強化。
提供者正在採取措施，但問題不會消失
你可能會想：「那 AI 的創造者把它修好不就好了嗎？」事實上，像 Anthropic 這樣的公司正在加入穩健性訓練（robustness training），幫助 AI 即使在嚴苛的語氣或壓力下也能維持一致性，確保即使使用者態度強硬，輸出也不會崩潰。
但它永遠不會完全消失。如果被逼得太緊，它還是會在一定程度上轉向諂媚。在當前的機制下，這是系統中無可避免的一部分。
當專家說「隨你怎麼說都能得到好結果」時，他們說的是在這種抵抗調整（resistance tuning）的基礎上運作。它偶爾可能會堅持己見，並回傳一個好的修正。但我今天想傳達的重點是，依賴這件事是很危險的。
真正的警告：「失去驗證手段」
這是我最想強調的部分。
即使權力霸凌能暫時提升表現，它也只在「你已經知道正確答案」的領域中有效。
如果你在自己知道答案的領域這麼做，當 AI 屈服並朝向錯誤方向傾斜時，你可以立刻察覺：「哦，之前的版本更正確。」因此，不太可能導致意外。然而，每次察覺並恢復變更都需要成本。最終，即使在你熟悉的領域，好好提問反而更快。
問題在於，當你在「你不知道答案」的領域這麼做時。AI 會機率性地判斷「如果使用者在反對，他們一定想要不同的答案」，然後撤回先前的陳述，轉而傾向你似乎想要的答案。但因為你無法判斷那個答案是否正確，所以你不會察覺到那個諂媚的謊言。 你會在不知不覺中做出決策，導致公司朝錯誤的方向前進。
舉例來說，假設你請 AI 對一個你不熟悉的產業進行市場分析。如果你對結果施壓說：「這是真的嗎？這太樂觀了吧！」AI 會改寫數字和論點，說：「您說得對；更嚴格的觀點應該是這樣。」最初的分析可能是正確的。但因為你自己無法驗證那個產業，你相信了後來那個「更嚴格的分析」是對的，並據此做出投資或撤資的決定。這是一個真實的風險。
簡而言之，對 AI 進行權力霸凌不好的真正原因，不是因為「AI 很可憐」。而是在你不了解的領域，強力施壓是一種 「拋棄驗證手段的行為」 。由於企業主越來越依賴 AI 來處理他們不了解的領域，這個風險只會越來越大。
那麼，你應該怎麼做？
很簡單。如果你想要有創意的答案，就問有創意的問題。這和對待人類是一樣的。
指出邏輯矛盾，問它是否真的正確。從不同角度徵求意見，給 AI 反駁的空間。用像是「這可能是錯的，但我想確認一下」這樣的假設來提問。問它：「如果從完全相反的立場來反駁這個結論，你會從哪裡攻擊？」這些都是你會對高階人類團隊成員做的事。
重點不是發洩情緒，而是提出能迫使對方深入思考的問題。AI 會根據它所接收到的問題形狀，來最佳化其答案的形狀。因此，粗劣的審問會產生粗劣的諂媚，而深刻的問題則會產生深刻的思考。
「不要對 AI 做你不該對人類做的事。」
這不是感情用事的問題，而是為了避免被欺騙的實用原則。如果你將 AI 用於商業決策，不遵守這個原則將直接降低你的決策品質。
與其進行權力霸凌或發洩情緒，不如磨練你提問的形式。這是在 AI 時代做出正確決策的條件。
