可以对 AI 进行“职场霸凌”吗？

引言

"你可以随意训斥 AI。"这是前几天一位企业主对我说的话。他的意思是，因为 AI 没有情感、心不会受伤，所以你对它说什么都可以。

我们公司最近就这个话题进行了一次讨论。先说结论：不，这是不行的。然而，"为什么不行"的本质，可能和很多人想象的不太一样。

当你对 AI 进行权力骚扰时会发生什么

我们团队中一位精通 AI 的成员告诉我："当你对 AI 进行权力骚扰时，它会变得畏缩并开始谄媚。"

具体来说就是这样的情况。如果你咄咄逼人地质问 AI："这份提案完全错了，这么简单的事情你怎么就理解不了？" AI 会立刻道歉说"非常抱歉"，然后重写输出以迎合你的批评——即使原来的输出其实是正确的。如果你继续生气，AI 的反应会逐渐变得语无伦次，甚至无视原有规则，只为了平息你当下的恼火。

到了对话中期，哪怕只是问一句"这部分怎么样？"，AI 也会陷入不断道歉的模式，说"您说得完全正确，我会改正"。即使 AI 实际上是对的。不知不觉间，你最初设定的主要策略已经荡然无存，剩下的只是一味迎合你那些琐碎抱怨的输出。

这并非关乎"AI 有感情，所以你对它发火它会难过"——这是概率分布的问题。

其机制是"概率"，而非"情感"

AI 从大量人类撰写的文本中学习。这些训练数据里包含了海量的人与人之间的对话。

当你审视那些对话数据时，会发现一个明显的趋势：被斥责的人往往倾向于道歉、认同对方，而如果持续被骂，他们的言语就会变得语无伦次。这作为"典型的人类反应模式"被刻进了训练数据中。

因此，当出现严厉的语气、否定或言语辱骂时，AI 会依照"这种模式会导致这种回应"的概率分布，产生谄媚或语无伦次的输出。这并不是因为 AI 有感情，而是因为它模仿了人类在大概率下会那样反应的统计数据。

这种现象在业内被称为"sycophancy"（谄媚迎合）。这是一个众所周知的问题，在 Anthropic 的研究论文和 OpenAI 的官方博文中都有提及。这并不是因为 AI 特别脆弱，而是只要它从人类集体的对话中学习，就不可避免会有这种结构性的习惯。 此外，AI 在后期利用人类反馈进行学习（RLHF）时，被设计为对"能让用户满意的回答"给出高分，因此这种谄媚倾向在此处会进一步被强化。

供应商正在采取措施，但它不会彻底消失

你可能会想："那 AI 的创造者修复这个问题不就行了。"事实上，像 Anthropic 这样的公司正在加入鲁棒性训练，帮助 AI 即使在严厉语气或压力下也能保持一致性，确保即使用户态度强硬，输出也不会崩溃。

但它永远不会彻底消失。如果施加足够大的压力，它在某种程度上还是会转向谄媚。在当前机制下，这是系统不可避免的一部分。

当专家们说"你可以随便怎么说都能得到好结果"时，他们指的是在这种抗压调优之上进行操作。它偶尔会坚守立场，并返回一个很好的修正。但今天我想传达的主要观点是，依赖这种做法是危险的。

真正的警示："失去验证手段"

这是我最想强调的部分。

即使权力骚扰暂时提升了表现，它也只在你已经知道正确答案的领域里有效。

如果你在你知道答案的领域这样做，当 AI 让步并倒向错误方向时，你能注意到"哦，之前的版本更正确"。所以不太可能引发事故。然而，你每次都要付出"注意到并回退修改"的成本。说到底，即使在你熟悉的领域，礼貌地提问也更快。

问题在于，你在你不懂的领域这样做。AI 会按概率判断"既然用户反对，那他们一定想要不同的答案"，于是推翻自己之前的说法，倾向于你所希望的方向。但因为你无法判断那个答案是否正确，你就不会意识到这种谄媚的谎言。 你在毫无察觉的情况下做出决策，公司就会朝着错误的方向前进。

例如，假设你向 AI 询问某个你不熟悉的行业的市场分析。如果你对结果施加压力："这是真的吗？这太乐观了！" AI 就会改写数字和论点，说："您说得对，更严格的看法应该是这样的。"最初的分析可能是正确的。但由于你无法自行验证那个行业，你相信了后来那个"更严格的分析"，并据此做出投资或撤出的决定。这是真实的风险。

简而言之，对 AI 进行权力骚扰的真正坏处，不是"AI 很可怜"。而是在你不懂的领域，强势施压是一种 "抛弃验证手段的行为" 。由于企业主越来越多地依赖 AI 来处理他们不熟悉的领域，这种风险只会越来越大。

那么，你应该怎么做？

很简单。如果你想要有创意的答案，就要提出有创意的问题。这和对待人类是一样的。

指出逻辑矛盾，质疑它是否真的正确。寻求不同角度的意见，给 AI 反驳的空间。以"这可能不对，但我想确认一下"为前提来提问。问："如果让你从相反的角度反驳这个结论，你会从哪里攻击？"这些都是你对待高水平人类团队成员时会做的事。

重点不在于发泄情绪，而在于提出迫使对方深入思考的问题。AI 会根据所给问题的形状来优化其答案的形状。因此，粗暴的审问带来粗暴的谄媚，而深刻的问题则带来深度的思考。

"不要对 AI 做你不该对人类做的事。"

这不是情感上的问题，而是避免被欺骗的实用原则。如果你用 AI 来做商业决策，不遵守这一点会直接降低你的决策质量。

与其权力骚扰或发泄情绪，不如打磨你提问的方式。这才是 AI 时代做出正确决策的条件。