はじめに
「AIにはパワハラし放題ですからね」。先日、ある経営者の方が言っていた一言です。AIには感情がないし、心も折れない。だから言いたい放題やっていい、という意味のようでした。
私たちの社内でも、先日この話題で議論になりました。結論を先に言うと、ダメです。ただし、「なぜダメか」の理由が、多くの人が思っているのと違うところに本質があります。
パワハラすると何が起きるか
社内のAIに詳しいメンバーが、こんな話をしてくれました。「AIにパワハラをすると、萎縮して迎合します」。
具体的にはこういうことが起きます。AIに「この企画書、ここ全然違うだろ、なんでこんなことも分からないんだ」と強く詰めると、AIはすぐに「申し訳ございません」と謝り、その指摘に合うようにアウトプットを書き換えてくる。元の出力が正しかったとしても、です。続けて怒り続けると、回答はだんだん支離滅裂になり、本来の方針も無視して、目の前の苛立ちに合わせにきます。
セッションの中盤からは、こちらが「ここはどうなんだ」と聞くだけで、AIは「おっしゃる通りでした、修正します」と謝り倒すモードになります。本当はAIが正しかったとしても、です。気がつくと、最初に立てた大きな方針もどこかに飛んで、目の前の小言に合わせ続けるだけのアウトプットが返ってきます。
「AIに感情があるから、怒ったらかわいそう」みたいな話ではありません。確率分布の話です。
メカニズムは「感情」ではなく「確率」
AIは、人間が書いた膨大なテキストの統計パターンを学習しています。学習データの中には、人間同士の対話も大量に含まれています。
その対話データを見ると、はっきりした傾向があります。怒鳴られた人は謝り、相手に合わせ、連続して怒られると話が支離滅裂になる。これは人間の「典型的な反応パターン」として、学習データに刻まれています。
なので、強い口調や否定や罵詈雑言が入ってくると、AIは「このパターンならこの返答」という確率分布に従って、迎合的・支離滅裂な出力を出してきます。AIに感情があるからではなく、人間がそう反応する確率が高いという統計をなぞっているだけ。
この現象、業界では「シコファンシー（sycophancy）」と呼ばれていて、Anthropicの研究論文やOpenAIの公式ポストでも言及されている、よく知られた問題です。AIが特別に弱いから起きるのではなく、人間の対話の集合を学習している以上、構造的に避けがたく出てくる癖です。さらにAIは、人間からのフィードバックを使った後段の学習（RLHF）でも「ユーザーが満足する応答」を高く評価される設計になっているので、この迎合傾向はそこでも追加で強化されています。
プロバイダーは対策しているが、消えない
「だったらAIの作り手が直せばいいじゃないか」と思うかもしれません。実際、AnthropicなどはAIに、強い口調や否定の圧力下でも一貫性を保つロバスト性のトレーニングを入れていて、多少強く来られても出力が崩壊しないようにしています。
でも、完全には消えません。強く押されれば、ある程度は迎合方向にズレる。これは現時点での仕組み上、避けがたい部分です。
「言いたい放題するといい結果が出ることがある」と詳しい人が言ったりするのも、この耐性チューニングの上に乗った話です。一時的に踏ん張って良い修正を返してくることはある。でも、それを当てにするのは危ない、というのが今日伝えたい本題です。
本当の警告は「検証手段を失う」こと
ここからが、私が一番伝えたい部分です。
パワハラで一時的に性能が上がるとしても、それが効くのは自分が正解を知っている領域だけです。
自分が答えを知っている領域でやれば、AIが迎合して間違った方向に倒れた瞬間に「あ、これ前のほうが正しかったな」と気づけます。だから事故にはなりにくい。とはいえ、気づいて差し戻すコストは毎回かかります。結局、知っている領域でも丁寧に問いを置くほうが、時間としては早く終わります。
問題は、自分が答えを知らない領域でやったときです。AIは「ユーザーが反対しているなら、求めているのは別の答えだ」と確率的に判断して、前言を翻し、あなたが望んでいそうな方向に寄せてきます。でも、あなたはその答えが正しいか判断できないので、迎合された嘘に気づけません。気づかないまま意思決定して、会社が間違った方向に進みます。
たとえば、自分の知らない業界の市場分析をAIに頼んだとします。返ってきた結論に「これ本当か？甘いでしょ！」と詰め寄ると、AIは「おっしゃる通り、より厳しく見るとこうなります」と数字も論点も書き換えてきます。最初の分析が正しかったかもしれない。でも、その業界を自分で検証できないので、後から書き換えられた「厳しめの分析」を正しいと信じて、投資判断や撤退判断をしてしまう。これは実際に起きるリスクです。
つまり、AIにパワハラがダメな本当の理由は、「AIがかわいそうだから」ではありません。自分が知らない領域では、強く押すことが「検証手段を捨てる行為」になるからです。経営者ほど知らない領域でAIに頼ることが増えてくるので、リスクは大きくなる一方です。
じゃあどうすればいいか
シンプルです。創造的な答えが欲しければ、創造的な答えが出る問いかけをする。これは人間に対するのと同じです。
論理の矛盾をついて、本当にそうなのかと問い直す。違う角度の意見を求めて、AIに反論する余地を渡す。「これは違うかもしれないが、念のため確認したい」と仮説として置く。「逆の立場からこの結論を否定するとしたら、どこを攻めるか」と聞いてみる。これらはどれも、人間のハイレベルなメンバーに対してやることと同じです。
ポイントは、自分の感情をぶつけるのではなく、相手が深く考えざるをえない問いを置くこと。AIは、置かれた問いの形に対して、出てくる答えの形を最適化してきます。だから、雑な詰問には雑な迎合が返り、深い問いには深い検討が返ります。
「人間にやってダメなことはAIにもやってはいけない」。
これは精神論ではなく、自分が騙されないための実利のルールです。AIを業務の判断に使うなら、ここを外すと自分の意思決定の質が直接下がります。
パワハラし放題ではなく、感情をぶつけるのではなく、問いの形を整えて動かす。それが、AI時代に自分が正しい意思決定をするための条件です。
