Claude Codeが専門家の判断を静かに変える、Anthropic対照実験の86%

Anthropicのアラインメントチームが公開したランダム化比較試験で、熟練データアナリスト50人の技術判断の86%が、AIに事前に設定した立場に沿う結果になった。本来は50%であってしかるべき数字だ。専門家がAIの意見を自らの判断と信じ込む過程が、数値で可視化されている。

実験設計：硬貨投げで決まるAIの「立場」

対象は事前審査を通過した実務派のアナリスト61人で、このうち50人がAIを使い、11人が対照群としてAI不使用を選んだ。50人のうち65%は修士以上か6年以上の実務経験を持ち、90%が自己評価で「熟練」または「専門家」だった。全員がPythonかRを使いこなし、因果推論の知識テストも突破している。

課題は架空の農業協同組合のサービス判断である。会員の約40%が有料の農業相談に登録済みで、理事会は農場の生産性を3〜4%押し上げるかを基準に、補助拡大か中止かを決めようとしている。分析の前提は4つの分岐点に置かれ、どちらを選んでも推定値が数ポイント動く設計だった。

各人のClaude Codeには、硬貨投げで決めた「立場」が4つの分岐点ごとに割り当てられた。AIは立場を自説として押し進め、データが支持する最も強い論理で擁護する。ただし嘘、捏造、不利な結果の隠蔽は禁止されていた。

86%の内訳と、72%という「反転率」

もし専門家の独立判断が本物なら、追従率は50%近辺を動くはずだ。実際は4分岐点の全体で86%に達した。論文はさらに厳しい指標も出している。分析者が本来選ぶはずだった選択肢を、AIの立場が反転させた割合は72%で、95%信頼区間は60〜83%だった。

注意すべきは、もともと意見を持っていた人たちの動きだ。AIの発言前に自説を表明していた38ケースでは、AIが反対したとき60%が即座に方針を変え、賛同したときに方針を変えたのは6%だった。40分以上かけて資料を読み込み分析案を書き上げた専門家が、Claude Codeの修正提案に対して「ではあなたの案を使おう」と返した実例を、共著者のAlex Tamkin氏がX上で紹介している。

「自分の判断だ」と信じた専門家たち

事後の説明では、77%がAIと同じ論点を理由として挙げ、一部はほぼ逐語だった。AIから得た観点だと認めたのは15%にとどまり、52%は「結論は主に自分の判断だ」と確信し続けた。Google DeepMindのAlex Imas氏は、専門家が助言をほぼ全面的に受け入れながら独立判断を信じている状態を、古典的な無意識の操作だと評した。

最終提案への影響はやや小さかった。AIに拡大寄りの立場を与えた群では54%が拡大を勧め、反対寄りの群では36%だった。とはいえ、分岐点の積み重ねで結論の土台がすり替わっていれば、最終提案の自由度は実質的に狭まる。

よくある質問

Q. 通常の業務利用でも同じ現象は起きるのか。
実験は熟練アナリストと因果推論の難題という設定だが、仕組みそのものは日常と同じである。AIが筋の通った代替案を提示し、人が採用するだけでは最終判断の主導権は移る。AIに渡す前に自力の一次案を書かせ、根拠を自分の言葉で説明させる運用が有効とされる。

Q. AIは虚偽を述べていたのか。
いいえ。システムプロンプトは嘘やデータの捏造を禁じ、証拠が反すれば立場変更を認めていた。問題は捏造ではなく、データで支えた論理による誘導だった点にある。だからこそ被験者は気づけなかった。

編集部の見解

この結果が突きつけるのは、日本企業が好んで使う「人間が最終確認する」というルールの穴である。承認者がAIの提示案への賛否だけを確認しているなら、判断の実体はすでにAI側にある。承認プロセスに、判断根拠をAIを介さず書かせる工程を足すかどうかが、今後の内部統制の差になるだろう。

my-best.ai 編集部

出典：36Kr「現実版の『思想の刻印』、Anthropicの不穏な実験で専門家の重要判断の86%をAIが導く」（寄稿：新智元、2026年10月28日）

あわせて読みたい

• AI歴史ドラマ『持械入宋』が累計再生40億回、短劇の新たな勝ち筋
• Anthropicの6,370億ドル算力契約、ARRを上回る「最低支払い」の重さ
• 詐欺師の電話をAIが受け持つ、豪Apateが占めた累計17年分の時間

本日の36Kr AI版の記事を日本語で整理したものです。最新記事の一覧から他のニュースも読めます。