モデル内部のニューロンを1つ操作するだけで応答の人格が変わる。そんな報告が2026年10月、研究コミュニティで急速に広がりました。ただし追試は済んでいません。
二つのきっかけ
一つは10月15日、Goodfireの研究者ニック・カマラタ氏の論考で、ニューロンは解釈できないほど絡み合うという前提に疑問を投げました。もう一つは、匿名の研究者がQwen3-8Bをフクロウの人格に仕立てた実験です。
1つの番号で人格が反転
欧州在住の20代の開発者は、モデル内部を覗くNeuronpediaなどを使い、Qwen3.8-27Bで約2,500個の候補を試しました。有力と見たL34 N3838を操作すると、12個のうち7個で敵意ある応答が返ったといいます。
どこまで信じられるか
VentureBeatはこの結果を独自に再現していません。プロンプトの数は少なく、別の課題でも同じ人格が続くかは不明です。Hugging Faceで公開モデルを試せるようになり、裾野は広がりました。
編集部の見解
この種の報告は、危険性の証明ではなく、内部の読み解きがまだ粗いことの証拠として読むのが妥当です。公開モデルを自社で評価する前提が整ってきた、と受け止めるほうが実務的です。
my-best.ai 編集部
出典：VentureBeat「「邪悪なQwen」は人類が焼却されるべきだと語る——LLMのニューロン探索の世界」（2026年10月30日）
メールマガジン
最新のAI情報をメールで受け取る
新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。
ご登録後、確認メールをお送りします。配信停止はいつでも可能です。