Goodfire 提出 mechanistic shaping 框架 用内部表征抑制模型走捷径

AI guide

AI 导读

Goodfire Research 发布论文提出 mechanistic shaping 框架，通过 reliance shaping 和 expression shaping 在训练中惩罚模型对特定内部概念的依赖或表达，使模型以正确方式解题而非仅答对。