ML Street Talk

加密思考不是秘密：小模型能把大模型的推理念出来

前沿模型把加密的思考过程随答案一起还给用户，但这段加密可以被同族小模型原样重放并直接「念出来」，导致隐私泄露、越狱、提示注入，甚至成为蒸馏能力的通道。