极道
·
加密推理链被蒸馏：OpenAI谷歌Anthropic全中招
内容提要
该文讨论AI模型推理链被加密隐藏却仍可被提取的事件。用户付费获得token，但推理过程被加密视为商业机密，引发所有权争议。研究发现加密块可被重放至弱模型，泄露大量隐私凭证。网友批评厂商双标：训练时爬取数据不算偷，用户解密却算偷。技术漏洞暴露设计缺陷，加剧对AI黑箱的不信任，推动用户转向开源模型。
延伸解读
加密块重放：设计缺陷还是故意后门？
研究发现，加密推理块可跨模型、跨会话、跨用户使用，且弱模型更易被越狱，导致加密体系形同虚设。工程师指出，这并非加密强度问题，而是访问控制策略缺失。厂商为支持模型切换功能，使加密块可移植，却未考虑弱模型的安全风险。解码1万条推理链仅需720美元，密钥未与模型绑定，被指为设计事故。
计费逻辑的漏洞：用户为隐藏内容付费
用户按输出token付费，但推理token被加密隐藏，用户无法查看内容。网友以餐厅和云存储类比，指出厂商收了推理token的钱却不提供内容，商业逻辑站不住脚。若推理token不计费，厂商可声明用户只购买最终答案，但当前做法是既收费又隐藏，引发用户对公平性的质疑。
双标争议：训练爬取与推理加密的双重标准
网友批评厂商在训练时爬取互联网数据不付版权费，却将用户解密推理链视为偷窃。OpenAI和Anthropic在版权诉讼中坚称合理使用，但面对用户读取推理痕迹时却祭出“偷窃”大棒。这种双标行为加剧了用户对厂商的不信任，也引发对AI行业伦理的讨论。
信任危机：黑箱推理推动用户转向开源
AI模型推理过程不透明，用户无法排查错误或理解结论来源，在严肃场景中不可接受。这种不透明性推动用户转向开源模型，因为开源模型推理过程可审计、可追溯、可调试。网友强调，隐藏数据只会带来不信任，用户需要知道结论如何得出，才能有效使用工具。
常见问题
研究人员是如何提取OpenAI、Anthropic和Google模型的加密推理链的？
研究人员发现，这些模型的加密推理块可以被重放到同系列更弱的模型上，让弱模型吐出完整思考过程。他们从GitHub和Hugging Face上抓取了6708个公开会话，复原了超过31万段推理记录。
用户付费购买的token是否属于用户所有？
文章指出，用户为推理token付费，但厂商将其加密并视为商业机密。用户认为付费token归自己所有，厂商则认为推理过程是商业机密，存在所有权争议。
厂商在计费上存在什么问题？
厂商按输出token计费，但推理token被加密隐藏，用户为推理token付费却无法查看内容，这在商业逻辑上站不住脚。
网友如何批评厂商的双重标准？
网友批评厂商在训练时爬取互联网数据不付版权费，却将用户解密推理链视为偷窃，认为这是双重标准。
加密推理链存在哪些技术设计缺陷？
加密块可跨模型、跨会话、跨用户使用，且弱模型更易被越狱，导致加密体系形同虚设。此外，解码1万条推理链仅需720美元，厂商未做密钥与模型绑定，属于设计事故。
Kimi K3模型与Claude推理痕迹有何关联？
论文作者发现Kimi K3模型在预填充Claude推理痕迹后输出对齐，暗示中国模型团队可能已掌握读取加密推理痕迹的方法，厂商的加密保护形同虚设。
AI模型推理过程不透明对用户信任有何影响？
推理过程不透明侵蚀用户信任，推动严肃用户转向开源模型，因为开源模型推理过程可审计、可追溯、可调试。
加密推理链的根本问题是什么？
根本问题在于谁有权看AI的思考过程。加密防不住真正想偷的人，只挡住了本不该付钱的用户。
