从一篇论文了里面看到的猜测: K3可能受到闭源模型思维链影响

saomalu · 2026-08-12T15:06:00+08:00

最近看了一篇关于大模型加密思维链漏洞的论文 arxiv 2608.09867附录里关于 Kimi K3 的测试结果挺有意思让ai总结了下, 大概就是论文暗示 Kimi K3 的训练数据里很可能混入了大量闭源大模型的真实思维链数据，导致它像个“高仿号”研究人员发现一个技术漏洞：各大模型加密的私密思考过程（思维链）可以被破解，并“移植”给其他模型。他们在实验中给 Kimi K3 塞入了一小段 Claude 或 GPT 的私密思维链。结果发现，Kimi K3 不仅思路跟着变，甚至连最终回答的话术风格、推理论证的篇幅长度，都变得和 Claude 或 GPT 极为相似。在统计学测试中，Kimi K3 极大概率能“预判”出 GPT 的答案。

saomalu2026-08-12
63805
最近看了一篇关于大模型加密思维链漏洞的论文 arxiv 2608.09867
附录里关于 Kimi K3 的测试结果挺有意思
让ai总结了下, 大概就是论文暗示 Kimi K3 的训练数据里很可能混入了大量闭源大模型的真实思维链数据，导致它像个“高仿号”
研究人员发现一个技术漏洞：各大模型加密的私密思考过程（思维链）可以被破解，并“移植”给其他模型。
他们在实验中给 Kimi K3 塞入了一小段 Claude 或 GPT 的私密思维链。结果发现，Kimi K3 不仅思路跟着变，甚至连最终回答的话术风格、推理论证的篇幅长度，都变得和 Claude 或 GPT 极为相似。
在统计学测试中，Kimi K3 极大概率能“预判”出 GPT 的答案。
主楼
Angel2026-08-12
5479
Kimi K3 的训练数据里很可能混入了大量闭源大模型的真实思维链数据
各大模型加密的私密思考过程（思维链）可以被破解，并“移植”给其他模型。
按照这个AI的分析来看这不明摆了想说Kimi K3做了蒸馏偷了Claude和GPT数据吗？
Kimi K3 塞入了一小段 Claude 或 GPT 的私密思维链。结果发现，Kimi K3 不仅思路跟着变，甚至连最终回答的话术风格、推理论证的篇幅长度，都变得和 Claude 或 GPT 极为相似。
这个不用管因为别人的思维链确实会影响本模型的回复^-^^-^^-^^-^
#1
meteora626-linuxdo2026-08-12
18621
少带点政治倾向看论文吧，挺好的一篇安全论文，在你眼里只看到了k3蒸馏人家数据。^-^
#2
xunxun2026-08-12
24857
这结论也可以理解为 claude gpt kimi很可能起源于同一个开源模型 ^-^
#3
pontevecchio2026-08-12
10153
粗看了一下B4，不仅是模型回复，而且连思维过程的风格都变了，相当于拿sol和opus的思维链的开头给它们分别续写，k3，5.2这些AUC都算高的，但是inkling和d3.1区分度就很高。而且思维链长度也受影响，“不仅模仿的措辞，还模仿了Opus的思考预算”，且每题的长短分布与opus高度相关（AUC0.86）。而且预填充里根本没有关于长度的信息
#4
neroZac2026-08-12
7236
有意思, 还有https://stolen-thoughts.com/这样的展示论文的方式, 学习一波
#5
jcc2026-08-12
5281
思维链注入，本来就会影响结果
这个并不会说明谁偷了谁
也就是论文作者阴阳一下，再加上自媒体瞎解读，想搞个大新闻
#6
Lisp2026-08-12
60556
https://stolen-thoughts.com/
你还真别说你这一说我就要点进去看看
其实也没什么奇怪的，搞得花里胡哨的，然后把文本框搞得歪七八扭的，
然后有一点点小交互
不过我更感兴趣的是这是哪个AI的作品
#7

发表回复

登录后回复