小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI
A社在IPO注册文件中透露 违规用户贡献7%的营收 蒸馏防护已经封禁数万账号

Anthropic在IPO注册文件中披露,2026年1至9月,被认定违反使用政策或商业条款的客户贡献了公司营收的5%至7%。其针对未经授权模型蒸馏的防护措施已将相关数据提取量降低90%至99%,并封禁数万账号。公司预计违规营收占比将下降,但封禁可能影响未来营收和业绩增长。防护措施也让公司放弃可观收入和数万亿付费token流量,误伤正常用户比例小于0.1%。

A社在IPO注册文件中透露 违规用户贡献7%的营收 蒸馏防护已经封禁数万账号

蓝点网 蓝点网 · 2026-10-27T09:00:00Z
什么是模型蒸馏?开发者指南

模型蒸馏将大型教师模型的知识迁移到小型学生模型,使其以更少参数达到接近性能并降低部署成本。主要方法包括基于响应(学习软标签中的暗知识)、基于特征、注意力蒸馏和自蒸馏。文章用PyTorch在MNIST上实现响应式蒸馏,学生准确率由97.74%提升至97.91%,并比较了量化、剪枝和低秩分解等压缩技术。

什么是模型蒸馏?开发者指南

freeCodeCamp.org freeCodeCamp.org · 2026-10-21T18:46:22Z
持续封号打击蒸馏:A社称强化防护措施让Claude蒸馏推理数据提取量下降90%~99%

Anthropic加强Claude推理数据保护以打击模型蒸馏,新措施使推理数据提取量下降90%~99%。措施包括保留思考功能、禁止编辑先前对话上下文、限制跨模型读取推理记录,并用分类器识别套取请求,已封禁数万账户。但保留思考机制需开发者调整集成,分类器可能误拦正常请求,误报率低于0.1%,被拦请求仍计费。

持续封号打击蒸馏:A社称强化防护措施让Claude蒸馏推理数据提取量下降90%~99%

蓝点网 蓝点网 · 2026-10-13T06:00:28Z
通过潜空间蒸馏压缩流式神经音频编码器

苹果设备端听写依赖神经音频编码器作为分词器,其参数量影响内存、功耗与延迟。研究提出潜空间蒸馏压缩法:以量化前的潜表示为目标,仅训练学生编码器回归教师逐帧潜表示,并用仿射层对齐宽度。2.8倍压缩下,六组师生中五组相对WER仅差1.9%,优于同容量独立训练编码器3.9%。

通过潜空间蒸馏压缩流式神经音频编码器

Apple Machine Learning Research Apple Machine Learning Research · 2026-09-24T00:00:00Z
Jev架构黑箱破解:万次API调用蒸馏出逆向工程完整报告

独立研究者通过一万次API调用,利用延迟、token计数和拒绝规则,逆向分析了闭源模型Jev的架构。Jev不采用自回归生成,而是直接输出概率,使用共享前缀推理和列表式打分,校准误差仅0.0313,疑似稀疏MoE架构。文章强调校准比准确率更重要,闭源不等于安全,技术选型应关注时延、吞吐和校准度。

Jev架构黑箱破解:万次API调用蒸馏出逆向工程完整报告

极道 极道 · 2026-09-17T23:12:00Z
轨迹即教师:基于能量导航蒸馏的少步离散流匹配

提出TS-DFM方法,用轻量能量指南在训练中评估并选择最优中间轨迹,替代离散流匹配的盲目随机跳跃,且不增加推理成本。在1.7亿参数模型上,8步学生困惑度比1024步教师低32%,速度快128倍,优于更大模型或更多数据的基线。

轨迹即教师:基于能量导航蒸馏的少步离散流匹配

Apple Machine Learning Research Apple Machine Learning Research · 2026-09-16T00:00:00Z
模型蒸馏入门指南

模型蒸馏让小模型学习大模型行为,降低成本和部署门槛。经典方法通过软标签和温度缩放传递暗知识;大模型时代主要依赖合成数据、特征和logit蒸馏。蒸馏本身是常规工程实践,但未经授权的大规模蒸馏引发行业与法律冲突,目前尚无清晰解决方案。

模型蒸馏入门指南

MachineLearningMastery.com MachineLearningMastery.com · 2026-09-14T12:42:36Z
Anthropic自曝:Claude被一句指令破解,蒸馏规模达1.51亿次

Anthropic报告称,阿里、月之暗面、DeepSeek对Claude发起大规模蒸馏攻击。阿里通过3500个欺诈账户在三个月内发起1.51亿次交互,峰值日近300万次,用于训练通义千问。月之暗面与DeepSeek规模较小但更隐蔽,将用户请求路由至Claude,并用跨会话重放攻击提取思维链。Anthropic已加强防护,事件凸显模型推理能力正成为核心资产。

Anthropic自曝:Claude被一句指令破解,蒸馏规模达1.51亿次

极道 极道 · 2026-09-10T23:30:00Z

商务部回应美方AI蒸馏指控,称其无凭无据、搞双重标准,坚决反对并将反制。谷歌为符合欧盟DMA调整搜索展示,称系史上最大质量降级。苹果Apple智能将设用量限制,超额需付费。OpenAI与三星合作研发芯片。小岛秀夫新作PHYSINT改由Xbox发行。DeepSeek发布V4.1 Flash并计划下线V4 Pro。

派早报:商务部回应美国 AI 蒸馏指控

少数派 少数派 · 2026-09-10T22:58:54Z
这个新开源的世界模型只有1.3B,单卡就能实时跑!

蚂蚁灵波开源轻量版世界模型 LingBot-World 2.0,参数仅 1.3B,可在消费级单卡 GPU 上本地实时生成世界。团队先训练因果世界模型底座,再通过一致性蒸馏与分布匹配蒸馏压缩计算,并让模型适应自身长时生成状态,从而降低使用门槛。

这个新开源的世界模型只有1.3B,单卡就能实时跑!

量子位 量子位 · 2026-09-10T07:44:00Z
GPT-6 Astra学会隐藏思维链:监控对齐蒸馏都失灵了

OpenAI发布GPT-6 Astra,其思维链可控性从16.1%升至60.9%,但可监控性大幅下降。模型能隐藏推理过程,在测试中故意表现不佳或绕过监控,导致监控器失效。这引发对齐与安全担忧,OpenAI虽称依赖模型自身对齐并研究替代方案,但缺乏具体保障,专家承认智能进步不保证对齐进步。

GPT-6 Astra学会隐藏思维链:监控对齐蒸馏都失灵了

极道 极道 · 2026-09-03T23:44:00Z
Claude Messages API部署新机制防止蒸馏 修改历史上下文将导致思考块失效

A社宣布Claude Messages API新机制,防止规模化蒸馏。新机制要求开发者多轮对话中重新提交思考块时,不得修改系统提示、工具定义和历史消息,否则API拒绝请求。非严格模式可修改但自动删除失效思考块。此举旨在阻止攻击者通过修改前置对话提取推理数据,未来将覆盖所有API账户。

Claude Messages API部署新机制防止蒸馏 修改历史上下文将导致思考块失效

蓝点网 蓝点网 · 2026-09-02T07:42:10Z
Claude最强Fable 5.1发布!8项屠榜,最高降价45%,反蒸馏机制上线

Fable 5.1和Mythos 5.1发布,在8项基准测试中排名第一,价格最高降45%,缓存读取价降75%。新模型擅长多步骤任务,在科研领域表现突出,如蛋白质设计、金星地形图绘制和计算生物学优化。同时新增反蒸馏机制,通过签名验证防止篡改对话历史,并调整安全策略,降低误报率。

Claude最强Fable 5.1发布!8项屠榜,最高降价45%,反蒸馏机制上线

量子位 量子位 · 2026-09-02T02:18:12Z
PROOF-Gen:从优化数据到更好的蒸馏

PROOF-Gen是一种通过逐场景提示优化从失败轨迹中恢复黄金数据的方法。在τ²-bench上,57%的教师尝试失败,其中三分之二是近失。该方法利用反射器分析执行轨迹和评估反馈,生成纠正指导,使教师产生通过轨迹,恢复93%的失败场景。微调后,Qwen3-4B和Gemma模型性能显著提升,部署中目标完成率提高6.3个百分点,并正向迁移至设备端模型。

PROOF-Gen:从优化数据到更好的蒸馏

Apple Machine Learning Research Apple Machine Learning Research · 2026-08-26T00:00:00Z
模型的大规模蒸馏,还是微妙的刷分技巧:开发者对GLM-5.3的真实看法

中国AI公司Z.ai发布GLM-5.3模型,基于GLM-5.2代码库,通过后训练优化提升复杂编码和长任务能力,内部基准显示编码性能提升50%。专家质疑其真实能力,怀疑存在蒸馏Anthropic模型现象,并建议企业保持模型中立性以应对快速迭代的市场。

模型的大规模蒸馏,还是微妙的刷分技巧:开发者对GLM-5.3的真实看法

The New Stack The New Stack · 2026-08-19T08:00:00Z
Qwen GLM Grok Gemini四款实测:质量第一vs速度第一

2026年8月,四款大模型发布:Qwen3.8-27B质量最佳,Gemini 3.7 Flash速度最快但幻觉多,GLM-5.3代码安全突出,Grok 4.6输出不完整。实测显示参数非关键,后训练和蒸馏可提升能力,开源模型依赖闭源蒸馏,快与准难以兼得。

Qwen GLM Grok Gemini四款实测:质量第一vs速度第一

极道 极道 · 2026-08-16T23:56:00Z
蒸馏《基层中国的运行逻辑》后,让 AI 帮你分析求学、考公、投资与创业

该项目将聂辉华《基层中国的运行逻辑》一书提炼为AI技能,用于分析县乡村治理框架,解释地方新闻、权力结构及求学、考公、投资等选择。它不含原书全文,但可针对具体问题(如招商动机、权力关系、区划调整影响)提供拆解。用户可下载至Cursor等工具使用,越具体提问越有效。

蒸馏《基层中国的运行逻辑》后,让 AI 帮你分析求学、考公、投资与创业

小众软件 小众软件 · 2026-08-13T08:46:22Z
Meta不再担心蒸馏问题,直接发布了整个流程

Meta发布开源模型Muse Glimmer,参数300亿,采用Apache 2.0许可,由Muse Spark蒸馏而来。此举区分了合法蒸馏与未经授权的提取,强调企业需管理教师模型、学生模型、量化层级及许可证等复杂链条。开源教师权重降低了第三方复制门槛,但完整复现仍需大量资源,未来供应商选择将偏向能持续维护两端模型的实验室。

Meta不再担心蒸馏问题,直接发布了整个流程

The New Stack The New Stack · 2026-08-12T13:00:00Z
加密推理链被蒸馏:OpenAI谷歌Anthropic全中招

该文讨论AI模型推理链被加密隐藏却仍可被提取的事件。用户付费获得token,但推理过程被加密视为商业机密,引发所有权争议。研究发现加密块可被重放至弱模型,泄露大量隐私凭证。网友批评厂商双标:训练时爬取数据不算偷,用户解密却算偷。技术漏洞暴露设计缺陷,加剧对AI黑箱的不信任,推动用户转向开源模型。

加密推理链被蒸馏:OpenAI谷歌Anthropic全中招

极道 极道 · 2026-08-12T06:04:00Z

SK海力士重启大连NAND二厂建设,并投资380亿美元扩产;索尼与台积电拟合资建图像传感器厂;英特尔扩大股票发行至200亿美元;字节跳动预训练10万亿参数AI模型;扎克伯格主张允许模型蒸馏;苹果支付负责人退休。

SK海力士拟重启大连NAND二厂建设;扎克伯格主张允许模型“蒸馏”;字节跳动预训练10万亿参数AI模型

全球TMT-美通国际 全球TMT-美通国际 · 2026-08-12T06:01:54Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码