小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
信息损失还是动机损失:莱文用双头蝌蚪撕碎信息论

生物学家迈克尔·莱文挑战传统信息论,认为生命行为由内部“动机”驱动,而非外部信息。通过双头蝌蚪和涡虫实验,他展示目标状态的可塑性,动机是自生成的动态模式,不可简单量化。此观点或改写生物学与AI理论,强调内在“想要”才是行为核心。

信息损失还是动机损失:莱文用双头蝌蚪撕碎信息论

极道 极道 · 2026-08-28T22:43:00Z
FFmpeg工具FFprobe查视频变糊:三步锁定画质损失

FFprobe是FFmpeg工具集中的检测工具,用于排查视频画质下降问题。通过对比各版本文件的技术参数(分辨率、码率、帧率、像素格式等),可定位画质损失环节。需按顺序检查文件,提取同帧截图对比,注意颜色元数据变化。修复应针对问题源头,而非盲目放大或锐化。

FFmpeg工具FFprobe查视频变糊:三步锁定画质损失

极道 极道 · 2026-08-25T02:56:00Z
被70亿收购的OpenRouter缓存作弊曝光:标价最低却坑钱最狠

OpenRouter被Stripe以70亿美元收购后,曝出缓存作弊问题。部分低价模型提供商通过虚报缓存命中率,让用户为重复内容全额付费,实际成本更高。实验显示,约5次查询后用户就多付钱,平台每年因此损失约350万美元。问题源于路由算法只看标价,忽视实际支付,需改进定价机制。

被70亿收购的OpenRouter缓存作弊曝光:标价最低却坑钱最狠

极道 极道 · 2026-08-18T03:25:00Z

内容债务正给全球企业造成4.63万亿美元损失。陈旧、未优化的内容影响搜索和AI发现,导致品牌被误述或忽略。69%高管认为改进内容策略是技术挑战,受CMS和技术栈束缚。内容自信度高的企业更易超越财务目标,系统限制影响较小。

内容债务在全球范围内正给企业造成4.63万亿美元的损失

全球TMT-美通国际 全球TMT-美通国际 · 2026-08-12T07:33:33Z

大模型训练不稳定是常见问题,表现为loss尖峰、发散或NaN。关键预警信号是梯度范数异常,而非loss本身。常用修复手段各有针对:warmup解决Adam早期方差,Pre-LN保持恒等映射,BF16扩大数值范围,梯度裁剪仅作保险丝。loss spike根因包括数值、优化和数据问题。小模型稳定超参放大后失效,因学习率安全窗口随规模收窄,可用μP等方法解决。

【Transformer 与注意力机制】36|训练稳定性:损失尖峰、混合精度与梯度爆炸

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-08T00:00:00Z
情境感知的损失

24岁前OpenAI员工创办的AI对冲基金“Situational Awareness”因重仓AI股票并高杠杆操作,在AI股大跌后遭追加保证金,被迫将大部分资产出售给Citadel,损失惨重。该基金曾估值450亿美元,现仅剩100亿,其创始人因缺乏经验且过度自信而失败。

情境感知的损失

The Verge The Verge · 2026-07-30T20:46:25Z
在良好开局后,DC的新电影宇宙已经放缓

DC的新电影宇宙面临挑战,超级女孩的首映表现不佳,预计损失1亿至1.2亿美元。影片未能有效区分超级女孩与超人的角色,情节缺乏新意,这让人对DC未来的发展产生疑虑。

在良好开局后,DC的新电影宇宙已经放缓

The Verge The Verge · 2026-06-29T21:00:00Z

文章探讨了数字音乐的音质问题,强调混音、母带处理和响度战争对听感的影响。不同版本的音乐在频响、动态范围和压缩处理上存在差异,导致听感疲劳和细节损失。响度均衡虽然能改善动态范围,但也可能暴露母带制作中的问题。音质与设备、信息的保留和取舍密切相关。

让音乐「更好听」的代价:可视化谈频响、动态与不可逆损失

少数派 少数派 · 2026-06-29T03:14:58Z

损失函数是评估机器学习模型预测错误的重要工具,通过比较模型预测与真实值来反馈错误程度。常见的损失函数包括均方误差(MSE)和平均绝对误差(MAE),前者对大错误惩罚更重,后者则较温和。交叉熵损失用于分类任务,关注模型的预测信心。损失反映错误程度,训练过程中模型通过优化减少损失,提高预测能力。

新手解读损失函数(模型如何识别错误)

KDnuggets KDnuggets · 2026-06-19T14:00:34Z

文章讨论了通过优化目标函数(LFD)高效开发产品的方法。作者指出传统目标设定方法的缺陷,强调盲测和迭代优化对提升模型性能的重要性。经过多轮测试,agent在不作弊的情况下显著提高了结果准确性。此外,信息不对称被认为是构建竞争优势的关键,建议开发者关注真实评估集和用户反馈,以加速产品迭代。

【译文】/goal + 损失函数:如何用一条指令在 30 小时内蒸馏一个产品

电波障害 电波障害 · 2026-06-11T04:00:00Z

DPO通过数学推导,从KL正则的RLHF目标中反解出隐式奖励,无需显式奖励模型和在线采样,直接用离线偏好数据训练语言模型。其损失函数基于Bradley-Terry模型,通过推高胜者、压低败者的log-ratio来优化策略。DPO工程复杂度低,但受限于离线数据,存在分布漂移和长度偏置风险,β参数控制KL正则强度。

【强化学习与大模型后训练】10|DPO:把 RLHF 变成一个分类损失

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-05-29T00:00:00Z
高效的隐私损失核算:针对子采样和随机分配

本文探讨了一种在k个步骤中随机均匀使用用户数据的采样方案,该方案在差分隐私优化和高维私有聚合中表现出优于标准泊松采样的效用。研究表明,随机分配的隐私损失分布可以高效计算,并且在训练DP-SGD时,其隐私效用权衡至少与泊松子采样相当。此外,本文开发了新的隐私损失核算工具,扩展了对子采样的准确核算。

高效的隐私损失核算:针对子采样和随机分配

Apple Machine Learning Research Apple Machine Learning Research · 2026-04-13T00:00:00Z
LaCy:小型语言模型可以和应该学习的内容不仅仅是损失问题

本文探讨了小型语言模型(SLMs)在预训练过程中应学习的标记及何时通过<CALL>标记请求外部帮助。研究表明,损失值可以预测标记的准确性,但某些高损失标记仍可接受。提出的LaCy方法通过选择性学习和委托,显著提高了生成的准确性和效率。

LaCy:小型语言模型可以和应该学习的内容不仅仅是损失问题

Apple Machine Learning Research Apple Machine Learning Research · 2026-04-09T00:00:00Z
大模型的损失函数为什么是交叉熵

大模型的损失函数主要是交叉熵,通过量化模型输出与预期的差距来评估性能。交叉熵与负对数似然(NLL)密切相关,都是衡量预测准确性的工具。训练目标是最小化损失值,以提高预测准确性。交叉熵从信息论角度评估模型分布与真实分布的一致性,确保模型能准确预测下一个词元。

大模型的损失函数为什么是交叉熵

木鸟杂记 木鸟杂记 · 2026-03-29T07:31:35Z
为什么大模型的损失函数是交叉熵

大模型的损失函数主要是交叉熵,它通过概率和信息理论衡量模型输出与真实结果的差距。模型的目标是预测下一个token,损失函数通过负对数似然最小化错误概率。交叉熵量化模型分布与真实分布的一致性,反映生成文本的准确性。

为什么大模型的损失函数是交叉熵

木鸟杂记 木鸟杂记 · 2026-03-29T07:31:35Z
Meta的法律败诉可能是儿童的胜利,也可能是所有人的损失

美国陪审团裁定Meta和YouTube对未成年人造成伤害,判决其承担数亿赔偿责任。这一判决可能促使社交媒体平台改变商业模式,并可能对青少年使用社交媒体施加限制,影响边缘群体的连接。

Meta的法律败诉可能是儿童的胜利,也可能是所有人的损失

The Verge The Verge · 2026-03-28T14:00:00Z
早报|苹果发布iPhone 17e,4499起支持eSIM/vivo X300 Ultra将搭载双2亿像素三摄/豆瓣回应运营失误商品被薅空:无法承受损失

苹果发布iPhone 17e和M4 iPad Air,起售价4499元。小米机器人在汽车工厂完成自主作业测试,成功率达到90.2%。vivo X300 Ultra在MWC展出,配备双2亿像素三摄。小鹏推出第二代VLA,提升智能驾驶体验。理想汽车发布软硬协同设计定律,推动智能驾驶芯片研发。

早报|苹果发布iPhone 17e,4499起支持eSIM/vivo X300 Ultra将搭载双2亿像素三摄/豆瓣回应运营失误商品被薅空:无法承受损失

爱范儿 爱范儿 · 2026-03-03T00:00:58Z
豆瓣运营错发满200减200优惠券 公告称因无力承担损失将强制取消订单

豆瓣因运营失误将满200减20的优惠券错误设置为满200减200,导致用户大量抢购,商品迅速售罄。豆瓣决定强制退款并发放20元红包作为补偿,表示无法承受损失。

豆瓣运营错发满200减200优惠券 公告称因无力承担损失将强制取消订单

蓝点网 蓝点网 · 2026-03-02T09:58:49Z
每日沙雕大赛?有人向OpenClaw控制的加密账户乞讨 结果收到5.6万美元打赏

OpenClaw AI 机器人因内部崩溃,误转出5243万代币,损失约5.6万美元,未能识别乞讨者诈骗。事件引发关注,代币交易量上升,钱包余额回升至30万美元。

每日沙雕大赛?有人向OpenClaw控制的加密账户乞讨 结果收到5.6万美元打赏

蓝点网 蓝点网 · 2026-02-24T01:00:26Z
斯特兰蒂斯正面临自我制造的危机

斯特兰蒂斯因电动车需求骤降面临260亿美元损失,股价暴跌25%。公司未能跟上技术和消费者偏好,仍依赖SUV和卡车。尽管计划推出新车型,但需加大电气化投资以应对未来竞争。

斯特兰蒂斯正面临自我制造的危机

The Verge The Verge · 2026-02-21T13:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码