内容提要
Standard Intelligence公司通过原始视频预训练构建通用计算机代理,而非依赖语言模型。他们创建了1100万小时的计算机操作数据集,开发出比竞品高效50倍的视频编码器,并以低成本搭建存储集群。其首个模型FDM-1能执行CAD建模、驾驶模拟等任务。创始人Galen Mead和Devansh Pandey年轻且注重安全,团队正引领这一新范式。
延伸解读
视频预训练:从像素到通用代理的新路径
Standard Intelligence选择了一条与主流语言模型代理不同的路线:直接从原始屏幕视频学习操作计算机。这种方法类似于特斯拉的FSD,将视频视为可扩展的动作数据来源。通过预测鼠标移动、点击和按键,模型能够从像素中学习通用行为,而非依赖文本或工具调用。这种范式可能为构建通用代理提供新的可能性,但尚需验证其在实际任务中的泛化能力。
技术突破与成本优势
团队在视频处理上实现了显著的技术突破:视频编码器比竞品高效约50倍,使得近两小时的30FPS视频能压缩进百万token的上下文窗口。此外,他们以不到50万美元搭建了30PB的存储集群,成本仅为超大规模云服务的约1/20。这些创新降低了视频预训练的门槛,但需注意这些数据来自特定环境,可能影响模型在其他场景的适应性。
年轻团队与安全导向
创始人Galen Mead和Devansh Pandey年仅21岁和20岁,因对AGI的紧迫感而辍学创业。他们通过Atlas Fellowship相识,对AI安全有高度关注。团队规模虽小,但成员背景多样,选择放弃传统学术或大厂机会。这种年轻且注重安全的团队文化可能影响其研究方向和产品决策,但长期影响尚待观察。
Q&A
Standard Intelligence公司的核心观点是什么?
Standard Intelligence认为,构建通用计算机代理的最佳途径是通过在计算机使用的原始视频上进行全视频预训练,而不是依赖语言模型。这种方法可以真正扩展行动数据,让模型从像素中学习预测鼠标移动、点击和按键。
Standard Intelligence如何解决视频数据的高成本问题?
他们通过自建存储集群来降低成本,例如在旧金山搭建了一个30PB的存储集群,成本不到50万美元,比超大规模云服务商便宜约20倍。此外,他们还开发了比竞品高效约50倍的视频编码器。
FDM-1模型能够执行哪些任务?
FDM-1是Standard Intelligence的首个基础模型,直接在计算机使用视频上训练。它可以执行CAD建模(如在Blender中挤出CAD齿轮)、驾驶模拟(经过一小时微调后能在旧金山街区开车),以及通过探索软件状态空间来发现bug。
Standard Intelligence的创始人是谁?他们有什么背景?
创始人是Galen Mead和Devansh Pandey,他们在2022年通过Atlas Fellowship相识,该奖学金面向对AI对齐和AGI感兴趣的高中生。两人分别21岁和20岁,都因紧迫感而离开本科项目,专注于解决AGI问题。
Standard Intelligence的数据集规模有多大?
他们创建了1100万小时的计算机操作数据集,据称是行业内最大的。
Standard Intelligence的视频编码器有什么优势?
他们的视频编码器比竞品高效约50倍,使得近两小时的30FPS视频可以放入100万token的上下文窗口中。
Standard Intelligence的团队规模如何?
团队共有六人,包括创始人Galen和Devansh,以及Neel、Yudhister、Ulisse和Ryan。他们选择放弃传统路径(如名校学位和大公司offer),共同追求这一使命。