内容提要
Etched是一家由哈佛学生创立的AI推理芯片公司,专注于构建集群级推理系统,以最大化人类可消费的智能。其芯片在吞吐量和延迟上表现卓越,支持多种前沿模型。公司已成功流片并快速搭建集群,获3亿美元C轮融资,估值100亿美元,旨在推动AI推理市场发展。
延伸解读
从芯片到集群:推理系统的设计转向
文章强调,计算单元已从芯片扩展到机架再到集群,Etched因此不仅设计芯片,还构建集群级推理系统。这一转变反映了AI推理对吞吐量和交互性的高要求,也意味着硬件公司需要具备系统级设计能力,而不仅仅是芯片设计能力。
生产即产品:硬件创业的落地挑战
Etched的座右铭是“生产即产品”,强调流片和集群搭建的实际进展。文章指出,硬件创业的难点在于同时跟上模型快速迭代和推动硬件极限,这需要团队既年轻又经验丰富。Etched在40天内完成首个集群的搭建,展示了快速执行能力,但后续能否持续迭代仍是关键。
融资与估值:市场对推理芯片的看好
Etched完成3亿美元C轮融资,估值100亿美元,投资方包括Jane Street、Andreessen Horowitz等。这一高估值反映了市场对AI推理市场的乐观预期,但也意味着Etched需要证明其技术能持续领先并实现商业化。文章提到其Gen 1芯片已流片并开始客户试用,但尚未提及具体客户反馈或营收数据。
Q&A
Etched是一家什么样的公司?
Etched是一家由哈佛学生创立的AI推理芯片公司,专注于构建集群级推理系统,以最大化人类可消费的智能。
Etched的芯片在性能上有哪些优势?
Etched的芯片在吞吐量和延迟上表现卓越,支持多种前沿模型,包括大型稀疏MoE、密集Transformer以及Mamba等替代架构。
Etched在技术上有哪些突破?
Etched在低电压推理和集群级内存方面取得了研究突破,这些架构选择带来了吞吐量和延迟的阶跃式提升。
Etched的芯片流片和集群搭建进展如何?
Etched已在台积电完成第一代芯片的流片,成为后ChatGPT时代首家成功流片的公司,并在40天内搭建了首个集群,运行多种前沿AI模型。
Etched最近获得了多少融资?估值是多少?
Etched完成了3亿美元的C轮融资,估值达到100亿美元(pre-money)。
Etched的客户何时可以开始使用其产品?
Etched的最早客户现在已经开始获得产品访问权限,并体验其系统的速度、吞吐量和表现力。