与Etched合作:构建推理机器

与Etched合作:构建推理机器

💡 原文英文,约800词,阅读约需3分钟。
📝

内容提要

Etched是一家由哈佛学生创立的AI推理芯片公司,专注于构建集群级推理系统,以最大化人类可消费的智能。其芯片在吞吐量和延迟上表现卓越,支持多种前沿模型。公司已成功流片并快速搭建集群,获3亿美元C轮融资,估值100亿美元,旨在推动AI推理市场发展。

🔎

延伸解读

从芯片到集群:推理系统的设计转向

文章强调,计算单元已从芯片扩展到机架再到集群,Etched因此不仅设计芯片,还构建集群级推理系统。这一转变反映了AI推理对吞吐量和交互性的高要求,也意味着硬件公司需要具备系统级设计能力,而不仅仅是芯片设计能力。

生产即产品:硬件创业的落地挑战

Etched的座右铭是“生产即产品”,强调流片和集群搭建的实际进展。文章指出,硬件创业的难点在于同时跟上模型快速迭代和推动硬件极限,这需要团队既年轻又经验丰富。Etched在40天内完成首个集群的搭建,展示了快速执行能力,但后续能否持续迭代仍是关键。

融资与估值:市场对推理芯片的看好

Etched完成3亿美元C轮融资,估值100亿美元,投资方包括Jane Street、Andreessen Horowitz等。这一高估值反映了市场对AI推理市场的乐观预期,但也意味着Etched需要证明其技术能持续领先并实现商业化。文章提到其Gen 1芯片已流片并开始客户试用,但尚未提及具体客户反馈或营收数据。

Q&A

Etched是一家什么样的公司?

Etched是一家由哈佛学生创立的AI推理芯片公司,专注于构建集群级推理系统,以最大化人类可消费的智能。

Etched的芯片在性能上有哪些优势?

Etched的芯片在吞吐量和延迟上表现卓越,支持多种前沿模型,包括大型稀疏MoE、密集Transformer以及Mamba等替代架构。

Etched在技术上有哪些突破?

Etched在低电压推理和集群级内存方面取得了研究突破,这些架构选择带来了吞吐量和延迟的阶跃式提升。

Etched的芯片流片和集群搭建进展如何?

Etched已在台积电完成第一代芯片的流片,成为后ChatGPT时代首家成功流片的公司,并在40天内搭建了首个集群,运行多种前沿AI模型。

Etched最近获得了多少融资?估值是多少?

Etched完成了3亿美元的C轮融资,估值达到100亿美元(pre-money)。

Etched的客户何时可以开始使用其产品?

Etched的最早客户现在已经开始获得产品访问权限,并体验其系统的速度、吞吐量和表现力。

🏷️

标签

➡️

继续阅读