「地表最快」AI 芯片发布，哈佛辍学的本科生挑战英伟达
内容提要
Etched.ai创立于Gavin Uberti和Chris Zhu，开发了最快的AI芯片Sohu，可以在毫秒内处理数千个单词。它集成了Transformer架构，在推理速度上超过了Nvidia的H100 GPU。Etched已经获得了1200万美元的融资，并吸引了Peter Thiel和Thomas Dohmke等投资者。这家公司的创始人都是华裔，他们为了创办这家公司而辍学于哈佛大学。Etched旨在通过其专用芯片在AI领域占据主导地位。
延伸解读
专用芯片的赌注：为何押注Transformer
Etched认为通用芯片无法带来突破性性能提升，因此选择专为Transformer架构设计ASIC。这种专用性使Sohu在推理速度上比英伟达H100提升8至10倍，且价格更便宜。但风险在于，若未来AI模型架构发生根本性变化，专用芯片可能面临适用性挑战。
性能飞跃背后的硬件配置
Sohu芯片采用台积电4nm工艺，每片仅一个核心，配备144GB HBM3E高带宽内存。其每秒可处理超过50万个tokens，运行Llama 70B模型。八片Sohu服务器可替代160个英伟达H100 GPU，在编程场景中还能通过蒙特卡洛树搜索并行处理数百个结果。
初创公司的快速崛起与资本加持
Etched由两位哈佛辍学生Gavin Uberti和Chris Zhu于2022年创立，最初获得536万美元种子轮投资。2023年完成1.2亿美元A轮融资，由Primary Venture Partners和Positive Sum Ventures领投，天使投资人包括Peter Thiel、Thomas Dohmke等。短短两年从零成长为挑战英伟达的初创公司。
Q&A
Etched.ai的创始人是谁？
Etched.ai的创始人是Gavin Uberti和Chris Zhu。
Sohu芯片的主要特点是什么？
Sohu芯片能够在毫秒内处理数千个单词，推理速度超过Nvidia的H100 GPU，且集成了Transformer架构。
Etched.ai获得了多少融资？
Etched.ai获得了1200万美元的融资。
Sohu芯片与英伟达H100的比较如何？
Sohu芯片的推理速度比英伟达H100提升了8至10倍，且价格更便宜。
Etched.ai的目标是什么？
Etched.ai的目标是通过专用芯片在AI领域占据主导地位，针对具体任务设计芯片以实现性能提升。
创始人辍学的原因是什么？
创始人辍学是因为在实习期间发现现有设计低效，决定开发AI加速芯片。
