人工智能领域最近掀起了一股新的热潮，三位哈佛辍学的00后本科生创建了Etched AI，并成功推出了一款超强AI芯片sohu，直指英伟达的AI芯片帝国。这款芯片被誉为比英伟达H100快20倍，吸引了众多科技界的关注。本文将深入探讨Etched AI及其革命性的ASIC芯片sohu。
一、Etched AI的诞生
Etched AI位于加利福尼亚，由Chris Zhu、Gavin Uberti和Robert Wachen三位哈佛辍学生创立。公司仅有35名员工，却已经在科技界掀起了不小的波澜。Etched AI的核心产品是专门为Transformer架构设计的ASIC芯片sohu。所谓ASIC（Application-Specific Integrated Circuit），即应用专用集成电路，是一种针对特定任务优化的芯片。
这三位年轻的创始人早在2020年进入哈佛，后因对AI芯片技术的浓厚兴趣而休学创业。他们在创业初期便获得了Peter Thiel、Thomas Dohmke、Kyle Vogt和Charlie Cheever等科技大佬的支持，完成了1.2亿美元的A轮融资。
二、sohu芯片的技术创新
Etched AI的sohu芯片采用了台积电4nm工艺制造，只有1个核心，但配备了144GB HBM3E高带宽内存。与英伟达的H100芯片相比，sohu芯片的晶体管利用率大大提高，超过了90%，主要得益于“连续批处理”（Continuous batching of prompts and completions）技术。这项技术使得芯片可以高效处理多个输入和输出序列，充分利用计算资源，大幅提升了AI应用的响应速度和处理能力。
Etched团队指出，传统GPU在过去四年的效率提升并不明显，主要通过增大芯片面积来提高性能。而sohu芯片通过专门针对Transformer优化，去掉了其他不必要的功能，实现了更快的速度和更低的功耗。例如，在推理Llama-3 70B等大型模型时，sohu的速度比H100快了至少20倍。
三、Etched AI的市场策略
Etched AI的创始人意识到，市场上对大语言模型的需求日益增长，而通用GPU芯片已经无法满足这种需求。于是，他们选择了专用化的路线，开发了针对Transformer的ASIC芯片。Transformer架构如今被广泛应用于各种AI模型中，如OpenAI的GPT系列、谷歌的PaLM、Meta的LLaMa等。
Etched AI的sohu芯片在性能测试中表现出色，支持最高100万亿参数的大模型，远超当前市面上的大模型规模。此外，sohu芯片的设计还简化了推理所用的硬件和软件，去掉了与Transformer无关的部分，进一步提升了性能。
四、Etched AI的挑战与未来
尽管Etched AI取得了初步的成功，但挑战英伟达的垄断地位并非易事。英伟达凭借A100和H100芯片在业界稳居头把交椅，并且在资金和技术上有着巨大的优势。然而，Etched AI的三位创始人表示，他们将继续专注于Transformer专用芯片，相信这种专用化的路线是未来的趋势。
Etched AI的成功离不开技术创新和市场洞察力，但也离不开资本和人脉的支持。未来，Etched AI能否在激烈的市场竞争中脱颖而出，还有待时间的检验。
五、结论与未来展望
Etched AI的sohu芯片展示了ASIC在AI领域的巨大潜力。通过专门化的设计，sohu在大语言模型推理上实现了显著的性能提升。尽管面临巨头英伟达的强力竞争，Etched AI凭借其技术创新和市场策略，展现出了强大的发展潜力。
未来，随着AI应用的不断扩展和Transformer架构的普及，专用ASIC芯片可能会成为AI芯片市场的重要组成部分。Etched AI的成功不仅为行业注入了新的活力，也为更多的创新企业树立了榜样。让我们拭目以待，看看这三位哈佛辍学的00后能否真正掀翻英伟达，开创AI芯片的新纪元。
