冒险岛2

谷歌被曝要把Gemini“写进”芯片？推理能效最高提升10倍_我的网站

A |     智东西（公众号：zhidxcom）     编译 | 茄子     编辑 | 程茜          智东西7月21日消息，昨日，The Information援引知情人士消息报道，谷歌正在研发一款面向Gemini模型的新型AI服务器芯片Frozen v2。    

G | 谷歌因此仍需要在芯片效率和模型灵活性之间寻找平衡。         据知情人士透露，谷歌目前仍在决定Frozen v2中应该固定多少模型信息，以平衡性能提升和未来兼容能力。谷歌发言人在一份声明中称，研究团队一直在研究和试验新的技术，以提高面向用户和客户的系统性能与效率，并非所有研究项目都会投入生产，但这些探索是谷歌全栈技术路线的重要组成部分。         二、推理芯片竞赛升温，初代Frozen方案曾被搁置          过去几年，AI基础设施竞争围绕训练展开。大规模模型训练需要大量GPU集群，英伟达凭借GPU生态占据主导地位。The Information去年12月报道，英伟达去年12月通过一笔价值200亿美元（约合人民币1353亿元）的交易，获得了AI推理芯片创企Groq的相关技术授权。         包括SambaNova、d-Matrix、OpenAI和微软在内，多家公司都在开发AI推理芯片。

H | 这些公司的共同目标，是以比英伟达GPU更高的效率运行AI模型，缓解算力短缺并降低成本。         与此同时，加拿大芯片创企Taalas也采取了谷歌类似思路，将特定AI模型直接硬编码进芯片。Taalas目前已经获得超过2亿美元（约合人民币13.5亿元）融资，投资方包括Quiet Capital和富达投资。         据The Information透露，Frozen v2此前还有一个更激进的版本。由谷歌DeepMind首席科学家杰夫·迪恩主导的初代Frozen方案，曾计划直接将模型权重固化到芯片中。         但这种设计会让芯片只能运行某个特定版本的Gemini。一旦模型更新，芯片便可能迅速失去使用价值。由于预期生命周期过短，谷歌最终搁置了初代方案。         据知情人士透露，Frozen v2不再固化完整模型权重。但谷歌目前仍在评估应该锁定多少模型信息，以平衡灵活性与运行效率。         三、Frozen v2并非取代TPU，谷歌先将其作为技术试验          虽然Frozen v2受到关注，但知情人士透露，谷歌并没有计划用它替代TPU。据报道，Frozen项目旨在建立一条区别于TPU的新型自研芯片路线。

I |          今年，谷歌发布了第八代TPU，并开始直接向谷歌云客户推销这款芯片，挑战英伟达在AI芯片市场的主导地位。此外，谷歌还与Meta签署了价值数十亿美元的TPU租赁协议，并在尝试向其他云服务商销售TPU。         ▲第八代TPU实物，左手为推理芯片TPU 8i、右手为训练芯片TPU 8t（图源：谷歌）          The Information称，相比单纯依赖英伟达GPU，谷歌自研TPU已经帮助其降低Gemini模型运行成本。因为，谷歌在开发TPU时也考虑了Gemini的需求，只是TPU集成的模型信息远少于Frozen v2。Frozen v2面向Gemini进行更深度的定制，但适用范围也比TPU更窄。         据知情人士透露，谷歌目前没有计划让Frozen v2的产量达到TPU的规模。因为，较小的生产规模可以使谷歌在推出大型产品之前，更晚地引入外部芯片设计和制造合作伙伴。该知情人士还称，谷歌将这一代产品部分视为技术试验，并希望从中积累开发专用AI芯片的经验。         结语：用部分通用性换取更高推理效率          Frozen v2并不是TPU的替代品，而是谷歌针对Gemini开辟的一条专用芯片路线。谷歌希望通过将部分模型架构和计算决策固化到硬件中，以减少推理过程中的计算步骤和数据搬运，从而以更低功耗处理更多用户请求。         不过，更高的专用化程度也意味着芯片与模型架构绑定得更紧。Frozen v2最快要到2028年才能部署，届时Gemini底层架构能否保持稳定，以及6至10倍的预期能效提升能否在实际应用中实现，将成为决定这一项目价值的关键。         来源：The Information。

Current article:http://www.feizengbubaipeirangnalouchuo.sbs/g98hog/cea05.html

Published on:02:15:37