谷歌下月上线a3实例:搭载英伟达h100,可提供26exaflopsai-九游会官网真人游戏第一品牌
17

谷歌下月上线a3实例:搭载英伟达h100,可提供26exaflopsai-九游会官网真人游戏第一品牌

2023-09-02 15:03:05 来源:it之家   阅读量:5841   

,google cloud 在今天召开的云 next 大会上,宣布下月上线 a3 虚拟机实例。谷歌云在今年 5 月召开的 i / o 开发者大会上宣布 a3 实例,最大的亮点在于配备英伟达 h100 tensor core gpu,满足生成式 ai 和大语言模型的需求。

it之家此前报道,a3 实例采用了第 4 代英特尔至强可扩展处理器、2tb ddr5-4800 内存,以及 8 张英伟达 h100“hopper”gpu,通过 nvlink 4.0 和 nvswitch 实现了 3.6 tbps 的对分带宽。

新的 a3 超级计算机“专门用于训练和服务要求最苛刻的人工智能模型,这些模型为当今的生成人工智能和大型语言模型创新提供动力”。据介绍,这款超级计算机可以提供 26 exaflops 的人工智能性能。

谷歌云在今天的发布会上还介绍了全新的 tpu v5e,是迄今为止最具成本效益和可访问的云 tpu。这些 tpu 或定制 asic 旨在加速 ai 和 ml 工作负载。

sdxcentral 报道称,tpu v5e 相比较前代,每美元的训练性能提高了一倍,每美元的推理性能提高了 2.5 倍。

相关阅读:

《谷歌推出 a3 virtual machines 超级计算机:搭载英伟达 h100,可提供 26 exaflops ai 性能》

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,it之家所有文章均包含本声明。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

本网站由 财经产业网 九游会官网真人游戏第一品牌的版权所有 网站地图
九游会j9官方登录入口 copyright @ 2001-  www.catai.com.cn all rights reserved 财经产业网 九游会官网真人游戏第一品牌的版权所有  
网站所登新闻、资讯等内容, 均为相关单位具有著作权,未经书面授权,转载注明出处  邮箱:bgm1231@sina.com

网站地图