【资料图】
谷歌发布了新大模型，云中需要一些强大的马力来为狂野的大模型提供动力，因为数百万（最终是数十亿）用户发送的操作请求，就像删除一个在图片背景中徘徊的人一样平凡，根据简短的文本提示为您撰写整封电子邮件。这就是谷歌新的A3 GPU超级计算机成为焦点的地方。谷歌表示，新的A3超级计算机“专门用于训练和服务最苛刻的AI模型，这些模型为当今的生成AI和大型语言模型创新提供动力”，同时提供26 exaFlop的AI性能。
英伟达（NVIDIA）Tesla显卡A800 H100 T4 A100 A40计算加速GPU推理训练 Tesla A800 80G
进入购买
每台 A3 超级计算机都配备了第 4 代英特尔至强可扩展处理器，由 2TB DDR5-4800 内存提供支持。但该操作的真正“大脑”来自八个 英伟达H100GPU ，它们通过利用NVLink 4.0和NVSwitch可以访问3.6 TBps的对分割带宽。
据谷歌称，A3代表了其GPU到GPU数据接口的首次生产级部署，它允许在绕过主机CPU的同时以200 Gbps的速度共享数据。此接口（Google 称为基础架构处理单元 （IPU），与 A2 虚拟机相比，A3 虚拟机 （VM） 的可用网络带宽提高了 10 倍。
标签：
