GraphcorePods在数据中心

来源:TechWeb 作者:燕梦蝶 时间:2022-03-08 15:28  阅读量:17818   
2022-03-08 15:28

,IPU云端和服务器解决方案提供商Graphcore今日正式发布全新IPU系统产品mdash,mdash,Bow系列Bow Pod系统产品采用了全球首款3D Wafer—on—Wafer处理器mdash,mdash,Bow IPUBow IPU是新一代Bow Pod AI计算机系统的核心

GraphcorePods在数据中心

值得注意的是,与上代产品相比,Bow Pod可为真实世界的AI应用提供高达40%的性能提升和16%的电源效率提升,但价格和前代相比保持不变同时,与前一代产品100%软件兼容,用户在进行部署时无需更改现有代码

Bow Pod比前一代性能提升40% 能效提升16%

Bow Pod旨在为各种AI应用大规模提供真实世界的性能,从用于自然语言处理的GPT和BERT到用于计算机视觉的EfficientNet和ResNet,再到图神经网络和许多其他应用。

其中,Bow—2000 IPU Machine是整个Bow Pod系列的基础组成部分。

Bow—2000 IPU Machine

Bow—2000采用了与Graphcore第二代IPU—M2000 machine同样的系统架构,但配备的是四个Bow IPU处理器,可提供1.4 PetaFLOPS的AI计算Bow—2000可以完全向后兼容现有的IPU—POD系统,其高速,低时延的IPU结构和灵活的1U外形尺寸保持不变

Bow Pod系列

Bow—2000可安装在戴尔,Atos,Supermicro,浪潮和联想等领先品牌的主机服务器上,从而组成Bow Pod系统整个Bow Pod系列包括Bow Pod16,Bow Pod32,Bow Pod64以及更大的旗舰系统Bow Pod256和Bow Pod1024

Graphcore Pods在数据中心

以旗舰产品Bow Pod256为例,其提供超过89 PetaFLOPS的AI计算,而超大规模Bow Pod1024可提供350 PetaFLOPS的AI计算,支持机器学习工程师在AI模型规模呈指数增长的情况下仍可领先一步,在机器智能领域取得新的技术突破。

Graphcore提供的数据显示,在性能方面,在与配有Bow Pod系统的Mk2 IPU—Pod系统相同的峰值功率范围内,客户发现各种AI应用的性能提升高达40%。

同时,Bow Pod系统还可以大幅提高电源效率经过一系列实际应用测试表明,Bow Pod的每瓦性能最高可提升16%

对于最先进的计算机视觉模型EfficientNet,Bow Pod16性能比同类Nvidia DGX A100系统提升5倍以上,而价格只有一半,总体拥有成本优势提升高达10倍。

Bow IPU处理器黑科技:Wafer—on—Wafer创新技术

为何此次推出的全新一代IPU产品Bow Pod系列能有如此优异的性能和能效表现呢。将Graphcore计算扩展到IPU-POD128和IPU-POD256需要大量使能技术支持,其中既包括硬件技术也包括软件技术。

Graphcore大中华区总裁兼全球首席营收官卢涛揭秘表示,作为Bow—2000,Bow Pod系统的核心,Bow IPU处理器采用了全球首项3D半导体技术,从而支持Bow Pod系统实现了巨大的性能提升和更高的电源效率。

根据消息显示,Wafer—on—Wafer 3D技术由Graphcore与台积电合作开发,并首次应用在IPU处理器上Wafer—on—Wafer技术有潜力在硅片之间提供更高的带宽,从而优化电源效率,在晶圆级别提升Colossus架构的功率

Bow IPU中的Wafer—on—Wafer,两个晶圆结合在一起,产生一个新的3D裸片其中一个晶圆用于AI处理,在架构上与GC200 IPU处理器兼容,拥有1472个独立的IPU—Core tile,能够运行超过8800个线程,具有900MB的处理器内存储,而第二个晶圆拥有供电裸片

通过在供电裸片中添加深沟槽电容器,位置在处理内核和存储旁,我们能够更高效地供电,从而实现350 TeraFLOPS的AI计算,实现40%的性能提升。

通过与台积电紧密合作,Graphcore已充分验证了整套技术,包括背面硅通孔和Wafer—on—Wafer混合键合中的多项突破性技术。

此外,Graphcore中国工程副总裁,AI算法科学家金琛补充表示,这些性能数据的提升,很大程度也归功于Graphcore整个软件栈Poplar SDK的生态系统其中,自研的图编译器PopART等软件的加持使得IPU产品在不同应用的性能上能够得到广泛和通用的提升

目前,最新Bow Pod系统现已上市,和上一代产品相比,价格不变,目前已开始在全球范围内发货。

卢涛强调,Bow Pod系统上市的同时,针对IPU—M2000订单的老用户会推出一些优惠方案,确保这些老客户也可以获得相似的每美元性能。

根据消息显示,Graphcore的客户已涵盖实验室,医药健康,保险,云计算,气象分析预测,分子动力学,智慧城市,互联网等诸多行业金山云星曜产品系列的金山云IPU服务器就搭载了Graphcore IPU及Poplar软件栈

未来计划

Graphcore方面透露,正在开发一款可以用来超越人脑处理的超级智能机器,并将于2024年交付这台全球首台超级智能计算机mdash,mdash,Good Computer。

据介绍,这款超未来的智能计算机之所以被命名为Good,一方面是Graphcore致力于打造好的计算机,一方面是向计算机科学家先驱Jack Good致敬。

目前Graphcore正在开发新一代IPU技术,为这款Good Computer提供超过10 Exa—Flops的AI浮点计算,最高可达4PB的存储,带宽超过10PB/秒,支持超过500万亿参数的AI模型,3D Wafer—on—Wafer逻辑栈,同时获得Poplar SDK的完全支持。Graphcore将携手合作伙伴为全球客户部署IPU-POD256和IPU-POD128,客户可以从云端或Atos等Graphcore的合作伙伴处获取IPU-POD256和IPU-POD128。。

售价方面,这款Good Computer预计价格在100万美元至1.5亿美元。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

热门阅读

汽车点评网 分析汽车

关注汽车点评网,收听和分享“汽车秘密”

05

携手汽车点评网,为您提供更多汽车行业新鲜货。