人工智能

Cloud AI 100、AMD EPYC 7003系列处理器和技嘉服务器解决方案共助AI推理破POPS大关

ainet.cn   2021年03月18日

  AI无疑已经成为推动下一代用户体验的驱动力。无论是快速浏览喜爱的社交应用,还是基于数万次AI推理提供的在线购物推荐,几乎每一项移动终端体验都与AI密不可分。目前,这些平台每天承载着数百万的用户量,这又意味着什么呢?它们需要海量性能出众的高密度服务器,来提供满足上述平台持续运行所需的AI推理性能。

  目前,通过与AMD最新的EPYC™ 7003系列处理器和技嘉科技的最新G292-Z43服务器解决方案相配合,高通技术公司正助力性能出众的机架式服务器满足高性能需求。上述企业在硬件技术专长领域的结合,带来了顶级性能并为现代化数据中心树立全新标杆。高通技术公司尖端的Cloud AI 100能够与技嘉服务器系统完美适配,这将推动众多出色的AI用例在高速数据分析、个性化推荐、智慧城市和5G通信等领域的普及。

  技嘉G292-Z43服务器将支持两台AMD EPYC™ 7003系列处理器用于处理负载,以及多个高通Cloud AI 100 PCI-E卡用于支持需要密集计算的应用来支持AI推理。高通Cloud AI 100推理加速器支持高达400 TOPS的算力,还拥有突破性的性能功耗比,并且仅通过单个高通Cloud AI 100 PCI-E卡即可实现。试想一下,如果每台技嘉服务器最多可搭载16个高通Cloud AI 100 PCI-E推理卡,即可提供高达每秒6.4千万亿次运算(400 TOPS x 16,1 POPS等于1000 TOPS)。这是首次基于高通技术公司AI技术的解决方案突破每秒千万亿次运算(POPS)大关。更值得注意的是,每个服务器机柜可管理超过19个上述服务器单元,从而轻松实现超过100 POPS的算力,这充分体现了高通技术公司在AI领域的强劲实力。欲了解相关参数,请参考以下信息图。

  更具体来看,单个算力为400 TOPS的HHHL(半高,半长)高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000张图像进行Resnet50模型分类推理,相当于一台服务器机柜每秒可处理超过600万张图像。如此强大的AI性能有望在全球市场增强并规模化扩展AI体验。我们衷心感谢AMD和技嘉科技为实现这一惊人成就所付出的努力。

  高通Cloud AI 100 PCI-E卡和搭载AMD EPYC™ 7003系列处理器的技嘉服务器即将面市,请参考文末产品图获取更多信息。

(转载)

标签:高通 人工智能 我要反馈 
泰科电子ECK、ECP系列高压直流接触器白皮书下载
亿万克
专题报道
2025全景工博会
2025全景工博会

第二十五届中国国际工业博览会(简称“中国工博会,CIIF”)将于今年9月23至27日在国家会展中心(上海)举行。 [更多]

智能制造标杆企业展播
智能制造标杆企业展播

为了讲述我国实体经济推进高质量发展的鲜活实例,发挥好典型企业实施智能制造的示范作用,提振广大制造业企业推进转型升级的信心... [更多]

2025世界人工智能大会
2025世界人工智能大会

2025世界人工智能大会暨人工智能全球治理高级别会议(简称“WAIC 2025”)将于7月在上海世博中心和世博展览馆举行... [更多]