当前位置:首页 > 新闻资讯 > 行业资讯 > 正文

英特尔将第二代深度学习芯片带入中国市场

2023-07-22 16:51:21

英特尔今年推出了第二代深度学习芯片Habana Gaudi2和Habana Greco,分别用于AI训练和AI推理。这些芯片专门为AI深度学习应用打造,建立在Habana Labs的高效架构之上,为客户提供更高性能的AI训练和AI推理,将用于数据中心的计算机视觉和自然语言应用。两款芯片均出自于Habana Labs,英特尔在2019年以20亿美元将其收购。
 

近日英特尔在AI产品战略暨Gaudi2新品发布会上,宣布正式面向中国市场发售Habana Gaudi2,用于人工智能和高性能计算领域,预计浪潮、新华三和xFusion等厂商会推出搭载Gaudi2的AI服务器。官方称Gaudi2训练性能比英伟达A100加速器更好,价格也更便宜,可作为替代方案。
 

相比于Gaudi,新一代的Gaudi2的制造工艺由16nm升级到了7nm;内核数量有8个增加到了24个;内存和缓存从32GB HBM2 / 24MB提高到了96GB HBM2e / 48MB,带宽从1TB/s增加到了2.45TB/s;网络连接从10个100GbE变成了24个100GbE;TDP也从350W提高到了600W。
 

据英特尔介绍,Gaudi2在GPT-3模型上,384个加速器上的训练时间为311分钟,从256个加速器到384个加速器实现近线性95%的扩展效果,在计算机视觉模型ResNet-50(8个加速器)和Unet3D(8个加速器)以及自然语言处理模型BERT(8个和64个加速器)上取得了优异的训练结果。与去年11月提交的数据相比,BERT和ResNet模型的性能分别提高了10%和4%,证明Gaudi2软件成熟度的提升,软件支持在持续发展和成熟,并能与日益增长的生成式AI及大语言模型的需求保持同步。

部分信息来源于网络,如有侵权,请联系我们及时删除!

相关推荐