IT商业网-解读信息时代的商业变革
当前位置: 首页 > 数码 > 正文

英特尔力抗英伟达 推新一代AI芯片Gaudi 3

2024-04-10 10:02:03  来源:IT商业网    

  英特尔9日举办Intel Vision 2024.会中推出新一代AI芯片 Gaudi 3.与英伟达H100芯片相比,推论平均表现高出50%,能源效率也提升40%,且成本较英伟达H100低。

  英特尔 Gaudi 3 前段由自家设计,后续委由世芯 - KY进行后端设计,并采台积电5 纳米制程与CoWoS 封装技术制造,预计本季就可以提供给HPE、联想和美超微等OEM厂商。

  英特尔指出,Gaudi 3与前代产品相比,BF16的AI运算量将提高4倍,存储器带宽也提升1.5倍,可为大规模部署GenAI的全球企业,带来AI训练和推论重大飞跃。

  以同样参数模型比较,英特尔指出,Gaudi 3与英伟达H100相比,在70亿和130亿个参数的Llama2模型以及GPT-3 1750亿个参数模型中,平均训练时间缩短50%,推理吞吐量也高出50%,尤其在Llama 70亿个和700亿个参数模型以及Falcon1800亿个参数模型的平均推理能效将比H100高40%。

  另外,英特尔也在此次 Vision 2024 揭露一套新的开放可扩展系统、下一代产品和战略合作关系,以加速企业采用生成式 AI。

免责声明: IT商业新闻网遵守行业规则,本站所转载的稿件都标注作者和来源。 IT商业新闻网原创文章,请转载时务必注明文章作者和来源“IT商业新闻网”, 不尊重本站原创的行为将受到IT商业新闻网的追责,转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:post@itxinwen.com
微信公众号:您想你获取IT商业新闻网最新原创内容, 请在微信公众号中搜索“IT商业网”或者搜索微信号:itxinwen,或用扫描左侧微信二维码。 即可添加关注。
标签:

品牌、内容合作请点这里: 寻求合作 ››

相关阅读RELEVANT