IT商业网-解读信息时代的商业变革
当前位置: 首页 > 黑科技 > 正文

AI芯片战升温!英特尔推Gaudi 3一系列新品

2024-04-10 14:52:51  来源:IT商业网    

  美国芯片大厂英特尔周二推出最新的第三代AI芯片Gaudi 3.将在今年第3季跟AI芯片大厂英伟达目前最受欢迎的 AI 处理器之一 H100 正式展开竞争,执行长基辛格当晚更手舞足蹈地展示这一最新产品,这也凸显英特尔在 AI 硬件竞争中取得显著进步。 基辛格还夸口 Gaudi 3 的性能将跟英伟达最新的 H200 相当,在某些领域的性能甚至更好,Gaudi 3 已经在 Llama 做测试,可有效地训练或部署 AI 大模型,包括 Stable Diffusion 和语音识别的 Whisper 等。

  事实上,基辛格此前便曾指 Gaudi 3 的性能将超越英伟达的主打 AI 芯片 H100. 英特尔表示,Gaudi 3在效能上比英伟达H100高40%,推理速度快50%,在训练常见大型语言模型时比H100快1.7倍,甚至在处理较长输入输出序列的推理性能的某些语言模型时,Gaudi 3处理速度比英伟达更强大的H200平均快1.3倍。

  采用5纳米工艺制造的Gaudi 3将加快AI运算能力的浮点格式BF16效能提高4倍,存储器带宽提升1.5倍,并增强网络带宽支持大规模系统的扩展,这对需要大规模部署生成式AI的企业尤其重要。

  英特尔引述市场研究数据指出,企业在生成式AI设备上的支出将在2027年成长到1510亿美元,较今年400亿美元成长三倍以上。

  Gaudi 3 使用两组板载核心进行计算,第一种核心类型 TPC 在优化后可加快深度学习模型在处理数据时的计算,另一种核心类型 MME 核心则用来加速 AI 模型用于处理数据的计算,MME 的电路可加速用于图像识别模型中常见软件构建基础的卷积层的运作。

  Gaudi 3 共有 64 个 TPC 和 8 个 MME,分布在两个芯片或半导体模组上,这些模块以允许它们作为单一芯片运行的方式链接在一起。

  英特尔指出,一台服务器可安装八颗Gaudi 3芯片,每个芯片都包含21个以太网连结链,用于跟邻近的Gaudi 3单位交换数据,每个处理器上还有另外3个网路连结,使其能与主机服务器外部的芯片进行互动。

  Gaudi 3 的推出不仅凸显英特尔推动企业级生成式 AI 领域的领先地位,也展现该公司在提供高效能、开放式架构及多元化选择方面的承诺,通过发布全新的开放式可扩展系统、新一代产品和战略合作,进一步加速生成式 AI 的普及和应用。

  至于售价,基辛格则拒绝透露,但称将远低于英伟达当前和未来的芯片,并将提供「非常不错的」整体拥有成本。

  除Gaudi 3外,英特尔周二也展示整合最新英特尔芯片的AIPC,能够快速处理的多项任务,另外还推出英特尔第六代Xeon处理器,包含两种架构Sierra Forest和Granite Rapids,Sierra Forest跟使用减少内存资源使用FP16技术的第四代Xeon相比,可将下一个token的延迟时间缩短最多6.5倍,能够运行 700亿参数的 Llama2 模型。 Sierra Forest 架构的第六代Xeon预计于今年第二季推出。

  在英特尔推出新AI芯片后,AI主导地位面临挑战的英伟达股价周二应声收跌逾2%至每股853.54美元,盘后也下跌近1%。 华尔街投行高盛指出,鉴于AI领域的发展趋势和竞争,未来可能会有更多竞争者涌现,挑战英伟达的主导地位。

免责声明: IT商业新闻网遵守行业规则,本站所转载的稿件都标注作者和来源。 IT商业新闻网原创文章,请转载时务必注明文章作者和来源“IT商业新闻网”, 不尊重本站原创的行为将受到IT商业新闻网的追责,转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:post@itxinwen.com
微信公众号:您想你获取IT商业新闻网最新原创内容, 请在微信公众号中搜索“IT商业网”或者搜索微信号:itxinwen,或用扫描左侧微信二维码。 即可添加关注。
标签:

品牌、内容合作请点这里: 寻求合作 ››

相关阅读RELEVANT