IT商业网-解读信息时代的商业变革
当前位置: 首页 > 电脑 > 正文

英特尔面向中国市场推出全新 Gaudi2 处理器,主要应用于加速 AI 训练及推理

2023-07-12 12:00:03  来源:IT之家    

  7月12日讯:英特尔面向中国市场推出全新 Gaudi2 处理器,主要应用于加速 AI 训练及推理。

  IT之家汇总该款处理器参数信息:

  24 个可编程 Tensor 处理器核心(TPCs)

  21 个 100Gbps(RoCEv2)以太网接口

  96GB HBM2E 内存容量

  2.4TB / 秒的总内存带宽

  48MB 片上 SRAM

  集成多媒体处理引擎

  英特尔 Gaudi2 处理器的架构重点在于高效扩展,以满足大规模语言模型及生成式 AI 模型的需求;该处理器的每张芯片集成了 21 个专用于内部互联的 100Gbps 以太网接口。

  在 Stable Diffusion 训练上,英特尔 Gaudi2 处理器展示了从 1 张卡至 64 张卡近线性 99% 的扩展性,从 256 个加速器到 384 个加速器可实现接近线性的 95% 扩展效果。

  英特尔与浪潮信息合作的 AI 服务器 NF5698G7 就是基于 Gaudi2 处理器,NF5698G7 是专为面向生成式 AI 市场创新开发的新一代 AI 服务器,该服务器内部集成了 8 颗 Gaudi2 加速卡 HL-225B。

原标题:英特尔面向中国市场推出全新 Gaudi2 处理器:总内存带宽 2.4TB / s、用于训练 AI

免责声明: IT商业新闻网遵守行业规则,本站所转载的稿件都标注作者和来源。 IT商业新闻网原创文章,请转载时务必注明文章作者和来源“IT商业新闻网”, 不尊重本站原创的行为将受到IT商业新闻网的追责,转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:post@itxinwen.com
微信公众号:您想你获取IT商业新闻网最新原创内容, 请在微信公众号中搜索“IT商业网”或者搜索微信号:itxinwen,或用扫描左侧微信二维码。 即可添加关注。
标签:

品牌、内容合作请点这里: 寻求合作 ››

相关阅读RELEVANT