英特尔发布最新AI芯片「Gaudi 3」有关细节,直接杠上英伟达的H100绘图处理器,并委托台积电以5纳米制程代工。
MarketWatch、Wccftech、Tom's Hardware等外电报导,英特尔9日透过新闻稿指出,与H100相比,Gaudi 3支持AI模型执行推论的能源效率提升40%、平均效能高50%,成本却远低。 英特尔使用的推论对比AI模型是具备70亿及700亿个参数的Llama模型,和具有1.800亿个参数的Falcon-180B模型。
Gaudi 3采用的制程是台积电5纳米。 相较之下,上一代Gaudi 2则是使用台积电7纳米。
Gaudi 3将在2024年第二季供应给戴尔、慧与科技、联想集团与美超微电脑等OEM。 Gaudi的气冷式服务器模型已经送样,水冷式模型则会在Q2跟进提出样本。 这些将在2024年Q3、Q4大量生产。
另外,Intel Gaudi加速器的最新客户及合作伙伴包括Bharti Airtel、Bosch、CtrlS、IBM、IFF、Landing AI、Ola、NAVER、NielsenIQ、Roboflow及Seekr。
英特尔9日闻讯上涨0.92%、收38.33美元;年初迄今重挫23.72%。 台积电ADR同步上扬1.83%、收145.40美元,创3月8日以来收盘新高;年初迄今大涨39.81%。
英特尔执行长Pat Gelsinger曾在2023年12月14日发布最新AI芯片「Gaudi 3」当日,直言英伟达平行运算平台及编程模型「CUDA」无法永远独霸AI训练市场。
他当时说,对AI而言,推论技术比训练还重要。 「整个产业开始全面动员,希望消灭CUDA市场。 」「我们认为CUDA护城河既浅又小,因为整个产业已经动员起来,准备开发广泛的训练、创新及资料科学等各项科技。 」