
IT之家 9 月 19 日音书,在 2024 年发布了其迄今为止最新的 AI 加快器产物 Gaudi 3,以 OAM 模块 (HL-325L)、多 OAM 卡基板 (HLB-325) 和 PCIe AIC (HL-338) 三种模式提供。不外业界关于 Gaudi 3 较为冷淡,着名企业中仅 IBM 公绽开告在云中部署了这一 AI 芯片。
戴尔在好意思国当地本事 17 日文牍,其 PowerEdge XE7740 双路至强 6 \"Granite Rapids-SP\" 4U 做事器平台崇拜将 HL-338 纳入可选成就边界,这使得戴尔成为首家在市集合提供搭载 Gaudi 3 PCIe AIC 的集成做事器成就的公司。

相较于功耗达到 900W 的 HL-325L,HL-338 的 TDP 被放肆在了 600W,不外其 128GB HBM2E 的内存容量和 3.7TB/s 的内存带宽并未发生篡改。

一台 XE7740 做事器撑抓装配 8 张双宽的 HL-338 AIC,并可选配 2 组四路桥接器造成一双四路彭胀单位。搭载 HL-338 的 XE7740 能提供迷漫 AI 模子微斡旋推理算力资源,同期仍将单机架举座功耗规矩在现存风冷基础关键的 10kW 名额之内。