高通攜手 Cirrascale,啓動自家推理加速器 AI200 客戶評估
IT之家 11 月 20 日消息,Qualcomm(高通)當地時間本月 17 日宣佈,其攜手 AI 私有云企業 Cirrascale,向部分客戶開放 Dragonfly(飛龍)AI200 推理加速器的評估。客戶可通過雲環境探索其 AI 工作負載在該芯片上的表現。Dragonfly AI200 是高通的第一款機架級人工智能解決方案,單卡配備 768GB LPDDR5X 內存,支持 PCIe Gen6 縱向擴展、RoCE 橫向擴展。其每個 140kW 液冷 ORv3 機架由 56 卡組成,總內存達 43TB,提供 0.414 PB/s 內存帶寬,可在單一機架中運行 10T 級超大模型的推理,提供更低的總持有成本。
Aggregator site: only the publisher's summary is shown here. Read the full story at the source.
Read full story →