站長(zhǎng)之家(ChinaZ.com)9月22日 消息:華為在全聯(lián)接大會(huì)上發(fā)布了高性能 AI 知識(shí)庫(kù)存儲(chǔ)解決方案 ——OceanStor A800。該解決方案針對(duì)大模型訓(xùn)練和推理過(guò)程中的數(shù)據(jù)處理效率瓶頸提供了三大關(guān)鍵能力,包括超高性能、超快恢復(fù)和超強(qiáng)推理。
OceanStor A800通過(guò)創(chuàng)新的數(shù)控分離架構(gòu)提升了小文件處理性能,存儲(chǔ)單框 IOPS 達(dá)到2400萬(wàn),訓(xùn)練數(shù)據(jù)加載效率是業(yè)界的4倍。采用創(chuàng)新的盤(pán)控協(xié)同技術(shù)和 NFS + 并行客戶(hù)端,實(shí)現(xiàn)了500GB/s 的超高帶寬,TB 級(jí) Checkpoint 大文件讀寫(xiě)僅需十幾秒,斷點(diǎn)續(xù)訓(xùn)恢復(fù)速度是業(yè)界的3倍。
此外,OceanStor A800還通過(guò)存儲(chǔ)內(nèi)生高速向量知識(shí)庫(kù)和智能向量檢索引擎提升了大模型行業(yè)知識(shí)深度、精度和時(shí)效性,消除了 AI “幻覺(jué)”,實(shí)現(xiàn)了25萬(wàn) + QPS 的毫秒級(jí)推理響應(yīng)。
華為的這一解決方案旨在提升 AI 大模型訓(xùn)練 / 推理效率,優(yōu)化成本,加速推動(dòng) AI 在各行業(yè)的應(yīng)用。
(舉報(bào))