站長(zhǎng)之家(ChinaZ.com)9月27日 消息:在昨日的阿里云國(guó)際峰會(huì)上,阿里云宣布將向海外大模型開發(fā)者和企業(yè)提供一站式開發(fā)服務(wù),包括模型訓(xùn)練、推理、部署等全流程的工程平臺(tái)和智能算力,以滿足國(guó)際市場(chǎng)對(duì)大模型開發(fā)服務(wù)的旺盛需求。
其中,“PAI靈駿智算服務(wù)”可為開發(fā)者和企業(yè)提供AI開發(fā)全流程的工程平臺(tái)和智能算力,能穩(wěn)定支撐多達(dá)10萬億參數(shù)的多模態(tài)大模型的低能耗訓(xùn)練。
數(shù)據(jù)顯示,基于PAI靈駿智算服務(wù),單訓(xùn)練任務(wù)可達(dá)萬卡規(guī)模,訓(xùn)練性能可提高近10倍,千卡規(guī)模的線性擴(kuò)展效率達(dá)92%。在通義千問等大模型的訓(xùn)練和應(yīng)用中,PAI靈駿智算服務(wù)顯著提升了大模型訓(xùn)練效率及推理效率。
同時(shí),阿里云加速器AIACC可以配合資源管理工具FastGPU構(gòu)建AI計(jì)算任務(wù),可以幫助開發(fā)者和企業(yè)提升訓(xùn)練和推理性能,并能夠適用于基于主流AI計(jì)算框架優(yōu)化模型。
根據(jù)斯坦福 DAWN 深度學(xué)習(xí)基準(zhǔn)測(cè)試,AIACC可將人工智能模型訓(xùn)練速度提高70%,推理速度提高三倍。
(舉報(bào))