中文字幕欧美日韩|日韩性色一区二区三区|精品久久久久久久久久岛国|一区二区国产盗摄精品

    <td id="h1kkc"><tr id="h1kkc"></tr></td><noscript id="h1kkc"><tbody id="h1kkc"></tbody></noscript>
    <rp id="h1kkc"></rp>
    首頁 > 傳媒 > 關(guān)鍵詞  > DeepSeek最新資訊  > 正文

    透過DeepSeek,聊聊存儲是如何給AI加速的

    2025-02-28 11:37 · 稿源: 站長之家用戶

    從AI服務(wù)器到AI PC,如何快速的用上DeepSeek成為熱門問題。無論DeepSeek Janus-Pro把多模態(tài)提升到了一個新層次,還是媲美主流的DeepSeek-V3,或者應(yīng)用于本地的DeepSeek-V3,對存儲都提出了新的需求。以完整未蒸餾的DeepSeek R1 模型為例,這是一個擁有 6710 億參數(shù)的混合專家(MoE)模型,未量化版本的文件體積高達(dá)720GB,而動態(tài)量化版本也達(dá)到150GB到400GB之間。

    DeepSeek讓GPU算力一下子得到了以前沒有的釋放,允許廠商將更多的資源集中到其它關(guān)鍵硬件中,比如更強(qiáng)大的并行能力,以及更優(yōu)秀的存儲方案。很顯然,常規(guī)的存儲方案已經(jīng)不能很好的解決效率和存儲的問題,在企業(yè)級和數(shù)據(jù)中心級SSD為AI提供存儲支持時,以QLC和CXL為例的新技術(shù)也正在協(xié)助AI以更低成本和更高的效率運(yùn)行。

    QLC與CXL:為AI鋪路

    由于DeepSeek不僅降低了計算成本,多模態(tài)處理能力、說是知識圖譜和推理能力的優(yōu)秀表現(xiàn),使得廠商擁有足夠的資源調(diào)用更多的數(shù)據(jù)。這使得原本大量的冷數(shù)據(jù)變成了溫數(shù)據(jù)。溫數(shù)據(jù)對存儲有著更高的要求,需要相對HDD更快的傳輸速率,并且存儲數(shù)據(jù)可能每年以EB級增長。這導(dǎo)致SSD的需求往大容量和低成本的方向發(fā)展。

    其中QLC能夠更好的在單位空間內(nèi)提升存儲容量,第八代BiCS FLASH? 2Tb QLC的位密度比鎧俠目前所采用的第五代BiCS FLASH?的QLC產(chǎn)品提高了約2. 3 倍,寫入能效比提高了約70%。不僅如此,全新的QLC產(chǎn)品架構(gòu)可在單個存儲器封裝中堆疊 16 個芯片,為業(yè)界提供領(lǐng)先的4TB容量,并采用更為緊湊的封裝設(shè)計,尺寸僅為11.5 x 13.5 mm,高度為1.5 mm。

    這意味著,未來采用第八代BiCS FLASH QLC的存儲產(chǎn)品在存儲空間擁有質(zhì)的飛躍,可以輕松將企業(yè)級SSD和數(shù)據(jù)中心級SSD容量提升至120TB以上。

    密集的DeepSeek計算也意味著對內(nèi)存有著海量的要求,但動輒數(shù)百GB的訓(xùn)練模型全部存儲在內(nèi)存中也意味著高昂的成本,如何利用BiCS FLASH?降低成本也是未來的思考方向。例如利用相變存儲原理,基于BiCS FLASH?結(jié)構(gòu)打造的XL-FLASH存儲級內(nèi)存(Storage Class Memory, SCM)與CXL相結(jié)合,開發(fā)相較內(nèi)存功耗更低、位密度更高,相較閃存讀取速度更快的存儲器。這不僅會提高存儲器利用效率,還有助于節(jié)能。

    CXL技術(shù)本身通常也意味著更先進(jìn)的PCIe版本支持,鎧俠則是積極響應(yīng)PCIe升級的存儲制造商之一。例如,鎧俠率先推出支持PCIe??5. 0 的企業(yè)級固態(tài)硬盤CM7 系列。PCIe??5.0 SSD與傳統(tǒng)存儲設(shè)備(如PCIe??4.0 SSD)的對比測試,結(jié)果顯示, CM7 系列SSD在多個GPU并行訪問時,能夠提供91%的I/O吞吐量提升,此外,它的讀取延遲比傳統(tǒng)SSD低57%。同時,PCIe??5.0 SSD能機(jī)器學(xué)習(xí)訓(xùn)練時間能夠得到顯著減少。以 16 個GPU并行處理為例,使用PCIe??5.0 SSD可以減少 32 到 44 天的訓(xùn)練時間。

    特別是在PCIe??5. 0 與NVMe?規(guī)范下實現(xiàn)可靠的RAID兼容性和互操作性能。特別是生成式AI與檢索增強(qiáng)生成?(RAG) 系統(tǒng)的重要性更勝以往,關(guān)系數(shù)據(jù)庫PostgreSQL和向量數(shù)據(jù)庫需求變得格外重要。例如通過Xinnor的RAID 解決方案的兼容性和互操作性測試,與采用相同硬件配置的軟件 RAID 解決方案相比,在數(shù)據(jù)降級模式下執(zhí)行PostgreSQL,效能更提升達(dá) 25 倍。

    搶先布局

    任何前沿技術(shù)不可能一蹴而就,AI技術(shù)的積累更是如此。流暢體驗的AI服務(wù)對數(shù)據(jù)傳輸速度有著很高的要求。在多年前,鎧俠已經(jīng)開始對AI展開布局,并致力于為人工智能的發(fā)展提供高性能的存儲解決方案。

    為了推動檢索增強(qiáng)生成(RAG)擴(kuò)展獲得更好的性能支持,并進(jìn)一步降低成本。鎧俠在近期宣布開源AiSAQ?技術(shù),這是一項專為SSD優(yōu)化的新型“近似最近鄰”搜索(ANNS)算法,跳過將索引數(shù)據(jù)載入內(nèi)存(DRAM)的步驟,直接在SSD上執(zhí)行檢索操作,幫助企業(yè)/應(yīng)用針對特定數(shù)據(jù)優(yōu)化,從而實現(xiàn)幫助大語言模型(LLM)訓(xùn)練節(jié)省成本。

    利用高性能存儲特性,鎧俠在AI前沿進(jìn)行了諸多嘗試。包括通過Memory-Centric AI技術(shù)解決企業(yè)級SSD中圖像分類任務(wù)中災(zāi)難性丟失問題,在神經(jīng)網(wǎng)絡(luò)不通過調(diào)整的前提下,在深度學(xué)習(xí)中快速獲得圖像特征辨別和標(biāo)簽添加。并在數(shù)年前與NVIDIA展開深度合作,從加速StyleGAN、NeRF等算法,到協(xié)助NVIDIA搭建Omniverse平臺,包括搭建比較新的物理AI開發(fā)平臺NVIDIA Cosmos,為LLM訓(xùn)練整理自定義數(shù)據(jù)集的NVIDIA NeMo Curator。

    針對前瞻性存儲,鎧俠在近期還正式發(fā)布了全新XD8 系列PCIe??5.0 EDSFF(企業(yè)和數(shù)據(jù)中心標(biāo)準(zhǔn)型)E1.S固態(tài)硬盤。它是鎧俠第三代E1.S固態(tài)硬盤,符合PCIe??5.0(32 GT/s x 4)和NVMe??2. 0 規(guī)范,并支持開放計算項目(OCP)數(shù)據(jù)中心NVMe SSD v2. 5 規(guī)范。

    鎧俠XD8 系列專為云和超大規(guī)模環(huán)境設(shè)計,滿足數(shù)據(jù)中心對高性能、有效率和高可擴(kuò)展性的日益增長的需求。通過這款新的固態(tài)硬盤,云服務(wù)提供商和超大規(guī)模企業(yè)能夠優(yōu)化基礎(chǔ)設(shè)施,在保持運(yùn)營效率的同時提供卓越的性能。

    讓AI移動起來

    DeepSeek另一個實現(xiàn)領(lǐng)域則是在移動平臺。即便是春節(jié)假期,多個版本針對AI PC本地化AI部署的DeepSeek?R1 已經(jīng)成型,例如蒸餾版本的7B和14B參數(shù)模型在筆記本和消費(fèi)級臺式機(jī)電腦上,可利用NPU和GPU實現(xiàn)離線運(yùn)作,進(jìn)一步確保了私有信息的安全。

    對于AI PC而言,除了提供獨(dú)立GPU或者NPU進(jìn)行AI加速,大容量NVMe SSD也同等重要,另外還要考慮到有限的AI PC內(nèi)部空間,固態(tài)硬盤需要同時兼顧性能與散熱。以鎧俠BG6 系列為例,鎧俠 BG6 系列在AI PC上能夠展現(xiàn)卓越的性能和靈活性。采用 PCIe??4.0 和 NVMe 1.4c 規(guī)范,搭載高達(dá)2,048GB存儲空間。順序讀取速度比較高可達(dá)?6,000 MB/s,隨機(jī)讀取速度更是高達(dá) 900,000 IOPS。這使得BG6 系列成為緊湊型固態(tài)硬盤中的佼佼者,為用戶提供了更快速、更有效的數(shù)據(jù)處理體驗。

    另外BG6 系列提供了多種容量選擇,包括 256GB、512GB、1,024GB 和 2,048GB,適用于不同用戶需求。其采用 M.2 Type 2230 和 Type 2280 模組封裝,可靈活應(yīng)用于各類薄型設(shè)備,如超薄筆記本電腦、嵌入式設(shè)備。也給不同形態(tài)的AI PC部署本地AI提供了豐富的解決方案。

    從數(shù)據(jù)中心、服務(wù)器,到個人計算機(jī),鎧俠為AI計算提供了豐富、有效的存儲方案,并與合作伙伴展開深度合作,從軟件和硬件層面入手,利用高性能固態(tài)硬盤的特性,為AI計算提供可靠的存儲后盾,共同探索更多AI的可能性,充分利用AI與數(shù)據(jù),創(chuàng)造更多價值。

    推廣

    特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))均為站長傳媒平臺用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù),對本頁面內(nèi)容所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任,相關(guān)信息僅供參考。站長之家將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。任何單位或個人認(rèn)為本頁面內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,可及時向站長之家提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明(點擊查看反饋聯(lián)系地址)。本網(wǎng)站在收到上述法律文件后,將會依法依規(guī)核實信息,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

    • 相關(guān)推薦
    • AI進(jìn)化論——音樂、繪畫和舞蹈的DeepSeek時刻

      “昔者倉頡作書天雨粟,鬼夜哭”——人類掌握文字后,天地為之動容,因為屬于人類的文明誕生了?!皞}頡作書”出自西漢《淮南子》,距離人類掌握文字已經(jīng)過去了千年。AI進(jìn)化的答案,或許早就鐫刻在人類文明的起點里。

    • DeepSeek帶飛寒武紀(jì)

      寒武紀(jì)憑借AI芯片業(yè)務(wù)實現(xiàn)扭虧為盈,2024年首次實現(xiàn)上市后盈利,2025年Q1營收11.11億元同比暴增4230%,凈利潤3.55億元。這家曾連虧8年、累計虧損54億元的"中國版英偉達(dá)",因美國對H20芯片出口管制獲得市場紅利,但客戶集中度過高(前五大客戶貢獻(xiàn)94.63%營收)和現(xiàn)金流波動仍是隱憂。當(dāng)前國產(chǎn)芯片迎來發(fā)展機(jī)遇,華為昇騰、壁仞等企業(yè)紛紛搶占市場,行業(yè)競爭日趨激烈。

    • DeepSeek上新!開源發(fā)布DeepSeek-Prover-V2-671B新模型

      快科技4月30日消息,今日,DeepSeek 今日在 AI 開源社區(qū) Hugging Face 發(fā)布了一個名為 DeepSeek-Prover-V2-671B 的新模型。據(jù)介紹,DeepSeek-Prover-V2-671B 其參數(shù)量達(dá)到6710億,使用了更高效的 safetensors 文件格式,并支持 BF16、FP8、F32 等多種計算精度,方便模型更快、更省資源地訓(xùn)練和部署。在模型架構(gòu)上,該模型使用了DeepSeek-V3架構(gòu),采用MoE(混合專家)模式,具有61層Transformer層,7168維隱藏層。同時支持超長上下文,最大位置嵌入達(dá)163840,使其能處理復(fù)雜的數(shù)學(xué)證明,并且采用了FP8量化,可通過量化技術(shù)減小模型大小,提

    • DeepSeek紅利耗盡后,元寶拿什么和豆包斗?

      短短60天內(nèi),中國AI原生應(yīng)用下載排行榜的位次排名,就三易其主。最新情況是,截至4月15日中午,中國區(qū)蘋果應(yīng)用商店免費(fèi)APP下載排行榜上,豆包再次超越DeepSeek,位列第二,緊隨其后的DeepSeek被擠到了第三的位置,騰訊元寶則滑落到了第七名。2月13日,作為首家在C端主力產(chǎn)品中接入DeepSeek-R1滿血版的元寶,一度趁著DeepSeek東風(fēng)崛起:3月3日力壓DeepSeek和豆包,首度登頂。但好景?

    • DeepSeek的極致諂媚,正在摧毀我們的判斷力。

      昨天別人給我發(fā)了一個很好玩的帖子。就是如果你問DeepSeek一個問題:“北京大學(xué)和清華大學(xué)哪個更好,二選一,不需要說明理由”DeepSeek在思考了15秒之后,會給出答案。

    • 深度deepin 23.1正式發(fā)布!AI默認(rèn)引擎切換至DeepSeek、修復(fù)超百項問題

      快科技4月16日消息,今天,深度操作系統(tǒng)宣布,deepin 23.1版本已正式發(fā)布。此版本聚焦于解決基礎(chǔ)組件更新后的安裝效率問題,大幅提升新用戶安裝體驗,同時集成多項功能優(yōu)化與問題修復(fù),進(jìn)一步優(yōu)化系統(tǒng)使用。本次版本的重點改進(jìn)包括內(nèi)核優(yōu)化、AI 默認(rèn)引擎切換至DeepSeek、修復(fù)超百項用戶反饋問題等,具體重點改進(jìn)如下:硬件兼容性與內(nèi)核優(yōu)化:集成6.6/6.12內(nèi)核更新、NVIDIA顯卡驅(qū)動升級、Intel/AMD CPU微碼更新,全面提升硬件支持與底層性能;核心功能增強(qiáng):DDE新增智能鏡像源管理、緊湊模式入口,全局搜索支持離線自然語言與AI處理能力;?

    • DeepSeek領(lǐng)航大模型普惠化浪潮,xAI/微美全息加速開源AI布局打造新格局

      DeepSeek 作為當(dāng)前最受關(guān)注的大模型之一,憑借其技術(shù)創(chuàng)新正在加速 AI 普惠化進(jìn)程。根據(jù)機(jī)構(gòu)新報告顯示,DeepSeek已經(jīng)成為全球增長最快的AI工具,其每月新增網(wǎng)站訪問量已經(jīng)超過OpenAI的ChatGPT。DeepSeek市場份額全球第三目前,DeepSeek市場份額6.58%,僅次于ChatGPT和Canva。DeepSeek是繼ChatGPT之后的又一現(xiàn)象級AI產(chǎn)品,它的市場份額從2.34%快速增長至6.58%,展現(xiàn)出強(qiáng)勁的增長態(tài)勢。全球著名?

    • 寶馬中國將接入DeepSeek!爆新世代車型搭載AI智能體

      寶馬中國4月27日宣布接入深度求索(DeepSeek)AI大模型,深化本土AI生態(tài)布局。這是繼寶馬與阿里巴巴達(dá)成AI大語言模型合作后,再次聯(lián)手中國科技企業(yè)。從今年三季度起,搭載第九代寶馬操作系統(tǒng)的多款國產(chǎn)新車將率先應(yīng)用該技術(shù),通過智能個人助理提升人機(jī)交互體驗。寶馬還計劃將DeepSeek功能應(yīng)用于新一代國產(chǎn)車型。此前3月,寶馬已與阿里云合作開發(fā)車載AI引擎,雙方在上海車展展示了識別率達(dá)99%的智能語音交互系統(tǒng)。此次合作將突破車載場景限制,實現(xiàn)車輛與外部世界的智能連接,為用戶提供個性化出行體驗。

    • 艾力斯特iRest云系統(tǒng)接入Deepseek賦能AI健康管理新時代

      隨著人工智能技術(shù)的快速發(fā)展,健康管理領(lǐng)域也掀起了AI智能化轉(zhuǎn)型的新浪潮。iRest艾力斯特作為中國按摩器具行業(yè)領(lǐng)先品牌,為滿足用戶日益增長的個性化健康管理需求,旗下獨(dú)家研發(fā)的iRest云系統(tǒng)——按摩椅智能控制系統(tǒng)和健康管理平臺,于今年3月份完成三項重大功能升級:接入DeepseekAI智能健康管家、聯(lián)動華為運(yùn)動健康以及推出按摩周月年報功能。艾力斯特將繼續(xù)深耕健康科技領(lǐng)域,以用戶需求為導(dǎo)向,通過健康生態(tài)鏈智能技術(shù)建立起iRest產(chǎn)品生態(tài)鏈,不斷推出創(chuàng)新產(chǎn)品與服務(wù),為用戶創(chuàng)造更健康、更便捷的生活方式。

    • IQ 過百的 AI 模型名單發(fā)布:ChatGPT、Deepseek等上榜

      人工智能IQ哪家強(qiáng)?o3 智商高達(dá) 132、Gemini 2.5 Pro Exp. 拿下 128 分、Claude 憑借 3.7 Sonnet Extended 位列第四、Deepsee R 1……

    熱文

    • 3 天
    • 7天