中文字幕欧美日韩|日韩性色一区二区三区|精品久久久久久久久久岛国|一区二区国产盗摄精品

    <td id="h1kkc"><tr id="h1kkc"></tr></td><noscript id="h1kkc"><tbody id="h1kkc"></tbody></noscript>
    <rp id="h1kkc"></rp>
    首頁(yè) > 業(yè)界 > 關(guān)鍵詞  > 芯片最新資訊  > 正文

    甩英偉達(dá)幾百條街?Etched AI推AI推理加速芯片Sohu 將Transformer架構(gòu)直接“燒錄”到芯片中

    2023-12-19 09:58 · 稿源:站長(zhǎng)之家

    站長(zhǎng)之家(ChinaZ.com)12月19日 消息:美國(guó)芯片初創(chuàng)公司Etched AI近日宣稱(chēng),他們成功開(kāi)創(chuàng)了一項(xiàng)新的技術(shù),將Transformer架構(gòu)直接“燒錄”到了芯片中,創(chuàng)造出了世界上最強(qiáng)大的專(zhuān)門(mén)用于Transformer推理的服務(wù)器Sohu。據(jù)稱(chēng),這項(xiàng)技術(shù)可以運(yùn)行萬(wàn)億參數(shù)的模型,甩英偉達(dá)幾百條街。

    QQ截圖20231219095455.jpg

    官網(wǎng)地址:https://www.etched.ai/

    該服務(wù)器具有多項(xiàng)功能,包括實(shí)時(shí)語(yǔ)音代理,能夠在毫秒內(nèi)處理成千上萬(wàn)的詞;更好的編碼與樹(shù)搜索能力,可以并行比較數(shù)百個(gè)響應(yīng);多播推測(cè)解碼功能,實(shí)時(shí)生成新內(nèi)容;支持未來(lái)的萬(wàn)億參數(shù)模型,只需一個(gè)核心,支持全開(kāi)源軟件棧,可擴(kuò)展至100T參數(shù)模型;還具備高級(jí)解碼技術(shù),包括光束搜索和MCTS解碼。

    此外,每個(gè)芯片還配備了144GB HBM3E,支持MoE和轉(zhuǎn)換器變體,為服務(wù)器的高性能提供了有力支持。這一突破性技術(shù)的問(wèn)世,將為T(mén)ransformer架構(gòu)的應(yīng)用帶來(lái)新的可能性。

    舉報(bào)

    • 相關(guān)推薦
    • 英偉達(dá)將首次在美制造 AI 超算、及 Blackwell 芯片

      站長(zhǎng)之家(ChinaZ.com) 4月15日 消息:隨著 AI 行業(yè)的蓬勃發(fā)展,英偉達(dá)位于美國(guó)的人工智能芯片和超 級(jí)計(jì)算機(jī)工廠將創(chuàng)造數(shù)千個(gè)就業(yè)機(jī)會(huì)??萍季揞^英偉達(dá)(NVIDIA)宣布,其 AI 超 級(jí)計(jì)算機(jī)將完全在美國(guó)本土生產(chǎn)。在全球貿(mào)易戰(zhàn)的背景下,英偉達(dá)這一舉動(dòng)是為了減少對(duì)海外市場(chǎng)的依賴(lài),并促進(jìn)美國(guó)國(guó)內(nèi)的生產(chǎn)。英偉達(dá)確認(rèn),他們已開(kāi)始在臺(tái)積電位于美國(guó)亞利桑那州鳳凰城的工廠生產(chǎn)?

    • 英偉達(dá)脫鉤 何小鵬:小鵬自研圖靈AI芯片提前上車(chē)

      快科技4月15日消息,小鵬汽車(chē)董事長(zhǎng)何小鵬近日透露,小鵬汽車(chē)全棧自研的圖靈AI芯片即將提前到第二季度量產(chǎn)上車(chē)。隨著汽車(chē)行業(yè)的智駕廣泛應(yīng)用端到端技術(shù),催生AI大模型規(guī)模越來(lái)越大。小鵬汽車(chē)一方面開(kāi)發(fā)參數(shù)量是主流VLA模型35倍的世界基座模型,另一方面即將量產(chǎn)1顆頂3顆英偉達(dá)Orin X的自研高算力芯片,兩大重磅技術(shù)打造最強(qiáng)AI大腦”。在去年11月份舉辦的小鵬AI科技日”

    • 英偉達(dá)CEO黃仁勛造訪白宮:希望特朗普修改AI芯片出口規(guī)則

      快科技5月1日消息,據(jù)媒體報(bào)道,美國(guó)當(dāng)?shù)貢r(shí)間周三, 英偉達(dá)公司首席執(zhí)行官黃仁勛造訪白宮時(shí)表示,他希望特朗普政府修改從美國(guó)向全球出口人工智能(AI)技術(shù)的相關(guān)法規(guī),以便美國(guó)企業(yè)能更好地抓住未來(lái)的機(jī)遇。我們需要加速美國(guó)AI技術(shù)在全球的擴(kuò)散,”黃仁勛在與媒體的簡(jiǎn)短會(huì)面中表示,政府的政策和鼓勵(lì)措施必須真正支持這一點(diǎn)?!迸c此同時(shí),黃仁勛還呼吁美國(guó)政府放寬人工智能圖形處理單元出口規(guī)定,但媒體報(bào)道特朗普政府計(jì)劃加強(qiáng)控制。眾所周知,英偉達(dá)目前主導(dǎo)著用于訓(xùn)練AI模型的尖端AI芯片市場(chǎng),但其向中國(guó)客戶(hù)銷(xiāo)售最先進(jìn)產(chǎn)品的渠道已被?

    • 黃仁勛承諾了特朗普啥?美國(guó)放棄英偉達(dá)H20芯片對(duì)華出口管制

      特朗普政府最近放棄了對(duì)英偉達(dá)向華出口半導(dǎo)體計(jì)劃的限制。這是在英偉達(dá)CEO黃仁勛出席了特朗普的海湖莊園晚宴之后,才做出的決定。這意味著這款產(chǎn)品每個(gè)季度能給英偉達(dá)帶來(lái)上千億人民幣的收入。

    • 20人創(chuàng)業(yè)神話,老黃數(shù)億刀收購(gòu),AI大牛賈揚(yáng)清、白俊杰被曝入職英偉達(dá)

      創(chuàng)立兩年的LeptonAI被英偉達(dá)收入囊中!聯(lián)創(chuàng)AI大牛賈揚(yáng)清和白俊杰,已經(jīng)加入收購(gòu)方英偉達(dá)。這次收購(gòu)將完善英偉達(dá)的AI投資布局。被英偉達(dá)收購(gòu)是LeptonAI的最佳選擇。

    • 美國(guó)封鎖沒(méi)意義!揭秘華為384顆自研芯片方案 領(lǐng)先英偉達(dá)AMD一代

      快科技5月2日消息,美國(guó)封鎖芯片對(duì)華出口,這讓英偉達(dá)CEO黃仁勛倍感焦慮,因?yàn)樗钪袊?guó)國(guó)產(chǎn)算力目前達(dá)到了怎樣的水平。前段時(shí)間華為推出了AI算力集群解決方案CloudMatrix 384,這在外行看來(lái)似乎沒(méi)有什么不同,但如果仔細(xì)剖析其影響可謂深遠(yuǎn)。按照華為的說(shuō)法,CloudMatrix 384基于384顆昇騰芯片構(gòu)建,通過(guò)全互連拓?fù)浼軜?gòu)實(shí)現(xiàn)芯片間高效協(xié)同,可提供高達(dá)300 PFLOPs的密集BF16算力,接近達(dá)到英偉達(dá)GB200 NVL72系統(tǒng)的兩倍。此外,CM384在內(nèi)存容量和帶寬方面同樣占據(jù)優(yōu)勢(shì),總內(nèi)存容量超出英偉達(dá)方案3.6倍,內(nèi)存帶寬也達(dá)到2.1倍,為大規(guī)模AI訓(xùn)

    • AI日?qǐng)?bào):ChatGPT重磅上線圖像庫(kù)功能;白嫖!Veo2登陸谷歌AI Studio;螞蟻寶箱“MCP專(zhuān)區(qū)”

      歡迎來(lái)到【AI日?qǐng)?bào)】欄目!這里是你每天探索人工智能世界的指南,每天我們?yōu)槟愠尸F(xiàn)AI領(lǐng)域的熱點(diǎn)內(nèi)容,聚焦開(kāi)發(fā)者,助你洞悉技術(shù)趨勢(shì)、了解創(chuàng)新AI產(chǎn)品應(yīng)用。新鮮AI產(chǎn)品點(diǎn)擊了解:https://top.aibase.com/1、報(bào)道稱(chēng)字節(jié)跳動(dòng)整合 AI 研發(fā)團(tuán)隊(duì),AI Lab 即將并入 Seed字節(jié)跳動(dòng)正在進(jìn)行AI研發(fā)團(tuán)隊(duì)的整合,將獨(dú)立的字節(jié)AI Lab并入Seed團(tuán)隊(duì)。這一舉措體現(xiàn)了字節(jié)在AI領(lǐng)域戰(zhàn)略布局的調(diào)整,旨在進(jìn)?

    • Trae重磅升級(jí):全面開(kāi)放自定義AI能力,用戶(hù)可打造個(gè)人專(zhuān)屬“AI 工程師”

      Trae新版本通過(guò)整合AI技術(shù),提供更智能、高效的開(kāi)發(fā)體驗(yàn),支持多語(yǔ)言文件輸入與多種功能擴(kuò)展。它突破傳統(tǒng)IDE模式,強(qiáng)調(diào)人機(jī)協(xié)作與個(gè)性化定制,實(shí)現(xiàn)需求快速轉(zhuǎn)化和技術(shù)方案優(yōu)化。同時(shí),其開(kāi)放的插件系統(tǒng)和自定義能力,滿(mǎn)足不同場(chǎng)景的專(zhuān)業(yè)開(kāi)發(fā)需求,推動(dòng)AI在編程領(lǐng)域的深度融合與創(chuàng)新應(yīng)用。

    • 英偉達(dá)開(kāi)源15T數(shù)據(jù)集:32萬(wàn)個(gè)機(jī)器人訓(xùn)練軌跡

      全球AI領(lǐng)導(dǎo)者英偉達(dá)開(kāi)源了,用于實(shí)體機(jī)器人和自動(dòng)化駕駛的超大訓(xùn)練數(shù)據(jù)合集——NVIDIAPhysicalAIDataset。這個(gè)數(shù)據(jù)集一共15T,涵蓋了超過(guò)320,000個(gè)機(jī)器人訓(xùn)練軌跡,以及多達(dá)1,000個(gè)通用場(chǎng)景描述包括一個(gè)SimReady集合。英偉達(dá)表示,未來(lái)將繼續(xù)擴(kuò)展PhysicalAIDataset,將其建設(shè)成世界最大、統(tǒng)一的開(kāi)源數(shù)據(jù)集,可用于AI模型、醫(yī)療、自動(dòng)化駕駛等不同領(lǐng)域,加速AI、實(shí)體機(jī)器人的訓(xùn)練效?

    • IQ 過(guò)AI 模型名單發(fā)布:ChatGPT、Deepseek等上榜

      人工智能IQ哪家強(qiáng)?o3 智商高達(dá) 132、Gemini 2.5 Pro Exp. 拿下 128 分、Claude 憑借 3.7 Sonnet Extended 位列第四、Deepsee R 1……

    熱文

    • 3 天
    • 7天