11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買(mǎi)1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵?lái)騰訊云選購(gòu)吧!
快科技3月12日消息,最新數(shù)據(jù)顯示,我國(guó)在用算力中心標(biāo)準(zhǔn)機(jī)架數(shù)量已超900萬(wàn)。據(jù)報(bào)道,目前,我國(guó)算力總規(guī)模達(dá)280EFLOPS(每秒280百億億次浮點(diǎn)運(yùn)算),有效支撐了算力資源配置與數(shù)據(jù)要素流通。相較于去年7月工信部公布的230百億億次浮點(diǎn)運(yùn)算數(shù)據(jù),短短半年時(shí)間增加了50EFLOPS?!吨袊?guó)互聯(lián)網(wǎng)發(fā)展報(bào)告2024》顯示,我國(guó)算力基礎(chǔ)設(shè)施建設(shè)步伐加快,算力總規(guī)模僅次于美國(guó),位居世界第二。在基礎(chǔ)網(wǎng)絡(luò)方面,我國(guó)已有超過(guò)20個(gè)省市陸續(xù)開(kāi)展下一代萬(wàn)兆光網(wǎng)相關(guān)技術(shù)應(yīng)用試點(diǎn)工作。此外,人工智能、區(qū)塊鏈等新技術(shù)設(shè)施今年也蓬勃興起,現(xiàn)有完成備案并上
近日,第五代英特爾至強(qiáng)處理器,以?xún)?yōu)秀的表現(xiàn)通過(guò)了中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院組織的人工智能服務(wù)器系統(tǒng)性能測(cè)試。英特爾也成為首批通過(guò)AISBench大語(yǔ)言模型推理性能測(cè)試的企業(yè)。同時(shí)還彰顯了英特爾至強(qiáng)可以為企業(yè)提供開(kāi)箱即用”的功能,即可以在通用系統(tǒng)上部署一部分AI工作負(fù)載,從為客戶帶來(lái)更佳的總體擁有成本優(yōu)勢(shì)。
快科技8月31日消息,日前,由中國(guó)移動(dòng)承建的國(guó)內(nèi)運(yùn)營(yíng)商最大單集群智算中心在哈爾濱正式運(yùn)營(yíng)。據(jù)悉,該智算中心具有單集群算力規(guī)模最大、國(guó)產(chǎn)化網(wǎng)絡(luò)設(shè)備組網(wǎng)規(guī)模最大等特點(diǎn)。單集群智算中心把所有AI加速卡打造成1個(gè)集群,用以支持千萬(wàn)億級(jí)參數(shù)的大模型進(jìn)行訓(xùn)練。這個(gè)集群智算中心通過(guò)先進(jìn)的智算網(wǎng)絡(luò)技術(shù)把上萬(wàn)塊GPU芯片像積木”一樣拼接在一起,大幅提升GPU節(jié)點(diǎn)間的通信效率,將數(shù)據(jù)訓(xùn)練完成時(shí)間縮短20%,從而形成超級(jí)算力集群。這個(gè)單集群智算中心共有超過(guò)1.8萬(wàn)張AI加速卡,運(yùn)算能力達(dá)到每秒690億億次浮點(diǎn)運(yùn)算,能滿足萬(wàn)億參數(shù)的大模型訓(xùn)?
今日上午,馬斯克在轉(zhuǎn)發(fā)特斯拉關(guān)于全球第1000萬(wàn)個(gè)電驅(qū)系統(tǒng)在上海拆解工廠下線”的微博時(shí)放出豪言,稱(chēng)有朝一日,特斯拉將每秒制造一套電驅(qū)系統(tǒng)。電驅(qū)系統(tǒng)是電動(dòng)汽車(chē)的核心系統(tǒng)之一,相當(dāng)于人類(lèi)的心臟,主要由驅(qū)動(dòng)電機(jī)、電機(jī)控制器和減速器組成,特斯拉電驅(qū)動(dòng)系統(tǒng)經(jīng)歷了四代技術(shù)迭代:第一代電驅(qū)動(dòng)系統(tǒng)應(yīng)用在Roadster,得到ACPropulsion授權(quán)使用異步感應(yīng)電機(jī)作為驅(qū)動(dòng)電機(jī),控制器應(yīng)用IGBT單管并聯(lián)技術(shù),最早開(kāi)發(fā)且交付量少,罕為人知。第四代電驅(qū)動(dòng)系統(tǒng)優(yōu)化了輸出三相電氣連接的保護(hù),增加了紅外溫度傳感器,控制器上以前用螺絲固定的接插件位置,現(xiàn)在改用了攪拌焊接的一體成型工藝,進(jìn)一步降低了成本,電機(jī)油濾外殼整體鑄造,濾芯內(nèi)置,不再可更換等等。
什么AI應(yīng)用每秒處理20000個(gè)AI推理請(qǐng)求,達(dá)到2024年谷歌搜索流量的1/5?答案是獨(dú)角獸Character.ai,由Transformer作者NoamShazeer創(chuàng)辦。沙哥公布了推理優(yōu)化獨(dú)門(mén)秘訣,迅速引起業(yè)界熱議。最近有消息稱(chēng),Meta與馬斯克的𝕏都在爭(zhēng)取與他們合作,把聊天機(jī)器人引入社交平臺(tái)。
AI芯片廠商SambaNovaAI最新推出的AI芯片Samba-1Turbo表現(xiàn)出色,被稱(chēng)為AI領(lǐng)域的新速度之王。據(jù)外部機(jī)構(gòu)ArtificialAnalysis獨(dú)立測(cè)試結(jié)果顯示,Samba-1Turbo在Llama3Instruct上的輸出速度達(dá)到每秒1,084個(gè)token,創(chuàng)下了目前為止最快的記錄。AI領(lǐng)域的競(jìng)爭(zhēng)愈發(fā)激烈,Samba-1Turbo的問(wèn)世必將為SambaNovaAI贏得更多市場(chǎng)份額。
日本多家知名電信巨頭,包括DOCOMO、NTT公司、NEC公司和富士通,共同揭曉了一項(xiàng)突破性成果——全球首款高速6G無(wú)線設(shè)備。這款設(shè)備的亮相,無(wú)疑為通信領(lǐng)域帶來(lái)了新的里程碑。盡管目前設(shè)備的傳輸距離還僅限于100米范圍內(nèi),但隨著技術(shù)的不斷進(jìn)步,預(yù)計(jì)其設(shè)備尺寸將逐漸縮小,成本也將有所降低。
【新智元導(dǎo)讀】Llama3的開(kāi)源,或?qū)⒋呱鷶?shù)十億美元新產(chǎn)業(yè)。發(fā)布不到一周的時(shí)間,全網(wǎng)各種測(cè)試微調(diào)都開(kāi)啟了。但在還沒(méi)有發(fā)布GPT-5之前,初創(chuàng)公司需要有危機(jī)感了。
這兩天國(guó)內(nèi)外人工智能圈子都在熱議Groq:這個(gè)硅谷公司的產(chǎn)品基于自研芯片可以做到在大模型推理時(shí)每秒處理將近500個(gè)token。500個(gè)token什么概念,大概就是一句話的響應(yīng)時(shí)間只需要不到2秒,如此這般的文字生成速度,甚至比翻譯軟件還快。雖然有不少那樣的公司在當(dāng)時(shí)沸沸揚(yáng)揚(yáng),然才過(guò)了幾年的工夫,你又能回想起幾個(gè)這樣的公司呢?希望這一次Groq的驚艷也不是一時(shí)的。
一家名為Groq的初創(chuàng)公司推出了一款大模型推理芯片,其推理速度達(dá)到了每秒500tokens的驚人水平,輕松顛覆了傳統(tǒng)GPU的性能。Groq的團(tuán)隊(duì)由谷歌TPU原班人馬組成,他們自主研發(fā)的芯片不僅速度快成本低廉,性?xún)r(jià)比高,成為了大模型推理加速的新寵。在技術(shù)不斷創(chuàng)新和競(jìng)爭(zhēng)日益激烈的背景下,Groq將繼續(xù)致力于推動(dòng)大模型硬件領(lǐng)域的發(fā)展,為人工智能技術(shù)的進(jìn)步做出更大的貢獻(xiàn)。