站長之家(ChinaZ.com) 5月29日 消息: AI芯片廠商SambaNovaAI最新推出的AI芯片Samba-1Turbo表現(xiàn)出色,被稱為AI領(lǐng)域的新速度之王。據(jù)外部機構(gòu)Artificial Analysis獨立測試結(jié)果顯示,Samba-1Turbo在Llama3Instruct(8B)上的輸出速度達到每秒1,084個token,創(chuàng)下了目前為止最快的記錄。這一速度比MetaAI的Llama3Instruct(8B)API提供商的中位速度快8倍以上,甚至超越了之前推理速度最快的Groq。
Samba-1Turbo芯片是SambaNova的第四代設(shè)計,采用臺積電的5nm工藝制造,具有支持更大模型的潛力,例如Llama3400B+。Artificial Analysis還驗證了在Samba-1Turbo上運行的Llama3Instruct(8B)通過MMLU基準(zhǔn)測試,質(zhì)量得分與全FP16精度一致。
Samba-1Turbo的出現(xiàn)引發(fā)了業(yè)界的關(guān)注和討論,被稱為AI領(lǐng)域的新寵。該款A(yù)I芯片的性能表現(xiàn)令人驚嘆,有望為人工智能應(yīng)用帶來全新的發(fā)展可能性。AI領(lǐng)域的競爭愈發(fā)激烈,Samba-1Turbo的問世必將為SambaNovaAI贏得更多市場份額。
SambaNova 目前尚未公開提供無服務(wù)器 API,但您可以通過他們的聊天界面試用他們的系統(tǒng)。
獲取官方體驗地址:https://top.aibase.com/tool/samba-1-turbo
(舉報)