這兩天國內(nèi)外人工智能圈子都在熱議Groq:這個(gè)硅谷公司的產(chǎn)品基于自研芯片可以做到在大模型推理時(shí)每秒處理將近500個(gè)token。500個(gè)token什么概念,大概就是一句話的響應(yīng)時(shí)間只需要不到2秒,如此這般的文字生成速度,甚至比翻譯軟件還快。當(dāng)我們習(xí)慣了看GPT們慢悠悠的吐出答案時(shí),第一次
......
本文由站長之家合作伙伴自媒體作者“?硅星人Pro公眾號(hào)”授權(quán)發(fā)布于站長之家平臺(tái),本平臺(tái)僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時(shí)間超過平臺(tái)更新維護(hù)時(shí)間,為了保證文章信息的及時(shí)性,內(nèi)容觀點(diǎn)的準(zhǔn)確性,平臺(tái)將不提供完全的內(nèi)容展現(xiàn),本頁面內(nèi)容僅為平臺(tái)搜索索引使用。需閱讀完整內(nèi)容的用戶,請查看原文,獲取內(nèi)容詳情。
(舉報(bào))