站長之家(ChinaZ.com) 5月31日 消息:Cartesia 發(fā)布了一個名為 Sonic 的低延遲語音生成模型，該模型以其快速的推理速度和超低的延遲引起了廣泛關(guān)注。Sonic 的延遲僅為135毫秒，能夠生成具有逼真情感和表達(dá)能力的語音。用戶只需提供10秒的錄音，Sonic 即可模仿說話者的韻律、語調(diào)和聲音特征，并且可以調(diào)節(jié)音調(diào)、速度、情感、發(fā)音和速度。
圖片截自歸藏
Sonic模型特點:
超低延遲:模型的延遲僅為135毫秒，這意味著它可以實時生成語音，非常適合聊天應(yīng)用。
情感表達(dá):Sonic能夠展現(xiàn)出人類的情感和表達(dá)能力，使對話更加自然和富有表現(xiàn)力。
快速模仿:僅需10秒的錄音，Sonic就能模仿說話者的韻律、語調(diào)和聲音特征。
可調(diào)節(jié)參數(shù):用戶可以調(diào)節(jié)音調(diào)、速度、情感、發(fā)音等參數(shù)，定制化語音輸出。
Cartesia 的目標(biāo)是打造能夠在任何設(shè)備上長期運行的實時智能系統(tǒng)。為此，他們引入了創(chuàng)新的“狀態(tài)空間模型”（SSM）架構(gòu)，用于構(gòu)建下一代基礎(chǔ)模型。SSM 模型能夠處理任意大小的語境，并且可以原生地實時處理各種形式的模態(tài)。Cartesia 的創(chuàng)始人 Albert 和 Karan 在過去四年中共同開發(fā)了 SSM，這是一種更高效的 AI 模型構(gòu)建方法，能夠像人類一樣流式傳輸信息。
在實時對話型 AI 的開發(fā)方面，Cartesia 已經(jīng)取得了初步進展。他們正在研發(fā)一個具有長期記憶、能夠?qū)崟r對話的 AI 計算平臺，該平臺可以解決復(fù)雜問題，為用戶帶來全新的體驗。低延遲是構(gòu)建實時智能的一大挑戰(zhàn)，模型需要在接收到輸入時立即做出響應(yīng)。通過新的 SSM 架構(gòu)，Cartesia 提高了高分辨率模態(tài)（如音頻和視頻）的生成效率和低延遲性能。實驗表明，與廣泛使用的 Transformer 模型相比，他們的模型在質(zhì)量、推理速度、吞吐量和延遲方面都有顯著改進。
使用 SSM 架構(gòu)，Cartesia 訓(xùn)練了 Sonic 語音模型，該模型能以135毫秒的延遲生成高質(zhì)量、逼真的語音。為了實現(xiàn)低延遲和高吞吐量，他們優(yōu)化了 SSM 推理系統(tǒng)，從而以更低的成本提供高質(zhì)量的模型。Sonic 已經(jīng)發(fā)布，并提供了一個 Web Playground 和低延遲 API。用戶可以在 Playground 中使用多樣化的語音庫進行應(yīng)用程序開發(fā)，包括客戶支持、娛樂和內(nèi)容創(chuàng)作，還支持即時克隆和語音設(shè)計（如調(diào)節(jié)速度和情感）。用戶也可以通過 API 訪問這些功能。
Cartesia 的下一個目標(biāo)是在未來一年內(nèi)實現(xiàn)原生多模態(tài)的實時智能，不僅局限于音頻領(lǐng)域。他們希望能夠?qū)崿F(xiàn)對任何形式的模態(tài)進行即時理解和生成，進一步推動實時智能的發(fā)展。
官網(wǎng)：https://top.aibase.com/tool/carteisa-sonic
試玩地址：https://play.cartesia.ai/
（舉報）