英偉達(dá)推出了一個(gè)名為ChipNeMo的大語言模型，它有430億個(gè)參數(shù)，專門針對芯片設(shè)計(jì)領(lǐng)域。它可以幫助工程師提升工作效率，簡化芯片設(shè)計(jì)的過程，涵蓋了多種任務(wù)，如問答、EDA腳本生成和Bug總結(jié)等。

（ChipNeMo更多詳細(xì)介紹）

英偉達(dá)的首席科學(xué)家Bill Dally表示，ChipNeMo即使只能稍微提高生產(chǎn)率，也是非常有價(jià)值的。

ChipNeMo的訓(xùn)練數(shù)據(jù)包括Bug總結(jié)、設(shè)計(jì)源、文檔以及與硬件相關(guān)的代碼和自然語言文本，經(jīng)過收集、清理和篩選后，共有241億個(gè)token。

為了讓大語言模型在工程助理聊天機(jī)器人、EDA腳本生成和Bug摘要和分析等領(lǐng)域表現(xiàn)更好，英偉達(dá)使用了領(lǐng)域自適應(yīng)技術(shù)。這些技術(shù)包括定制的標(biāo)記器、領(lǐng)域自適應(yīng)持續(xù)預(yù)訓(xùn)練、帶有領(lǐng)域特定指令的監(jiān)督微調(diào)等方式。

實(shí)驗(yàn)結(jié)果表明，這些領(lǐng)域自適應(yīng)技術(shù)不僅提升了模型在這些領(lǐng)域的表現(xiàn)，還降低了模型的大小，但還有進(jìn)步的空間。英偉達(dá)的這一行動(dòng)意味著大語言模型在半導(dǎo)體設(shè)計(jì)領(lǐng)域的應(yīng)用邁出了重要的一步，為專業(yè)化領(lǐng)域提供了有用的生成式AI模型。

更多詳細(xì)介紹可以前往Aibase產(chǎn)品庫了解，各位小伙伴們快去試試吧!

（舉報(bào)）