圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney回想兩個月前，LLaMA2的開源，曾以一己之力改變了大模型領(lǐng)域的競爭格局。相比于今年2月推出的第一代 LLaMA，LLaMA2在推理、編碼、精通性和知識測試等任務(wù)中都實現(xiàn)了性能的大幅提升，甚至可以在某些數(shù)據(jù)集上接近 GPT-3.5。由于其強
......
本文由站長之家合作伙伴自媒體作者“機器之心公眾號”授權(quán)發(fā)布于站長之家平臺，本平臺僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時間超過平臺更新維護時間，為了保證文章信息的及時性，內(nèi)容觀點的準(zhǔn)確性，平臺將不提供完全的內(nèi)容展現(xiàn)，本頁面內(nèi)容僅為平臺搜索索引使用。需閱讀完整內(nèi)容的用戶，請查看原文，獲取內(nèi)容詳情。
（舉報）
國產(chǎn)新標(biāo)桿:免費可商用的200億參數(shù)大模型，來了!書生·浦語大模型20B版本正式發(fā)布，一舉刷新國內(nèi)新一代大模型開源紀(jì)錄。它由上海人工智能實驗室與商湯科技聯(lián)合香港中文大學(xué)和復(fù)旦大學(xué)共同推出。正如林達華所說:這或許才是當(dāng)下大模型趨勢里，大家最應(yīng)該“卷”的方向。
開源界最強的中英雙語大模型，悟道·天鷹34B，來了!有多強?一言蔽之:不僅模型夠大夠能打還一口氣送上整套“全家桶”級豪華周邊。能有如此大手筆的，正是中國大模型開源派先鋒——智源研究院。Aquila2模型全系開源地址:https://github.com/FlagAI-Open/Aquila2https://model.baai.ac.cn/https://huggingface.co/BAAIAquilaSQL開源倉庫地址:https://github.com/FlagAI-Open/FlagAI/tree/master/examples/Aquila/Aquila-sqlFlagAttenti
【新智元導(dǎo)讀】國產(chǎn)模型開源紀(jì)錄，又被刷新了!上海AI實驗室等機構(gòu)開源的InternLM-20B，竟然能和Llama2-70B打個平手?就在剛剛，國內(nèi)開源模型參數(shù)量紀(jì)錄，又被刷新了!9月20日，上海人工智能實驗室與商湯科技聯(lián)合香港中文大學(xué)和復(fù)旦大學(xué)，正式開源了200億參數(shù)的InternLM-20B模型。項目地址:https://github.com/InternLM/InternLM魔搭社區(qū):https://modelscope.cn/organization/Shanghai_AI_Laboratory這次的200億參數(shù)版書生·浦語大模型，可以說是「加量不加價」，參數(shù)量還不到三分之一，性能卻可以劍挑當(dāng)今開源模型的標(biāo)桿——Llama2-70B。上海AI實驗室的「雪中送炭」，必然會讓大模型在落地領(lǐng)域發(fā)揮出巨大的價值。
從頭預(yù)訓(xùn)練大模型被認為需要高達5000萬美元的投資，這讓很多開發(fā)者和中小企業(yè)望卻步。Colossal-LLaMA-2的出現(xiàn)降低了大模型的門檻。該方案業(yè)已應(yīng)用到多個行業(yè)領(lǐng)域，構(gòu)建垂類大模型并取得良好效果。
最強中文版LLaMA-2來了!15小時訓(xùn)練，僅需數(shù)千元算力，性能碾壓同級中文漢化模型，開源可商用。LLaMA-2相較于LLaMA-1，引入了更多且高質(zhì)量的語料，實現(xiàn)了顯著的性能提升，全面允許商用，進一步激發(fā)了開源社區(qū)的繁榮，拓展了大型模型的應(yīng)用想象空間。ColossalAI云平臺現(xiàn)已開啟公測，注冊即可獲得代金券，歡迎參與并提出反饋。
昆侖萬維表示，其自研的天工大模型在BenchmarkGSM8K測試中取得了80%的正確率，超過了GPT-3.5和LLaMA2-70B，達到了全球領(lǐng)先水平，接近于GPT-4。天工大模型還在MMLU、C-EVAL、HumanEval等多個數(shù)據(jù)集上表現(xiàn)出色，準(zhǔn)確率均高于其他主流大模型。天工大模型目前仍處于內(nèi)測階段，將持續(xù)提升技術(shù)實力，為用戶和企業(yè)提供強大的智能化助力。
“OpenAI不足為懼，開源會慢慢趕上來。”彼時HuggingFace創(chuàng)始人ClemDelangue的一句預(yù)言，正在迅速成為現(xiàn)實。這也足以說明，開源還是閉源，或許只是階段和位置的不同，但可以肯定的是，大模型時代，已經(jīng)加速進入下一賽段。
訓(xùn)練大模型，幾千塊就能實現(xiàn)了!現(xiàn)在，15小時、幾千塊錢、85億token數(shù)據(jù)，即可訓(xùn)出中文LLaMA2。綜合性能達到開源社區(qū)同規(guī)模從頭預(yù)訓(xùn)練SOTA模型水平。更多應(yīng)用場景、不同領(lǐng)域、不同版本的模型、企業(yè)私有化平臺部署等正不斷迭代。
大語言模型黑盒，居然被CMU等機構(gòu)的學(xué)者打破了?他們發(fā)現(xiàn)，LLM內(nèi)部有可解釋的表征，如果撒謊能被測謊儀檢測出來!最近，來自CAIS、CMU、斯坦福、康奈爾、馬里蘭、賓大等機構(gòu)的學(xué)者又有了令人震驚的發(fā)現(xiàn)——大語言模型，并不僅僅是黑匣子，或者難以理解的龐大矩陣。在它們內(nèi)部，具有可解釋的內(nèi)部表征。CMU等機構(gòu)研究者的探索也告訴我們，人類對于AI系統(tǒng)的理解和控制會越
Meta最近發(fā)布了Llama2LongAI模型，該模型在一些任務(wù)上超越了GPT-3.5Turbo和Claude2。通過改進訓(xùn)練方法和編碼技術(shù)，Meta的研究人員提高了這個AI模型的性能，使其能夠更好地處理長文本和復(fù)雜任務(wù)。強調(diào)了合作的重要性，指出不是每個企業(yè)都擁有高級的數(shù)據(jù)工程和數(shù)據(jù)科學(xué)技能，因此需要與具有相關(guān)技術(shù)和深刻了解整個領(lǐng)域的合作伙伴合作來解決這一問題。
