【新智元導(dǎo)讀】谷歌研究院和斯坦福HAI的兩位專家發(fā)文稱，現(xiàn)在最前沿的AI模型，未來將會被認為是第一代AGI。最前沿的LLM已經(jīng)用強大的能力證明，AGI即將到來!通用人工智能（AGI），其實已經(jīng)實現(xiàn)了?最近，來自谷歌研究院和斯坦福HAI的大佬發(fā)文稱，現(xiàn)在的大預(yù)言模型就是通向AGI的正確
......
本文由站長之家合作伙伴自媒體作者“新智元公眾號”授權(quán)發(fā)布于站長之家平臺，本平臺僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時間超過平臺更新維護時間，為了保證文章信息的及時性，內(nèi)容觀點的準(zhǔn)確性，平臺將不提供完全的內(nèi)容展現(xiàn)，本頁面內(nèi)容僅為平臺搜索索引使用。需閱讀完整內(nèi)容的用戶，請查看原文，獲取內(nèi)容詳情。
（舉報）
谷歌聯(lián)合多所高校的一項最新研究，讓大模型開始擁有了人類的“心智”。在新的提示策略下，大模型不僅能推測出人類所面臨的問題學(xué)會了用推測的結(jié)論調(diào)整自己的行為。來自谷歌、卡耐基梅隆大學(xué)和的芝加哥大學(xué)的學(xué)者也參與了本項目。
【新智元導(dǎo)讀】GPT-4參數(shù)規(guī)模擴大1000倍，如何實現(xiàn)?OpenAI科學(xué)家最新演講，從第一性原理出發(fā)，探討了2023年大模型發(fā)展現(xiàn)狀?！窯PT-4即將超越拐點，并且性能實現(xiàn)顯著跳躍」?！覆还茉趺凑f，從第一原理出發(fā)理解核心思想是唯一可擴展的方法」。
作為自然語言生成中的一項任務(wù)，主要用來將一大段長文本壓縮為簡短的摘要，例如新聞文章、源代碼和跨語言文本等多種內(nèi)容都能用到。隨著大模型的出現(xiàn)，傳統(tǒng)的在特定數(shù)據(jù)集上進行微調(diào)的方法已經(jīng)不在適用。本文還發(fā)現(xiàn)微調(diào)模型生成的摘要往往具有固定且嚴格的長度LLM能夠根據(jù)輸入信息調(diào)整輸出長度。
Xwin-LM是一款基于Llama2微調(diào)的語言模型，最近在斯坦福大學(xué)的AlpacaEval評估中一舉擊敗了GPT-4，登上了榜首之位。這一成就引發(fā)了廣泛的關(guān)注，因為GPT-4一直以來在AlpacaEval上表現(xiàn)出色，勝率超過95%。這一研究對于推動自然語言處理領(lǐng)域的進步具有重要意義。
對標(biāo)GPT-4代碼解釋器，港中大最新研究放了個“大招”:他們開發(fā)了一個叫做MathCoder的大模型，數(shù)學(xué)能力直接在競賽級“題庫”Math上超過GPT-4。做到這一點靠的就是無縫集成代碼的能力——在遇到數(shù)學(xué)問題時，它不僅能用自然語言推理能自動編寫和執(zhí)行代碼來建模、推導(dǎo)公式與方程。通訊作者為李鴻升，為港中大電子工程系副教授，同時也就職于上海人工智能研究室。
【新智元導(dǎo)讀】斯坦福學(xué)者發(fā)現(xiàn)，GPT-4對于Nature、ICLR的論文給出的審稿意見，竟然和人類審稿人有超過50%的相似性。看來讓大模型來幫我們審論文，并不是天方夜譚啊。他的研究興趣涉及計算社會科學(xué)、社會計算和數(shù)據(jù)科學(xué)。
大型語言模型在推理任務(wù)上表現(xiàn)出令人驚艷的能力，特別是在給出一些樣例和中間步驟時。prompt方法往往依賴于LLM中的隱性知識，當(dāng)隱性知識存在錯誤或者與任務(wù)不一致時，LLM就會給出錯誤的回答。對于GPT3.5來說，這種改進并不顯著，因為在處理文本輸入時，它經(jīng)常產(chǎn)生除規(guī)則幻覺以外的錯誤。
智譜AI發(fā)布MathGLM數(shù)學(xué)模型，旨在增強大模型在數(shù)學(xué)推理方面的性能。它能夠精確計算算術(shù)運算，包括基礎(chǔ)算術(shù)運算和復(fù)雜混合運算，并提升模型的中文數(shù)學(xué)解決能力。MathGLM還在解決不同年級數(shù)學(xué)問題和數(shù)學(xué)應(yīng)用題上進行了實驗，取得了較好的結(jié)果。
數(shù)學(xué)通才「猛犸」模型給開源語言模型帶來了「推理春天」，面對GPT-4都有一戰(zhàn)之力!數(shù)學(xué)推理問題是語言模型繞不過的痛點，在各種黑科技的加持下，開源模型的推理性能依然不夠看?；F盧大學(xué)、俄亥俄州立大學(xué)、香港科技大學(xué)、愛丁堡大學(xué)的研究人員聯(lián)合開源了一個專為「通用數(shù)學(xué)問題」定制的大模型MAmmoTH和一個指令調(diào)優(yōu)數(shù)據(jù)集MathInstruct.論文鏈接:https://arxiv.org/pdf/2309.05653
OpenAI開源的數(shù)學(xué)數(shù)據(jù)集，中國廠商新成績一舉沖到最前列!就在9月16日，國產(chǎn)大模型在權(quán)威推理評測集GSM8K中，首次達到了80%正確率，大幅領(lǐng)先GPT-3.5和LLaMA2-70B。且這家廠商在大模型榜單上刷新全球紀錄，已經(jīng)不是第一次了?？梢圆豢鋸埖卣f一句，昆侖萬維和它家的天工大模型，已經(jīng)是大模型江湖中，一個繞不過去的狠角色了。
