11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵眚v訊云選購吧!
人工智能可能有一天會(huì)讓人類變得過時(shí)——不過方式可能不是你想象的那樣。與其說 AI 會(huì)變得足夠優(yōu)秀以至于取代人類完成任務(wù),不如說我們可能會(huì)變得如此依賴不完美的工具,以至于我們自己的能力逐漸退化。微軟和卡內(nèi)基梅隆大學(xué)的研究人員發(fā)布了一項(xiàng)新研究,發(fā)現(xiàn)人類越是依賴 AI 工具來完成任務(wù),他們的批判性思維就越少,這使得在需要時(shí)更加難以調(diào)動(dòng)這些技能。研究
微軟研究人員挑戰(zhàn)了語言模型預(yù)訓(xùn)練的傳統(tǒng)方法,該方法在訓(xùn)練語料庫中的所有token上均勻應(yīng)用下一個(gè)token預(yù)測(cè)損失。他們提出了一種新的語言模型稱為RHO-1,該模型利用選擇性語言建模。SLM可以擴(kuò)展到監(jiān)督微調(diào),以解決數(shù)據(jù)集中的噪聲和分布不匹配,并通過訓(xùn)練一個(gè)強(qiáng)調(diào)幫助性、真實(shí)性和無害性的參考模型來獲得在預(yù)訓(xùn)練期間獲得本地對(duì)齊的基本模型。
微軟公司的研究團(tuán)隊(duì)最近提出了一種獨(dú)特且簡(jiǎn)單的方法,用于生成高質(zhì)量的文本嵌入。這種新方法僅使用合成數(shù)據(jù)和極少的訓(xùn)練步驟,就取得了令人矚目的成果。該研究的訓(xùn)練過程極大地減少了對(duì)中間預(yù)訓(xùn)練的需求,相較于當(dāng)前的多階段系統(tǒng),更加簡(jiǎn)潔高效。
近期的研究表明,通過在高質(zhì)量指令數(shù)據(jù)集上進(jìn)行微調(diào),生成的模型可以在廣泛的任務(wù)上展現(xiàn)出色的能力?,F(xiàn)有的指令數(shù)據(jù)生成方法通常會(huì)產(chǎn)生重復(fù)數(shù)據(jù),并且在數(shù)據(jù)質(zhì)量上不夠可控。未來的工作可能會(huì)探索不同任務(wù)和更大數(shù)據(jù)集之間的相互作用,以進(jìn)一步增強(qiáng)單任務(wù)性能和泛化能力。
人工智能領(lǐng)域的趨勢(shì)是采用預(yù)訓(xùn)練、可調(diào)整表示的方法,為各種應(yīng)用提供任務(wù)不可知的優(yōu)勢(shì)。與此趨勢(shì)相呼應(yīng),微軟研究推出了Florence-2,這是一款靈活的視覺基礎(chǔ)模型,通過統(tǒng)一提示式表示成功應(yīng)對(duì)了計(jì)算機(jī)視覺中的挑戰(zhàn)。如果您喜歡他們的工作,請(qǐng)查看論文,并加入他們的社交媒體群體,獲取最新的人工智能研究新聞和有趣的項(xiàng)目。
微軟研究員最近發(fā)布了名為“EmotionPrompt”的研究成果,旨在增強(qiáng)多語言模型的情感智能。情感智能被認(rèn)為是人類素質(zhì)的一個(gè)關(guān)鍵組成部分,它涵蓋了情感理解、情感處理以及如何利用情感數(shù)據(jù)來指導(dǎo)邏輯和分析過程,如問題解決和行為管理。這項(xiàng)研究為多語言模型的情感智能潛力提供了初步的研究,有望在各種應(yīng)用領(lǐng)域取得進(jìn)展。
微軟的研究人員近日推出了一項(xiàng)名為L(zhǎng)oRAShear的創(chuàng)新技術(shù),旨在剪枝大型語言模型并實(shí)現(xiàn)知識(shí)的高效恢復(fù)。LLMs在處理文本數(shù)據(jù)和迅速檢索相關(guān)信息方面表現(xiàn)出色,廣泛應(yīng)用于搜索引擎和問答系統(tǒng)。未來的工作將集中在解決這些挑戰(zhàn),為人工智能領(lǐng)域的發(fā)展提供更多的支持。
學(xué)習(xí)英語并不容易,許多學(xué)生都深有體會(huì)。但當(dāng)學(xué)生是一臺(tái)計(jì)算機(jī)時(shí),有一種方法表現(xiàn)出奇地出色:只需將大量來自互聯(lián)網(wǎng)的文本輸入到一個(gè)名為神經(jīng)網(wǎng)絡(luò)的巨大數(shù)學(xué)模型中。他們的研究結(jié)果暗示了可能有助于訓(xùn)練更大型模型并理解其行為的新研究方向。
本文概要:1.微軟研究認(rèn)為GPT-4足夠應(yīng)對(duì)醫(yī)療任務(wù),可以加速醫(yī)療流程并提高效率。2.GPT-4在醫(yī)療領(lǐng)域展現(xiàn)出了令人印象深刻的能力,可以處理大規(guī)模的非結(jié)構(gòu)化患者數(shù)據(jù)。這一愿景代表了基于證據(jù)的精確健康的夢(mèng)想,大型語言模型將在推動(dòng)我們走向這個(gè)激動(dòng)人心且具有變革性的未來中發(fā)揮關(guān)鍵作用。
在谷歌宣布生成式AI+Bard開啟公測(cè)后,微軟研究院首席研究員Kate+Crawford在社交媒體發(fā)布文章,質(zhì)疑Bard的訓(xùn)練數(shù)據(jù)集調(diào)用了Gmail的數(shù)據(jù)。Crawford質(zhì)疑谷歌為了訓(xùn)練AI,侵犯了所有使用Gmail用戶的隱私。如果谷歌在Bard的訓(xùn)練集中加入了Gmail的數(shù)據(jù),將對(duì)大量用戶的個(gè)人隱私數(shù)據(jù),甚至是企業(yè)的商業(yè)數(shù)據(jù),造成泄露。