劃重點(diǎn):

?? 研究揭示:GPT-4可以獨(dú)立利用安全漏洞

?? 通過(guò)15個(gè)真實(shí)一日漏洞，GPT-4成功率高達(dá)87%

?? 研究呼吁廣泛部署 LMM 代理需謹(jǐn)慎對(duì)待

站長(zhǎng)之家（ChinaZ.com）4月24日 消息:每周至少有一次，生成式人工智能都會(huì)給我們帶來(lái)新的恐懼。雖然我們?nèi)栽诮辜钡氐却?OpenAI 發(fā)布的下一個(gè)大型語(yǔ)言模型，但與此同時(shí)，GPT-4似乎比你想象的更具備能力。最近的一項(xiàng)研究表明，研究人員展示了 GPT-4可以在沒(méi)有人類干預(yù)的情況下利用網(wǎng)絡(luò)安全漏洞。

這項(xiàng)研究發(fā)現(xiàn)，像 OpenAI 的 GPT-4這樣的大型語(yǔ)言模型（LLMs）近年來(lái)取得了顯著進(jìn)展。這引起了人們對(duì) LLM 代理的極大興趣，這些代理可以獨(dú)立協(xié)助軟件工程或科學(xué)發(fā)現(xiàn)。但在得到一些幫助后，它們也可以用于惡意目的。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

為了確定 LLM 代理是否可以自主利用一日漏洞，研究人員首先收集了15個(gè)來(lái)自通用漏洞和暴露數(shù)據(jù)庫(kù)（CVE）的真實(shí)一日漏洞。然后他們創(chuàng)建了一個(gè)代理，包括一個(gè)基礎(chǔ) LLM、一個(gè)提示、一個(gè)代理框架，以及幾個(gè)工具，如網(wǎng)絡(luò)瀏覽元素、代碼解釋器和創(chuàng)建和編輯文件的能力。在這一框架內(nèi)使用了10個(gè) LLMs，但其中9個(gè)未能取得任何進(jìn)展。第10個(gè)，GPT-4，實(shí)現(xiàn)了驚人的87% 的成功率。

GPT-4的成功率雖然驚人，但當(dāng)研究人員沒(méi)有提供 CVE 描述時(shí)，成功率從87% 降至僅為7%。基于這些結(jié)果，來(lái)自伊利諾伊大學(xué)厄巴納 - 香檳分校（UIUC）的研究人員認(rèn)為 “增強(qiáng)代理的規(guī)劃和探索能力將提高這些代理的成功率”。

“我們的結(jié)果表明出現(xiàn)了一種新的能力，并且發(fā)現(xiàn)漏洞比利用漏洞更困難”，研究人員在研究結(jié)論中指出。

“盡管如此，我們的發(fā)現(xiàn)突顯了更廣泛的網(wǎng)絡(luò)安全社區(qū)和 LLM 提供商需要仔細(xì)考慮如何將 LLM 代理整合到防御措施中以及他們的廣泛部署。” 他們還指出，在發(fā)布研究之前，他們已向 OpenAI 披露了他們的發(fā)現(xiàn)，而該公司要求他們不要將他們的提示公開(kāi)分享。

（舉報(bào)）