11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵眚v訊云選購吧!
研究人員在美國馬里蘭大學(xué)成功開發(fā)了一種高效的方法,可以在一分鐘內(nèi)誘導(dǎo)大型語言模型產(chǎn)生有害反應(yīng),他們將這一技術(shù)命名為BEAST。BEAST技術(shù)利用NvidiaRTXA6000GPU、48GB內(nèi)存和即將發(fā)布的開源代碼,僅需一分鐘的GPU處理時(shí)間,就能讓LLM飛越其防護(hù)欄?!贝搜芯繌?qiáng)調(diào)了確保未來更強(qiáng)大AI模型的安全部署需要制定可證明的安全保證。
據(jù)darkreading報(bào)道,谷歌研究人員已經(jīng)發(fā)現(xiàn)了針對(duì)現(xiàn)實(shí)世界人工智能系統(tǒng)的六種特定攻擊,發(fā)現(xiàn)這些常見的攻擊向量表現(xiàn)出一種獨(dú)特的復(fù)雜性,他們指出,這將需要結(jié)合對(duì)抗性模擬和人工智能專家的幫助來構(gòu)建一個(gè)堅(jiān)實(shí)的防御。該公司在本周發(fā)布的一份報(bào)告中透露,其專門的人工智能紅隊(duì)已經(jīng)發(fā)現(xiàn)了這項(xiàng)快速發(fā)展的技術(shù)面臨的各種威脅,主要基于攻擊者如何操縱驅(qū)動(dòng)生成式人工智
今日,國內(nèi)最權(quán)威的信息安全會(huì)議之一,第19屆XCon安全焦點(diǎn)信息安全技術(shù)峰會(huì)于北京舉行,騰訊朱雀實(shí)驗(yàn)室首度亮相公眾視野。這個(gè)頗有神秘色彩的安全實(shí)驗(yàn)室由騰訊安全平臺(tái)部孵化,專注于實(shí)戰(zhàn)攻擊技術(shù)研究和AI安全技術(shù)研究,以攻促防,守護(hù)騰訊業(yè)務(wù)及用戶安全。會(huì)上,騰訊朱雀實(shí)驗(yàn)室高級(jí)安全研究員nEINEI分享了一項(xiàng)AI安全創(chuàng)新研究:模擬實(shí)戰(zhàn)中的黑客攻擊路徑,擺脫傳統(tǒng)利用“樣本投毒”的AI攻擊方式?