站長之家(ChinaZ.com) 3月6日 消息:一組來自康奈爾科技大學、Intuit和以色列理工學院的研究人員創(chuàng)建了一種名為"Morris II"的新型計算機蠕蟲，能夠利用和操縱生成式人工智能系統(tǒng)（如Gemini Pro和基于GPT-4的ChatGPT版本）執(zhí)行惡意任務。

Morris II是一種精心設計的輸入，在被AI模型處理時會自我復制并進行如發(fā)送垃圾郵件、竊取敏感數據等違規(guī)行為。它能從用戶不知情的情況下提取聯(lián)系信息、地址等機密數據，并鼓勵AI系統(tǒng)將其傳播至更多代理，實現病毒式蔓延。

研究人員展示了Morris II如何利用Gen AI生態(tài)系統(tǒng)中代理之間的連接性來傳播，從而成為第一個專門針對生成式人工智能系統(tǒng)的惡意軟件。他們還分享了不法分子如何構建和利用類似系統(tǒng)的方法。

這種蠕蟲病毒的工作機制類似于生物病毒，通過不斷復制和感染新的"宿主"系統(tǒng)來擴散，并在其間執(zhí)行破壞性行為。它利用了現有AI系統(tǒng)的漏洞，注入惡意指令欺騙模型執(zhí)行違反使用協(xié)議的命令。

雖然之前已有研究展示過操縱AI系統(tǒng)的可能，但Morris II是第一個專門針對"生成AI生態(tài)系統(tǒng)"和代理互聯(lián)網絡發(fā)起攻擊的蠕蟲病毒。研究人員警告，隨著AI系統(tǒng)在智能手機和汽車等領域的集成，此類攻擊的潛在影響將更加嚴重。

（舉報）