站長之家(ChinaZ.com) 11 月 27 日消息:美國、英國及其他十幾個個國家于周日聯(lián)合發(fā)布了一份 20 頁的文件，標(biāo)志著首個詳細的國際協(xié)議在如何保護人工智能（AI）免受惡意行為者濫用方面達成一致。美國一高級官員描述此協(xié)議為確保公司創(chuàng)建的 AI 系統(tǒng)從設(shè)計開始就是安全的重要步驟。

這份非約束性協(xié)議主要包含一些普遍建議，如監(jiān)控 AI 系統(tǒng)以防濫用、保護數(shù)據(jù)免受篡改，以及審查軟件供應(yīng)商。盡管如此，美國網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局局長 Jen Easterly 強調(diào)，如此多國家對 AI 系統(tǒng)安全優(yōu)先的觀念表示支持十分重要。

Easterly 在接受路透社采訪時表示：「這是我們首次看到對這些能力的肯定不僅僅是關(guān)于酷炫功能，以及我們?nèi)绾慰焖偻葡蚴袌龌蚋偁幰越档统杀?，而是一個認同，認為設(shè)計階段最重要的事情是安全?！?/p>

此協(xié)議是全球政府試圖影響 AI 發(fā)展的一系列舉措中的最新一項。這些舉措雖大多沒有實際執(zhí)行力，但 AI 在工業(yè)和社會中的影響越來越大。

除了美國和英國，簽署新指導(dǎo)原則的國家還包括德國、意大利、捷克共和國、愛沙尼亞、波蘭、澳大利亞、智利、以色列、尼日利亞和新加坡等。

該框架處理了如何防止 AI 技術(shù)被黑客劫持的問題，并包括建議，如僅在適當(dāng)?shù)陌踩珳y試后發(fā)布模型。

該協(xié)議并未處理圍繞 AI 適當(dāng)使用的復(fù)雜問題，以及這些模型所依賴的數(shù)據(jù)是如何收集的。

AI 的興起引發(fā)了一系列擔(dān)憂，包括它可能被用來破壞民主進程、加劇欺詐或?qū)е麓笠?guī)模失業(yè)等危害。

在 AI 監(jiān)管方面，歐洲領(lǐng)先于美國，歐洲立法者正在起草 AI 規(guī)則。法國、德國和意大利最近也達成了關(guān)于如何監(jiān)管人工智能的協(xié)議，支持對所謂的 AI 基礎(chǔ)模型實施「通過行為準(zhǔn)則的強制性自我監(jiān)管」。

拜登政府一直在向立法者施壓以監(jiān)管 AI，但在通過有效監(jiān)管方面，兩極分化的美國國會進展甚微。

白宮在 10 月發(fā)布了一項新的行政命令，旨在降低 AI 對消費者、工人和少數(shù)群體的風(fēng)險，同時加強國家安全。

（舉報）