站長之家（ChinaZ.com）6月29日 消息:關(guān)于人工智能社區(qū)在是否保持人工智能模型開放（并冒不良行為者濫用它們的風(fēng)險）或選擇閉源僅由少數(shù)科技巨頭控制的問題，Hugging Face 的首席執(zhí)行官主張采取平衡的方法。

在國會聽證會上，Hugging Face 首席執(zhí)行官兼聯(lián)合創(chuàng)始人克萊門特·德蘭格 （Clement Delangue） 表示，讓人工智能更加開放“可以培養(yǎng)安全創(chuàng)新”。

德蘭格在眾議院科學(xué)、空間和技術(shù)委員會關(guān)于人工智能的聽證會上發(fā)表講話，他解釋說，擴(kuò)大機(jī)器學(xué)習(xí)模型和訓(xùn)練數(shù)據(jù)集的訪問范圍將使研究人員和用戶“更好地理解系統(tǒng)、進(jìn)行審計、降低風(fēng)險并找到高風(fēng)險”。

然而，這位互聯(lián)網(wǎng)最大的人工智能模型庫之一的CEO承認(rèn)，完全開放的系統(tǒng)會導(dǎo)致不良行為者濫用，因此他主張將人工智能開放性和問責(zé)制結(jié)合起來。德蘭格說:“我們有責(zé)任在人工智能研發(fā)的各個階段優(yōu)先考慮并記錄我們的道德工作?！?/span>

Hugging Face 首席執(zhí)行官認(rèn)為，開放系統(tǒng)促進(jìn)民主治理，增加訪問權(quán)限，尤其是研究人員的訪問權(quán)限，可以“幫助解決關(guān)鍵的安全問題”。

德蘭格在證詞中表示:“開放可以增強透明度并促進(jìn)外部審查。人工智能領(lǐng)域目前由少數(shù)高資源公司主導(dǎo)，他們對新穎的人工智能系統(tǒng)（包括基于開放研究的系統(tǒng)）提供有限或不開放的訪問權(quán)限。為了鼓勵競爭并增加人工智能經(jīng)濟(jì)機(jī)會，我們應(yīng)該讓許多人能夠參與進(jìn)來，為擴(kuò)大人工智能在有用應(yīng)用中的進(jìn)步廣度做出貢獻(xiàn)，而不僅僅是允許少數(shù)組織提高更強大模型的深度?！?/p>

OpenAI 等公司選擇將 GPT-4等模型閉源，以免泄露其功能的底層信息。德蘭格在國會作證時表示，所有人工智能模型、數(shù)據(jù)集和“人工智能系統(tǒng)的相關(guān)組件”都應(yīng)該共享細(xì)節(jié)，以提高透明度。

Hugging Face 在其平臺上擁有超過250，000個模型，其首席執(zhí)行官認(rèn)為，發(fā)布更多有關(guān)模型的文檔將有助于減輕風(fēng)險，因為用戶和開發(fā)人員將能夠了解如何衡量它們。

德蘭格加入了人工智能初創(chuàng)公司 Anthropic 最近的呼吁，呼吁增加對國家標(biāo)準(zhǔn)與技術(shù)研究所的投資，以提高人工智能的透明度。

美國國家標(biāo)準(zhǔn)與技術(shù)研究院NIST 一直致力于制定人工智能標(biāo)準(zhǔn)，德蘭格在證詞中表示，該機(jī)構(gòu)需要更多資源來幫助對抗人工智能偏見和風(fēng)險。他說:“增加對 NIST 的資助既可以加強美國政府的技術(shù)領(lǐng)導(dǎo)地位，也可以改善跨部門研究人員合作解決人工智能風(fēng)險的空間?！?/span>

德蘭格還呼吁為美國國家人工智能研究資源 （NAIRR） 提供更多資金，并補充說，資源的擴(kuò)大限制了“誰能夠為創(chuàng)新研究和應(yīng)用做出貢獻(xiàn)”。

（舉報）