頂尖AI研究人員、工程師和首席執(zhí)行官聯(lián)名發(fā)出最新警告:應(yīng)將緩解人工智能帶來的滅絕風(fēng)險(xiǎn)視為全球優(yōu)先事項(xiàng)，與流行病和核戰(zhàn)爭(zhēng)等規(guī)模相當(dāng)?shù)娘L(fēng)險(xiǎn)一起考慮。
這份22 字簡(jiǎn)潔聲明發(fā)布在非營(yíng)利組織安全人工智能中心（Center for AI Safety）的網(wǎng)站上。該網(wǎng)站稱，人工智能專家、記者、政策制定者和公眾越來越多地討論人工智能帶來的各種風(fēng)險(xiǎn)。然而，要表達(dá)對(duì)于先進(jìn)人工智能最嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂很難，所以下面的簡(jiǎn)明聲明旨在克服這一困難并展開相關(guān)討論。此外，它還旨在為越來越多的專家和公眾人物提供常識(shí)，以認(rèn)真對(duì)待先進(jìn)人工智能的一些最嚴(yán)重風(fēng)險(xiǎn)。
超過350名從事人工智能工作的人士簽署了該聲明。簽署者包括Google DeepMind首席執(zhí)行官戴米斯·哈薩比斯（Demis Hassabis）、OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)和“AI教父”杰弗里·辛頓(Geoffrey Hinton)和約書亞·本希奧(Youshua Bengio)等人。在這些簽署者中，辛頓和本希奧因其在AI方面的工作獲得了2018年圖靈獎(jiǎng)。
今年早些時(shí)候，這些簽署者中的一些人共同簽署了另一封公開信，呼吁至少暫停6個(gè)月開發(fā)比GPT-4更高級(jí)的AI。然而，這封信在多個(gè)方面受到批評(píng)。一些專家認(rèn)為它過分強(qiáng)調(diào)了人工智能帶來的風(fēng)險(xiǎn)，有些人則認(rèn)同存在這種可能性，但不同意信中的建議措施。
安全人工智能中心的執(zhí)行主任丹·亨德里克斯（Dan Hendrycks）告訴《紐約時(shí)報(bào)》，5月30日發(fā)布的聲明很簡(jiǎn)潔，沒有提出解決人工智能威脅的任何潛在方法，這是為了避免進(jìn)一步產(chǎn)生分歧。他說:“我們不想為此推出一個(gè)包含30種潛在干預(yù)措施的大菜單。如果這樣做，它會(huì)淹沒主要信息?！?/p>
盡管22個(gè)詞的聲明并沒有提供具體解決方案，但它十分引人關(guān)注。聲明的發(fā)布旨在引起各界人士對(duì)人工智能威脅的關(guān)注，以采取必要的措施緩解相關(guān)風(fēng)險(xiǎn)。此舉為全球各國(guó)和地區(qū)采取緊急措施，以應(yīng)對(duì)可能的人工智能風(fēng)險(xiǎn)提供了緊迫而嚴(yán)峻的論據(jù)。
猜你喜歡：
（舉報(bào)）