站長(zhǎng)之家(ChinaZ.com) 5月6日 消息:一位曾任 OpenAI 安全研究人員的人正在發(fā)出警告，提醒人們人工智能可能最終導(dǎo)致人類終結(jié)的嚴(yán)峻前景。

前OpenAI 基金會(huì)員工保羅·克里斯蒂亞諾在一個(gè)播客節(jié)目中說(shuō)，“我認(rèn)為人工智能取代人類的可能性大約為10-20%，又或者大多數(shù)人類已經(jīng)死亡，需要非常嚴(yán)肅對(duì)待這個(gè)問(wèn)題?！?/p>

克里斯蒂亞諾認(rèn)為機(jī)器會(huì)逐漸地崛起，人類的終結(jié)不是一場(chǎng)突如其來(lái)的事件，而是人工智能逐漸地崛起，人類與機(jī)器已經(jīng)透過(guò)諸如自動(dòng)駕駛汽車、無(wú)人機(jī)等已經(jīng)滲透到了生活中。而當(dāng)AI超越人類智商閾值時(shí)，一切皆有可能。

克里斯蒂亞諾認(rèn)為，AI殺消滅人類的最可能方式是日常生活中部署的所有AI聯(lián)合起來(lái)，而不是突然消滅人類。

克里斯蒂亞諾的新非營(yíng)利組織 Alignment Research Center 基于人工智能對(duì)齊的概念，該概念早在2018年就被廣泛定義為讓機(jī)器的動(dòng)機(jī)與人類的動(dòng)機(jī)保持一致。盡管 OpenAI 口頭上說(shuō)要對(duì)齊，聲稱它“旨在使人工智能 （AGI） 與人類價(jià)值觀保持一致并遵循人類意圖”，但仍需要進(jìn)行更多的研究和開(kāi)發(fā)，以確保安全和合乎道德地開(kāi)發(fā)人工智能。確保機(jī)器的動(dòng)機(jī)與人類的動(dòng)機(jī)一致對(duì)于防止人工智能毀滅的可能性至關(guān)重要。

（舉報(bào)）