站長(zhǎng)之家(ChinaZ.com) 7月20日 消息:據(jù)《紐約時(shí)報(bào)》報(bào)道，OpenAI 目前掩蓋了圖像中的人臉，并且不允許GPT-4通過(guò)圖像識(shí)別來(lái)處理它們。

這對(duì)盲人影響很大，他們?cè)凇癇e My Eyes”實(shí)驗(yàn)中使用具有圖像增強(qiáng)功能的 GPT-4來(lái)獲得環(huán)境和人的詳細(xì)描述。對(duì)環(huán)境的描述仍然可用，但對(duì)人物的描述最近已被禁用，并且圖像上的面孔變得模糊。

具有圖像功能的 GPT-4可以識(shí)別名人，例如 OpenAI 首席執(zhí)行官 Sam Altman，它在 AI 訓(xùn)練中見(jiàn)過(guò)很多這樣的人的圖像。GPT-4不會(huì)識(shí)別互聯(lián)網(wǎng)上許多圖像中未出現(xiàn)的人。

因此，它的識(shí)別和監(jiān)控能力遠(yuǎn)不如Clearview AI或 PimEyes 等人工智能系統(tǒng)那么廣泛，后者針對(duì)這種場(chǎng)景進(jìn)行了優(yōu)化，可以根據(jù)細(xì)節(jié)識(shí)別圖像中的人物。

然而，除了識(shí)別之外，OpenAI 在分析人臉時(shí)還面臨更多問(wèn)題:例如，即使圖像中的人未知，他或她也可能被描述并與錯(cuò)誤的性別或情緒狀態(tài)相關(guān)聯(lián)。

對(duì)于數(shù)億用戶來(lái)說(shuō)，這可能會(huì)導(dǎo)致大量投訴。此外，圖像分析據(jù)說(shuō)足夠強(qiáng)大，可以繞過(guò)常見(jiàn)的驗(yàn)證碼系統(tǒng)。

OpenAI 政策研究員桑迪尼·阿加瓦爾 （Sandhini Agarwal） 表示，錯(cuò)誤識(shí)別也是可能的，例如，模型正確識(shí)別了一個(gè)人的首席執(zhí)行官角色，但為該角色分配了錯(cuò)誤的名稱。

“我們非常希望這是與公眾的雙向?qū)υ?。如果我們?tīng)到的是，‘我們實(shí)際上不想要任何東西’，那我們就非常同意，”阿加瓦爾說(shuō)。

微軟和谷歌也阻止面部識(shí)別

谷歌的聊天機(jī)器人 Bard 還提供圖像分析功能。目前，巴德拒絕就已知和未知人員的圖像發(fā)表聲明，并在沒(méi)有進(jìn)一步詢問(wèn)的情況下刪除了上傳的人員圖像。另一方面，谷歌的 Lens 視覺(jué)搜索可以識(shí)別 Sam Altman 的圖像并正確識(shí)別他。

微軟還將視覺(jué)圖像搜索集成到 Bing Chat 中。上傳人物圖像后，Bing Chat 表示“出于隱私原因”該圖像將被模糊。然而，聊天機(jī)器人將提供如何通過(guò) Google 圖片、社交媒體或 TinEyes 找到此人的建議。

（舉報(bào)）