站長之家(ChinaZ.com) 8月17日消息:盡管還沒有到萬圣節(jié)，但一些 Snapchat 用戶卻覺得像是在這個節(jié)日已經到來。周二晚上，Snapchat 的 My AI 聊天機器人發(fā)布了一個神秘的一秒鐘的視頻，畫面上似乎是一面墻和一個天花板，盡管以前從未在消息中添加過視頻。當用戶問聊天機器人時，機器保持了怪異的沉默。

圖片來自 Snap

「My AI」是內置在 Snapchat 應用中的聊天機器人，人們可以像和真人對話一樣與其交流。它由 OpenAI 的大型語言模型（LLM）技術提供支持，類似于 ChatGPT。它能機智地回答問題，并推薦 Snapchat 的功能，讓人感覺像是一個時髦的年輕人與在線的好友聊天。

當?shù)貢r間昨天晚上，許多人發(fā)現(xiàn)「My AI」發(fā)布了一個雙色調場景的短視頻作為「故事」（Snapchat 稱之為共享照片或視頻），這讓用戶感到震驚，因為之前沒有人知道機器人具備這種功能。而且機器人虛假的個性讓人很容易以為這個視頻背后存在著某種故意，盡管實際上可能只是一個奇怪的技術故障。

「我的 Snapchat AI 發(fā)布了一個隨機的 1 秒故事，不回復我，我好害怕，「一位用戶寫道。許多人在周二晚上通過社交媒體表達了同樣的情緒。

一位 Snap 發(fā)言人告訴 Mashable，他們的 My AI 機器人「發(fā)生了故障」。目前尚不清楚為什么故障會導致發(fā)布神秘圖像，也許公司正在試驗一種圖像或視頻生成功能。

然而，這種強烈的反應凸顯了許多人對人工智能潛在風險的擔憂。自 4 月份推出以來，這款工具不僅受到了家長們的反對，還受到了一些 Snapchat 用戶的批評，主要是涉及隱私問題、「可怕」的對話內容以及除非付費訂閱，否則無法從聊天記錄中移除該功能。

顯然，作為 OpenAI 訓練的大型語言模型，聊天機器人的功能有限，不會像人類那樣思考或感受。然而，它能以驚人的能力模仿人類，這可能會在不可避免地捏造錯誤信息時引發(fā)倫理困境。盡管存在這種可能性，Snapchat 仍然將這個功能推廣給全球數(shù)億用戶。

與其他一些 AI 工具不同，Snapchat 的版本有一些關鍵的區(qū)別：用戶可以自定義聊天機器人的名稱，為其設計一個自定義的 Bitmoji 頭像，并將其引入與朋友的對話中。總體效果是，與 Snapchat 的聊天機器人交流可能會感覺不那么事務性，就好像訪問 ChatGPT 的網站一樣。而且，您是否正在與計算機交談也可能弄不太清楚。

由于這個 AI 圖像與墻壁和天花板相似，很多人認為我的 AI 可能在監(jiān)視他們。一位用戶說：「我發(fā)誓我以為那是我家的墻壁，尤其是我現(xiàn)在正坐在我的客廳里?！沽硪粋€人寫道：「這看起來跟我家的墻完全一樣，差點嚇死我。」

對于那些不熟悉這種技術運作方式的人來說，難以解讀的機器中的幽靈現(xiàn)象可能很難理解。但每個用戶都收到了相同的視頻，在網上發(fā)現(xiàn)這一事實讓人松了一口氣。

一位用戶寫道：「雖然我感到害怕，但我很高興還有其他人收到了同樣的圖片，它和我租住的地方的墻壁和天花板非常相似?！?/p>

雖然一些人可能會發(fā)現(xiàn)這個工具有價值，但這種褒貶不一的反應暗示著企業(yè)在向產品中引入新的生成式 AI 技術時所面臨的挑戰(zhàn)，尤其是像 Snapchat 這樣的產品，其用戶主要是年輕人。

當 OpenAI 將 ChatGPT 開放給第三方企業(yè)時，Snapchat 成為早期合作伙伴之一，預計還會有更多的合作伙伴加入。

（舉報）