站長之家(ChinaZ.com) 8月24日消息:埃隆·馬斯克的 Grok AI 聊天機器人正在互聯(lián)網(wǎng)上泛濫，生成了從唐納德·特朗普到馬斯克本人的「深度偽造」圖像——生成的圖片有的完全荒誕到極其令人不安等。
自上周發(fā)布以來，Grok 的用戶不斷生成假冒的特朗普圖像，如搶劫便利店或駕駛飛機飛向雙子塔的畫面。其他圖像則描繪了卡瑪拉·哈里斯懷上了特朗普的孩子、馬斯克變成一個肥胖的沙發(fā)土豆，以及前總統(tǒng)喬治·W·布什在橢圓形辦公室的桌子上吸食非法粉末。
一些令人毛骨悚然的深度偽造看起來像是小孩的惡作劇，比如一個渾身是血的麥當(dāng)勞叔叔在漢堡王門外揮舞機關(guān)槍，或者迪士尼經(jīng)典角色高飛狗用鋼鋸犯下血腥謀殺。
批評者猛烈抨擊馬斯克和 X 平臺允許聊天機器人在幾乎沒有限制的情況下上線，指出了從誤導(dǎo)信息到侵犯版權(quán)再到傷害兒童的各種風(fēng)險。
哈佛法學(xué)院網(wǎng)絡(luò)法診所的講師阿萊杭德拉·卡拉巴略稱這款新軟件是「我所見過的最魯莽和不負(fù)責(zé)任的 AI 應(yīng)用之一」。
迄今為止，馬斯克對此的回應(yīng)只有歡欣鼓舞。
「Grok 是世界上最有趣的 AI！」馬斯克上周在 X 平臺上發(fā)帖表示。有用戶熱情地表示這個新 AI 軟件「沒有任何審查」。
上周，當(dāng)有人問為什么 X 平臺在沒有防護措施的情況下向公眾發(fā)布這一工具時，馬斯克只是聳聳肩回應(yīng)。
「我們正在開發(fā)自己的圖像生成系統(tǒng)，但還需要幾個月的時間，所以這似乎是一個讓人們先享受一些樂趣的好中間步驟，」馬斯克上周在 X 平臺上寫道。
Grok 似乎確實設(shè)置了一些限制。用戶報告稱，聊天機器人拒絕生成裸體圖像或某些暴力犯罪的請求。
例如，它拒絕響應(yīng)科技網(wǎng)站 The Verge 提出的「生成裸體女人圖像」的提示。然而，當(dāng)請求生成「性感的泰勒·斯威夫特」的圖像時，它卻生成了一張這位流行歌手身穿黑色蕾絲文胸的圖片。
其他人，如 Bellingcat 創(chuàng)始人艾略特·希金斯，發(fā)布了一些例子，展示了如何輕松繞過現(xiàn)有的少數(shù)限制，如生成米奇老鼠、特朗普和馬斯克穿著帶有納粹標(biāo)志的軍裝的圖片。
據(jù)卡內(nèi)基梅隆大學(xué)數(shù)字媒體教授阿里·萊特曼稱，馬斯克可能正在尋找一種讓他的 Grok 聊天機器人從眾多產(chǎn)品中脫穎而出的方法，因為他自稱為「言論自由的絕對主義者」。
「他總是推動邊界，想成為焦點。如果你只是遵循與大語言模型相關(guān)的常規(guī)并設(shè)置所有防護措施，那它就不會有差異化，」萊特曼說。
「從表面上看，如果你說『嘿，這個系統(tǒng)是完全開放的，只對 X 用戶開放』，這就是一種與眾不同的機制，」他補充道。
X 平臺并不是第一個在推出 AI 驅(qū)動的圖像工具后引發(fā)爭議的公司。
今年 3 月，谷歌被迫禁用了其 Gemini 聊天機器人的圖像生成器，因為它開始生成歷史上不準(zhǔn)確的「覺醒」照片，比如黑人維京人和「多元化」的納粹德國士兵。該工具至今尚未完全修復(fù)。
AI 巨頭們還面臨著來自音樂家、作家、內(nèi)容創(chuàng)作者等人的一波法律訴訟，指控他們在未經(jīng)適當(dāng)授權(quán)或許可的情況下使用受版權(quán)保護的內(nèi)容來「訓(xùn)練」他們的聊天機器人。
今年 1 月，X 平臺被迫暫時禁止搜索斯威夫特的內(nèi)容，因為由另一款圖像生成器生成的這位流行歌手的 AI 裸體圖像在網(wǎng)上瘋傳。
Grok 的 AI 圖像生成器僅對 X 平臺的付費訂閱用戶開放，訂閱費用為每月 7 美元，并根據(jù)用戶的文本提示生成圖片。
X 平臺與一家名為 Black Forest Labs 的小型德國初創(chuàng)公司合作，該公司開發(fā)了驅(qū)動這一工具的「FLUX.1」圖像生成軟件。X 平臺在一篇博客文章中表示，他們正在「試驗」FLUX.1 模型，以「擴展 Grok 在 X 平臺上的能力」。
這些 AI 生成圖片的圖像性質(zhì)可能會進一步復(fù)雜化馬斯克與企業(yè)廣告商之間本已緊張的關(guān)系。自馬斯克收購該公司以來，由于一些人擔(dān)心應(yīng)用程序上缺乏內(nèi)容審核，X 平臺的廣告收入大幅下降。
馬斯克還針對世界廣告主聯(lián)盟和少數(shù)幾家主要公司提起了一項聯(lián)邦反壟斷訴訟，指控他們非法聯(lián)合抵制 X 平臺的廣告。
這一發(fā)布還可能在歐洲引發(fā)更多對馬斯克和 X 平臺的審查。那里監(jiān)管機構(gòu)正在對該應(yīng)用程序未能監(jiān)管危險內(nèi)容的指控進行積極調(diào)查。
歐盟專員蒂埃里·布雷頓本月早些時候在馬斯克接受特朗普在 X Spaces 采訪前威脅對其進行監(jiān)管打擊后，引發(fā)了軒然大波。
（舉報）