11.11云上盛惠!海量產品 · 輕松上云!云服務器首年1.8折起,買1年送3個月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享。快來騰訊云選購吧!
埃隆·馬斯克的GrokAI聊天機器人正在互聯(lián)網上泛濫,生成了從唐納德·特朗普到馬斯克本人的「深度偽造」圖像——生成的圖片有的完全荒誕到極其令人不安等。自上周發(fā)布以來,Grok的用戶不斷生成假冒的特朗普圖像,如搶劫便利店或駕駛飛機飛向雙子塔的畫面。歐盟專員蒂埃里·布雷頓本月早些時候在馬斯克接受特朗普在XSpaces采訪前威脅對其進行監(jiān)管打擊后,引發(fā)了軒然大波。
AI生成的埃隆?馬斯克的形象,已經出現(xiàn)在數(shù)千條虛假廣告中,導致許多人被騙。AI驅動的“深度偽造”視頻預計每年將造成數(shù)十億美元的欺詐損失。AI行業(yè)正在快速發(fā)展,這些伴隨產生的欺詐事件,需要AI行業(yè)和監(jiān)管部門共同努力應對,以防止濫用。
世界最大的廣告集團WPP的首席執(zhí)行官成為一起精心策劃的深度偽造詐騙行動的目標。WPP的CEOMarkRead在最的一封郵件中詳細描述了這次未遂詐騙行動,并警告公司其他高管要提防自稱是高管電話。深度偽造音頻已經瞄準了世界各地的政治選人,但也逐漸滲入其他不那么知名的目標。
英國一組議員建議通過法律禁止人工智能對音樂明星進行深度偽造,以保護他們的聲和形象不受侵害。200多名音樂人簽署了一封公開信,呼吁加強AI濫用的保護,認為AI對藝術家的聲音和形象構成潛在威脅。保護創(chuàng)意和知識產權至關重要,以及確保我們的人類本質不受侵犯。
兒童虐待者正在利用人工智能技術制作"深度偽造品"來勒索受害者拍攝自己的虐待行為,從開始一個可持續(xù)數(shù)年的性勒索循環(huán)。制作模擬虐待兒童圖像是非法的,工黨和保守黨一致呼吁禁止所有由人工智能生成的露骨圖像。政策文件建議,短期內應針對單一用途"裸體"工具的創(chuàng)建者和宿主采取行動,但長期應對抗明確的人工智能圖像問題仍需進一步探討。
微軟演示了VASA–1,這是一個基于靜態(tài)圖像、音頻樣本和文本腳本來創(chuàng)建人物講話視頻的框架,微軟聲稱——這是正確的——這個框架太危險了,不適合向公眾發(fā)布。這些由AI生成的視頻,可以讓人物以克隆的聲音令人信服地配合腳本說話,正是美國聯(lián)邦貿易委員會上個月警告的那種情形,之前已提出規(guī)則以防止利用AI技術進行冒充詐騙。隨著這些技術變得越來越復雜,它們有?
數(shù)百名人工智能領域的專家簽署了一封公開信,敦促政府對人工智能生成的深度偽造進行嚴格監(jiān)管。這封公開信由500多名人工智能領域的人士簽署,強調深度偽造對社會構成了日益增長的威脅,政府應該在整個供應鏈上實施義務,阻止深度偽造的傳播。如果立法者決定著手處理這個問題——盡管在選舉年份,國會分歧嚴重,這是一個不太可能的事件——他們將有這份名單來了解全球人工智能學術和開發(fā)社區(qū)的立場。
最近關于「美國總統(tǒng)大選現(xiàn)人工智能造假」的報道揭示了人工智能技術在社會和政治領域的潛在影響。美國媒體近期曝光了一家人工智能初創(chuàng)公司通過其技術進行的“深度偽造”,模擬美國總統(tǒng)拜登電話呼叫。通過AIbase的人工智能產品庫,您可以更全面地了解和選擇適合您需求的人工智能工具,確保其合理使用。
谷歌研究團隊發(fā)布了一款名為Lumiere的先進人工智能視頻生成器,引起了對深度偽造技術可能增加的擔憂。Lumiere能夠根據(jù)簡單的文本提示創(chuàng)建逼真的五秒視頻,其先進之處在于采用了"時空U-Net架構",通過一次傳遞即生成整個視頻的時間持續(xù)序列。谷歌尚未回應有關Lumiere的進一步問題。
在上周的開發(fā)者大會上,微軟宣布了其在人工智能競賽中的最新貢獻:一款可以生成新頭像和聲音,或復制用戶現(xiàn)有外觀和語音的軟件,這引發(fā)了人們對它可能加劇深度偽造創(chuàng)造的擔憂。深度偽造是指使用AI制作的未曾發(fā)生事件的視頻。Meta本周宣布了一項政策,要求披露在政治廣告中使用AI的情況,并禁止競選活動使用Meta自己的生成AI工具進行廣告。