**劃重點(diǎn):**

1. ?? 醫(yī)學(xué)研究表明，生成式人工智能（Generative AI）可輕松制造大量健康虛假信息，引發(fā)社區(qū)關(guān)切。

2. ?? 通過使用Generative AI工具，研究團(tuán)隊(duì)在短短一小時(shí)內(nèi)生成了超過100篇具有誤導(dǎo)性的博客、20張欺騙性圖片，以及一段令人信服的深度偽造視頻，聲稱健康虛假信息。

3. ??? 專家呼吁政府和行業(yè)制定規(guī)范，以保護(hù)社區(qū)免受這些工具濫用的潛在危害，同時(shí)提倡醫(yī)療保健專業(yè)人士積極參與AI監(jiān)督。

站長(zhǎng)之家(ChinaZ.com) 11月14日 消息:醫(yī)學(xué)研究者們發(fā)出緊急警告，指出生成式人工智能（Generative AI）有可能輕松制造大量健康領(lǐng)域的虛假信息，對(duì)社區(qū)的健康和福祉構(gòu)成威脅。

這一警告來自于對(duì)生成式 AI技術(shù)進(jìn)行測(cè)試的Flinders大學(xué)醫(yī)學(xué)研究團(tuán)隊(duì)，他們使用這一前沿技術(shù)來檢驗(yàn)虛假健康信息的制作和傳播過程，而測(cè)試結(jié)果讓研究者們自己也感到震驚。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

在這項(xiàng)研究中，研究團(tuán)隊(duì)試圖使用生成式AI工具，包括文本、圖像和視頻生成，制造關(guān)于吸煙替代產(chǎn)品（vaping）和疫苗的虛假信息。令人擔(dān)憂的是，在短短一個(gè)小時(shí)內(nèi)，他們就制作出超過100篇誤導(dǎo)性的博客、20張欺騙性圖片，以及一段深度偽造視頻，聲稱有關(guān)健康的虛假信息。更糟糕的是，這段視頻可以輕松轉(zhuǎn)化成40多種語(yǔ)言，擴(kuò)大其潛在危害。

Bradley Menz，這項(xiàng)研究的第一作者、注冊(cè)藥劑師和Flinders大學(xué)的研究員，對(duì)研究結(jié)果表示了嚴(yán)重關(guān)切。他指出，社會(huì)正站在人工智能革命的風(fēng)口浪尖，但在實(shí)施過程中，政府必須制定規(guī)定，以最小化這些工具被濫用的風(fēng)險(xiǎn)，以誤導(dǎo)社區(qū)。他表示:“我們的研究表明，目前可以獲得的人工智能工具輕松生成大量關(guān)于重要健康主題的脅迫性和有針對(duì)性的誤導(dǎo)性內(nèi)容，包括數(shù)百篇虛構(gòu)的臨床醫(yī)生和患者證言以及虛假但令人信服的引人注目的標(biāo)題?！?/p>

研究還探討了OpenAI的GPT Playground以及其他公開可用的生成式 AI平臺(tái)，如DALL-E2和HeyGen，用于生成圖像和視頻內(nèi)容。在GPT Playground中，研究人員在短短65分鐘內(nèi)生成了102篇不同的博客文章，包含超過17，000字的有關(guān)疫苗和吸煙替代產(chǎn)品的虛假信息。此外，在5分鐘內(nèi)，利用AI頭像技術(shù)和自然語(yǔ)言處理，團(tuán)隊(duì)生成了一段令人擔(dān)憂的深度偽造視頻，其中一位健康專業(yè)人士宣傳有關(guān)疫苗的虛假信息。這段視頻可以輕松轉(zhuǎn)化成40多種不同的語(yǔ)言。

研究除了展示令人擔(dān)憂的場(chǎng)景外，還強(qiáng)調(diào)了強(qiáng)化AI監(jiān)管的緊迫性。同時(shí)，研究凸顯了醫(yī)療保健專業(yè)人士在積極減少和監(jiān)控由人工智能生成的誤導(dǎo)性健康信息風(fēng)險(xiǎn)方面的重要作用。

Ashley Hopkins博士，醫(yī)學(xué)與公共衛(wèi)生學(xué)院的高級(jí)作者，表示AI開發(fā)人員有必要與醫(yī)療保健專業(yè)人士合作，確保AI監(jiān)管結(jié)構(gòu)專注于公共安全和福祉。他指出:“我們已經(jīng)證明，當(dāng)AI工具的防護(hù)不足時(shí)，迅速生成多樣化且大量令人信服的虛假信息的能力是深遠(yuǎn)的?，F(xiàn)在，迫切需要透明的流程來監(jiān)測(cè)、報(bào)告和修復(fù)AI工具中的問題?！?/p>

（舉報(bào)）