劃重點:

?? OpenAI封禁Delphi AI Inc.開發(fā)的Dean.Bot，違反了API使用政策。

?? Dean.Bot模仿民主黨總統(tǒng)候選人Dean Phillips，通過GPT-4提供實時對話。

?? OpenAI強調(diào)不允許開發(fā)用于政治活動和虛擬人物模仿的應(yīng)用，以防止濫用。

站長之家(ChinaZ.com) 1月22日 消息:由Microsoft Corp.支持的人工智能公司OpenAI首次封禁了一家開發(fā)了Chatbot的初創(chuàng)公司，該Chatbot模仿了民主黨總統(tǒng)候選人Dean Phillips，這標(biāo)志著OpenAI首次因開發(fā)者違反其AI濫用準(zhǔn)則而采取審查措施。

Dean.Bot是由硅谷企業(yè)家Matt Krisiloff和Jed Somers創(chuàng)建的一個Chatbot。這對創(chuàng)業(yè)者成立了一個名為"We Deserve Better"的政治行動委員會，該委員會在新罕布什爾州初選前支持Phillips。

在首次報道這一消息的《華盛頓郵報》上述，OpenAI表示:“我們最近移除了一個明知違反我們API使用政策的開發(fā)者帳戶，這些政策禁止進行政治活動或未經(jīng)同意模仿個人?！?/p>

Dean.Bot確實提供了免責(zé)聲明。在任何人與其互動之前，網(wǎng)站訪客會被告知他們的所有問題的回答將由Chatbot生成，而不是Phillips本人。Dean.bot由名為Delphi AI Inc.的印度AI開發(fā)人員開發(fā)，該公司受托為該超級政治行動委員會完成此任務(wù)。

據(jù)報道，Delphi使用了OpenAI最強大的大型語言模型GPT-4來為Dean.Bot的回答提供動力。該公司的OpenAI帳戶據(jù)稱于上周五被暫停，然后Delphi停止了對Dean.Bot的訪問權(quán)限。

在被封禁之前，Dean.Bot能夠通過專用網(wǎng)站與選民進行實時對話。這一努力代表了生成式人工智能技術(shù)最有前景的早期用例之一，但也直接違反了OpenAI的使用政策。

本月早些時候，OpenAI在一篇博客文章中介紹了其采取的措施，以防止其技術(shù)在2024年可能成為關(guān)鍵的民主選舉年被濫用。在OpenAI的博客文章中，該公司明確表示不允許人們開發(fā)用于政治活動和游說的應(yīng)用，其中包括開發(fā)“模仿候選人的Chatbot”。

生成式人工智能的支持者表示，當(dāng)技術(shù)被適當(dāng)使用時，它可以以有趣的方式幫助教育選民。在"We Deserve Better"的案例中，它辯稱Dean.Bot只是幫助人們更多地了解其候選人的創(chuàng)造性方式。

然而，許多專家警告稱，生成式人工智能機器人可能會被濫用，模仿候選人欺騙人們認為他們正在與真正的人交談，而不是Chatbot。人們還對生成式人工智能產(chǎn)生明顯的虛假信息的能力感到擔(dān)憂。

（舉報）