站長之家(ChinaZ.com) 2月8日 消息:在家長和活動人士的監(jiān)督下，知名人工智能公司OpenAI近期組建了一個新的兒童安全團(tuán)隊(duì)，研究防止其AI工具被未成年人誤用或?yàn)E用的方法。

根據(jù)OpenAI職業(yè)頁面的新招聘信息，該團(tuán)隊(duì)將與公司內(nèi)部的政策、法律和調(diào)查小組以及外部合作伙伴合作，管理與未成年用戶相關(guān)的"流程、事件和審查"。目前急需一名兒童安全執(zhí)法專家，負(fù)責(zé)執(zhí)行OpenAI在AI生成內(nèi)容上的政策，并處理涉及"敏感"兒童相關(guān)內(nèi)容的審核工作。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

大型科技公司普遍投入大量資源遵守兒童網(wǎng)絡(luò)隱私保護(hù)法等監(jiān)管，要求控制兒童可獲取的在線信息及相關(guān)數(shù)據(jù)收集。因此，OpenAI聘請兒童安全專家并不意外，尤其是考慮到未來可能有大量未成年用戶群。（OpenAI目前要求13-18歲青少年獲父母允許，禁止13歲以下兒童使用）。

新團(tuán)隊(duì)的成立也表明了OpenAI對違反相關(guān)政策的謹(jǐn)慎態(tài)度，此前該公司與Common Sense Media合作制定了兒童友好型AI指南，并獲得首個教育行業(yè)客戶。

隨著越來越多兒童和青少年開始使用人工智能解決學(xué)業(yè)和個人問題，有關(guān)負(fù)面影響的擔(dān)憂也在增加。一項(xiàng)調(diào)查發(fā)現(xiàn)約三成孩子使用ChatGPT處理焦慮，還有的用于修復(fù)人際關(guān)系，此外還有人擔(dān)心被用于創(chuàng)作可信虛假信息等負(fù)面目的。

去年部分學(xué)校禁止使用ChatGPT，后有所解禁。但呼吁制定兒童AI使用政策的聲音不斷增加，包括聯(lián)合國教科文組織倡議政府規(guī)范國內(nèi)AI在教育中的應(yīng)用，包括年齡限制和數(shù)據(jù)保護(hù)等。

顯然，對于OpenAI等公司如何保障未成年用戶把握AI工具仍面臨重大挑戰(zhàn)。建立兒童安全團(tuán)隊(duì)，無疑將助力該公司及行業(yè)為兒童營造更安全、負(fù)責(zé)任的AI使用環(huán)境。

（舉報(bào)）