站長之家(ChinaZ.com) 4月23日 消息:人工智能公司 Anthropic 的首席信息安全官杰森?克林頓（Jason Clinton）就企業(yè)運營方式的重大轉變發(fā)出了警告：到明年，完全自主的 “AI員工” 可能就會開始替代各大企業(yè)的人類員工。這些 AI 將不再是簡單的工具或助手，而是擁有自己的賬戶、記憶、且在公司組織中承擔專門職責的虛擬員工。

克林頓表示，相較于如今功能單一的 AI 系統(tǒng)，這些即將出現(xiàn)的 AI 主體將會有質的飛躍。雖然，目前的AI工具已經(jīng)能夠處理特定的安全檢查、以及一些簡單的人物，但下一代 AI 將能在公司的各個系統(tǒng)中獨立運行 —— 無需人類監(jiān)督，就能做出復雜決策，并完成多步驟的工作流程。

“我們說的是虛擬員工，而不只是（普通的）AI 智能體”， 克林頓解釋道。這種區(qū)別意味著未來的這些 AI 主體將更像是人類同事，而非我們如今所使用的 AI 工具。

這一警告給那些已經(jīng)在為基礎網(wǎng)絡安全問題而困擾的企業(yè)帶來了更加嚴重的安全隱患。那些在管理人類員工賬戶和密碼方面存在困難的公司，很快將面臨更大的挑戰(zhàn) —— 即如何確保擁有網(wǎng)絡訪問權限的人工智能身份的安全。

安全專家們已開始提出一些棘手的問題：公司應該如何管理人工智能的密碼？“AI員工” 應該訪問哪些系統(tǒng)？當“AI員工” 犯錯或出現(xiàn)意外行為時，該由誰來承擔責任？諸如此類。

不過，最令人擔憂的或許是，AI 系統(tǒng)存在被入侵的可能性，并且可能會獲取對公司關鍵基礎設施（如代碼測試和部署平臺）的訪問權限。根據(jù)克林頓的警告，這些風險在很大程度上仍未得到解決。

值得一提的是，Anthropic 公司的規(guī)模急劇擴大，從 2021 年的僅 7 名員工發(fā)展到 2025 年的 1000 多名員工。該公司承認自己在應對這些挑戰(zhàn)方面負有責任 —— 他們表示，針對潛在的攻擊，正在對其人工智能模型 Claude 進行全面測試，并積極監(jiān)測因濫用可能引發(fā)的安全問題。

據(jù)估計，Anthropic 今年的收入將達到 22 億美元，這意味著，即使AI領域存在持續(xù)的擔憂，但仍實現(xiàn)了爆發(fā)式增長。

大型 AI 公司的現(xiàn)任和前任員工也表達了對倫理問題的擔憂，他們呼吁提高人工智能能力和風險方面的透明度。并警告稱，如果沒有適當?shù)谋O(jiān)督，先進的 AI 系統(tǒng)可能會加劇不平等，并傳播錯誤信息。

（舉報）