文章概要:

1.360公司創(chuàng)始人周鴻祎在計算機(jī)安全學(xué)術(shù)交流會上介紹了360大模型安全解決方案，著重解決大模型的安全挑戰(zhàn)。

2. 安全風(fēng)險分為短期、中期、長期三個階段，涉及網(wǎng)絡(luò)安全、數(shù)據(jù)安全、生成內(nèi)容安全等問題，以及人為惡意應(yīng)用和更強(qiáng)大人工智能對安全的長期挑戰(zhàn)。

3.360將推出Agent框架，將人的能力賦予大模型，同時構(gòu)建原生安全大模型“360智腦”來確保大模型在企業(yè)級場景中安全應(yīng)用。

站長之家（ChinaZ.com）10月14日 消息:360公司創(chuàng)始人周鴻祎在計算機(jī)安全學(xué)術(shù)交流會上詳細(xì)介紹了360大模型安全解決方案。他指出，大模型發(fā)展已進(jìn)入第二階段，關(guān)鍵問題是如何構(gòu)建真正安全可用的大模型。

周鴻祎將安全風(fēng)險分為短期、中期、長期三個階段。短期風(fēng)險主要涉及大模型自身引發(fā)的問題，如網(wǎng)絡(luò)安全、數(shù)據(jù)安全和生成內(nèi)容安全。中期風(fēng)險則包括人為惡意應(yīng)用，如AI換臉和AI換聲詐騙。長期風(fēng)險是指隨著更強(qiáng)大的人工智能的出現(xiàn)，可能對人類生存帶來安全挑戰(zhàn)。

為了解決這些問題，360公司打造了原生安全大模型“360智腦”，遵循安全、向善、可信、可控的四大原則，以確保大模型在企業(yè)級場景中得以應(yīng)用。

360還將推出Agent框架，將人的能力賦予大模型，既提升大模型的性能，又能對其進(jìn)行約束。周鴻祎表示，360的原生大模型安全解決方案能夠平移、復(fù)制給有需求的行業(yè)合作伙伴和客戶，以外掛式“360大模型安全管家”的形式對外賦能，提供網(wǎng)絡(luò)與數(shù)據(jù)安全、內(nèi)容護(hù)欄、搜索知識增強(qiáng)、可視化數(shù)據(jù)監(jiān)測等能力。

（舉報）