站長之家（ChinaZ.com）6月28日 消息:加州人工智能（AI）安全初創(chuàng)公司CalypsoAI今天宣布獲得2300萬美元的A-1輪融資，以加速其AI治理解決方案的開發(fā)。此次融資由Paladin Capital Group領(lǐng)投，Lockheed Martin Ventures和其他投資者參與。

CalypsoAI的首席執(zhí)行官兼創(chuàng)始人Neil Serebryany在接受VentureBeat采訪時指出，可能會阻礙AI在主流企業(yè)中采用的三個主要威脅:“第一，大量信息正在泄漏到（流行的）模型中;第二，底層模型可能不可信;第三，這涉及到問責(zé)和審計的問題?！?/p>

CalypsoAI的解決方案包括Moderator和Vesper Validate產(chǎn)品，旨在應(yīng)對這些挑戰(zhàn)，確保組織可以安全地接納生成式AI工具并保護(hù)其關(guān)鍵數(shù)據(jù)。該公司已被Forrester Research確定為重要的AI安全解決方案提供商。

據(jù)Serebryany表示，隨著企業(yè)采用更復(fù)雜的AI技術(shù)（例如大型語言模型），其解決方案變得越來越重要。這些技術(shù)可以創(chuàng)造數(shù)萬億美元的價值，但如果被濫用，也會帶來網(wǎng)絡(luò)安全風(fēng)險。這家初創(chuàng)公司定位自己為AI風(fēng)險管理的全方位平臺，涵蓋從算法本身到人們與技術(shù)的實際互動的方方面面。

根據(jù)Pitchbook的數(shù)據(jù)，未來幾年內(nèi)，AI安全市場預(yù)計將大幅增長。全球生成式AI市場預(yù)計將在2023年達(dá)到426億美元，因為企業(yè)越來越希望采用這項技術(shù)以開啟新機(jī)會、增強(qiáng)決策能力和推動創(chuàng)新。根據(jù)麥肯錫的估計，生成式AI將全球產(chǎn)生4.4萬億美元的經(jīng)濟(jì)價值。

Serebryany認(rèn)為，市場將分為第一方和第三方風(fēng)險，并且基礎(chǔ)模型在企業(yè)AI的未來中將發(fā)揮核心作用。CalypsoAI旨在保證這些模型在企業(yè)中的安全部署。

憑借將近4000萬美元的總?cè)谫Y規(guī)模，CalypsoAI將在塑造AI安全和治理的未來中發(fā)揮關(guān)鍵作用。隨著越來越多的組織采用AI技術(shù)，對強(qiáng)大的安全解決方案的需求將變得更加重要。

Serebryany表示:“這個問題現(xiàn)在變得如此普遍:我們?nèi)绾伟踩夭捎么笮驼Z言模型?我們?nèi)绾未_保我們的數(shù)據(jù)不會泄漏到這些模型中?這非常重要，而且隨著越來越多的企業(yè)采用AI，這只會變得越來越重要?！?/p>

隨著AI繼續(xù)改變商業(yè)格局，CalypsoAI最近的融資意味著該行業(yè)正在認(rèn)真對待AI安全問題。該公司的創(chuàng)新解決方案和深厚專業(yè)知識使其成為快速發(fā)展的AI治理和安全領(lǐng)域中的重要參與者。

（舉報）