螞蟻集團大模型安全解決方案“蟻天鑒”升級，新增智能體安全評測工具

螞蟻集團大模型蟻天鑒智能體安全

數(shù)據(jù)猿 | 2025-07-29 10:46

【數(shù)據(jù)猿導讀】 7月28日，世界人工智能大會（WAIC）期間，在由中國信息通信研究院舉辦的“大模型智塑全球產(chǎn)業(yè)新秩序論壇”上，螞蟻集團大模型安全解決方案“蟻天鑒”宣布升級，新增智能體（AI Agent）安全評測工具，具備Agent對齊、mcp安全掃描、智能體安全掃描及零信任防御等四大核心功能。...

7月28日，世界人工智能大會（WAIC）期間，在由中國信息通信研究院舉辦的“大模型智塑全球產(chǎn)業(yè)新秩序論壇”上，螞蟻集團大模型安全解決方案“蟻天鑒”宣布升級，新增智能體（AI Agent）安全評測工具，具備Agent對齊、mcp安全掃描、智能體安全掃描及零信任防御等四大核心功能。

隨著人工智能（AI）技術(shù)的不斷進步，AI領域正從大模型時代邁向智能體時代。智能體不僅具備對話生成能力，還擁有自主規(guī)劃、跨領域推理，甚至能做出超越人類理解的決策，AI已進入“行動”階段。然而，智能體的越權(quán)、過度代理等問題也帶來了安全挑戰(zhàn)。

數(shù)據(jù)顯示，超過70%的智能體從業(yè)者擔憂AI幻覺與錯誤決策、數(shù)據(jù)泄露等問題，因為AI生成的內(nèi)容往往包含事實錯誤，或者對指令產(chǎn)生誤解，其中超半數(shù)受訪者表示，所在企業(yè)尚未設立明確的智能體安全負責人。

世界數(shù)字科學院（WDTA）最新發(fā)布《AI智能體運行安全測試標準》提出將輸入輸出、大模型、RAG、記憶和工具五個關(guān)鍵鏈路與運行環(huán)境對應起來，分析智能體全鏈路風險。

“蟻天鑒”為螞蟻集團聯(lián)合清華大學共同研發(fā)推出的大模型安全一體化解決方案，確保大模型技術(shù)在安全可靠的環(huán)境中發(fā)揮效能，打造AI大模型的安全鎧甲。“蟻天鑒”新增的智能體安全評測功能，正與WDTA標準框架契合。

螞蟻集團_大模型_蟻天鑒_智能體安全-1

圖說：大模型安全解決方案“蟻天鑒”新增智能體安全評測工具

據(jù)介紹，升級的“蟻天鑒”在Agent運行階段，構(gòu)建了一套智能安全掃描系統(tǒng)，通過一系列專用工具來檢測Agent可能面臨的安全風險，實現(xiàn)端到端掃描，確保工具與 Agent 的交互鏈路不被篡改或繞過，為復雜環(huán)境下的穩(wěn)定運行提供可驗證的安全基線。目前，“蟻天鑒”的風險研判Agent準確率可以達到96%以上，并可支持11個行業(yè)的智能體測試。

MCP安全掃描功能，則為行業(yè)內(nèi)首個對外發(fā)布的MCP安全掃描工具，可自動化識別AI工具集成與數(shù)據(jù)交換鏈路中的安全漏洞及風險行為，覆蓋工具投毒攻擊、間接提示詞注入、惡意代碼注入等3大類共10項子類風險。

此外，其Agent對齊功能，集成了高效工具調(diào)用、敏感雙重驗證、多通道惡意識別及沙盒環(huán)境訓練，確保智能體的決策、行為與開發(fā)者預設目標、價值觀及倫理道德保持一致；通過深度理解智能體服務上下文與風險情境，“蟻天鑒”還可對每一次調(diào)用進行內(nèi)容、鏈路、行為、權(quán)限、組件、來源、身份七層校驗，并依據(jù)策略引擎動態(tài)決策放行、降級或阻斷，實現(xiàn) “永不信任，始終驗證”的零信任動態(tài)防御。

螞蟻集團_大模型_蟻天鑒_智能體安全-2