新闻动态
大模型专题:2025年大模型与智能体安全风险治理与防护
发布日期:2025-11-26 16:43:45 点击次数:61
今天分享的是:大模型专题:2025年大模型与智能体安全风险治理与防护
报告共计:19页
大模型与智能体作为推动经济增长的关键动力,在企业应用中面临多样安全风险,涵盖样本投毒、恶意利用、数据泄露、权限滥用、模型劫持等十大常见类型,风险贯穿模型训练、推理、部署全生命周期,涉及应用安全、运行环境安全、本体内生安全及基础设施安全等多个层面。其中,MCP协议与智能体生态存在身份认证缺失、权限控制不足等问题,传统漏洞与AI特性结合形成新型攻击链,多智能体系统的复杂性进一步放大安全隐患。为应对这些风险,需构建全面的安全治理与防护体系,核心包括安全治理框架与防护架构,覆盖安全运营、管控、基准等维度,针对不同业务阶段制定针对性防护措施。腾讯推出的LLM-WAF大模型智能安全防护网关,可实现多场景全链路防护,AI-SPM态势感知系统能精准测绘资产、检测漏洞与攻击行为。同时,通过智能体统一身份管理与权限管控,构建身份、流量、工具、决策多重防线,保障数据全生命周期安全与隐私保护,借助联邦学习、机密计算等技术实现数据安全防护。此外,天御内容风控平台提供全流程内容安全支撑,Red Team攻防实践与渗透测试助力主动发现风险,形成“治理-防护-检测-响应”的闭环安全体系,为大模型与智能体的安全合规应用保驾护航。
展开剩余78%以下为报告节选内容
发布于:广东省
