乌镇峰会360首发《大模型安全白皮书》拉起全链路安全防地

  2025年11月8日，在国际互联网大会乌镇峰会上，360数字安全集团正式对外发布《大模型安全白皮书》（以下简称“白皮书”）。该白皮书初次体系性阐释大模型运转时的五大要害危险，制作性地提出“外筑‘以模治模’动态屏障，内固‘渠道原生’安全底座”的中心理念，并源于实战，供给了可落地的安全处理计划，为大模型使用拉起了全链路安全防地，助力推进AI职业向“安全、向善、可信、可控”方向稳健开展。

  跟着大模型技能加快浸透政务、金融、动力、医疗等要点职业，一个不容忽视的现实是——AI越智能，安全危险越丧命。

  白皮书以2025年国内外多起典型大模型安全事情为切入点，体系性概括了要挟大模型安全的五大要害危险：

  首先是根底设施安全危险，包含设备操控、供应链缝隙、拒绝服务进犯以及算力资源乱用等问题；其次是内容安全危险，触及不符合中心价值观、虚伪或违规内容、大模型错觉，以及提示注入进犯等；第三类是数据与常识库安全危险，数据走漏、越权拜访、隐私乱用和常识产权问题日渐杰出；第四是智能体安全危险，跟着智能体自主性增强，插件调用、算力调度、数据流通等环节的安全鸿沟愈加含糊；最终是用户端安全危险，包含权限操控、API调用监控、歹意脚本履行以及MCP履行安全等。

  这些危险相互交织，构成传统安全计划难以应对的杂乱要挟矩阵，严重要挟个人权益、企业未来的开展甚至国家安全。

  面临上述杂乱应战，白皮书根据实战经验，给出了“外挂式安全 + 渠道原生安全”双轨管理战略 ——前者像 AI 的 “外部警卫”，灵敏应对实时危险；后者像 AI 的“内置盔甲”，从本源筑牢安全根底，两者合作构满意链路防护网。

  外挂式安全偏重模型外部防护，经过“以模治模”完成对算力主机、软件生态、输入输出内容及模型错觉的自动监测与防护。

  该方法具有两大优势：一是适配性强、布置成本低，可作为通用组件快速接入不同企业环境，防止重复开发；二是呼应敏捷，具有独立监测与阻拦机制，可在毫秒等级辨认并阻断实时要挟，如反常算力耗费或歹意内容。

  渠道原生安全则聚集大模型数据、常识库、智能体及客户端等环节，将安全才能嵌入中心组件，强化配套组件安全与全流程合规管控。

  360供给的企业级常识库、智能体构建与运营渠道、智能体客户端等产品，均根据这一理念开发，将安全深度植入渠道底层，全面满意国家与职业合规要求，为智能体使用供给全链路保证。

  简言之，外挂式安全好像“建成后加装的防盗体系”，渠道原生安全则如“制作时内置的防火结构”，二者协同，从外至内构筑大模型的安全防地完成了自动发现、动态演进的安全查验测验才能，有用应对杂乱多变的大模型安全要挟。

  根据 “外防危险、内固架构”的大模型安全中心理念，360给出一份掩盖大模型安全全链路处理计划。该计划经过七大中心产品才能，一起组成“外挂式”与“渠道原生”相结合的纵深防护体系。

  其间，“外挂式”安全才能不侵入大模型原生架构，经过外部东西完成灵敏、快速的动态防护。该体系下的四大产品——大模型卫兵算力主机安全体系、检测体系、防护体系、错觉检测与缓解体系——一起构建了外部屏障，要点应对大模型根底设施危险，如算力绑架、供应链投毒，以及大模型内容危险，如提示词注入、模型错觉与违规内容，完成了从算力层到内容层的实时监测与自动防护。

  “渠道原生安全” 则好像为大模型使用注入了“安全基因”，将防护才能深度内嵌于其间心组件之中。这一理念详细表现在三大渠道产品上：企业级常识库从根本上看护数据与常识安全；智能体构建和运营渠道保证智能体行为全程可控；智能体客户端则筑牢用户端进口的安全防地。三者协同，从底层架构处理了数据走漏、智能体行为失控及终端乱用等内生性安全应战，为AI使用的安稳牢靠运转奠定了内生性根底。

  据悉，现在，360已将这一才能落地政务、金融、制作等各职业，真实让大模型安全从“理论变成“能落地、能管用”的实战计划。

  未来，还将联合产学研各界，一起推进安全规范制作与技能同享，携手共建安全、可信的AI生态。让AI国际更安全、更夸姣。