2025年3月28日，由DTinsight中国数智发展研究中心主办，珠峰AI、TGO20组、DT千川汇作为智库支持，以“探索未至之境”为主题的第二届AI大模型企业落地应用场景创新峰会主论坛在上海闭幕。腾讯云安全总经理李滨受邀出席了主论坛，并进行了题为《攻防对抗升级：大模型如何重构网络安全战场》的主题演讲。
腾讯云安全总经理 李滨
“未来是AI对抗AI的时代，靠人工去对抗手中拥有大量科研工具的黑客，显然是不现实的。”李滨表示，AI和大模型带来了攻防双方的全面升级，要应对大模型伴生的安全问题，企业需要从组织架构、技术储备等各个方面调整策略，以应对挑战，“我们需要建立一个和AI共生的安全体系。”
作为网络安全领军企业，腾讯安全也一直致力于推进大模型前沿安全研究，完善大模型在基础设施、应用层面的各种安全治理机制，推出各种高性能产品帮助企业应对AI时代的安全风险，并联合CSA云安全联盟大中华区、OWASP中国等权威机构推动大模型相关安全标准的落地。
大模型应用加速 安全攻防全面升级
伴随Deepseek带来的深度推理的突破，企业应用AI的热情高涨，大模型正在加速渗透进各行各业，为解决产业痛点带来了全新的思路，但在安全从业者看来，这也意味着巨大的安全挑战。
“人工智能技术的普遍应用，实现了物理世界和数字世界的广泛连接，也打破了传统的数字安全的边界。”李滨表示，传统的数字安全普遍是在IT系统之内，发生安全事故的后果主要是系统宕机、服务瘫痪，但是在AI时代，物理世界和数字世界高度融合，信息安全事故可能会蔓延到物理世界中，造成更大面积的影响。
此外，大模型还将带来几方面的安全挑战，一是大模型赋能于攻击侧，李滨举例，人工智能应用于攻击代码和工具编写等环节之后，攻击者进行漏洞利用的速度比2年之前提升了10倍以上，另外在一些常用的攻击手段上，例如钓鱼邮件、自动化代码攻击方面的效率也有巨大的飞跃；二是大模型本体的安全问题，模型本体的安全缺陷，以及部署和应用过程中不当的安全配置，都有可能引入安全风险，包括AI幻觉、违规内容、虚假信息、偏见歧视、隐私泄露、大模型恶意滥用等。
但是，作为一把“双刃剑”，大模型同时也赋能于防御侧，带来攻防双方的动态平衡。例如，大模型极大地提升了安全管理和事件响应处置的效率，例如过去5年以来互联网上出现的安全事件中，约有20%都是由各类安全权限配不当引起的，通过大模型的赋能，企业可以实现更优化的安全策略管理；例如在告警分析上，企业的安全设备每天会产生海量告警，其中只有少数是真正的威胁，过去在这些告警分析上企业需要消耗大量人力，而大模型可以通过各类安全和专用的模型去对这类的数据进行分析，快速发现已知和未知的安全风险。
李滨认为，大模型目前还处在初期时代，未来随着大模型逐步释放出更大的生产力，会应用在越来越多的地方，我们也需要有相应的策略去应对安全问题和风险，需要建立和AI共生的安全体系。
从技术到组织体系全面升级 构建AI时代的动态安全生态
大模型深入企业业务流程，它的安全问题不只是某个局部的安全对抗，而涉及整个安全体系的升级。李滨认为，需要从技术层、管理层、合规层和伦理层四个层面构建AI时代的动态安全生态。
腾讯拥有自研大模型混元，并通过腾讯云向企业客户提供大模型部署需要的基础设施和云计算相关服务，同时腾讯也拥有面向C端用户的大模型应用“元宝”。可以说，腾讯在大模型的应用覆盖了从底层技术研究、企业服务到终端应用的全链路的解决方案。依托于腾讯在大模型上的“全局视角”，腾讯安全建立了一套系统性的框架，对整个人工智能以及大模型的安全进行完备的风险分析，通过业务流和技术栈两个维度，来分析人工智能在本体安全、运行环境和基础设施，应用环境中和应用环境周边发生的一些风险缺陷。
在风险控制框架之下，腾讯也建立了大模型相关整体安全治理架构，从数据采集、模型训练、代理部署到业务应用的全流程，均满足监管要求，为企业提供安全、可控、可靠的服务。
数据安全是企业应用大模型服务的一个“痛点”，对数据安全的担忧直接影响了企业决定采取哪个模型本体、哪种部署方式。为了帮助企业解决这个问题，腾讯云也推出了跨模型数据安全和隐私保护框架，该框架覆盖了数据采集的合规性以及数据基础的保护，数据的分类、分级评估和治理，数据在训练和推理过程中的安全保护机制，以及数据输入输出环节中的保障机制的建立，覆盖了大模型从采集、部署、训练、推理的全流程链条。
李滨重点提出，在内容输入和输出环节，由于样本劫持、数据投毒或者模型本身的幻觉等原因，大模型可能会生成有风险的内容，而腾讯天御基于多年内容安全的能力，能帮助企业进行大模型应对这一安全隐患。
在攻防对抗与情报方面，腾讯云建立了大模型安全Red Team对抗机制，以腾讯的安全专家能力为基础，建立针对大模型的安全测试方法，主动发现大模型及生态存在的风险，并依托这些安全研究成果，研发了专门针对大模型进行安全保护的大模型安全态势感知系统AI-SPM和大模型智能安全网关LLM-WAF，为企业大模型应用进行全生命周期保障护航。
此外，腾讯也积极参与大模型相关标准的制定工作。去月，世界数字技术院（WDTA）发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准，这是国际组织首次就大模型安全领域发布国际标准，腾讯也是这两项标准的起草单位之一。腾讯云还积极和CSA云安全联盟大中华区在人工智能方向合作研究大模型安全评估方法，并参与《大模型供应链安全要求》标准审核工作。（新闻晨报）
