在上海，第二届AI大模型企业落地应用场景创新峰会圆满落幕，此次峰会由DTinsight中国数智发展研究中心主办，并获得珠峰AI、TGO鲲鹏会及DT千川汇的智库支持。峰会以“探索未至之境”为主题，吸引了众多业界精英参与。其中，腾讯云安全总经理李滨在主论坛上发表了题为《攻防对抗升级：大模型重塑网络安全格局》的演讲，分享了对未来网络安全领域的深刻洞察。
李滨指出，未来的网络安全战场将是AI与AI之间的较量，依靠人力对抗装备精良的黑客团队已不切实际。AI与大模型的兴起，促使攻防双方的能力均得到显著提升。面对大模型带来的安全挑战，企业需从组织架构到技术储备进行全面调整，以构建一个与AI和谐共生的安全体系。
作为网络安全领域的领头羊，腾讯安全始终站在技术前沿，致力于大模型安全研究，不断完善大模型在基础设施及应用层面的安全治理机制。腾讯推出了多款高性能产品，助力企业抵御AI时代的安全风险，并积极联合CSA云安全联盟大中华区、OWASP中国等权威机构，推动大模型安全标准的落地实施。
随着Deepseek等技术的突破，企业对于AI的应用热情空前高涨，大模型正加速融入各行各业，为解决产业痛点提供新思路。然而，对于安全从业者而言，这同样意味着前所未有的安全挑战。李滨强调，AI技术的广泛应用打破了传统数字安全的边界，使得信息安全事故的影响范围从数字世界延伸至物理世界，后果更为严重。
大模型带来的安全挑战主要体现在两个方面：一是攻击侧能力的提升，如利用AI编写攻击代码和工具，使得攻击速度大幅提升；二是大模型本体的安全问题，包括模型缺陷、不当配置等，均可能引发安全风险，如AI幻觉、隐私泄露等。然而，大模型同样为防御侧带来了强大助力，实现了安全管理与事件响应效率的大幅提升，如通过大模型优化安全策略管理，快速识别安全风险等。
李滨认为，大模型仍处于初期阶段，未来其生产力将进一步释放，应用领域也将更加广泛。因此，我们需要制定相应策略以应对安全问题和风险，构建一个与AI共生的安全体系。这要求企业从技术层、管理层、合规层和伦理层四个层面出发，构建AI时代的动态安全生态。
腾讯依托自研大模型混元及面向C端用户的大模型应用“元宝”，在大模型应用方面覆盖了从底层技术研究到企业服务、终端应用的全链路解决方案。腾讯安全基于这一“全局视角”，建立了一套系统性的框架，对人工智能及大模型的安全风险进行全面分析，从业务流和技术栈两个维度出发，识别本体安全、运行环境、基础设施及应用环境中的风险缺陷。
在风险控制框架之下，腾讯建立了大模型相关的整体安全治理架构，确保从数据采集到业务应用的全流程均符合监管要求，为企业提供安全、可控、可靠的服务。针对数据安全这一企业应用大模型服务的痛点，腾讯云推出了跨模型数据安全和隐私保护框架，覆盖数据采集、分类分级评估、训练推理过程中的安全保护等全流程链条。
在内容输入和输出环节，腾讯天御凭借多年内容安全的能力，帮助企业应对大模型可能生成的有风险内容。腾讯云还建立了大模型安全Red Team对抗机制，主动发现大模型及生态存在的风险，并研发了针对大模型进行安全保护的大模型安全态势感知系统AI-SPM和大模型智能安全网关LLM-WAF，为企业大模型应用提供全生命周期的安全保障。
腾讯还积极参与大模型相关标准的制定工作。近期，世界数字技术院（WDTA）发布了《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准，腾讯是这两项标准的起草单位之一。同时，腾讯云与CSA云安全联盟大中华区在人工智能方向展开合作，研究大模型安全评估方法，并参与《大模型供应链安全要求》标准的审核工作。
