近期，2026（第三届）“金灵光杯”中国互联网创新大赛人工智能安全赛道结果正式公布，东方通网信联合中国移动通信集团内蒙古有限公司申报的“大模型智能安全防护系统”项目，凭借扎实的技术创新能力、完整的体系化方案与产业落地价值，斩获该赛道优秀奖。

“金灵光杯”中国互联网创新大赛是中国互联网协会主办的行业赛事，自2024年首创以来，始终以“创新驱动·产业赋能”为使命，致力于发现一批技术先进、应用成效显著的优质项目，激发行业创新活力，加速构建新质生产力，为助力数字经济蓬勃发展贡献力量。大赛首次设立“人工智能安全”赛道，重点面向全社会征集具有前瞻性、创新性与工程落地价值的智算安全实践项目，覆盖人工智能从基础设施到业务应用的全生命周期安全场景。

直击产业挑战 构建大模型全链路安全闭环

随着大模型在政务、金融、互联网等行业加速落地，提示注入、越狱攻击、对抗样本、数据投毒等安全威胁日益凸显，大模型内生安全已经成为产业规模化发展必须破解的关键课题。东方通网信大模型智能安全防护系统项目瞄准行业挑战，以“评估驱动、防护闭环、持续演进”作为总体建设思路，打造“攻击模拟—风险识别—能力评估—策略加固—效果验证”完整闭环，实现大模型从输入到输出的全链路安全治理，加强大模型安全防护能力。

分层架构设计 四大模块协同筑牢大模型安全底座

在技术架构层面，项目创新采用分层体系设计，包含检测防护层、对抗生成层、安全评估层、数据与知识支撑层四大模块，实现各能力解耦协同。

• 其中，检测防护层基于循环神经网络的提示注入检测算法，完成输入侧攻击识别拦截，结合上下文分析识别多轮对话场景下隐蔽攻击，输出侧实现异常响应实时约束与拦截；
• 对抗生成层实现黑盒场景下百万级对抗攻击样本自动生成，引入网络蒸馏对抗样本检测算法，通过软标签与温度参数机制平滑模型决策边界，提升模型抵御微扰攻击的鲁棒性；
• 安全评估层构建安全智能评估引擎，整合问题生成工具、外部知识图谱，从问题维度、攻击方式、语言变换、编码转义、多轮交互等多维度开展深度测评，输出量化评分与风险分级；
• 数据与知识支撑层依托领域数据集、知识库完成测评数据动态增强，结合权限黑白名单完成机密性测评，校验模型敏感信息保护与权限管控能力。

此外，项目具备安全管理闭环优化机制，自动生成风险分析报告与优化建议，不断优化迭代，形成自适应、安全创新的大模型运行环境。

七大核心能力 覆盖多行业落地场景

项目沉淀了七大核心创新能力，包括基于循环神经网络的提示注入检测算法，以及对抗样本检测算法、安全评估引擎、大模型测试样例自动生成技术、大模型机密性测评能力、无数据黑盒场景对抗样本生成能力、对抗样本迁移性提升技术，能够面向不同行业重点适配三类核心场景：

• 面向政务、金融、医疗等高安全要求的关键行业，提供大模型全链路安全检测防护，规避敏感信息泄露风险；
• 面向AI企业、科研机构，提供标准化安全评估服务，支撑模型迭代加固；
• 面向互联网平台、智能终端厂商，集成防护能力，化解复杂对话交互场景安全隐患。

方案落地后，有效压降安全运营成本，通过提前防控各类大模型安全风险，规避信息泄露、业务异常及合规惩戒等损失，保障创新业务持续稳定运转，助力企业提升数智转型核心竞争力。