7月11-13日,2025网络空间安全学术大会在湖北武汉成功召开。大会汇聚全国网络安全领域顶尖学术机构、科研院所、高校的专家、学者、研究人员等,围绕网络空间安全领域前沿技术创新与研究展开分享。
绿盟科技300369)受邀参会,重点分享了其围绕大模型全生命周期安全构建的思考与实践,提出以“AI原生安全+智能运营”为核心理念,构建纵深防护体系的技术路径,回应大模型复杂攻击面、多场景落地与合规风险并存的安全难题。
绿盟科技集团资深安全专家张鹏受邀出席大会,他表示,大模型面临的安全威胁复杂多样,这些风险不仅威胁大模型本身的安全,还可能通过供应链和第三方工具进行传导,对业务造成深远影响。
绿盟科技聚焦人工智能大模型三个阶段、五大构件、三类场景,以运营、数据、供应链安全为牵引,为客户构建覆盖大模型全生命周期纵深防御体系,保障大模型应用安全落地,支撑各行业技术变革业务转型。
1.打造高可靠人工智能基础设施安全基座:随着AI应用快速向金融、医疗、运营商等关键领域渗透,其包含算力集群、模型训练平台等在内的基础设施的安全性已不仅是技术问题,更关乎整个系统韧性与社会信任问题。应围绕“纵深防御+动态适配”的安全架构,分层筑牢物理与逻辑防线,进一步加强AI原生安全与传统安全技术的协同创新,构建多方协同的安全保障体系。
2.强化人工智能大脑内生安全防御:围绕AI应用核心,打造大模型风险评估、不合规内容阻断、输入输出内容审计的“三道防线”,针对内容安全合规性风险与对抗安全风险进行评估检验,通过AI安全护栏对违规提问和敏感话题内容进行检测拦截,对大模型生成的内容进行安全检测,并针对用户输入的提问内容、大模型的训练数据等,实现相关内容审计和记录以及针对敏感和不合规内容进行回溯。
3.加强数据安全全流程防护体系建设:随着AI应用的深度和广度不断拓展,Kaiyun电竞数据规模剧增、流动路径复杂、处理方式多样,Kaiyun电竞传统的数据安全边界日益模糊。应充分结合数据分类分级、隐私计算、数据泄露防护等关键能力,构建覆盖数据收集、存储、处理、训练、推理、共享、销毁等面向AI应用全生命周期的数据安全体系,保障数据价值充分释放的同时,筑牢AI技术健康可持续发展的安全屏障。
4.保障Agent与MCP外部实体交互安全:针对智能体协议(如MCP等)应用逻辑与安全特性,构建授权认证、工具调用安全、多种调用及防注入等关键能力,一方面依靠技术手段的不断迭代和融合,另一方面需要将安全逻辑嵌入Agent的决策模型训练过程中,找到应用开放与安全管控之间的动态平衡点,在AI系统复杂度持续提升的背景下,筑牢外部交互的安全防线,让智能体的自主性真正服务于可信的价值创造。
此外,绿盟科技基于AI原生安全+智能运营双轨理念,构建覆盖模型全生命周期的安全防护框架。规划覆盖大模型安全组件矩阵、安全智能中枢、大模型安全运营平台及云端AI安全赋能服务中心,为人工智能安全监管、行业自研大模型及行业智能体等场景提供梯度化安全服务。
同时,绿盟科技还能为用户提供覆盖大模型安全防护全场景解决方案。该方案贯穿于整个生命周期和生态系统,包括模型本身、训练数据的完整性、第三方组件和供应链、插件的安全性以及模型输出。未来,绿盟科技将不断探索前沿技术与产业融合创新之路,为助力用户应对数字化时代安全风险保驾护航。
本次大会由中国电子学会、武汉大学联合主办,旨在聚焦新形势下网络空间安全技术发展新趋势,探索网络空间安全产业发展新模式,打造网络空间安全保障体系新业态。
标题:AI原生安全+智能运营:绿盟科技构建系统化的大模型安全防护路径
链接:https://www.ksrongchuan.com/kaiyundianjingdongtai/youxigonglue/3490.html
免责声明:本站资料均来源互联网收集整理,作品版权归作者所有,如果侵犯了您的版权,请发邮件给我们