近日，多家网络安全上市公司公布网络安全领域AI技术应用的新进展。绿盟科技、北信源向记者透露AI创新成果，深信服、亚信安全等企业相继公布应用AI技术的网络安全产品以及市场应用。
行业专家认为，AI技术应用在带来新型安全风险的同时，也为网络安全行业提升效率、提高产品能力带来机遇。
“网络安全+AI”成研发重点
9月23日，记者获悉，绿盟科技将于近期发布保护大模型自身安全的网络安全产品，包括AI安全一体机、AI安全围栏、大模型安全评估系统以及相关的服务和解决方案。
绿盟科技副总裁宫智介绍，目前绿盟科技通过深入研究AI系统的安全风险，针对客户AI系统的不同应用模式，提供场景化的产品和服务，帮助客户全面提升AI体系的整体安全防护能力，实现在线AI系统的安全合规。
北信源董事、副总裁高曦近日对记者表示，AI技术帮助企业提升开发效率，完善产品性能。公司已开发出AI能力平台，集成了大模型、开发工具和知识库，可进行私有化部署。此外，公司已在金融、能源行业等领域交付了应用AI技术的相关软件产品。
多家网络安全上市公司正在积极投入AI技术研发。深信服在投资者互动平台表示，持续将人工智能技术与能力融入网络安全和云计算各项产品与服务中，截至目前已将大模型技术应用到网络安全产品，形成安全GPT、融合AI能力的AI防火墙和其他多款安全产品，并计划未来继续加大对AI技术的研发投入。
天融信表示，公司已在AI+安全、智算云等新方向进行布局和投入，目前已形成“云、管、边、端”全栈安全产品体系与智算云综合解决方案，并在多行业实现规模化应用。未来将重点推动网络安全、智算云产品与人工智能等新兴场景的深度融合。
蚂蚁集团也于近日发布了融合网络安全与AI技术的创新产品及解决方案。其中，智能眼镜可信连接技术框架gPass已与Rokid、小米、夸克、雷鸟等智能眼镜品牌合作，率先落地“看一下支付”场景。在大模型安全方面，蚂蚁集团展示了AIGC滥用检测、深度伪造防御在内的多项解决方案。
另外，启明星辰表示，其开发的安星智能体已经应用于安全运营、威胁检测、数据安全等产品或服务中，显著提升了产品的能力和服务的效率。亚信安全称，上半年，公司AI大模型应用与交付业务实现显著增长，未来公司将持续聚焦AI大模型应用与交付、5G专网与应用、数智运营三大增长引擎，加快签单节奏。
AI应用带来安全新挑战
信息技术咨询公司Gartner的报告显示，中国网络安全的重点正逐步转向保障人工智能的安全，实现业务转型并加强企业、机构的韧性。
Gartner高级研究总监陈延全称，预计到2027年，60%的中国大型企业将在安全运营中心采用暴露面管理技术，以提升事件响应效率并减少漏洞。预计到2028年，在部署AI技术的中国企业中，60%企业将实施协作式AI防御策略，整合跨职能团队应对AI网络安全风险，而目前这一比例仅为5%。
绿盟科技副总裁曹嘉表示，企业应用AI大模型时需警惕提示词注入、模型被诱导等风险。“虽然这些风险在模型运营商或开发厂商中出现的概率较低，但仍需重点关注。目前，行业主要依赖电子围栏技术来防止模型被诱导输出违规内容。”曹嘉说，另外云计算的安全问题须引起重视。
绿盟科技首席创新官刘文懋则提到工具链安全的重要性。他解释称，在企业应用AI大模型过程中，工具链漏洞和配置错误可能导致严重的数据泄露，例如智能体调用第三方工具时存在的风险。他呼吁重视软件供应链安全，采取加强版本漏洞管理、代码安全审计等基础安全措施。
360集团创始人周鸿祎近日公开表示，大模型在带来机遇的同时也带来了恶意利用、内容安全、幻觉问题、提示词攻击等风险。大模型既是生产力工具，也可能成为新的攻击载体和攻击入口，政府和企业的数据资产、商业机密面临着前所未有的暴露风险，保障AI安全是一项长期而艰巨的任务。
奇安信在投资者互动平台表示，大模型能显著提升网络安全企业的能力和效率，产生“乘数效应”。该公司认为，当前政企推广智能体应用的趋势，类似于二三十年前普及网站的浪潮。然而，智能体应用也带来了爆炸式增长的安全风险，因为它们往往拥有企业内网的超级权限。奇安信建议企业加强跨部门协作，构建动态防御体系，特别是部署特权账号管理系统，以应对AI智能体带来的安全风险。
构建AI安全防护网
在保障AI应用安全方面，行业专家们认为，可以从大模型强制备案、构建体系化防护入手，保障企业应用AI过程中的安全。
曹嘉认为，AI大模型备案应成为强制性要求，模型厂商可以到当地网信部门进行基础评估，提前识别风险，让使用者更全面地理解其安全性与可用性。
“与传统软件和基础设施相比，AI大模型的风险更大、更泛化，必须由专业安全厂商进行持续投入。未来，大模型的检测与防御将走向一体化，客户需要从产品开发、代码审计等全流程进行规划。”曹嘉说。
此外，AI大模型的运营单位可以通过构建防护体系，保障AI应用安全。首先开展合规评估，对照监管规定、合规检查清单进行自查；其次是部署专项防护，引入AI安全围栏等技术，防御新型攻击，并确保过程可审计、可追溯；再是考虑引入第三方评估，定期进行渗透测试和安全评估，获取权威报告，降低责任风险。
刘文懋认为，AI技术应用将为各行业带来爆发式增长，但安全问题限制了数据流通。他认为，通过安全手段建立信任，推动数据流通，并将AI全面应用于各类场景，将为各行业释放巨大价值。
诚利和提示：文章来自网络，不代表本站观点。
