本报记者 张佳星
“人工智能算法模型存在‘三不可’的‘基因缺陷’,即不可解释性、不可判识性以及不可推论性。”在日前举行的2024绿盟科技TechWorld智慧安全大会上,中国工程院院士邬江兴说,AI赋能技术有极其广阔的应用空间,也带来了前所未有的安全挑战。
“AI已经成为网络空间安全发展的关键变量。”中国科学院院士冯登国表示,AI技术已从较为单一的算法发展阶段跨越到软件、硬件与应用场景相结合的全方位、一体化发展阶段,应对网络空间安全形势变化,需要更坚实、富有弹性的网络空间安全保障体系。
AI广泛应用会带来哪些安全隐患?如何应对这些安全挑战?会上,专家学者围绕网络安全前沿科技、数智赋能发展路径进行了深入研讨。
安全风险加大
“在某些情况下,大模型生成的文本虽在语义或句法层面看起来合乎逻辑,但实际内容可能是错误或无意义的。这类‘幻觉’问题是所有大模型共同的固有问题。”冯登国说,大模型“幻觉”缺陷导致的大量错误信息涌现是大模型带来的主要安全风险之一。此外,针对关键信息基础设施的网络攻击变得更加自动化、智能化。同时,AI算法的快速更新迭代,也使传统安全分析技术难以应对AI领域涌现的新算法和新模型。
“数字化转型加剧了网络生态系统的脆弱性。”绿盟科技首席技术官叶晓虎说,攻击手段的多样化、相关技术战法的演变要求安全行业不断适应并应对新安全挑战。为此,绿盟科技在提供传统安全产品及安全服务的基础上,推出AI大模型应用、蓝军体系等多个领域解决方案。
数字经济时代,保障数据安全成为事关国家安全与经济社会发展的重大问题。国家工业信息安全发展研究中心首席专家、数据安全所所长李俊说,工业企业数字化、网络化、智能化进程加速,同时也面临日益突出的数据安全风险,包括工业数据载体存在漏洞和后门、非受控运维等问题。在此背景下,行业主管部门出台相关政策,不断加快数据安全监管技术能力建设与实践落地。
AI提供新工具
面对新的安全风险,能否用AI防范AI?与会专家普遍认为,AI系统在安全保障方面的应用已经得到广泛认可,AI在安全领域的支撑作用将日益增强。
“AI可以赋能网络空间安全保障,为安全工作提供新工具。”冯登国说,针对AI加持的攻击技术、恶意代码生成、僵尸网络攻击等挑战,可通过AI大幅提升防御能力和水平,有效提高威胁检测与响应能力。
“AI可以自动完成许多网络安全任务,如威胁检测、事件响应和漏洞分析。这不仅有利于提高工作效率,还能减少人为错误的可能,帮助网络安全团队更有效地应对大量安全告警。”绿盟科技天枢实验室主任研究员顾杜娟说,AI还可以帮助识别新型攻击手段和策略,并利用机器学习和深度学习技术检测和应对复杂的网络攻击。
绿盟科技通过技术创新推出了一系列新成果和方案。例如,风云卫AI安全能力平台集成威胁情报积累等能力,可进一步助力网络安全行业智能化转型。在安全运营方面,“AI+”策略可实现告警降噪率97%以上,使威胁响应缩短至30分钟、整体运营效率提升70%以上。
不仅如此,腾讯等企业也通过构建AI安全助手,提升其安全服务能力和效率。业内专家认为,用好“AI+安全”,有助于促进数字化转型与可持续发展。