在人工智能浪潮快速席卷人们生活生产方方面面的同时,隐私泄露、数据滥用、算法偏见等安全风险,是安全产业发展中一个不容忽视的问题。
在今年的数字中国建设峰会上,笔者观察到,人工智能、数据成为本次大会重要的背景与讨论话题,其伴随的安全问题也引发各界新思考。
在此背景下,本报记者就“人工智能时代安全治理重点在哪儿?”“电信运营商如何构建智能安全云服务?”两个问题,对天翼安全科技有限公司副总经理张晖进行了专访。
AI时代不容忽视的话题:数据安全
如今,数据对于人工智能的发展愈发重要,数据安全更是成为影响人工智能落地应用一个重要因素。那么,人工智能发展大势下,对数据安全会产生哪些影响?
“以人工智能大模型为例,一方面,当作为训练的语料具有危害性时,易产生违背社会道德伦理、政治偏见、歧视等内容,增加大模型本身的风险性;另一方面,一些蓄意破坏的人会利用大模型做一些诱导性的输出,造成数据泄露。”张晖说道,在这方面,业界已展开广泛工作和深入研讨。
而这只是人工智能安全风险的“冰山一角”。一方面,人工智能时代的攻击是复杂、多维的,往往涉及网络、云、数据三方面的安全防护;另一方面,数字化、智能化为社会带来先进生产的同时,也对数据提出更高级别的防护需求。
以魔法打败魔法:技术创新升级安全防护
近年来,国家高度重视数据要素市场培育工作。《关于构建更加完善的要素市场化配置体制机制的意见》《关于构建数据基础制度更好发挥数据要素作用的意见》等文件的陆续出台,推动了行业更加重视数据安全保护,并将“安全”纳入企业发展之中。
在数据要素化中,运营商担当的角色至关重要,它们不仅是数据的收集者和管理者,也是数据保护的责任主体。“运营商是网络提供者,无论是国家的东数西算工程还是数据要素的流动,都离不开网络,因此运营商必须要做好数据要素安全传送和调度。”张晖指出,当前以中国电信为代表的运营商已由网络向云网一体发展转变,“数据存储在云上,也就要求我们需要为数据提供一个安全的存储环境。”
在2024智算云生态大会安全论坛中,作为重要的基础网络运营商,中国电信发布见微安全大模型2.0、电信数盾2.0、可信通信国家标准三大安全新品和能力,持续提升网络和数据安全自主可控水平。据张晖介绍,相较于去年11月推出的见微安全大模型1.0,见微安全大模型2.0版本数据量增长了50%,安全能力由原先的两个能力增加到六个能力。目前,见微安全大模型2.0已成功赋能多个电信安全产品及十多家省级专业安全服务公司。
“开放合作是一个必然,优势互补才能共同发展”。在本次大会中,天翼安全科技有限公司与哈尔滨工业大学(深圳)签约联合成立“网络空间对抗技术联合攻关研究实验室”,与中国科学院签约成立“开源软件安全技术联合攻关研究实验室”,促进安全产业融合发展。
强化数字基建内生安全能力
人工智能发展带来挑战的同时,也会为安全产业创造新的发展机遇。如加速创新,帮助企业和研究人员更快进行数据分析和模式识别,并推动新产品和新服务的开发。“黑客通过AI攻击方式更多样,也促使我们‘防’的效率进一步提高,对于新威胁的出现,也变相的促进了安全产业人才的汇聚,进而推动产业的科技创新,起到一个逆向驱动的作用。”
人工智能与云、网是密不可分的。“AI+时代,作为运营商,我们认为除了传统的防护以外,最重要的是要将安全能力内生到云网的基础设施中。”张晖说道。
使用打补丁的方式来加强云网基础设施和安全平台的防护是一种常见的做法,但这也存在反应滞后、补丁管理复杂性、性能影响等潜在的弊端,例如,安全补丁通常是在安全漏洞被识别和利用后才发布的,这意味着在补丁发布和部署之间存在一个时间窗口,攻击者可能利用这个时间差发起攻击。
“如果在建设之初就把安全能力就内置到云网基础中,一方面,可以保证云网自身是天然安全的,防御性强,进而保证云上的业务运营不会受到影响;另一方面,在安全基础上加载业务的同时,可将安全能力直接便捷地提供给这些业务,进一步提升整体安全性。”
常言道,“水能载舟,亦能覆舟”,AI技术的迅猛发展也带来了前所未有的安全挑战。在这个“矛”与“盾”的较量中,电信运营商作为信息时代的关键参与者,应加强技术创新,化“矛”为“盾”。