眼见一定为实？在信息爆炸的时代，这个观念正受到挑战。近日，在微博等公众平台中，#Deepfake#多次冲榜，利用Deepfake工具进行侵权的行为引发公众关注。以“AI换脸”为代表的AIGC技术被应用在诈骗的案件屡屡发生……人工智能时代，如何守护我们的信息安全？
AI深度伪造，躲不掉的诈骗和侵权
随着生成式人工智能技术的飞速发展，一张简单的“肖像照片”、一段视频或音频，都可能成为不法分子实施诈骗的利器。四川攀枝花市民王先生遭遇的“外甥”借钱骗局，以及深圳市民吴先生收到的“换脸”伪造不雅照敲诈勒索事件，都是AI换脸技术被滥用的典型案例。
AI技术的发展，也在不断降低“实时换脸”技术门槛，有数据显示，2023年基于AI的深度伪造欺诈暴增了3000%，全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌在接受媒体采访时表示，AIGC的生成伪造，今年的攻击量比去年大概增加了10倍，整个风险其实是呈指数级上升的情况，不仅仅是在中国，在韩国，在菲律宾、印尼等等国家都有类似的情况发生。
以技术治理技术，AI+安全纵深发展
随着生成式人工智能驱动AI发展进入新阶段，AI治理随之也变成了一个突出问题。在权衡AI应用与安全，行业共识日益清晰：既要充分发挥AI技术的高效性与精准度优势，提升安全运营的智能化水平，又要强化安全措施，确保技术应用的抗风险能力。
行业已积极将人工智能技术应用到安全领域，例如，电信安全自研的安全垂类大模型“见微安全大模型”有效提升了安全事件的响应和处理能力，当前已成功赋能五条内部产线及十多家省级专业安全服务公司；中国移动推出九天泰合安全大模型，融合了启明星辰安全行业特有的海量数据资源，有效支撑各类安全业务场景下的AI技术应用；中国联通推出元景网络安全大模型，有效针对告警日志降噪、恶意样本检测、威胁情报生产等核心安全场景提供智能化解决方案，极大提升了安全防护的效能和响应速度。
工业和信息化部反诈专班专家李坤表示，正在会同行业内的手机终端企业，将推出AI换脸诈骗风险提醒功能。这项功能仅在手机端来本地运行，能够有效保护用户数据不泄露，经过用户授权后，可为用户提供AI换脸诈骗风险预警提醒。
产业协同共治安全未来
伴随着AI技术的发展，在积极防范人工智能等新技术带来的安全风险，持续提升技术筑牢安全防线的同时，也要加强人工智能产业协同。在第二十三届中国互联网大会数据安全论坛上，中国信通院携手三大运营商集团公司共同启动信息通信行业“人工智能+安全”领航计划，将从“提升企业人工智能安全管理能力”“提升企业人工智能安全技术保障能力”“深化人工智能安全能力行业赋能”三方面展开，推动行业人工智能安全能力整体提升。
如何让人工智能循着以人为本和技术向善的方向发展，监管之外离不开法治的保障。目前，我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律。
