2024-4-28 14:54

双剑合璧,“智御”反诈大模型护民生

黄小兵 中兴通讯消息产品规划总工

王巍 中兴通讯产品规划专家工程师

据国家反诈中心的公开资料显示,近年来电信网络诈骗已经成为发案最多、上升最快、涉及面最广的犯罪类型。截至2022年底,公安部门共破获电信网络诈骗案件115.6万起,抓获犯罪嫌疑人155.3万名,止付冻结涉案资金9165亿余元。电信网络诈骗态势日益严峻,严重威胁大众人身安全与财产安全。

短信诈骗监控难点与挑战

诈骗短信作为电诈最常见的手段之一,其内容不断变异和升级,以穿透电信运营商的短信监控系统处理策略:

通过组合变异、转义字符、谐音、形近等种种手段突破关键词规则;

通过汉字、字符、数字的变异组合来表达标准URL和号码,突破现网正则监控策略;

通过海量号码池规避流量和关键字门限;

通过拨测等方法,一点突破,海量发送。

传统治理方案升级周期长,面临巨大挑战,策略过松拦截效率低,策略过严影响用户正常通信需求。

AI大模型开启新技术革命

2022年11月30日,OpenAI公司发布ChatGPT,其成为有史以来最短时间用户量突破1个亿的应用。ChatGPT基于Transformer神经网络架构,在大规模自然语言、序列数据和目标检测等多个深度学习领域取得重大突破,并可通过大量的语料库来训练模型,使得大模型具备泛化知识,能深刻理解语言和对话;此外,可针对性训练解决特定领域的问题,迅速适应新的任务和场景。

对于诈骗短信的精准识别,首先需要能深刻理解自然语言;其次,需要对敏感信息进行分类,并识别内容真正的意图;第三,对于不停变换的诈骗短信内容,需要能对样本学习,完成知识和模型的动态升级。这些正是Transformer架构大模型擅长的技术,基于大模型研发新型短信反诈技术和产品,非常值得快速技术穿刺和尝试。

快速技术穿刺,攻关难点

项目初期,我们在AI大模型选用方面面临几大困难:

模型不确定:如何选择最合适的大模型,并确保合法合规;

语料及训练方案不确定:语料质量、数量、格式、提示词要求不了解,训练、推理方案从零开始;

GPU和服务器成本高:中期推理性能低,大业务量下GPU数量和成本过高。

我们基于快速穿刺,敢于试错,及时调整方案逐个解决难点。模型选择方面,最初摸索阶段,从小于1亿参数规模,到3.4亿,再到70亿和130亿,尝试了包括国内和国外多种大模型,总计4种参数规模、6种国内外模型及自研模型、20多种组合,进行了大量穿刺比较。

语料和精调方面,获取一手高质量、合规语料,尝试多种精调方案,最终设计出“专用提示词+样本微调”最佳方式,识别准确率和召回率效果均大幅提升。

针对GPU数量和成本过高问题,设计多层架构,将缓存加速作为前置,以小模型与大模型叠加结合的方案来解决,并通过推理加速达到最优。

最终基于模型评估效果和成本两项指标,选取综合最优方案完成选型,并通过法务合规评审。

通信与AI完美结合,双剑合璧

经过不断创新,中兴通讯成功发布业界第一个“智御”反诈大模型系统(见图1)。该系统无需策略配置,开箱即用,自动识别非法短信,大幅降低现场策略运维的复杂度和工作量的同时,提升了非法短信识别的查准率与召回率,实现垃圾/诈骗短信的识、防、管、打一体化治理。

图1 中兴通讯“智御”反诈大模型系统

该系统目前已在A、B两个运营商样板局点开展业界首个基于大模型的短信反诈治理试点,达成目标,并快速转商用。

A运营商成果:系统在省公司上线后,诈骗短信拦截率得到显著提升,境外垃圾短信发送量从日均50~60万条断崖式下跌为日均2~3万条,预测准确成功率和拦截准确率最高可达99%;与此同时,有效减少了涉诈案件数量,2023年8月,境外涉诈案件环比下降64%;局点上线后得到客户及该省反诈中心的高度认可。

B运营商成果:国内终端发起短信(MO)总量400万条/天,全部进入“智御”系统。日均拦截11万条左右垃圾和诈骗消息,拦截准确率从57.25%提升到93.60%;误拦截比例从42.75%降低到6.4%。

此外,智御反诈技术成果荣获工业和信息化部反诈专班《防范治理电信网络诈骗创新技术遴选应用》一等奖,并全面向全国推广。

未来演进与展望

反诈大模型是通信大模型应用的一个开端,“智御”系列大模型将在服务范围、媒体能力和行业应用等多个方向深入发展、演进和应用。

领域拓展和能力开放

实现能力复制和开放能力,进一步深拓反诈治理领域到5G新通信领域、IT领域和内容发布等领域应用。

媒体CV大模型

除了短信文本内容反诈,多媒体内容是一种上升很快的电信诈骗形式,为保障5G新通信时代媒体内容可信、安全、可靠,“智御”大模型未来必须支持多媒体内容的高效识别和反诈。

行业大模型

5G新通信行业客户有广泛的智能对话、行业知识服务和企业应用需求,“智御”大模型可以通过支持L0/L1/L2大模型,在5G消息平台等新通信网络侧平台集成和升级,来快速满足和实现5G行业通信AI能力需求,服务政企客户。

来源:C114通信网

相关

短信中兴电信网网络运营商
本评论 更新于:2024-6-16 4:33:18
在C114 APP中与业内人士畅聊通信行业热点话题!