连个木马都没有的闲聊骗走数十亿,手机塞进小裁判终于有了转机
你可能很难想象,在电信诈骗这件事上,技术最先进的海外科技巨头们,过去几年其实一直拿它没办法。骗子发来的消息里,既没有木马附件,也没有挂着病毒的网页链接,甚至连一个错别字都挑不出来。它就是一段极其耐心、彬彬有礼的日常对话。对方可能假装是你的银行客户经理、政府部门办事人员,或者某个本地名人,花上好几天陪你闲聊,慢慢博取信任,直到最后一步,才轻描淡写地让你点开一个转账界面。
传统拦截系统面对这种攻势几乎形同虚设。把用户的聊天记录全部传回云端大模型做分析,不仅耗费巨额算力,还会直接击穿个人的隐私底线。2026年10月14日,谷歌DeepMind在社交平台上抛出了一则消息,他们联合新加坡政府科技局(GovTech),用自家的轻量开源模型Gemma做了一套端侧反诈系统。这套系统的核心只有一句话:所有的识别全在你的手机内部完成,聊天数据半点都不用传上云端。
一、为什么聪明的云端大模型,反而治不好一场耐心的闲聊?
要讲清楚这件事,得先看一组让人吃惊的数字。在2026年10月14日的新加坡国际网络周(SICW 2026)上,官方披露的数据显示,诈骗已经占到了新加坡全部报案犯罪的一半以上。自2019年以来,当地居民被卷走的真金白银超过了40亿新元。仅在2025年一年,警方接报的案件就达37308起,损失约9.131亿新元;到了2026年上半年,损失金额又迅速爬升了4.106亿新元。在这其中,电商、钓鱼、投资、求职以及冒充政府官员成了最常见的套路。
谷歌DeepMind给出的定性更为刺眼:如今这种利用对话建立信任再诱导转账的复杂社会工程手法,已经占到了全部诈骗损失的高达80%。过去防范欺诈,靠的是在服务器上比对黑名单,看发信人的号码是不是被举报过,或者看文本里有没有包含恶意的网络链接。但面对这种新骗局,这套老把戏彻底失灵了。攻击者纯粹依靠极具说服力的语言技巧,诱导受害者自愿掏钱。
既然骗术变成了复杂的语言操控,为什么不直接让云端能力最强的通用大模型来实时读消息?这里横着两个迈不过去的坎。第一道坎是隐私。没有任何正常用户会愿意把自己在日常通信软件里的私聊记录,每分每秒实时打包上传到科技巨头的服务器里做扫描,这在保护个人隐私与端到端加密的通信原则面前是完全相悖的。
第二道坎是水土不服。很多海外大厂引以为傲的通用大模型,识别通用的钓鱼邮件绰绰有余,但碰上特定地区、带着极强本土特征的冒充手法时,表现往往非常糟糕。不同地区骗子的话术风格、涉及的公共机构名称、本地银行的常用通知口吻截然不同。拿着一套读通俗读物长大的大模型去抓本地的狡猾骗局,不是漏报,就是把正常的本地熟人寒暄误判成威胁。
二、把裁判装进手机,怎样才能做到不发烫也不耗电?
既然消息不能送去云端,通用的云端模型又不懂本地话术,答案就只剩下一个:把懂本地套路的小模型直接塞进用户的手机里。但这立刻带来了新的工程难题,手机的电池容量和芯片算力极其有限,如果让一个语言模型每秒钟都睁大眼睛盯着屏幕上的每一句话,用户的手机恐怕用不了半小时就会发烫断电。
为了解决这个问题,DeepMind与新加坡政府科技局设计了一套两阶段的流水线架构。打个比方,这就像在一家高级银行门口,不能直接让最资深、出场费最贵的主管站在大门外给每一个路人搜身,而是先派一个极其敏捷的小保安站在闸机口,主管则坐在里屋休息。第一阶段是一个极轻量的快速筛查分类器,它常驻在后台,以极低的电量消耗飞速扫过来信。只要这行字是普普通通的柴米油盐,它就会立刻给出一个安全的判定,根本不去惊动后面的核心大模型。
只有当第一阶段的筛查分类器察觉到来信出现异常迹象,系统才会触发第二阶段。这时,经过针对性微调的轻量开源模型Gemma才会被唤醒。这位昂贵的裁判不会只看单句内容,而是会把更大范围的上下文对话调出来做整体审视,看对方是不是在循序渐进地构建一个心理操控的圈套,最终在本地输出诈骗警报,或者排除误报并认定安全。
这套被官方称为首创的系统,把矛头直接对准了安卓设备上的通信软件,比如大家每天都在用的WhatsApp和Telegram。当它在本地辨识出对方正在实施操控时,会在手机界面上即时弹出风险提示,抢在用户把验证码送出去,或者按下银行转账确认键的前一秒,敲响警钟。
整个过程没有数据离开手机,不仅打消了用户对隐私泄露的顾虑,还规避了把长文本来回传送到远程服务器的网络延迟。针对本地话术不准的问题,研发团队用新加坡本地的真实欺诈案例对Gemma进行了深度微调。训练数据里塞满了冒充本地公共机构、银行、本地知名公众人物的典型话术,甚至还用模拟本地说话习惯的合成对话数据做了反复的压力测试,专门教会模型识别那些本地特有的圈套。
三、没有独立审计的技术宣告,究竟还缺了哪些拼图?
这套机制听上去兼顾了安全与体验,但在技术治理上,政府和科技企业如何保证这些拿来微调的数据不被滥用?根据双方披露的信息,模型的微调被放在了一个由新加坡政府科技局自己管理和维护的谷歌云沙箱环境内完成,训练数据做到了严格隔离。双方强调,训练过程坚决排除了任何私人的或可识别个人身份的信息,用的全是来自反诈情报与案件报告的匿名数据集。
新加坡政府科技局信任与安全总监Mark Chen对此给出的定调是,打击犯罪绝不能以牺牲个人隐私为代价。官方声称,这套端侧模型在未来部署后,无论是新加坡政府还是谷歌,都无法通过模型获取用户的私人聊天内容;而且系统要想接入并读取对话,必须在得到用户明确授权同意、并遵守应用条款的前提下才能运行。
然而,如果你仔细拆解这场发布,会发现光鲜的技术叙事背后,依然留下了大量耐人寻味的问号。第一,最关键的硬指标完全缺席。在DeepMind发布的技术博客里,关于这套微调后的模型到底有多准、误报率是多少、漏报率是多少,一个具体数字都没有披露。第二,关于双方都无法查看用户对话的承诺,目前并没有经过任何第三方独立机构的安全审计,它在很大程度上仍停留在两家机构的自我陈述阶段。
第三,在落地的节奏上,两家机构的表态也格外模糊。虽然新加坡《海峡时报》明确报道这套系统面向安卓用户,并且支持在聊天软件里实时工作,但直到现在,具体的发布日期尚未公布,首批支持的应用名单没有披露,甚至它未来究竟是作为一个独立安全软件推出,还是会被直接做进安卓操作系统的底层,各方都还没有给出准话。一个更加现实的挑战是,现实中的骗术每天都在翻新,一套固化在手机端侧的小模型,究竟该以怎样的频率更新本地知识库,官方也闭口不提。
与此同时,这场合作也只是更庞大蓝图的一角。在同一场网络周活动上,新加坡还宣布加入了谷歌的Fairwind网络安全计划,拿到了Gemini 4 Argon大模型与代码修复工具CodeMender的权限。新加坡高级部长兼国家安全统筹部长尚穆根在现场指出,当前真正需要的,是评估顶尖模型并把它们适配到自身需求的能力。面对数分钟就能生成系统修补方案的云端巨型工具,端侧的轻量Gemma所承载的,其实是另一种完全不同的技术野心。
把复杂的语言模型压缩进用户随身携带的口袋设备里,不再依赖巨大的云端数据中心,去对抗现实世界中最隐蔽的人性操控,这在工业界显然是一次极具野心的探索。当AI竞争从单纯比拼谁的模型参数更大、算力集群更壮观,转向谁能在几瓦电量、方寸芯片之间把特定场景的问题彻底解决时,手机里的那场无声攻防,才刚刚拉开序幕。