编者按:本文来自微信公众号“HyperAI超神经”(ID:HyperAI),作者:神经小兮,36氪经授权发布。
内容概要:AI 智能客服技术日趋成熟,随着语音合成技术不断提高,合成的 AI人声真假难辨,加上自然语言处理、多轮对话的加持,AI 客服已经能够胜任很多场景的功能需求,同时也给不法分子带来了可乘之机。
关键词:语音助手 AI治理
年近六旬的王阿姨(化名)最近心情大好,觉得终于轮到自己赚大钱了。
一个月前,她接到了一个礼貌客气的理财产品推荐电话,客服的声音清脆悦耳,对她的回答耐心倾听。
她根据客服的引导,加入了一个微信群,每天「老师」都会在群里指导其他群友进行投资,王阿姨比较谨慎,潜伏在群里看着其他人整天聊得火热。
群友们时不时就晒出投资回报翻两番、翻五番的战绩
经过半个多月的观望,王阿姨愈发相信投资老师和群友们「水平」很高,根据「老师」的指导赚到大钱。
王阿姨先试探性地向「老师」推荐的某某财 APP 里投资了五万元。果真,当天就产生了不小的收益。王阿姨随即拿出了大半辈子的积蓄,向 APP 里充值了近六十万元。
看着账户里的数字蹭蹭蹭往上涨,王阿姨憋不住开心,告诉了家人。家人听着不对,想赎回这笔投资,却发现资金久久不到账,拨打客服电话也没有人接听。
王阿姨这才意识到可能受骗了,回过神来已经被踢出了投资微信群,曾经耐心热情的投资导师也已联系不上。
无奈之下,王阿姨一家只好选择报警。
经过短短两个多月的侦查,警方最终成功抓捕犯罪嫌疑人 19 人,查获了大量作案电脑和手机。
湖南省岳阳市民警在工作中发现,位于岳阳楼区新路口某小区内的一家信息服务公司,疑似从事电信诈骗违法犯罪活动。于是,将该公司 7 名员工带至执法办案中心调查。
经查,该公司负责人黄某华(男,32 岁,岳阳市人),购买来的「AI 平台」中的智能客服,以每天拨打 1000-1500 个电话的速度,用推荐投资产品的话术,向外呼出钓鱼电话。
传统电信诈骗需要电销团队,
一人一天最多拨打 150 个电话
再将正在炒股或者有炒股意向的受害人,拉入预先建立的虚假炒股微信群。
往往一个群里几百号人,只有不到 10 人是受骗群众。其他都是配合表演的僵尸微信号,每天在群内交流虚假的高额回报,进而对受骗群众实施诈骗。
黄某华被依法刑事拘留并被批准逮捕,该公司 7 名员工被依法治安拘留。
民警在审讯过程中,发现犯罪嫌疑人学历普遍不高,对诈骗中实施的具体技术不甚了解,那么背后一定还有其他团伙提供技术支持。
于是,5 月 12 日,岳阳楼公安迅速成立了专案组,对这起案件背后的技术提供方进行深度扩线挖掘。
通过侦查,专案民警发现他们所用的 AI 客服机器人,来自广东的一个 AI 智能平台。
该平台提供 AI 语音客服、微信群聊助手等多个功能,还为「客户们」提供诈骗类「话术」模板 78 套,内容涉及保健、理财、股票等。
经过强化分析研判,专案组民警初步掌握了 AI 智能平台老板、代理、销售、技术及财务人员活动轨迹。
7 月 16 日上午,三个专案抓捕小组在广州专案指挥部的统一调度下,在深圳龙岗、广州黄埔、惠州惠阳警方的大力支持下,成功抓捕犯罪嫌疑人占某(男,34 岁,广东惠州人)等 8 人,现场查获多台作案手机及电脑。
7 月 18 日上午,专案组在深圳龙岗警方的支持下,直捣 AI 智能平台公司总部,成功抓获主犯练某强(男,37 岁,广东增城人)等 3 人,现场查获作案手机 20 余台、作案电脑数台,扣押涉案现金 100 余万元,冻结涉案资金 1000 余万元。
令人意想不到的是,截至 2020 年 6 月,在该 AI 智能平台注册的帐号共计 123 个,遍及湖南、湖北、广东、河南、重庆、北京等 12 个省、市,这些账号均为涉嫌金融诈骗的小团伙,
自 2020 年三月底至七月初,短短三个月内,该智能平台的流水就高达 3000 多万元。
果然,卖水远比挖金子要挣钱。
目前,包括黄某华在内的 12 名主要犯罪嫌疑人,已全部被公安机关依法刑事拘留,还有 7 人被依法治安拘留,相关案情正在进一步深挖之中。
智能对话、语音合成技术,让 AI 客服表现惊艳,真假难辨,也让犯罪分子有了可乘之机。
2020 年上半年,全国共破获电信网络诈骗案件 10.1 万起,抓获犯罪嫌疑人 9.2 万名,同比分别上升 73.7%、78.4%。
我们在搜索引擎中输入「AI 语音机器人」,就会出现「电销」、「群呼」之类的推荐结果。
在其中一款机器人销售页面,功能介绍写着:智能学习话术,精准识别对答,一键自动群呼,客户资料管理……等等。
技术有罪么?该如何改善技术带来的弊端?
每当我们在面对技术带来的负面影响时,都会讨论到这个问题。但很明显,短期也不会有明确答案。
拨出电话、引诱群众受骗的是技术,但酝酿害人之心,着手实施诈骗的却一直都是技术背后的人。
想解决技术的问题,首先需要解决的依旧是:人的问题。
相关推荐
诈骗团伙用AI客服行骗,一天能打 1500 个电话
机器人打的骚扰电话太多,我现在已经不想接电话了
苹果警告iPhone用户不要接听苹果“客服”电话
AI骚扰电话能根治吗?美国:一通电话罚款7万元
细思极恐,AI“花式诈骗”的N种方式
诈骗团伙盯上了国产动画电影
腾讯反欺诈白皮书:短视频成诈骗引流新趋势
比特币沦为诈骗幌子:有人轻信半年赚125亿被骗近19万
当代骗子分两种:懂AI的和不懂的
温州破获特大微信招嫖诈骗:软件改定位 嫌疑人多90后
网址: 诈骗团伙用AI客服行骗,一天能打 1500 个电话 http://m.xishuta.com/newsview28533.html