近日,武汉警方破获一起利用AI技术非法入侵计算机信息系统的犯罪案件。一名美院毕业的男子,在上线指使下,利用AI换脸技术,远程“劫持”某公司官方账号、篡改账号认证信息,引流粉丝购买所谓的理财产品。 6月10日,武汉某MCN公司工作人员突然发现,评论区出现很多留言询问“你们的公众号怎么开始推荐理财app了?”“这个理财产品靠谱吗?” 阿成(中)被武汉警方抓捕归案(陈善文供图) 工作人员急忙翻看已发布的公众号文章,发现账号里不知何时竟发布了一则停更通知,引导粉丝去关注另外一个投资理财类的账号。工作人员尝试登录账号后台,发现密码已被修改,甚至连公司法人代表信息都被篡改。公司第一时间向武汉警方报案。 接警后,武汉网警迅速成立专案组,通过技术人员分析研判发现:被盗的社交媒体账号不仅认证信息被篡改,登录密码也已被更换,背后操作痕迹指向一套成熟的“AI换脸”技术。顺着线索层层追踪,专案组很快锁定了远在山东潍坊的犯罪嫌疑人阿成。 7月17日,3名民警赶赴潍坊实施抓捕。警方发现,阿成皮肤黝黑、衣着朴素,看上去像一名普通务农人员,民警一度怀疑阿成是否也被冒用了信息。但在对阿成住所搜查时,民警发现阿成电脑里有大量AI 换脸视频素材,以及“接单”获利的40多万元虚拟货币。 针对这些证据,阿成狡辩称:“我就是个美工,帮人做点图而已,怎么就违法了?我只是按上线的要求接单干活。” 据阿成交代,他从美术专业毕业后,因嫌美工收入不高,改行从事大棚种植。后来,又因为务农辛苦,开始在网上寻求兼职。2022年5月,他在外网接触到“人脸代过”的灰色产业,加入相关群组后,先在各类小型电商平台帮人制作人脸图像,每张收费200元;随着技术提升,他掌握了生成动态人脸视频的方法,“报价”也水涨船高,破解一张AI动态的人脸最高能卖到1000元。 此后,阿成负责完成AI换脸验证操作,而阿明(化名)、阿斌(化名)、阿华(化名)等3名上线则负责承接“人脸代过”需求、转交人员信息,并从中牟利。 民警介绍,该犯罪嫌疑人通过AI软件骗过人脸验证系统的镜头,在受害人不知情的情况下,篡改企业法人信息,对企业进行非法控制。 目前,上述4名犯罪嫌疑人因涉嫌非法侵入计算机信息系统罪,均被采取刑事强制措施,案件正进一步侦办中。
|