诈骗狂飙 AI须“归笼”
点击查看原图
《中国青年报》等媒体所做的相关报道
点击查看原图 ◎潘愈
“用监管撕掉AI“换脸”画皮。正如北京晚报评论所言：人工智能作为一种技术手段，由人所创造，为人所使用，也就需要有人来约束。撕掉人工智能画皮，还得靠人的“慧眼”。技术是一把双刃剑，拥抱新技术带来的发展与变革，也必须规避可能存在的风险和危险。既然有人在用它图谋不轨，就必须为这把剑装上剑鞘，这是为了保护剑，也是为了保护人。
近日，“AI诈骗正在爆发”“10分钟被骗430万”“诈骗成功率接近100%”等话题登上热搜。犯罪分子利用AI技术合成你亲朋的“脸”给你打视频电话借钱，甚至连声音也能伪装到位，分毫不差，破绽难寻。这真验证了一句话，“眼见耳听都不一定为实”，毫不夸张地说，AI假脸加上合成声音，人人都有可能上当，防不胜防，足见AI诈骗的猖狂。
内蒙古自治区包头市警方日前发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。当时一位“好友”突然通过微信视频联系他借钱，基于信任，加上已经视频聊天核实了身份，郭先生分两笔把430万转到了好友朋友的银行卡上。最后，郭先生拨打好友电话核实时，才发现被骗。原来骗子通过智能AI换脸和拟声技术，佯装成好友对郭先生实施了诈骗。
之前国内“AI孙燕姿”翻唱视频爆红，就有声音质疑“AI翻唱”可能侵犯了歌手的人格权、原曲的著作权，甚至涉嫌犯罪。一时间，关于AI技术是否被“越界”、失控使用的大讨论在网上展开。
用监管撕掉AI“换脸”画皮。正如北京晚报评论所言：人工智能作为一种技术手段，由人所创造，为人所使用，也就需要有人来约束。撕掉人工智能画皮，还得靠人的“慧眼”。技术是一把双刃剑，拥抱新技术带来的发展与变革，也必须规避可能存在的风险和危险。既然有人在用它图谋不轨，就必须为这把剑装上剑鞘，这是为了保护剑，也是为了保护人。
那么，AI诈骗常用手法有哪些？据警方介绍，一是声音合成：骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方；二是AI换脸：人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认；三是转发微信语音：骗子在盗取微信号后，便向其好友借钱，为取得对方的信任，他们会转发之前的语音，进而骗取钱款；四是AI程序筛选受害人：骗子利用AI来分析公众发布在网上的各类信息，根据所要实施的骗术对人群进行筛选，在短时间内便可生产出定制化的诈骗脚本，从而实施精准诈骗。
打好反诈“攻坚战”，织密全民“防诈网”，相关部门一直在行动。在法律法规方面，我国首部《反电信网络诈骗法》明确规定，组织、策划、实施、参与电信网络诈骗活动或者为电信网络诈骗活动提供帮助，构成犯罪的，依法追究刑事责任；中办国办《关于加强打击治理电信网络诈骗违法犯罪工作的意见》要求建立健全信用惩戒制度，将电信网络诈骗及关联违法犯罪人员纳入严重失信主体名单；国家网信办起草的《生成式人工智能服务管理办法（征求意见稿）》公开征求意见，对数据合规性、生成内容合法性提出进一步要求。
同时，对于电信诈骗犯罪，全国公安机关持续组织集群战役，开展全链条打击。日前，全国打击治理电信网络新型违法犯罪工作电视电话会议透露，全社会反诈局面初步形成，依法严打严惩战果丰硕，去年共破案46.4万起，有力维护了人民群众财产安全和合法权益。公安部部长王小洪会上强调，要进一步加大打击力度，坚决打掉犯罪分子的嚣张气焰，确保电信网络诈骗犯罪多发高发态势得到有效遏制。要进一步织密防护网络，加强技术反制、预警劝阻、资金返还和宣传防范，最大限度预防案件发生、减少群众财产损失。要进一步抓好源头管控、深化行业治理，全力挤压涉诈违法犯罪活动空间。
那么，作为普通民众，我们又该如何迅速识别“AI假脸”，避免掉入陷阱？北京邮电大学网络空间安全学院教授周琳娜接受媒体采访时表示，“AI换脸”检测技术有多种手段，对于公众而言，可以依据“AI假脸”的“bug”（意为“缺陷”“漏洞”）进行简单识别——注意观察“AI假脸”的纹理特征、生物特征、嘴部固有特征，此外，伪造后的视频会造成一定的视频抖动，导致视频出现帧间不一致情况。
AI反诈技术不能落在后头。中工网评论建议：一方面要强化公共宣教，确立新的防骗反诈意识；另一方面，还是要加快防御性、对抗性技术工具的推广落地和应用嵌入。比如，不妨尝试在常用的社交媒介软件中，内嵌声纹、人脸识别的身份核验模块。如此，或许就能少些“换脸冒充好友借钱”之类的案件。
“AI诈骗”应被零容忍。中国青年报评论表示，当务之急，还是要加强有针对性的防骗教育和提醒。类似的“AI换脸”诈骗案例，应该尽快通过多种渠道告知民众，尤其要提醒一些老年人。与此同时，防骗治理工作也要尽快跟上，目前对“AI换脸”诈骗的防范措施还比较少。
中国互联网协会曾提醒：在AI时代，文字、声音、图像和视频都有可能是深度合成的，在转账汇款、资金往来这样的典型场景，要通过回拨对方手机号等额外通信方式核实确认，不要仅凭单一沟通渠道未经核实就直接转账汇款，无论对方是谁！正如伦敦大学学院计算机科学家、人工智能专家彼得·本特利建议的那样，“最好的建议是：保持怀疑，仔细检查任何向你要钱或个人信息的人，即使‘他’看起来是一个值得信赖的朋友或家人。”
其实，不仅是国内，国外很多国家和地区类似案件也高发。据外媒报道，犯罪分子仅凭一个人在社交媒体上数秒钟的声音素材，便能生成遭绑架的对话片段，以此勒索钱财，而成本可能仅仅需要每月5美元的AI程序使用费。
彼得·本特利（Peter Bentley）教授对媒体直言，“大型语言模型可以按照任何风格编写文本，所以如果你有一些电子邮件或社交媒体交流的样本，现在很容易让AI用来学习并假装成你本人。经过示例训练后，生成式AI算法还可以轻而易举地生成以假乱真的音视频。随着越来越多的应用程序具备这些功能，它变得越来越容易获得。”
欧盟机构近期宣布其《人工智能法案》迈出了立法程序的关键一步，意欲创立实施全球首部有关人工智能技术的法律监管条例。这说明全球都在为监管AI不断加码，我们相信，为拉回“失控”的AI，后续更广泛的国际合作将会陆续展开。
“用监管撕掉AI“换脸”画皮。正如北京晚报评论所言：人工智能作为一种技术手段，由人所创造，为人所使用，也就需要有人来约束。撕掉人工智能画皮，还得靠人的“慧眼”。技术是一把双刃剑，拥抱新技术带来的发展与变革，也必须规避可能存在的风险和危险。既然有人在用它图谋不轨，就必须为这把剑装上剑鞘，这是为了保护剑，也是为了保护人。
近日，“AI诈骗正在爆发”“10分钟被骗430万”“诈骗成功率接近100%”等话题登上热搜。犯罪分子利用AI技术合成你亲朋的“脸”给你打视频电话借钱，甚至连声音也能伪装到位，分毫不差，破绽难寻。这真验证了一句话，“眼见耳听都不一定为实”，毫不夸张地说，AI假脸加上合成声音，人人都有可能上当，防不胜防，足见AI诈骗的猖狂。
内蒙古自治区包头市警方日前发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。当时一位“好友”突然通过微信视频联系他借钱，基于信任，加上已经视频聊天核实了身份，郭先生分两笔把430万转到了好友朋友的银行卡上。最后，郭先生拨打好友电话核实时，才发现被骗。原来骗子通过智能AI换脸和拟声技术，佯装成好友对郭先生实施了诈骗。
之前国内“AI孙燕姿”翻唱视频爆红，就有声音质疑“AI翻唱”可能侵犯了歌手的人格权、原曲的著作权，甚至涉嫌犯罪。一时间，关于AI技术是否被“越界”、失控使用的大讨论在网上展开。
用监管撕掉AI“换脸”画皮。正如北京晚报评论所言：人工智能作为一种技术手段，由人所创造，为人所使用，也就需要有人来约束。撕掉人工智能画皮，还得靠人的“慧眼”。技术是一把双刃剑，拥抱新技术带来的发展与变革，也必须规避可能存在的风险和危险。既然有人在用它图谋不轨，就必须为这把剑装上剑鞘，这是为了保护剑，也是为了保护人。
那么，AI诈骗常用手法有哪些？据警方介绍，一是声音合成：骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方；二是AI换脸：人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认；三是转发微信语音：骗子在盗取微信号后，便向其好友借钱，为取得对方的信任，他们会转发之前的语音，进而骗取钱款；四是AI程序筛选受害人：骗子利用AI来分析公众发布在网上的各类信息，根据所要实施的骗术对人群进行筛选，在短时间内便可生产出定制化的诈骗脚本，从而实施精准诈骗。
打好反诈“攻坚战”，织密全民“防诈网”，相关部门一直在行动。在法律法规方面，我国首部《反电信网络诈骗法》明确规定，组织、策划、实施、参与电信网络诈骗活动或者为电信网络诈骗活动提供帮助，构成犯罪的，依法追究刑事责任；中办国办《关于加强打击治理电信网络诈骗违法犯罪工作的意见》要求建立健全信用惩戒制度，将电信网络诈骗及关联违法犯罪人员纳入严重失信主体名单；国家网信办起草的《生成式人工智能服务管理办法（征求意见稿）》公开征求意见，对数据合规性、生成内容合法性提出进一步要求。
同时，对于电信诈骗犯罪，全国公安机关持续组织集群战役，开展全链条打击。日前，全国打击治理电信网络新型违法犯罪工作电视电话会议透露，全社会反诈局面初步形成，依法严打严惩战果丰硕，去年共破案46.4万起，有力维护了人民群众财产安全和合法权益。公安部部长王小洪会上强调，要进一步加大打击力度，坚决打掉犯罪分子的嚣张气焰，确保电信网络诈骗犯罪多发高发态势得到有效遏制。要进一步织密防护网络，加强技术反制、预警劝阻、资金返还和宣传防范，最大限度预防案件发生、减少群众财产损失。要进一步抓好源头管控、深化行业治理，全力挤压涉诈违法犯罪活动空间。
那么，作为普通民众，我们又该如何迅速识别“AI假脸”，避免掉入陷阱？北京邮电大学网络空间安全学院教授周琳娜接受媒体采访时表示，“AI换脸”检测技术有多种手段，对于公众而言，可以依据“AI假脸”的“bug”（意为“缺陷”“漏洞”）进行简单识别——注意观察“AI假脸”的纹理特征、生物特征、嘴部固有特征，此外，伪造后的视频会造成一定的视频抖动，导致视频出现帧间不一致情况。
AI反诈技术不能落在后头。中工网评论建议：一方面要强化公共宣教，确立新的防骗反诈意识；另一方面，还是要加快防御性、对抗性技术工具的推广落地和应用嵌入。比如，不妨尝试在常用的社交媒介软件中，内嵌声纹、人脸识别的身份核验模块。如此，或许就能少些“换脸冒充好友借钱”之类的案件。
“AI诈骗”应被零容忍。中国青年报评论表示，当务之急，还是要加强有针对性的防骗教育和提醒。类似的“AI换脸”诈骗案例，应该尽快通过多种渠道告知民众，尤其要提醒一些老年人。与此同时，防骗治理工作也要尽快跟上，目前对“AI换脸”诈骗的防范措施还比较少。
中国互联网协会曾提醒：在AI时代，文字、声音、图像和视频都有可能是深度合成的，在转账汇款、资金往来这样的典型场景，要通过回拨对方手机号等额外通信方式核实确认，不要仅凭单一沟通渠道未经核实就直接转账汇款，无论对方是谁！正如伦敦大学学院计算机科学家、人工智能专家彼得·本特利建议的那样，“最好的建议是：保持怀疑，仔细检查任何向你要钱或个人信息的人，即使‘他’看起来是一个值得信赖的朋友或家人。”
其实，不仅是国内，国外很多国家和地区类似案件也高发。据外媒报道，犯罪分子仅凭一个人在社交媒体上数秒钟的声音素材，便能生成遭绑架的对话片段，以此勒索钱财，而成本可能仅仅需要每月5美元的AI程序使用费。
彼得·本特利（Peter Bentley）教授对媒体直言，“大型语言模型可以按照任何风格编写文本，所以如果你有一些电子邮件或社交媒体交流的样本，现在很容易让AI用来学习并假装成你本人。经过示例训练后，生成式AI算法还可以轻而易举地生成以假乱真的音视频。随着越来越多的应用程序具备这些功能，它变得越来越容易获得。”
欧盟机构近期宣布其《人工智能法案》迈出了立法程序的关键一步，意欲创立实施全球首部有关人工智能技术的法律监管条例。这说明全球都在为监管AI不断加码，我们相信，为拉回“失控”的AI，后续更广泛的国际合作将会陆续展开。