山西消协提醒:警惕新型诈骗——AI换脸、AI配音

山西省消协发布的山西最新消费提醒显示,在“深度伪造”的消协新型帮助下,当前新型的提醒诈骗行为正在日益增加,并且呈现出明显的警惕优势,这类诈骗手段可以更有效地骗过消费者的诈骗双眼。特别是换脸到了2025年以后,人工智能技术将发展到一个新的配音高潮阶段,对各类诈骗活动将产生巨大的山西影响。

诈骗分子通常采取多步流程实施诈骗行动。消协新型第一步:他们在抖音、提醒微信视频号以及微博等社交平台进行广泛搜索,警惕搜集消费者或亲友公开发布的诈骗内容,包括清晰面部视频、换脸声音片段,配音用于人工智能模型的山西训练;紧接着,使用“深度伪造”技术来制作和合成真实且足以真假难辨的视频或音频文件;接着,在遭遇紧急情境时精心编排并策划诈骗活动。最后一步:利用虚构的情景(例如遇到车祸、被捕入狱)制造慌乱气氛,降低消费者的警觉性,从而实施直接联系,要求受害者按照指定账户进行转账操作。

诈骗场景通常包括:一是制作合成的子女影像和父母或好友的视频画面,在电话视频通话中以急需用钱需要转账为借口进行诱骗;二是针对企业财务人员或者员工,通过视频会议伪造领导意图下达紧急资金指令;甚至还有欺诈分子利用执法人员的身份伪造视频假象,并以此恐吓受害者将资金汇入所谓的安全账户进行核查。

面对这些以生物识别进行欺诈的新型犯罪行为,建议消费者必须建立多元化的安全措施:不能单纯依赖肉眼所见或他人的话语描述判断。此外还应注意:不轻易点击陌生链接;不对陌生人提供的任何个人信息给予信任。

“三不”是指不要轻信,不要转账,也不要泄露个人的信息,“三不”的基本含义是要小心对待非面对面的付款要求,在与不认识的人联系或交易之前,请确保了解对方的身份和信誉。如果不确定某个请求的真实性,请多方面核实信息;在确认身份之前,请谨慎处理任何可能牵涉金钱、个人数据或其他重要资料的交易,尤其警惕那些声称需要紧急转账以缓解某些经济问题的电话、邮件或者其他通讯方式,对于这类情况,请提高警觉并寻求其他可信途径以进一步核实对方的身份和需求。另外要特别注意不要在未经过正规渠道或进行验证的情况下分享关于自己的正面视频、语音等敏感信息;建议尽量避免过于暴露个人信息的行为,并确保自身在线安全,如及时更改密码,安装反病毒软件等等。

二要即要核实和警惕。“亲友”以视频方式借钱时,务必在挂断前使用自己保留的联系方式再次验证确认。可以和家人挚友预先约定资金往来的暗语,并留意是否存在细微破绽:人物表情僵硬、眨眼不自然、口型对不上或声音有电子音或是有断句的不合理等。此外要时刻注意提防AI合成内容可能出现的人物表情僵硬、眨眼不自然,口型对不上或声音有电子音或是有断句的不合理等问题。谨记公检法等部门绝不会通过视频或电话要求转账至所谓“安全账户”。若遇资金往来,务必警惕一切无法确保合法性的提议和命令,并保持高度警觉,防人之心不可无。

山西省消协郑重提醒,一旦发觉被骗,应第一时间拨打110报警或前往就近派出所,并提供对方账号、联系方式、聊天记录、转账凭证等证据。同时,立即联系银行客服或通过手机APP尝试冻结对方账户,争取止付,以最大限度减少损失。