“AI换脸”诈骗待关注.docx
“A1.换脸”诈骗苗头待关注近期，''AI换脸”技术被不法分子用于实施诈骗案件，并出现了涉及政治人物的情况。利用“AI换脸”技术，不法分子可以通过合成视频等手段伪造与领导干部见面、合影等内容，此类案件不仅是一种新型网络诈骗手段，还涉及到政治人物，对社会安全和政治秩序造成了潜在的威胁，引起了广泛关注。一、基本情况据中国互联网协会2023年5月24日消息，今年以来,ChatGPT和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对A1.技术的广泛关注和热情。伴随着深度合成技术的开放开源，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗的违法行为屡见不鲜。中国信息通信研究院相关负责人表示，当前人工智能“辅助”诈骗存在四大趋势：一是技术成本由高向低转变。腌讯安全玄武实验室负责人于扬表示，随着技术的革新，人工智能“深度伪造”“深度合成”已成为一种可以低成本实现的技术；二是技术应用由单一向多元转变。安全专家表示，实施人工智能诈骗一般要满足多个要素，包括非法获取信息、构建熟人账号、“换脸换声”、破解手机摄像头权限等，涉及多项技术手段；三是伪造身份从模糊向具体转变。在人工智能“辅助”诈骗中，骗子可以以具体的“人物形象”出现。四是作案模式从“广撒网”向精准施骗转变。AI技术在客观上增加了冒充熟人、领导干部等诈骗的“可信度”。二、相关问题一是“AI换脸”更具欺骗性和危害性。由于工作原因，一些领导干部的面部、声音等生物特征信息更易被获取，10个字、最多32个字就能“合成”一位“领导在一些案件中，不法分子通过“AI换脸”合成视频等方式，增加了涉政类诈骗的欺骗性和危害性。据新华网报道，北方某地警方发布了一起利用“AI换脸”对当事人实施诈骗的案件。不法分子模拟伪造受害人认识的一名领导干部。在微信视频聊天中，“换脸”后的骗子提出，其朋友有一笔工程保证金需要借用受害人公司的对公账户走账。在视频画面中，骗子“换脸”后面部表情自然，声音逼真，受害人便放松了警惕，转账后打电话确认，才知道被骗。同样情况，在华北某地一名地方干部表示有人冒用他的名义，与他的亲朋好友大范围添加微信好友，并给他们打了视频电话。通话时间只有几秒钟,但朋友们感觉声音、画面都有点儿像，直到许多朋友打电话询问具体情况，他才知道此事。二是A1.诈骗门槛和成本不断降低。A1.声音合成一两年前还需要大量音频数据，现在仅需十几秒的短视频或录音。收集人脸信息则更简单，一张照片就可实现。今年1月，微软团队发布了AI语音合成模型VA1.1.-E。只需3秒指定素材，即可精确地模拟说话者声音，甚至连环境背景音也能准确还原。在各个平台可以通过搜索关键字查询AI换脸教程，这些教程通过视频、文章等形式传播，并提供换脸直播工具的下载渠道，有的需要付费，有的通过点赞、关注、评论就能获取，难免沦为不法分子实施新型诈骗的工具。一家梃供A1.换脸直播软件的企业报价仅99元，在这项收费里，包括培训、软件还有部分已有脸部模型的内容。目前，制作一套“露脸且说话”视频成本低至数十元，有商家称用照片生成一段1分钟时长的视频仅需30元左右。如果视频时间短。质量要求不高几块钱一段都可以。而一些领导干部由于工作原因出镜率相对较高，这为骗子提供了丰富的面部识别素材，在电视、广播新闻中也可以找到一些领导干部的大段同期声，即便不具备专业编程能力的普通用户，通过简单学习也能快速上手。三是易带来政治风险。国际安全形势复杂，不法分子收集政治人物生物信息生成深度伪造后的视频或图像。这些虚假的视频和照片看起来非常真实，可以用来欺骗人们相信一些本来不存在的事件或事实。参考消息网引据埃菲社5月21日报道，目前人工智能已经被用来搅乱政治辩论。专家表示，主要的手段是通过生成假新闻，甚至生成“深度造假”内容，即利用换脸等人工智能技术操纵视频，让他们“说出”自己原本没有说过的话。有人制作美国总统特朗普的虚假视频，该视频中特朗普发表了“决定要对中国发射核导弹”的重要演说，这一视频被上传到了SNSo在人工智能生成的虚假照片中，西班牙前副首相和西班牙劳工与社会经济大臣在各自所属政党之间处于紧张关系的情况下手拉手;法国总统埃马纽埃尔马克龙参与示威游行，反对他自己提出的养老金改革。三、建议一是进一步加强公民个人信息保护。加强公民信息尤其是生物特征等隐私信息的技术、司法保护力度。社会化的监督与法律法规的完善，可以为反人工智能诈骗提供兜底性的保障。比如对于用户隐私的搜集、使用进行更坚决的保护，从源头切断诈骗分子伪造信息的可能；二是社交平台通过对技术特征的识别来建立预警机制。一方面是开发涉及人脸信息处理的软件，需要得到许可，明确应用场景、使用目的，防止技术被滥用；另一方面是建立涉及人脸信息处理的“留痕”技术制度，如“技术水印”、后台信息代码，供识别与监督，设置技术防护栅栏。一旦镜头前的视频存在换脸的痕迹，立马进行预警告知，结合反诈的行为数据库,甚至可进行信息同步拦截；三是有关部门依法加强治理和执法。从法律方面看，反电信网络诈骗法、刑法等法律为打击治理各类电信网络诈骗活动提供了充分支撑。各方面应当全面贯彻落实反电信网络诈骗法，依法严厉惩治包括利用AI技术在内的各类电信网络诈骗活动。对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的追究刑事责任。立法机关也要加强对人工智能等领域法律问题的研究，不断建立健全相关法律制度。
