科技 > AI换脸骗局频现 人工智能使用边界究竟在哪儿
AI换脸骗局频现 人工智能使用边界究竟在哪儿
2023-06-06 14:45阅读(168)
网络上使用AI技术兴风作浪的诈骗事件屡屡出现，这些诈骗事件引起了广泛的社会关注，5月22日，包头警方发布了一起使用AI实施电信诈骗的案例，让AI骗局再次冲上热
网络上使用AI技术兴风作浪的诈骗事件屡屡出现，这些诈骗事件引起了广泛的社会关注，5月22日，包头警方发布了一起使用AI实施电信诈骗的案例，让AI骗局再次冲上热搜，据警方通告所述，福州市某科技公司法人代表郭某，在接到好友微信视频电话后，十分钟之内向对方直接转账430万元，由于考虑到是真人视频通话，郭某并没有怀疑对方的真实性，后续联系好友的时候才意识到自己遭遇到了AI换脸骗局，骗子是通过AI换脸佯装自己的好友实施诈骗行为。
自从AI技术普及之后，有关于AI技术的争论向来都没有定论，此前chat gpt就因为编写假新闻受到人们的诟病，而近期频繁出现的AI诈骗让人们不得不反思，AI生成的虚假信息或许真的潜藏着巨大的社会风险威胁，英国媒体曾报道，2019年的三月份，英国警方逮捕了一名使用AI语音模仿软件实行诈骗的犯罪嫌疑人，这位犯罪嫌疑人使用自己的声音改变成当地一家能源公司老板的声音，通过电话诈骗了22万欧元，据被诈骗的高管回忆，当时自己产生过疑心，从电话中听到老板的德国口音，便放下了警惕心理。
其实AI也模仿一个人的声音或外貌早已不是新鲜事，此前，AI孙燕姿就曾经靠模仿声线爆红全网，视频上传者使用AI音色替换技术，生成了孙燕姿音色的翻唱歌曲，其中演唱的周杰伦经典歌曲《发如雪》在全网播放量更是超过了200万次，最近媒体也爆料出，网上出现一大批付费AI换脸的软件，这些软件的套餐价格从499元到2888元不等，经过软件的换脸之后的数字人口型和各种微小动作几乎毫无破绽。
苏州大学竞争政策与反垄断研究中心研究员方翔对此指出，近期频繁出现的AI诈骗事件，主要是由于人工智能技术在图像领域的发展应用，这项技术可以将不同人脸的图像面部特征完成替换，而采用拟声的方式会借助深度学习模型，根据现有的声音样本生成与原生物体相接近的声音，通过这种方式来与对方展开交谈，利用AI换脸，AI换声这样的虚假音视频进行诈骗的违法行为在当下屡见不鲜，广大公众一定要提高警惕加强防范意识，相关部门也应该及时做出规范，对该行业的发展提出更高的要求。
相关问答推荐
热点关注
Apple Vision Pro 苹果首款头显 AI换脸骗局频现 人工智能使用边 AirPodsPro推出自适应功能 第一 LF AI&Data执行董事：每周都 全球最大的飞艇：“探路者1”号 李开复谈AI 2.0：自主创新是中国 30元包月和“半藏森林”视频聊天 我国首次实现人类干细胞太空早期 QQ音乐豪华绿钻续费价格上涨 成都鼓励AI产业发展：出台19项资 AI席卷华尔街：对冲基金部署Chat 4篇论文有同一划痕 涉吉林大学、 AI假造五角大楼爆炸致股市波动 全球第二款产品 FDA批准辉瑞RSV 大脑的整体形状对其工作方式的影 美媒：英伟达、台积电、AMD迎来 ChatGPT登陆移动端，AI助力手机 5月31日 新的起床号 厄尔尼诺现象今年可能再现 预计 通用型人工智能的双刃剑：驾驭发 “90后”技术经理人入行3年 参与 增强现实技术详细报道 详解中国 英伟达在放大招 推出E级AI超算 麦耀华 钙钛矿电池想要创新 须给 耀途资本周俊认为钙钛矿电池赛道 心理压力会造成肠道发炎 《细胞 北大、浙大、北理工的科技成果如 上海徐汇 正加紧研究打造通用大 星环科技创始人孙元浩 大模型在 首获FDA批准人体试验背后 马斯克
