诈骗百万、侵权明星……元凶不是AI，别再让它背锅

“10分钟被AI换脸骗走430万元”“AI侵权著名歌手”“AI一键脱衣造黄谣”......近期，一系列涉及人工智能(AI)的负面事件在互联网上持续发酵，引发了群众的恐慌情绪。在这样的背景下，有些人开始呼吁全面禁止AI的使用。那么，AI真的这般不堪吗?全面禁止AI，以上违法行为能悉数解决吗?

诈骗来袭不要慌

【资料图】

一根手指就可破解AI换脸

继此前“10分钟被AI换脸骗走430万元”事件引发关注之后，5月22日，又一起AI换脸诈骗发生。这次金额达到132万，且整个诈骗过程时间更短，只有9秒钟。与此同时，AI诈骗正在全国爆发的话题冲上热搜第一，引发网友热议。

5月22日，安徽安庆的何先生接到熟人视频电话，让他帮忙转一笔账。但9秒之后，对方以“在开会”为由，迅速挂断了电话，还称“微信和电话不能说，加一下QQ”。

男子被骗过程

“因为打了视频电话，又是熟人，我就没多想，就转账了”。事发时，何先生放松了警惕。发现被骗之后，何先生迅速报警，专案民警第一时间冻结相关账户，连夜赶赴北京市抓获3名涉诈嫌疑人，追回何先生被骗的132万元。

此前，央视曾报道一起金额高达430万元的AI换脸诈骗，过程与此案基本相似，诈骗分子都运用到了AI换脸以及拟声技术：4月20日，福建某科技公司法人代表郭先生突然接到“好友”微信视频，对方称自己的朋友在外地竞标，需要430万元保证金，郭先生见视频中的面孔和声音确实是“好友”，于是放松了警惕，仅在10分钟之内就向对方转账430万元。在福建、包头两地警方、银行的帮助下，其中300多万元被拦截，目前仍有90多万还在追查中。

乍一看，似乎都是AI的“锅”。但细细想来，这无外乎是一个金额较大，但手法平平无奇的诈骗案件，因为骗子利用了“换脸视频”而引发了舆论的恐慌情绪。

事实上，AI换脸并非毫无破绽。“AI假脸”的纹理特征存在破绽。例如，伪造后的视频人物的眼睛或牙齿轮廓细节容易不一致;两只眼睛瞳孔的颜色不一样或瞳孔中心反射的细节不一样;或是很多伪造视频由于视频分辨率低于原始视频分辨率，伪造出来视频的牙齿边缘过于整齐等。

另外，“AI假脸”有可能不符合正常人的生理特征，比如，一个健康成年人一般间隔2-10秒眨一次眼，每次眨眼用时0.1-0.4秒，而在伪造视频中，人的眨眼频率可能不符合上述规律。通常，人嘴部的运动是最为频繁且快速的，而AI软件却无法真实准确地渲染连续动作。

在视频时，你可以要求对方用一根手指在面部来回晃动，或者用手掌挡住一部分的脸。因为犯罪分子在训练AI算法时多使用的为正面照，所以程序无法处理好突然在面前出现的物体，这时面部就会出现扭曲变形。

“孙燕姿”们不会失业

该下岗的应是侵权行为

2000年，大街小巷都是孙燕姿。

2023年，大网小网都是“AI孙燕姿”......

近年来，随着技术的不断发展，越来越多的人工智能产品逐渐进入我们的生活。在ChatGPT问世，引发全网“下岗”担忧的几个月后，与其同属AIGC技术的AI歌手正在成为乐坛新顶流。

今年4月中旬，AI歌手“AI孙燕姿”横空出世。到目前，已翻唱60余首歌曲，其中包括粤语、日语、英语、俄语中歌迷们耳熟能详的歌曲。5月上旬，有音乐播放平台已上架“AI孙燕姿”的翻唱合辑。还有平台已经开启“AI孙燕姿”直播点歌，只需在评论区输入#+歌曲名，即可听到“AI孙燕姿”演唱的该版本的歌曲。据悉，“AI孙燕姿”翻唱的一些曲目在网上点击量破百万，其所驾驭曲风范围甚广。有人开始担心，AI歌手的出现是否意味着真实歌手将失去市场，像孙燕姿这样的著名歌手，会因为AI歌手的出现而失业吗?

从AI换脸、AI绘画、AI写论文到如今的AI翻唱，科技的力量让人惊叹，但我们也应清楚地认识到，AI歌手的出现并不意味着真实歌手将失去市场。在数字化时代，音乐消费的主体依旧是人类，AI歌手技术上的局限性使得其无法完全替代真实歌手的表演和情感表达。所以，与其担心AI让孙燕姿成为失业第一人，我们更应关注的是“AI孙燕姿”带来的权益保护问题。也许，不是孙燕姿要因为AI而失业，而是AI中的侵权行为要首先该“下岗”才对。

据报道，美国歌手黎安·莱姆斯就公开表示“很乐意大家使用她的声音”，但她要求分50%版税。面对这一波势不可挡的AI浪潮，我们应清楚认识到，AI与音乐产业之间的关系是一种相互促进和共生的关系。AI歌手的出现并不意味着真实歌手将失去市场;相反，AI歌手可以为音乐产业注入新的元素和活力，推动音乐产业的数字化转型和升级。在保护原创版权的基础上，我们应该鼓励AI歌手的发展和创新，为音乐产业带来更多的可能性。

前不久，某视频平台更新规范：在应用生成人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实。同时禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。

今年4月，国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》，提出——

•利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，要承担该产品生成内容生产者的责任;

•发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合办法要求时，应当采取措施，停止生成，防止危害持续。

这份征求意见稿已经于5月10日结束公开征求意见。我们期待，随着AI技术越来越深入我们的生活，相关配套管理也不断完善，各平台参与者的主体责任也更加明晰。在厘清权益保护的法律边界基础上，让AI在合法的轨道上运行。

AI并不是元凶

它只是一个工具

AI可以替代很多事情，但唯独不能替代“背锅”这件事。AI只是一个工具，它只是根据预设的算法进行计算和推断，并不能自己主动产生行动。所以，如果出现了问题，应该把责任归咎于使用AI的人，而不是AI本身。就像一把刀子，如果用来切菜，那么它是有用的;但如果用来杀人，那么它就成为了凶器。同样地，AI也有它的应用范围，关键在于我们如何正确使用它。

当出现问题时，我们不能把责任完全推给AI或者算法，而应该对AI的使用进行审慎和监管。例如，如果使用AI换脸技术进行诈骗，那么就应该追究犯罪者的责任;如果使用AI制造黄谣，那么就应该追究发布者的责任;如果使用AI侵权著名歌手，那么就应该追究侵权者的责任。

为什么会出现以上问题?其实，问题的根源在于人的行为。因为利益驱动，有些人会不顾他人的权益和安全，只顾一己私欲而不择手段地使用AI。这种行为本身就是错误的，而不是AI本身的问题。

因此，与其说全面禁止AI，倒不如说我们更需要采取措施加强对AI的监管。首先，应该建立起严格的AI使用规范，限制AI的使用范围和目的。其次，应该对AI的开发者和使用者进行教育和培训，让他们了解AI的应用范围和限制。最后，应该建立起健全的法律制度，对违法使用AI的行为进行惩罚。

AI不是元凶，别再让AI背锅。只有以正确地看待AI，全面客观地认识到它的优势和局限性，并加强对其的监管，才能让AI真正为人类服务。

原标题：诈骗百万、侵权明星……元凶不是AI，别再让它背锅

值班主任：李欢

关键词：