AI滥用“以假乱真”，你我怎能不落入陷阱？

用AI“跟明星”带货、用AI生成虚假商品评论、发布AI合成的内容而不“标记”……AI滥用“以假乱真”，你我如何不落入陷阱？编者按：人工智能技术的不断发展和应用给人们的工作和生活带来了很多便利。同时，随着图像、视频、音频生成门槛的降低，人工智能制造虚假信息的情况越来越多。在电商平台上，一些商家利用人工智能技术引入明星进行直播营销，侵犯了他人合法权益，损害了消费者的知情权和选择权。期待巴塔斯规则能够精准解决人工智能滥用问题，明确技术发展的法律边界，让技术在法治轨道上更好地服务人类。记录最后，女演员温峥嵘透露，网上发现了冒充她的直播间。最近有人发现她同时“出现”在几个直播间，妆容不同，产品不同，却说着同样的话。这些直播画面都不是温峥嵘本人拍摄的，有的其实是人工智能合成的假直播。人工智能技术的不断成熟和广泛应用，给人们的工作和生活带来了诸多便利。但与此同时，一些个人或企业利用AI生成虚假视频来误导公众。专业人士认为，有义务对AI生成的内容进行标签。同时，科技平台、电商平台等传播平台要承担识别、没收和处罚非法账号的主体责任。公众也必须提高认知能力和意识避免人工智能生成内容的风险。假视频诱惑消费者，“有这么神奇吗？” “这款痔疮膏不需要饮食限制，也不需要惩罚，是网上唯一没有差评的产品……”近日，《日常打工》记者在上海赵女士展示的一段视频中看到。韩红、潘长江两位名人通过摇篮答疑来宣传一款特定的痔疮产品。视频中，还有其他女明星为该产品“代言”。赵女士向记者透露，这是他今年8月份用妈妈手机上的短视频软件拍摄的一段视频。她妈妈看到“连名人都推荐这个产品”，准备下单。女士制止了。赵先生当时表示，“这个视频乍一看是AI生成的，说话时的表情和嘴巴不自然。”作为AI短剧的创作者，谭晶告诉记者，明星宣传视频是女士的母亲看到的。赵实际上是使用数字人类技术制作的。 “只要有明星的照片，角色就可以被转移，哪怕是截图。只要明星在某个场合说一句话，声音就可以被克隆。”今年6月，北京市海淀区市场监管局查处一起某企业利用AI技术介绍央视知名主持人姓名和形象的虚假广告案件。 8月，有媒体报道称，某社交平台上，有博主利用AI技术模仿奥运冠军全红灿的声音推销当地鸡蛋。有些视频有 11,000 个赞。奥运冠军孙颖莎、王楚钦也遭遇过类似的仿冒行为。通过虚假的图像和声音，加上名人效应，一些制作虚假视频的营销博主获得了大量订单。某视频p中记者目光短浅平台上看到，某视频“明星卖痔疮产品”，赵妈妈的收入被下架，但显示该产品销量约为6000件。据报道，在视频“全红灿带来土鸡蛋”的评论区，大量粉丝误以为运动员本人“代言”并下单购买该产品。结果显示，该产品已售出47,000件。有消费者发现，随着“双十一”的到来，购物平台上展示的人工智能生成的商品越来越多，比如各种娃娃配饰、衣服、家具，甚至还有合适的模型。一些商家在商品详情页、直播间利用人工智能生成的虚假评论来塑造用户体验，影响消费者的理性判断。垦丁律师事务所创始合伙人姐夫沃马策称，利用AI技术冒充明星直播营销严重侵犯假冒名人的肖像权、名誉权、声音权等合法权益。违反了消费者权益保护法、广告法关于禁止虚假宣传、虚假广告的规定，侵犯了消费者的知情权和选择权。情节严重的，可能构成诈骗罪，依法追究刑事责任。中国人民大学公共管理学院教授、资本发展与战略研究院研究员张友朗表示，虚假视频和产品不仅导致信息扭曲、信任侵蚀，还带来销售权益保护问题。它们还通过不公平竞争导致平台生态的破坏和后续运营商的挤压。识别虚假人工智能视频的难度加大。 “人工智能工具越来越流行并且易于使用“人工智能生成内容被滥用，让非专业人士轻易生成虚假内容，这是人工智能生成内容被滥用的主要原因。”北京邮电大学互联网治理与法律研究中心主任谢永江表示。10月17日晚，安徽铜陵一女子利用人工智能技术生成多张“流浪汉入屋”照片，并发送给正在一起吃饭的丈夫。逼真的画面让妻子相信他是认真的。警方赶到现场核实后，证实这起闹剧是一场人工智能恶作剧。在一家音乐培训机构担任视频编辑的施毅去年开始尝试用人工智能生成视频，近日，他在网上发布了一段自己制作的短视频：蓝天下，教室里传来学生读书的声音，老师写下了作文题《我要》。“去看黑板上的”……3分钟的视频中，风景、人物、日常需求都非常生动。“用AI技术生成图像，再用图像生成视频，最后剪辑、添加配音，一个视频就完成了。”石毅告诉记者，他不是影视专业毕业，但对生成视频很感兴趣。前面提到的写实视频是他用三四个软件制作的。“很多AI照片和视频都是假的，很难辨认，除非”在某领先短视频平台担任技术门将的刘宇（化名）明确表示，随着生成大模型的能力越来越强，识别假AI视频变得更加困难。“一些长视频也可以根据上下文进行识别。基于图片的短视频在添加特效后几乎与真人没有区别。如果设备、码率、帧率等刘宇表示，现阶段平台AI视频识别主要依靠人工和机器相结合，不能完全依赖技术识别。张友浪分析称，流量平台和产品转换的强烈激励，导致一些交易者和个人利用AI技术“追恶逐利”，并迅速繁衍和蔓延；网络环境的匿名性、保密性导致滥用证据难以取证，追责成本较高；很多人不是媒体深度造假识字能力不够、平台内容监控机制不完善等，也造成了人工智能生成内容应用的混乱，打造“可见、可搜索、可追踪”的人工智能生成内容，从今年9月1日起，《关于对人工智能生成的合成内容进行标签的建议》出台。国家网信办等制定的《办法》即将生效，要求所有文本文字、图像、视频等内容“明确身份”，即添加标签，明确其来源和真实性。史毅告诉记者，在导出人工智能生成视频时，软件一般都会带有人工智能水印。如果没有水印，则在发布视频时必须选择平台提供的人工智能生成声明选项。“但是否选择仍然是一个自觉决定的问题。”有些人可能会认为，只要视频不涉及版权、肖像权等问题，就不需要标注。”谭晶表示，为了吸引关注、赚取流量，一些博主会刻意利用AI技术，去除原有“AI生成”的视频水印，发布时选择不标注。9月，某短视频平台发布了关于加强AI内容滥用的公告。管理部门表示，平台已采取删除、注销违规视频和账号等措施，并强调AI应用必须合规，任何误用或滥用行为将受到严厉处罚。张友朗建议，人工智能生成的内容不仅应该被标记，还应该“可见、可搜索、可追踪”。可以探索隐藏水印、溯源元数据、指纹模型等技术的技术层面，方便平台及相关部门的管理和验证。在明确人工智能内容标签责任方面，张耀朗认为，应实行“内容生产者第一责任、平台控制、第三方可验证”的分层机制：上传者先声明并嵌入水印；平台在分发前进行自动识别和现场检查，并要求强制补充不竞标或限制当前删除未生成或可疑的虚假内容；行业协会和权利人可以通过取证接口进行外部核查。此外，商业营销和广告性质的内容必须遵守广告法规定的更高的披露标准。为进一步引导社会消费合法、有道德的内容，谢永江建议强化平台责任，强化技术和管理措施，提高公众对人工智能的素养。此外，应加强跨部门合作，进一步纠正人工智能生成内容的违法行为。 （记者陶文） 【责任编辑：刘洪庆】