“你是温峥嵘，我是谁？”演员温峥嵘近日在直播间问灵魂，将AI深度合成的精彩带入大众眼前。央视特别发出提醒：现在的AI换脸、变声已经变得如此逼真，真假难辨。不少明星成为“脸被盗”的受害者，普通消费者更应提高警惕。 故事开始于温峥嵘无意间来到的直播间。银幕上的“她”有着她标志性的发型，声音也几乎和她一模一样。他热情地向观众推荐护肤品，还讲了一系列“亲测有效”的说法。像事件一样结婚的温峥嵘又气又困惑。他立即进直播间询问，但对方还没来得及反应，他很快就被封锁了。 “我没有接受这个晋升。温正洛NG在后续视频中的愤怒表达了许多被侵犯的名人的感受。不仅是温峥嵘，“AI克隆”在娱乐圈和直播圈都不是什么新鲜事。有网友发现，某商品配送平台上同时出现多位“刘涛”和“杨幂”，均销售不同品牌的生活用品；就连已故艺人的AI形象也被用来直播卖货，家属维权时，平台却表示“难以识别”。更令人担忧的是，普通网友也逃不开“卡盐”，有人发现自己的照片被AI合成成丑陋的视频，还有人的声音被截取制作成假声。难以区分真假的人工智能内容引发了越来越多的问题。 “如今，使用人工智能改变面孔或模仿声音的门槛低得可怕。”小张，工程师，从事AI技术的发展，透露开源换脸器在网上很容易找到，几十块钱就可以买到教程。研究名人的公共视频几个小时后，您可以创建看起来真实的合成内容。当这些“AI替身”进入直播间后，带货效果实在是太糟糕了——疯狂地认为明星自己推荐他们，信任度急剧上升。营销人员依靠这种“流量”方式，单场直播销量很容易突破一万。 最困难的是维权难。温峥嵘团队随后联系平台投诉，对方要求提供一系列复杂的身份证明和侵权证据。待流程完成，“假温峥嵘”直播间已变身明星头像，继续运营。北京某律师事务所的律师解释道：“T通过深度AI合成进行侵权识别是非常复杂的，比如类似的声音如何认定为侵权、平台的审核责任有多大等。央视强调提醒，消费者购物不能只看“名脸”，更要通过官方渠道核实；对于商家和平台来说，AI技术不能作为“割韭菜”的工具。目前，相关部门已在推进人工智能专项管理行动。未来，他们不仅要加强技术鉴定能力，还要完善法律法规。毕竟，技术本身没有对错之分。只有遵循法律和道德底线，才能真正为我们服务，而不是成为一个欺骗性的“面具”。 #热点观察者# 特别声明：以上内容（如有，包括图片或视频）由自媒体平台用户上传发布“网易帐号”。本平台仅提供信息存储服务。 注：以上内容（包括图片和视频，如有）由网易HAO用户上传发布，网易HAO为社交媒体平台，仅提供信息存储服务。