AIGC（人工智能生成内容）技术正在改变追星的味道。在社交媒体上，用AI“展示”明星照片已成为流行，这不仅拉近了许多粉丝与偶像的距离，还创造了“亲密互动”。在这张照片中，有人精心营造了与名人的暧昧场景，让人难以辨别照片的真伪。依靠科技所营造出的虚假亲密感，模糊了现实与虚拟的界限，并悄然跨越了它们。新京报贝壳财经记者注意到，粉丝群体正在抵制人工智能制作的名人照片，并表示禁止将艺术家的图像、视频、音频等素材“喂”给人工智能，粉丝应自觉拒绝其创作。尽管有人呼吁抵制，但社交平台上的一些互联网用户正在寻求建议。 TheShell财经记者测试了五款样板产品（网页或应用程序）at支持多种图片参考，包括豆宝、吉萌、克灵、统一、维都。结果发现，明星照片的制作门槛并不高，每张照片都可以捕捉拥抱、亲吻等亲密动作，甚至可以创造出男演员裸露上身等效果。此外，对于“喂养”未成年艺术家的图像没有任何限制。在本次测试中，贝壳财经记者将人工智能生成的带人工智能水印和不带人工智能水印的合影照片发布到哔哩哔哩、微博、抖音、快手、小红书、视频号六个内容平台上。截至发稿时，只有小红书和抖音发布了内容违规警告，并限制了内容分发范围。哔哩哔哩和快手只是给自己的内容打上了AI水印，并提醒用户“谨慎观看屏幕”。微博和视频账号仍然没有风险提示。接受采访的法律专家认为此类人工智能摄影存在侵犯艺术家肖像权和荣誉权的风险。即使只是在朋友圈、群聊等私密区域传播，泄露的风险依然存在。网友在社交媒体平台上分享的AI照片。小红书截图“借力AI”追星，圆梦。 CP的亲密照片被多个平台合成。 “我和周杰伦、杨氏合影了。” “对不起，他想抱我。” “请让肖战靠近一点”……小红书里，随着CP照充斥屏幕，不少粉丝“请示”，更有人索要自己和偶像的真人照。评论中，不少网友分享了自己的心得，比如“情侣照没有明确的主题和工具”、“应该是随手拍的一张快照”、“男生和女生应该靠得很近，脸贴着脸”等。 10月9日至10日，壳牌财经记者尝试生成照片男性艺术家使用五种支持多种摄影参考的模型产品（网页或应用程序）：豆宝、吉萌、克灵、统一和维都。测试表明，两个人之间可以进行拥抱和亲吻等亲密行为，也可以生成准有意义的照片，例如一名男子暴露上半身的照片。五种模型产品制作业余爱好者和艺术家的照片。新京报贝壳财经记者魏英姿测绘贝壳财经测试发现，人工智能生成的照片难以辨别真假，往往需要训练，导致网民寻找捷径、请示。当记者尝试生成接吻动作时，吉萌、同伊、维杜这三款模型产品显示出这样的文字：对于“接吻”，Silky生成了一张两人直接接触的照片。 AI生成的名人亲密照片。相反，Mameho和Kerin多次出现。我一定是。第一次生成其中一个时，Beanbao 将显示消息“抱歉，我们无法生成您请求的图像”。不过，豆宝并没有严格的限制。通过设置“两个人拥抱对视，表达亲密情侣的氛围”等描述，豆宝往往可以一次性生成亲密接触照片。而且，在同一个词（包括“吻”）的测试中，可凌三场比赛后也能拍出亲密合照。当壳牌财经记者测试 palOpen 命令“上半身肌肉”时，上面列出的五种模型产品成功地生成了赤裸上身的男孩和女孩互相拥抱的照片。更重要的是，人工智能“夺取一切”，即使它“提供”未成年名人的照片。 10月10日，贝壳财经记者尝试使用上述五款型号产品生成合影时，也生成了两人拥抱的合影。还有接吻、男人袒露上半身、和小明星亲密接触。照片被“面对面”发布在社交平台上。微博与视频号有“默契”，可见追星“圆梦”是多么容易。他们还经常在社交平台上吹嘘这一点。网友对“我差点信了”的点赞，让AI生成的合影像“人”一样“永久感染”。10月10日至11日，贝壳财经记者在哔哩哔哩、微博、抖音、快手、小红书、视频号六个内容平台发布了带AI水印和不带AI水印两个版本的AI生成名人照片短视频， 文本描述区域中星星的名称。截至本文撰写时，只有小红书和抖音两个平台对内容违规发出警告并限制分发范围。截至发稿时，已有六家平台正在审核记者上传的人工智能照片。北京ing news shellfina 该图片由来自中国的记者魏英姿绘制。一小时内，小红书下令，贝壳财经记者发布的无AI水印的视频不得推荐给用户取消关注。小红书认为，《记忆》存在违规行为，存在美术风格不恰当的问题，如标题、感官不适、剧情质量低劣、制作不良、AI欺骗、诱导互动、虚假信息等。相比之下，小红书也认为该视频的AI水印版本违法，并在发布一分钟后就认为其“他人不可见”。至于侵权原因，小红书仅认为该帖的照片、文字、视频、主题等含有第三方平台的推广。在抖音平台上，带有或不带有AI水印的视频的分发范围有限，并且“只有相互关注才可见”。抖音认为该作品可能“利用公众人物”发布可能误导用户的虚假信息，并添加如下声明：“作品审核时请谨慎，疑似使用了人工智能的生成技术。”本次测试中，快手和哔哩哔哩将带有各自AI水印的视频标记为“可疑AI合成”，暂未对不带AI水印的版本发出明显警告。 贝壳财经记者上传的信息显示，微博和视频号均未采取行动限制措施，也未发布AI相关提醒。粉丝们可以抵制这些照片，因为“太多了”，这意味着Meng、Keling和Vidu将成为会员，水印可以被删除。 “七圈（即：演员自称的粉丝团）封杀AI”“他是一个公众艺人，你要毁掉吗？” 他？”……在抖音评论区，不少用户反对AI拍摄照片，要求删除视频。但在其他平台上，也有人留言称赞他“非常帅”，并用AI类似的方式给他拍了一张照片。有过这样的时刻。粉丝可以使用人工智能生成自己的照片（即与他们最喜欢的艺术家的照片）来实现他们的幻想。近日，AI“过分”的照片引发了粉丝群体的强烈反对。据贝壳财经记者不完全统计，项一春、李江、张凌河、丁程鑫等艺人的粉丝网站和超级粉丝（即粉丝团KOL）社交媒体账号均发表声明，抵制人工智能生成的艺人相关内容。这些声明呼吁禁止向人工智能“喂食”图像、视频、声音和其他艺术家材料，并要求粉丝有意识地拒绝创作和传播人工智能生成的艺术家内容，认为人工智能生成的艺术家内容很容易误导公众并玷污艺术家的形象。事实上，如果人工智能生成名人的亲密照片甚至是小细节的照片并公开传播，可能会导致暴力名人的宣传权和名誉权。 “就肖像权侵权而言，私人领域的小范围传播并不能降低侵权风险。另外，由于名誉是一种社会评价，小范围传播对社会评价的影响比大规模传播要小，所以虽然侵权风险较小，但侵权风险仍然存在。”北京大成（杭州）律师袁成鹏表示。法律办公室。北京大学信息学院助理研究员、法学博士、北京大学武汉人工智能研究院特聘研究员顾林云强调，根据法律定义，即使虚假肖像在小范围内传播，虚假肖像一旦制作完成并未经同意发送给第三方，就已经构成侵权，只能影响数据后果的程度。法师。 “其他人可以轻易捕获私聊内容并转发，导致信息传播到公共领域。一旦发生二次传播，原创者和传播者可以为后续更广泛侵权的后果承担法律责任。”壳牌财经记者发现，有五个大型模型被用来生成名人照片。我发现极萌、科灵、维都可以在开通会员时去除下载的AI水印。剔除加盟费折扣的影响，按照包月价格计算，极盟、科灵、维都的会员最低价分别为69元、66元、59元。当记者下载照片的无水印版本时，维杜显示了一条提醒。 Vidu官网截图：“如果用户在发布此类照片时故意隐藏AI生成的标志，则用户的主观恶意将变得更加严重。顾凌云表示，虽然目前关于人工智能生成照片的法律判例尚未形成，但可以参考以往因滥用P图和表情符号而引发的诉讼，例如“葛优烈”系列案件。“葛优曾多次起诉未经许可使用其肖像进行商业宣传的公司，并且大多数案件都胜诉。法院普遍认为，未经许可使用他人肖像，即使不是用于商业目的，只要产生不良影响，就构成侵权。人工智能生成虚假亲密照片的行为比使用“葛优烈”的侵权行为要严重得多。模因更糟糕。 “人工智能生成内容的认定难度较大，应强化平台和模型创作者的责任。9月1日起，人工智能生成内容将被置于‘紧环’之中。根据《人工智能生成合成内容展示管理办法》，“人工智能生成的合成内容必须被标记，标记包括显性和隐性指示。”生产商不需要采取更严格的技术措施，例如不能去除显性标签。《如何标记人工智能生成的合成内容》清楚地解释了如何添加显性标记。显性标记更多的是“明显”而不是不可去除。 袁 程鹏说道。他表示，虽然水印实际上是手动去除的，但他直接决定模型制造商必须采取严格的技术措施。我们认为这并不构成模型制造商的法律责任。这个责任应该由删除标记的人承担。不过，顾凌云认为，模型制作者应该探索技术，采用显式识别，比较难操控。 “如果水印可以轻松去除， 内容的AI来源信息丢失，让恶意用户伪装成真实信息传播人工智能生成的内容，很容易引起公众误解和社会恐慌，尤其是在新闻、证据等关键场景下。”同时，他也强调，强制企业生成防篡改水印的成本极其高昂，而且往往不可行。“针对人工智能拍摄的名人照片，现有措施仍然存在一定缺陷，单纯限制传播范围并不能解决问题。” 顾凌云告诉贝壳财经记者，如果内容平台直接将用户发布的内容贴上人工智能的标签，也可能会产生法律风险和法律纠纷。比如，今年6月，在“人工智能无标签创作”案中，法院判决平台不以事实为依据的账户处理行为构成违约，并判决网络平台必须隐藏、删除涉案内容，对违规记录进行处理。 在背景。 Gu Lingyun believes that a better way is to optimize the reporting channels and protection of victims’ rights. Private complaints from public figures and ordinary users should be given higher priority, and rapid response and handling mechanisms should be established to minimize the duration of the complaint.损害。 At the same time, the platform hase enormous traffic and influence, and the responsibility and ability to educate its users. Users can raise awareness of the risks of AI-synthesized content and reduce the generation of misinformation by posting ads, promoting popular scientific articles, and producing short videos. In Gu Lingyun’s view, the responsibility of the model manufacturer is to label the content from the source, and the labeling technology provided is, it must be stable to ensure that the label exists even after regular download, copy and export operations. It is the responsibility of the content platform to ensure that the content flowing through t该平台符合标签规范。您应该为用户提供声明AI标签的入口点，提醒和鼓励他们使用AI标签，并在公共内容周围添加显着的提醒标记。一旦该内容通过技术证据或用户声明被识别为AIGC。袁成鹏建议平台调整用户协议，并提供与AI内容相关的明确风险提示，以鼓励用户采用。用户将举报未标记的内容，并建立惩罚和黑名单机制，以利用人工智能打击名人照片的传播。对于AI生成内容的标注、传播和使用，袁成鹏认为，内容编辑者是主要责任，但模型制造商的责任应进一步加强。为了更好地规范市场，应出台相关法律法规，强化某些场景下的标签义务。新京报贝壳财经记者 魏Yingzi 编辑 王金玉 编辑 刘宝庆