欢迎访问今日热搜榜

网信办新规加强内容管理,AI颜值博主多元宇宙崩塌

频道:韩国电影 日期: 来源

在相关技术飞速进步的这一年,AI 颜值博主的出道已经不是什么新闻——但这里存在一个前提,就是大部分此类博主都会在简介中标记 " 内容由 AI 生成 " 等相关字样。

TA 们不会标记 AI 换脸的提示,面对评论区关于 AI 换脸的质疑也往往以删评应对;TA 们除了靠 AI 无中生有外,还经常剽窃其他真人博主的照片进行换脸重绘。

而几天前,网信办《关于加强 " 自媒体 " 管理的通知》中 " 使用技术生成的图片、视频的,需明确标注系技术生成 " 的相关表述,可以说为这些博主下发了最后通牒。

当然,在此之前,这些颜值博主评论区里乐子人的缺德发言,已经让众多破防的博主成为一条风景线。

不知是否与前几日网信办的通知有关,之前一直被我们锁定的部分 AI 颜值博主已经悄悄修改了个人简介,标明了 AI 颜值博主的身份,所以在此就浅浅放过他们。

同时执迷不悟的 AI 颜值博主也不出所料地依然存在,这就带大家品鉴一下:

首位登场的是 " 水果鱼 " 女士,自 5 月 4 日开始正式更新照片起,短短两个多月时间她已经坐拥 30.3 万粉丝,在简介中她非常直给的来了句 " 修图产生美 ",用一句话堵死了质疑其照片由 AI 生成的缺德网友的嘴。

虽然当前的主页以一片黑白色调的摆拍为主,但在互联网留下的记忆中," 水果鱼 " 盗图后换脸的黑历史依然存在。

而即便如此," 水果鱼 " 女士当前的个人简介中依然没有任何关于自己是 AI 的提示,反而留下了接模特拍照的口子,看不懂究竟要演哪出。

只是不知道官方在部分作品下 " 疑似 AI 生成 " 的提醒,能不能阻挡住可能会上当受骗的用户。

第二位登场的博主是 " 小余困了 ",作为 " 水果鱼 " 女士的赛博好姐妹,二者的创作手法可以说如出一辙,不过比 " 水果鱼 " 惨一点的是,目前在抖音已无法搜索到她的账号,只能在抖音和小红书看到博主 " 蛋蛋爱打架 " 控诉她盗图换脸的光荣事迹。

而在评论区下方,还有网友继续爆料其盗图、盗视频后换脸的黑历史,同时还有缺德网友 @出了 " 小余困了 " 的账号。

同样是在 5 月底才开始更新的她,目前已经拥有 21.8 万的粉丝,其简介也与 " 水果鱼 " 大差不差,可以说将姐妹情展现的淋漓尽致。

第三位登场的是 " 陈可欣 ",这位小姐姐同样从 5 月开始频繁更新,目前已经累计 32 万粉丝。

与 " 水果鱼 " 在空调房里天天摆拍不同," 陈可欣 " 的日常以展示夏日清凉为主,虽然团队重视了其手部的刻画,基本找不到 BUG,但爱穿凉鞋的她依然漏出了 AI 的马脚——时而 4 个脚趾,时而 6 个脚趾的她,挑衅着人们的数学能力。

不过一想到平均下来依然是 5 个脚趾,就总感觉 AI 在下一盘大棋。

当然在拥挤的颜值博主赛道,男性的存在感也不低,一位名叫 " 小昵 " 的博主算是几位中出道最晚的,6 月 15 日出道的他还未满月,就已经在简介中贴心地放上了自己合作的联系方式。

缺德网友自然也识别出了他的 AI 身份,但显然很多人依然沉迷其颜值不能自拔:

而与几位前辈面对质疑时删评开怼不同," 小昵 " 对于自己被质疑成 "AJ" 还是保持着开放态度,任凭粉丝们各种玩梗也没有破防。同时也在评论区回复粉丝,经营着自己的人设:

不过还是要在这里提醒大家,不要被 AI 的颜值与花言巧语所迷惑,P 图已经能让照片与真人天壤之别,更不用说 AI 换脸的皮下了

而在 AI 颜值博主尚未完全规范的情况下,这样的乱象和上面提到的相比只会只多不少。

虽然 AI 图像生成人像的技术在最近一年内取得了长足进步,但其图像依然会有一种 " 不真实感 ",而正是这种介于真人修图与纯 AI 生成之间的感觉,让众多缺德网友一眼识破了 AI 颜值博主们的伪装。

小红书博主 shine 更是提出了更为细致的辨别手段,而其中最关键的几点莫过于视角上、连续性上以及眼睛绘制上的漏洞:

首先是视角方面,AI 的写实作品无法呈现复杂的动作,大多数情况下只能表现人物站立、坐下、躺着的姿势,并且侧面和背景照片也很少。

此外,在连续性方面,即便是同一地点、同一角度、同一个人,由 AI 生成的两张照片也可能会让她穿上两件不同的衣服,很难做到变换姿势后衣服保持原样。

同时,虽然目前 AI 已经能够正常描绘手部,但眼睛的位置依然会存在违和感——真人的眼睛会反光,从中可以看到真实事物的倒影,但 AI 绘制的眼睛很难做到这一点。

虽然面对此类 AI 颜值博主,对 AI 技术有所了解的网友总能通过直觉或观察找到漏洞,同时,大量的旁观者在评论区以看戏的态度找乐子,也有助于让更多人了解事实。

然而,对于不了解 AI 技术的人来说,一旦这些博主开始行动,他们的诈骗成功率几乎接近 100%。

毕竟最近几个月 AI 颜值博主即便被锤也依然不断涌现的情况,很难让人不怀疑 TA 们团伙作案的目的,而在大量相似套路博主的包围以及 AI 绘画技术的不断迭代下,恐怕目前的诸多乐子人也会有难以分辨的一天。

因此 AI 生成内容的正规化,终究要依靠相关法规政策以及各个平台自身的规范来约束,好在目前相关政策已经在一步步追上 AI 技术的进步。

为促进生成式人工智能技术健康发展和规范应用,4 月 11 日,中国国家互联网信息办公室发布了首份生成式 AI 产业管理办法——《生成式人工智能服务管理办法(征求意见稿)》,从生成式人工智能服务商的准入,到算法设计、训练数据选择以及用户实名和个人隐私、商业秘密等方面提出了相关要求。

《征求意见稿》提出,利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人,包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等,承担该产品生成内容生产者的责任。涉及个人信息的,承担个人信息处理者的法定责任,履行个人信息保护义务。

同时,作为 AI 生成内容的主要发布平台,抖音、小红书、B 站等也已经在 AI 生成内容的规范化上进行了一定探索。

抖音目前对 AI 换脸技术所带来风险的关注,可以说走在各大平台的前列:目前抖音已经不允许换脸直播,一旦发现平台会直接断播。平台目前也在跟进换脸带货的情况,除了断播、限制橱窗购物车等带货功能,还会对侵权商家进行扣除信用分的处置。对断播后仍换脸直播的账户,将限制其直播权限。

在此前《抖音关于人工智能生成内容的平台规范暨行业倡议》中,抖音同样要求创作者、主播、用户、商家、广告主等平台生态参与者,在抖音应用生成式人工智能技术时,遵循相关规范,其中包括发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实,特别是易混淆场景;虚拟人需在平台进行注册,虚拟人技术使用者需实名认证等。

同时,小红书作为生成式 AI 的重灾区,也同样保持着危机感——毕竟小红书赖以生存的精美图文和基于信息差的小型知识类视频,正是 AI 擅长且容易冲击的领域。

而为应对这一挑战,小红书从 3 月份起筹备了独立的大模型团队,核心员工来自广告业务的 NLP 技术团队。

作为长视频的重要发布平台,B 站则升级了 "AI 换脸 " 类稿件标识,遵守《网络音视频信息服务管理规定》等相关法律法规要求,以便用户甄别,防止产生误解,侵害他人权益。

可以说从上至下,AI 生成的内容都在一步步走向规范,而那些 AI 颜值博主们如果依然游走在灰色地带,也注定会随着平台技术的迭代与网友的举报中消散在赛博空间。

当然," 水果鱼 " 们是否会随之迭代出新款也未可知,不过 ID 已经帮 TA 想好了,就叫 " 水鬼鱼 " 吧,走末世暗黑赛博风必火

假如腾讯牵手 Quest,最该担心的是字节 PICO 吗?

关键词:水鬼