抖音为虚拟人直播立规矩！AI生成内容监管正当时

最近，随着ChatGPT的大热，另一个词也频繁出现在大众视野——AIGC。AIGC是一种使用人工智能技术生成内容的方法，它被视为继UGC和PGC之后的新兴内容生产方式。

 

然而任何技术的出现都是一把双刃剑，在人工智能技术使内容生产更加方便时，AIGC生成内容以假乱真、数据泄露以及侵权的风险被进一步放大。数字应用场景的多元化，也给监管体系带来更为复杂的法律挑战。

 

继4月初，国家网信办发布的《生成式人工智能服务管理办法（征求意见稿）》，对生成式人工智能做出诸多要求后，作为内容平台方的抖音在5月9日，也对虚拟人直播、AI 辅助生成内容、流量是否支持 AI 内容等做出了约束。

1、抖音为虚拟人直播立规矩

据了解，抖音这次的发出的规范和倡议面向创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，应对人工智能生成内容进行显著标识并负责。

 

首先抖音对人工智能生成内容作了解释，是指利用生成式人工智能技术，自动生成的视频、图像、文本等内容。本规范重点针对人工智能生成的视频、图片，和衍生的虚拟人直播。

 

 

抖音要求，在抖音应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。同时，发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。

 

针对被视为行业未来的虚拟人、虚拟主播，抖音要求虚拟人需在平台进行注册，虚拟人技术使用者需实名认证，使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动。

 

为配合倡议，当天，抖音还发布了人工智能生成内容标识的水印与元数据规范。据悉，标识元数据规范即通过规范人工智能生成内容的元数据格式，在相关图片和视频元数据中写入信息，达到行业通用识别的效果。

 

 

此外，抖音禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。同时，禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。

 

“各生成式人工智能技术的提供者，均应对生成内容进行显著标识，以便公众判断。同时使用统一的人工智能生成内容数据标准或元数据标准，便于其他内容平台进行识别。”倡议提到。

2、虚拟人直播乱象早已出现

事实上，早在ChatCPT和AIGC成为热点前，直播、短视频的从业者们已经在探索AI的路上一骑绝尘，特别是虚拟数字人的应用场景目前已经从游戏、影视、娱乐业，逐渐向传媒、直播、电商、医疗等多个领域扩展，而虚拟主播便是虚拟数字人向直播、泛娱乐和电商领域渗透的产物。

 

在泛娱乐领域的虚拟主播最早出现在2016年，“绊爱”在YouTube上发布了第一支视频内容，短短一年时间，粉丝数量突破100万，引领了虚拟主播的热潮。随后，因为二次元文化的流行，虚拟主播在国内的视频和社交网站上发布日常VLOG、游戏直播、音乐舞蹈等视频内容，开始受到获得流量和关注。

 

而在直播电商领域，虚拟主播被用来填补真人主播没有办法出镜的空白时间。因为技术的快速进步让虚拟数字人的成本大幅降低。商家只要向供应商花数万元购买虚拟主播定制软件及后期的运维服务，便可以让直播间实现24小时不断播。于是，虚拟主播的商业价值受到了多家平台、商家、MCN的关注。

 

然而，虚拟主播和真人直播一样，在飞速发展时出现了一些乱象。

 

泛娱乐直播方面，为了获得更多的流量和收益，一些虚拟主播在直播中出现了打擦边球、恶意营销、散布虚假信息、诱导未成年人打赏等行为。2022年5月，某虚拟主播在其直播的视频平台上宣称自己被拐卖，后被警方查明拐卖经历为虚构，其目的是博取流量。

 

电商方面，一些商家在运用虚拟主播时也出现了虚假夸大宣传、诱导非理性消费甚至推销假冒伪劣商品的行为。另外，还有一些虚拟数字人的运营公司急于抢占直播带货的商业赛道，但对选品质量的把关却远不如真人主播团队严格。

 

此外，针对虚拟主播的肖像权侵权、版权侵权、以及不正当竞争等也层出不穷。

3、AI生成内容监管正当时

在生成式人工智能被定义为行业未来时，监管也必不可少。

 

2022年6月，国家广播电视总局、文化和旅游部联合印发《网络主播行为规范》，为网络主播划定行为红线，并明确利用人工智能技术合成的虚拟主播及内容也须参照该行为规范。随后，诸多平台在2022年下半年针对虚拟主播加强了监管，并封禁、惩罚了一批有违规行为的虚拟主播账号。

 

今年开年以来，国家互联网信息办公室相继发布《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法（征求意见稿）》。要求深度合成服务提供者提供服务中，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，且该标识应不影响用户使用。更进一步对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人的责任进行了规定。

 

平台方面，聚集了大量虚拟主播账号的B站曾发布《虚拟主播专项治理公告》，对于虚拟主播低俗色情类和其他违反公序良俗类的恶意行为及言论进行专项治理。在B站自己的统计中，此次行动被封禁的账号有137个。

 

抖音这次推出规范，可以说是表明了自己在AI等人工智能被应用于内容生产上的态度，能有效的促进行业规范化、健康化发展，更能提高平台创作者的整体素质和竞争力。