火爆的ChatGPT,不仅重新点燃人们对人工智能的热情,也打开新技术的潘多拉魔盒。一年来,AIGC(AI generated content,人工智能生成内容)逐渐从概念走向行业应用,争议和风险也如影随形。


(资料图片)

5月9日,抖音官方发布重磅消息,首次对AIGC提出平台规范和行业倡议。其中两方面内容格外引发关注,一是对AIGC内容的标注,二是虚拟人的注册认证。

抖音在公告里提到:

发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实,特别是易混淆场景;平台将提供统一的人工智能生成内容标识能力,帮助创作者打标。

虚拟人需在平台进行注册,虚拟人技术使用者需实名认证;平台将提供虚拟人的注册能力,并对已注册的虚拟人形象进行保护。

抖音公告一出,便在AIGC、虚拟人和电商卖家圈子里引发关注。新规对短视频和直播有哪些影响?虚拟人还是一门好生意吗?AIGC规范化管理的新时代,会有哪些新机会?

对此,亿邦动力访谈虚拟人提供者、平台商家、MCN等,试图厘清新规之后,人们的预期和该行业的发展方向。不少从业者直呼,行业利好已经到来。

AIGC内容标注是利好?未来哪些平台将跟进?

“各生成式人工智能技术的提供者,均应对生成内容进行显著标识,以便公众判断。同时使用统一的人工智能生成内容数据标准或元数据标准,便于其他内容平台进行识别。”

当天,抖音还发布了AIGC标识的水印与元数据规范。标识元数据规范,即通过规范AIGC的元数据格式,在相关图片和视频元数据中写入信息,达到行业通用识别的效果。

抖音对AIGC相关的规范,建立在两个管理规定之上。

2023年1月10日,《互联网信息服务深度合成管理规定》正式实施。该规定提到:“提供深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。”

2023年4月11日,《生成式人工智能服务管理办法(征求意见稿)》公开征求意见,明确表示利用AIGC生成的内容应当真实准确,采取措施防止生成虚假信息。该管理办法的征求意见截止时间为5月10日。

抖音对AIGC的规范与倡议,可以视作官方AIGC专门监管之后,平台企业发出的最新呼应。

比如:什么是“可能造成混淆的深度合成服务”?《规定》明言了包括AI写作、AI文字编辑、AI语音合成、涉及“人脸编辑”的图片和视频、沉浸式交互内容等。除了今年大火的ChatGPT、Midjourney,国内的文心一格、文心一言等文字和图片生成产品,魔音工坊等语音生成类产品都在此列。

对于标识方法,抖音在本次发布的规范文件中进行了详细的阐述。概括来说,需要在各类型图片以及视频文件的左上角,打上“AI生成”字样,以及使用的生成工具的名称与公司名水印。而其他的信息要素是否标注则为可选项。

AIGC标注规则一出,多数服务商的反应较为乐观。虚拟人公司聚力维度CEO赵天奇说,抖音推出AIGC标识新规“是非常正确的决定”。他表示,未来其他平台跟进AIGC标识,也将会“成为常态”。

在赵天奇看来,AIGC内容添加水印不会影响内容传播。“严肃的纪录与新闻内容,价值在于真实性,这样的内容本不该用AIGC,一旦用了就必须加上水印,以正视听。”他说,“而娱乐与剧情内容,用户不在意是否是真实发生。就像好莱坞大片,大家本就冲着特效去看的,有谁不知道它是假的呢?”

但也有不同意见。元境科技CEO王志武告诉亿邦动力,强制标识对于视频会有一定影响,但影响程度需要更长的时间周期去观察。他还指出,进行了AIGC标注后,平台方就不应区别对待AIGC内容和非AIGC内容。

小冰抖音账号部分AIGC视频曾有自主标识

水印标识是否会影响传播效果?王志武的预期也较为乐观,他的依据是,过去小冰公司就有部分标注了AI生成信息的视频,事实表明,标识并未对传播效果产生显著影响。目前,元境数字人产品尚未应用水印标识。

目前在抖音平台上,亿邦动力还尚未发现有AIGC内容公司正式应用强制标识规定。关于该规定何时具体实施,各方也普遍表示并不知情。

未来虚拟人都要办“身份证”,服务商和卖家等待细则落地

相比于AIGC内容的标识,虚拟人的情况则较为复杂。

抖音在公告中明确提出,支持虚拟人发展,但虚拟人需要认证,另外禁止完全无人的AI直播。

“平台明确提出允许支持虚拟人直播这件事情,对于我们虚拟人企业和商家来说都是很好的信号。”王志武说,“至于AI直播,抖音一直是比较反感的,这次只是更明确的表达出来了。”

根据用途,抖音上的虚拟人可为两类,一类是“娱乐型”虚拟主播,一类是功能型虚拟人,直播带货。抖音新规,将直接影响到后一类虚拟人。

“许安一”是抖音头部虚拟主播,为娱乐型虚拟主播,通常采取中之人“套皮”,用动捕演绎的模式。吉光喵科技是该虚拟主播的运营方,该公司负责人玄子告诉亿邦,由于他们的运营模式和真人主播基本相同,过去也一直在以真人的标准接受平台的管理,受公告的影响很小。

“许安一”抖音主页截图

据亿邦动力了解,从去年开始,抖音平台上的娱乐型虚拟人,普遍都已经提交了美术资料,对形象进行认证备案。

与娱乐型虚拟人不同,功能型虚拟人受新公告影响更大。这类虚拟人多数用来为真人“代班”直播,充直播时长,实现降本增效的目的。问题是,这类直播往往存在纯AI无人直播的违规现象,并且采用的基本都是2D虚拟人。

在新规下,它们可能难以认证为虚拟主播。王志武与玄子对亿邦证实,抖音在收紧虚拟人认证标准,目前官方仅接受3D型虚拟人的认证,不再通过2D类型虚拟人的认证。

所谓2D类型虚拟人,一般认为包括采取live2D技术的虚拟人,以及2D“真人克隆”虚拟人。2D虚拟人监管收紧,或与此类虚拟人更多采用无人的AI直播有关。为了让虚拟人“自己动起来”,自动直播虚拟人普遍会采用文字生成技术、图片合成、语音合成甚至ChatGPT等大模型技术,存在更大的内容风险。

与抖音对纯AI直播的态度不同,淘宝、京东等电商平台,AI虚拟人直播带货已成普遍现象。但AI数字人的风险对于其他平台也同样存在,在王志武看来,各大平台跟进完善对于虚拟人的管理是大势所趋。

王志武透露,元境科技正在与陕文投集团、西部国家版权交易中心合作,摸索“数字人身份证”制度落地。今年4月13日,他们推出了第一个国内拥有数字身份的数字人——元视。如果顺利的话,拥有“数字身份证”的数字人无须分别注册认证,就可以在各大平台畅通无阻地发布内容。

抖音新规推出近一周,一部分从业者仍表现得相当迷惑。两家数字人服务商和两家用虚拟人带货的商家都对亿邦表示,没有收到抖音官方要求加水印标识或认证的通知,运营方式与过去没有任何不同。

虚拟人认证报备,具体要怎么操作?亿邦动力发现,一种方式是加入直播公会,根据公会指导认证,类似于传统虚拟主播路线,一种方式是打开“抖音APP-创作者中心-直播中心-品类主播认证入口”,开始认证流程。在最新版本的虚拟人认证入口中,虚拟主播认证需要提交才艺视频、形象授权证书等资料。

但不少商家使用服务商提供的公模直播,导致多个直播间使用一个形象和一个直播间使用多个形象的现象难以避免。对此,亿邦咨询硅基智能,对方表示,当用户使用硅基智能提供的公模虚拟人时,公司可以提供肖像授权用以认证。

另一个问题是,不认证就不能使用虚拟人带货吗?对此,各方众说纷纭。某位资深数字人业务负责人表示,未来虚拟人带货,注册肯定是必要的,但具体注册细则目前还不明确,大家都在等待抖音官方进一步公布方案。

王志武则告诉亿邦动力,如果希望以虚拟主播身份开播,就需要进行认证;但如果以商家店铺身份进行认证,虚拟人仅作为助播或代播工具,只要直播本身合规,并不需要认证虚拟主播身份就可以开播。

事实上,目前带货虚拟人的主流做法就属于后者。显然,新规还存在一定的解释空间。

虚拟人带货到底能不能做?是否违规始终考验运营能力

除了内容标识和注册认证,抖音新规针对虚拟数字人的要求还集中在虚拟人的驱动方式上:不能纯AI驱动,需要真人驱动。

“可以用两个关键词解读抖音推数字人新规的含义——‘效果’和‘责任’。”赵天奇说。“效果是指,数字人如果用弱人工智能,导致直播效果太差,没人愿意看,就会与平台给用户好的内容的宗旨背道而驰,所以需要用真人来驱动。而责任是指,一个直播账号需要有真人来承担内容的责任。”

围绕抖音新规,业内人士不约而同聚焦于“内容”和“直播效果”,他们认为,无论是抖音鼓励虚拟数字人发展,还是禁止纯AI驱动数字人,都是出于鼓励优质内容,驱逐“劣币”的目的。

在抖音上,完全由虚拟人直播带货一直为人诟病。玖通电商创始人肖峰就曾对亿邦说,不打算采用AI数字人直播的原因是直播效果始终无法与真人主播相比,直播内容质量差,易被判违规,与抖音平台的内容电商属性不符。也正因此,目前为止,绝大多数MCN机构都未成规模采用虚拟人直播。

抖音账号“黄生|讲点儿真话”作者黄生表示,虚拟人直播违规的主要是被抖音判定为“录播”,如何规避是基本功。“违规并没有多少随机性,我们在测试时发现,没做好内容安排时,违规是必然到来的。但如果你把一天八小时直播内容都安排得完全不重复,那自然也无需担心。”

林子,巨量创意讲师,目前在抖音华南直播基地做虚拟人直播培训。林子展示的一个直播案例中,一个测试新号做到连播29小时,成交额1.3万元。在他看来,外界对于抖音的新公告存在过度解读,“所谓不要纯AI驱动,不就是说要做好回复公屏吗?”

林子认为,数字人是否会被判违规,始终考验运营能力。做好真人看场、话术设置、公屏回复这些是基础中的基础。反过来说,只要清楚平台鼓励优质内容,厌恶劣质内容,就明白什么该做,什么不该做。“别说虚拟人了,如果你的内容有问题,就算真人直播,我们也被算法识别成录播违规过”。

硅基智能创始人司马华鹏表示,抖音一直深度参与硅基智能数字人直播优化方案,并落地测试了多个头部品牌方直播。司马华鹏说,春节小长假期间,某知名酒旅企业曾使用硅基数字人直播,无广告投流,GMV达数千万元;某线下餐饮店使用硅基数字人直播,纯新号无投流直播374小时,GMV达到数十万元。

部分硅基智能带货虚拟人

也有商家认为,无论规定如何执行,他们配合就行了。比起规则,他们更关心的是,虚拟人带货能不能在抖音平台上跑出效益。黄生观察到,虚拟人带货在餐饮本地生活和文旅等局部行业表现不错,但范围还是太局限,案例也多是大品牌和头部商家,虚拟人本身的说服力还不算充分。

“我们千人粉丝的测试号,每场时长8-10小时,不投流,靠拉直播时长从而给新账号做酒类人群画像,进而获得更精准的新客,推荐流量高峰期占比接近90%。在线人数好的时候能够有几十人,也能有支付订单或评论区留言。但我认为,我们在抖音兴趣电商板块暂时还没特别跑通。”黄生说。

推荐内容