编辑日期:2024年9月26日 作者:Lewis Zhang
在科技狂潮的席卷下,越来越多的数字人如雨后春笋般出现在大众视野中,数字人赛道热度持续提升。随着“数字人”在越来越多的场景得到应用,带来的风险与监管问题也日益突出。
近年来,24小时直播、低成本、形象佳、大模型、无需人工、永不离职等关键词吸引了不少直播间的眼球。低成本的数字人进入市场,百元级别的数字人也被冠以成一本万利的“财富经”。
不过,低成本的数字人除了效果太假、用户体验不佳等,还引发了“数字人源头厂商”和“数字人代理”的骗局,不少人被一些不良的数字人代理厂商割了韭菜。
据媒体报道,多位市民反映,他们加盟了上海一家文化传媒公司的“AI智能系统”联营项目,结果承诺的“数字人24小时直播”,却因技术等原因无法实现,运营大半年收入几乎为零,数万元加盟费也不退。
据报道,消费者冯先生直言,上述AI智能系统在技术上就不成熟,说好的数字人24小时直播根本就达不到,长的最多直播几小时,短的甚至几分钟就卡了,而且还因为内容和形象问题频频遭到抖音平台的处罚和禁播。
无独有偶,澎湃报道指出,一些公司对外售卖高达十几万元的“数字人代理”服务,宣称“只要付钱成为代理,就能将数字人技术层层分销给下级买家,不需要任何资质审核,还能自己随意定价,零基础小白也能参与,闭着眼睛就能年入百万。”
但多位代理服务的消费者指出,不仅没赚到钱,还屡次遭到直播间封禁,代理费也无法追回。
事实上,相关平台对虚拟主播有着严格的规定政策。据《抖音关于人工智能生成内容的平台规范暨行业倡议》显示,虚拟主播形象和内容必须前置备案。虚拟主播开播前,用户可通过“抖音创作者中心-主播中心-品类主播认证”查找认证报备入口,未经平台报备的虚拟主播不可开播。此外,虚拟直播须显著标识,帮用户区分虚拟与现实。平台将提供统一的人工智能生成内容标识能力,帮助创作者打标,方便用户区分虚拟和现实。
这意味着使用不规范的数字人将面临封号的危险。蒙遗善表示,“数字人主播的兴起带火了数字人代理,确实有不少人钻空子,利用信息差牟取利益。商家在选择数字人时要擦亮眼睛,一些低质量的数字人软件不仅质量差,也不提供服务和售后。不过,国内头部企业具有研发和人才优势,他们也在布局数字人,这些合规的数字人产品未来仍有较大商用潜力。”