三年前,Mansbridge的生活被彻底改变——她的儿子在33周时出生时没有心跳。医生成功进行了复苏,但在重症监护室的数月里,充满了各种危机,生存充满不确定性。
最终,他们奇迹般地带儿子回家,居住在澳大利亚布里斯班的Mansbridge意识到,由于儿子康复过程中的复杂情况,她的工作生活必须改变。她开始尝试使用AI图像生成工具,创造了“谦逊富有、健康向上”的虚拟网红和模特Mia Metaverse。作为早期《模拟人生》的粉丝,她乐于为Mia设计故事情节和华丽场景。
现年34岁的Mansbridge表示,她现在通过品牌合作和为品牌设计定制AI网红,每月收入约6000美元。许多合作要求她签署保密协议,不能透露合作品牌。尽管这是她自创业以来最赚钱的一年,Mansbridge和其他AI创作者仍担忧全球对AI内容监管的变化可能颠覆他们的商业模式。
自2022年生成式AI和文本转图像工具兴起以来,创作者们围绕虚拟人物打造了盈利账户,这些虚拟网红更经济、易扩展且品牌安全。虚拟网红市场估值达145亿美元,预计到2033年将增长至1104亿美元,年增长率达33.6%。品牌方积极投入:社交机构Billion Dollar Boy的研究显示,79%的营销人员正在增加对AI生成创作者内容的投资。
但随着监管趋严,这一新兴创作者行业的局势可能正在改变。自8月2日起,欧盟《人工智能法案》要求AI生成或操控的推广内容必须明确标注,TikTok等平台也加强检测系统,调整内容推荐,优先推送真人创作者,抑制合成内容。依赖AI影响力谋生的人们面临复杂的监管迷宫,缺乏明确的导航路径。
欧盟《人工智能法案》是首个全面的AI法律框架,欧盟委员会主席冯德莱恩称其为“全球首创”,旨在推动欧洲“可信赖的AI”。根据该法案第50条,AI系统提供者和部署者必须披露音频、图像、视频或文本内容是否为人工生成或操控。但如果内容属于明显的艺术、创意、讽刺、虚构或类似作品,透明义务仅限于不妨碍作品展示和享受的披露。这为解释留下了很大空间,也带来了混淆。
欧盟议员兼该法案谈判代表Axel Voss的数字政策顾问Kai Zenner表示,法案起草时过早且过于抽象。“当时ChatGPT刚刚发布,议员们对监管对象知之甚少。推动力仅是:AI来了,AI生成内容会越来越多,所以我们要提升欧盟公民的AI素养(通过标注条款)。”
更多立法可能加剧不确定性。Zenner解释说:“今年晚些时候和明年将有多项修订,要求网红不仅标注内容,还要透明说明来源、目的和资金来源。具体如何执行仍不清楚,因为目前只有第50条可参考。”
他担忧AI创作者可能陷入多重法规冲突:AI法案、版权法、视听媒体规则、消费者保护法,甚至欧盟拟议的数字公平法案,该法案针对在线误导和剥削用户的行为。“运营这些账号的人可能会遇到一种法律认为内容合法,另一种法律却判定违法的情况。”
针对AI内容的严厉打击

2025年,60%的创作者承认因标注不当违反行业规则,2026年误判风险将更大。多家主流社交平台已开始加强监管。7月中旬,TikTok宣布推出检测系统打击AI垃圾内容,称其“挤压原创创作者空间”。TikTok要求创作者标注AI生成内容,用户也可减少AI内容在推荐中的出现。Pinterest采取类似措施,Meta则在Facebook、Instagram和Threads上为检测到的AI内容添加“AI信息”标签。
社交媒体顾问Matt Navarra表示:“这些平台曾推动内容更快、更廉价地生产,现在却用大锤打击AI内容,但这些系统都不够精准。即使创作者仅用AI做了语法修正,也可能被误伤。”
一些创作者已感受到算法的影响。嘻哈艺术家兼制作人Lionel Metge今年初创造了一个名为Zairo的雷鬼/非洲节奏AI艺术家,他注意到新检测系统能在内容发布时立即识别AI生成内容,尤其是账号自称数字创作时。
Metge认为这些规则可能疏远Zairo的2.38万粉丝和部分目标受众,但他认为这是避免误导公众的必要措施,尤其是生成模型越来越逼真。他希望未来算法不会过度限制AI内容的传播,并计划通过提升“质量和整体连贯性”让Zairo脱颖而出。
对于创作者行业的专家来说,这已成无可避免的现实。Fanvue是一个连接创作者与粉丝、实现内容变现的平台,正与创作者合作制定披露标准,迎接8月的法规截止日期。Fanvue安全负责人Rob Haywood表示:“我们看到创作者将透明度作为差异化优势,有些人打造只有AI角色才能实现的独特内容,而非试图隐瞒。”他认为平台监管是对现实问题的回应:TikTok应对“低质量合成内容泛滥,降低真实创作者可见度”的潮流。Zenner建议创作者提前应对未来法规,展示“最大努力”,这有助于应对更严格或不明确的执法。
Mansbridge正从单一角色扩展到AI角色组合,期望实现交叉推广并最终实现自动运营。“我想为儿子创造遗产,以便他未来有需要时经济无忧。”她解释道。她的策略不是隐藏AI,而是让其更安全地进行商业变现。她打造的Mia Metaverse“既亲切又有理想”,没有丑闻、政治或道德限制。在监管趋严的市场中,这种可预测性可能成为优势:平台和监管越要求披露,完全可控的AI角色价值越高。
并非所有AI创作者都将监管收紧视为威胁。比利时动画师Wim Tilkin创造了AI角色PuppyBerry Mousy,他持更为审慎的态度。支持“明确且平衡的监管”,尤其是版权方面,但担忧欧洲的严格做法可能减缓创新,增加对美国和中国的依赖。他的项目始于意识到自己可以成为“一人工作室”。“我手工制作了一个五秒钟的超级可爱戴围巾的小老鼠吃奶酪的片段,输入AI并配上音乐。”他说,“视频获得了三百万观看,我觉得找到了突破口。”
不到两年,PuppyBerry Mousy在Instagram拥有23.6万粉丝,Facebook有68.3万粉丝。发布小鼠跳舞、唱歌和分享鼓励语录的视频,Tilkin表示过去五个月增长最快,主要观众来自美国和英国,尤其是50岁以上女性。他收到许多孤独或生病者的留言,称从Mousy的舞蹈或话语中获得安慰。“Mousy代表忙碌世界中的柔软与温馨,”他说,“我很高兴这种组合能带给人们快乐。”
经历过2D到3D动画转变的60岁Tilkin认为当前是又一次技术变革。“AI将走类似路径。作为艺术家,我们拥有比以往更多的工具和可能性来表达创意,但也面临更多选择。”他认为关键是监管能否保护,而非扼杀,吸引观众的故事讲述和情感连接。


