Instagram于周一宣布，将调整其对AI生成账号的标识方式，并开始限制那些未明确说明账号内容为AI生成的账户的传播范围。
该平台表示，将现有的“AI创作者”标签更名为“AI生成账号”，以便用户更容易理解。新标签旨在告知用户，账号中的人物是由AI生成或主要由AI创作的。
根据新政策，未正确标注AI生成账号的创作者可能会面临传播范围受限的处罚。相反，使用新标签的创作者，即使其账号主体是AI生成的人物，也不会因此受到惩罚。
此外，该标签并不适用于所有AI的使用场景。Instagram指出，使用AI进行照片编辑、文字润色、图形制作或其他创意调整的用户，无需使用AI生成账号标签。
Instagram表示，此举部分是回应用户反馈，许多人曾发现某些账号看似真实人物，但后来发现这些人物完全由AI生成。
“随着生成式AI在创作中的应用日益增多，我们听到用户反映，他们不喜欢看到看似真人的账号，后来才发现账号中的人物是AI生成的，”Instagram写道，“他们希望知道账号中是否包含AI生成的人物。”
这一举措的时机值得关注。随着AI影响者在社交媒体上的普及，公众对AI生成内容的担忧也在增加。
例如，今年早些时候，同志交友应用Goose因一批疑似AI生成的男性影响者在Instagram上推广该应用而成为调查对象。调查发现超过二十多个账号疑似AI影响者，其中一些通过私信联系潜在用户，诱导其注册。
健康与养生内容则是另一个令人担忧的领域。《纽约时报》7月报道，社交媒体上出现了数百个AI生成的医生、治疗师和养生达人账号，他们推广保健品或向用户做出健康声明。
此次公告发布之际，Instagram此前因一款允许用户利用他人肖像生成图像的AI工具而遭遇批评。用户反对未经明确同意使用其公开内容。随后，Meta撤销了该功能。
上周，Meta与美国多州达成180亿美元的和解协议，涉及Facebook和Instagram对儿童及青少年的影响。作为协议的一部分，Meta将为青少年用户在Facebook和Instagram上默认设定每日两小时的使用上限，推出“夜间模式”屏蔽、上课时间静音通知等多项限制措施。
