新闻两点论 刘叶 拍摄/剪辑 周宝
数字助手“龙虾”爆火，从用户排队安装，到官方提醒“慎用”不过几天时间。正在大家都在热烈讨论“养龙虾”时，小红书发布了一则禁用AI托管账号的公告。公告称，部分用户利用AI托管运营账号，不仅可以自动生成笔记，还能模拟真人互动。针对此类账号，平台将直接封禁。
有网友心态崩了：原来我诚心提问，回答我的居然是个AI？
主打“真实体验”的小红书，聚集了大批年轻人，他们在此分享生活，寻找答案，“活人感”成了他们最明显的标签。但AI账号的注入，开始冲淡平台真实性，笔记经AI发布，回复和转发由其他AI账号进行，甚至有AI账号将自己作为用户的伴侣，提供情绪价值。
小红书的核心竞争力在于真实的用户体验分享。AI托管批量生成的内容充斥着同质化、模板化的信息，严重破坏了用户信任，稀释了社区价值。正如小红书的公告所言，“我们呼吁用户在创作过程中合理使用AI工具，坚持由真人分享真实经历与感受，共同守护社区的真实底色。”
另一个现实的担忧是，AI托管成为快速“起号”、刷量、涨粉的工具，催生“养号卖号”、虚假营销等黑色产业链。
当AI可以通过算法提供大量看似完美的参考意见时，真人的生活经验反而无法引起关注，彼时，AI占领内容高地，最终将平台变成冰冷空乏的数据机器，最终真人被AI“驱逐”退场，用户离平台而去。
小红书并非反对AI，而是反对滥用AI。通过明确红线，引导创作者将AI作为辅助工具。这种引导AI技术正向应用的态度，正是当下技术飞速发展热潮中所必需的冷静与克制。这两天“豆包限制AI生产成毅”登上热搜。豆包旗下视频生成模型Seedance2.0全端上线后，禁止生成明星、公众人物、网红等真实人物肖像/视频/语音，且所有未授权真实人物均受限。让普通人也长舒一口气：不用担心哪天自己分享的真人照片，被滥用在AI视频中或成为骗子手中的道具。
无论是豆包在产品设计中植入“护栏”，还是小红书加强监管划红线，核心都是一个，“维护人的权益和尊严”。这应当成为整个AI生成行业的底线规则。技术是为了托举人，而不是人被技术踩在脚下。
【未经授权，严禁转载！联系电话028-86968276】