川观新闻评论员 邓也
据央视新闻报道，AI杜撰历史、编造法律条文、伪造参考文献的现象已经屡见不鲜。全国首例AI幻觉侵权纠纷案正式宣判，标志着AI幻觉已从技术问题，升级为法律和社会问题。
AI 幻觉是指AI模型“一本正经地胡说八道”，生成的内容看着挺像那么回事，其实全是错的或瞎编的。这是目前大模型运行机制必然衍生的系统性、常态化风险。
“它不是真懂了，只是说得像懂了一样”。AI生成内容本质上是从海量文本里学习词语、句子之间的统计关联，再根据上下文预测下一个最有可能出现的词。一旦面对冷门知识、专业难题、小众场景，训练数据储备不足，就无法匹配有效内容，便会通过编造“谎言”自圆其说。AI幻觉便由此产生。
这提醒全社会，拥抱AI必须做到善用慎用之。
善用AI，要求正视工具价值、释放技术红利，利用其高效便捷的优势，赋能生产生活、助力产业升级、推动社会高质量发展，让新技术成为人类发展的得力助手。慎用AI，要求破除技术迷信、守住理性底线，转变“AI无所不能”的错误认知，拒绝无底线依赖算法模型，始终坚守人类的独立思考与理性判断。
对用户而言，要对AI生成的关键信息主动核验、多方求证，杜绝盲目采信、直接误用。对平台而言，要压实主体责任，优化算法模型、降低幻觉概率，完善内容审核与风险提示机制。对监管而言，要补齐制度短板，细化AI应用规范，织密技术监管网络。
AI是人类创造的工具，技术的走向终究取决于人的选择。善用慎用之，方能行稳致远。
【未经授权，严禁转载！联系电话028-86968276】