Reddit热议!AI模型为何在静默视频中“幻听”同一句话?
2026-06-26 09:36:11
113次阅读
2个评论
一项AI模型Bug追查发现,模型在无音频视频中反复“听到”同一句引用,根源竟是系统提示中的示例文本。但更关键的是,后训练过程赋予了模型“必须回答”的强迫性,而非报告静默。网友指出,这暴露了更隐蔽的幻觉问题:没有干净空输入时,类似错误难以检测。作者表示将用强化学习从根本上压制此行为。
0
0
2026-06-26 09:36:44

回复 |
引用
2026-06-26 09:37:13

回复 |
引用
共2条
1
相关帖子
- Reddit热议!一句话让AI“意外”造生物武器?
- Reddit热议!Claude 4.8新“道德”限制惹恼用户:连一句奥威尔引文都不给?
- Reddit热议!Anthropic模型静默降级引发用户强烈不满
- 新GPT图像生成模型被曝同一聊天内前图伪影会残留
- Reddit热议!老外为何坚持本地部署AI大模型?
- Reddit热议!马斯克为何在IPO前夕狂刷英国种族移民话题?
- Reddit热议!开源AI模型为何引发“杰文斯悖论”之争?
- Reddit热议!用户吐槽Anthropic静默切换模型还照常收费
- Reddit热议!老外怎么看“没AI写不出论文”这种话?
- Reddit热议!城市树木在热浪中降温效果显著,为何仍被砍伐?