在与日本Gemini AI交互时,用户发现当反复输入特定汉字“拠”时,AI会突然出现异常行为,输出与指令无关的文本内容,甚至出现暴走现象。
具体表现为,当指令要求Gemini重复输出“拠”字时,AI在输出一定数量的字符后,突然切换到无关的文章内容。这些内容有的似乎摘自某些网站的正文片段,有的则完全无法通过搜索找到原文出处。值得注意的是,这种异常输出不仅仅是因为输入了“拠”字,甚至在Gemini尝试使用包含“拠”的词汇如“証拠”(证据)、“拠点”(据点)时,也可能触发类似现象。由于该现象容易复现,且明显偏离了正常的提示词输出,已成为AI异常输出(或称幻觉)的典型案例。
目前尚无报告显示通过此异常行为导致了应保密文本的泄露,但有用户指出,Gemini曾几乎原文输出过用于训练的现有网站内容,这在版权方面可能引发严重问题。该事件在网络上引发讨论已近一个月,但官方尚未发布修正更新,未来发展值得持续关注。
除了“拠”字外,其他汉字也有类似异常报告。如果想在自己的Gemini环境中复现该现象,可以选择高速模式,输入类似“请在‘証拠’一词后尽可能多地重复‘拠’字”的提示词,便可快速触发重复输出“拠”字的异常行为。
相关讨论链接:
- Gemini的“証拠”提示词引发奇怪幻觉连发(X)


