AI资讯日本Gemini AI出现重复汉字触发异常输出现象引发关注
在与日本Gemini AI交互时，用户发现当反复输入特定汉字“拠”时，AI会突然出现异常行为，输出与指令无关的文本内容，甚至出现暴走现象。 具体表现为，当指令要求Gemini重复输出“拠”字时，AI在输出一定数量的字符后，突然切换到无关的文章内容。这些内容有的似乎摘自某些网站的正文片段，有的则完全无法通过搜索找到原文出处。值得注意的是，这种异常输出不仅仅是因为输入了“拠”字，甚至在Gemini尝试
#AI幻觉
按标签聚合查看文章内容。
AI资讯
AI资讯学术界陷入混乱：研究论文中的AI幻觉责任归属引发争议
随着AI在学术研究中的广泛应用，学者们对AI生成内容中的“幻觉”现象及其责任归属展开激烈讨论。
AI资讯医生使用的人工智能系统在诊疗中出现虚假医疗信息
近年来，越来越多的医生在诊疗过程中使用人工智能（AI）助理系统，这些系统通过监听医生与患者的对话，将内容转录并整理成医疗记录。理论上，这种技术能够提高医疗记录的效率和准确性，但实际应用中却暴露出不少问题。 安大略省审计长最近发布了一份特别报告，指出AI医疗助理系统在评估过程中存在严重不足，甚至可能向医生提供“虚构信息”。该报告调查了20款政府批准的AI助理平台，发现所有系统在采购测试阶段均出现了不
AI资讯日本アズジェント推出生成式AI幻觉与信息泄露消除的机器反学习平台“Hirundo”
日本株式会社アズジェント于21日宣布与英国AI安全初创企业HIRUNDO AI（以下简称Hirundo）建立合作关系。自5月中旬起，アズジェント将在日本市场引入Hirundo的“机器反学习”技术，针对生成式AI模型的记忆（已学习内容）中可能引发风险的信息进行精准清除。 随着生成式AI在企业核心业务中的广泛应用，アズジェント指出，AI生成的非事实信息（即“AI幻觉”）以及敏感信息混入的风险，已成为影
AI资讯全由AI幻觉生成的新维基百科克隆网站
一个名为“Halupedia”的新型维基百科风格网站，完全由人工智能生成的虚构内容构成，为访客呈现一个不存在的现实中的荒诞见解。该网站的每个搜索词或链接点击，都会触发后台的AI模型即时生成内容，且以19世纪学术出版物的严肃语气呈现。 Halupedia主页明确表示这是一次AI虚构的实验，但深入浏览其无数条目后，网站看起来像一个真实的知识数据库，尽管其中充斥着许多荒谬内容。网站包含链接、引用和学术期