AI资讯你现在可以举报AI的不当行为了
一群人工智能研究人员创建了一个众包网站——AI缺陷报告平台（FLARE-AI），用于举报和追踪AI带来的危害。例如，如果聊天机器人生成恶意软件、炸弹制作配方、泄露个人信息，或引发用户的妄想思维，FLARE-AI都能用来发出警报。该系统的开源代码允许其他人验证问题，并将报告转交给模型开发者以及像MITRE这样的非营利组织，后者专门跟踪技术系统的问题。这个平台有点类似于Downdetector，后者汇
#技术安全
按标签聚合查看文章内容。
AI资讯
AI资讯研究发现某些聊天机器人更易引发AI精神错乱
最新研究指出，部分前沿聊天机器人更容易错误地强化用户的妄想观念，这种技术缺陷本可通过设计加以避免。
AI资讯科技圈震惊：Anthropic遭遇历史性泄露，Claude代码50万行源码曝光
Anthropic因未删除命令行工具Claude Code中的.map文件，意外泄露近2000个文件和超过50万行TypeScript源码，引发重大公关危机。
AI资讯Anthropic否认在战争期间可能破坏AI工具的指控
Anthropic公共部门负责人Thiyagu Ramasamy表示：“Anthropic从未具备让Claude停止工作、改变其功能、关闭访问权限或以其他方式影响或危及军事行动的能力。Anthropic也没有权限在军事行动前或进行中禁用技术或改变模型行为。” 五角大楼与这家领先的AI实验室就其技术在国家安全中的应用及使用限制问题已争论数月。本月，国防部长Pete Hegseth将Anthropic
AI资讯美国司法部反击Anthropic诉讼：不应信任Claude AI用于军事系统
美国司法部坚称将Anthropic列为“供应链风险”符合宪法，预计诉讼将失败。争议源于Anthropic限制Claude模型的军事用途，政府强调法律合规与惩罚措施。
AI资讯世界领导人希望拥有美国的人工智能，但不希望美国能随时关闭访问权限
在周三的七国集团峰会上，法国总统埃马纽埃尔·马克龙和印度总理纳伦德拉·莫迪等世界领导人表达了对美国可能随时切断其国家对顶级美国人工智能模型访问权限的担忧。 马克龙在与七国集团领导人及顶级AI企业高管——包括Anthropic首席执行官达里奥·阿莫代、OpenAI首席执行官萨姆·奥特曼以及时任总统唐纳德·特朗普的午餐会上警告称，如果美国“可以一夜之间关闭开关”，这不仅会损害欧洲客户的经济利益，也会对
AI资讯Claude代码泄露显示Anthropic监控用户粗俗语言并标记为“负面”
泄露的代码揭示Anthropic不仅追踪用户使用粗俗语言的频率，还通过情绪分类评估用户体验。
AI资讯【海外科技观察】中国OpenClaw开源AI代理平台引发热潮
开源AI代理执行平台“OpenClaw”在中国掀起了一股热潮。用户被戏称为“龙虾饲养员”，这一称呼源自OpenClaw以“红色龙虾”作为吉祥物。该平台在中国迅速流行，甚至成为一种社会现象，尽管监管部门因安全问题发出警告，热情依旧高涨。 免费安装活动吸引千人排队 据2024年3月8日香港英文报纸《南华早报》报道，3月6日由中国腾讯举办的OpenClaw免费安装活动吸引了约1000人排队参与。参与者不