AI资讯AI也需要健康检查？公司成长后对ChatGPT进行“定期体检”的实践
大家好，我是白井博士。我在日本AICU Japan公司工作，公司的愿景是“培养创造者”，专注于生成式AI和媒体艺术的研究与实践。今天不谈技术细节，而是分享我们公司内部关于AI使用中遇到的组织管理问题。 你们的ChatGPT账号是从什么时候开始使用的？最初可能只是把它当作一个“便利助手”轻松使用，但不知不觉中，它可能已经参与了公司的业务计划、合作伙伴沟通、新项目策划，甚至家庭问题的咨询……我们的公
#信息安全
按标签聚合查看文章内容。
AI资讯
AI资讯深入理解当前不可忽视的“AI治理”
为什么“现在”要关注AI治理？ 企业风险感知与事件数量激增 生成式AI和AI代理的迅速普及，暴露了企业在信息泄露和社会影响方面的新担忧。许多企业将“信息泄露与安全风险”视为引入生成式AI的最大障碍，这一担忧远超成本和应用场景不足等其他问题。 这些担忧的背后，是传统边界型安全无法完全控制的数据流动，员工在AI素养不足的情况下无意中输入机密信息，以及AI开发带来的漏洞增加。经济合作与发展组织（OEC
AI资讯日本アズジェント推出生成式AI幻觉与信息泄露消除的机器反学习平台“Hirundo”
日本株式会社アズジェント于21日宣布与英国AI安全初创企业HIRUNDO AI（以下简称Hirundo）建立合作关系。自5月中旬起，アズジェント将在日本市场引入Hirundo的“机器反学习”技术，针对生成式AI模型的记忆（已学习内容）中可能引发风险的信息进行精准清除。 随着生成式AI在企业核心业务中的广泛应用，アズジェント指出，AI生成的非事实信息（即“AI幻觉”）以及敏感信息混入的风险，已成为影
AI资讯威廉·夏特纳称人工智能散布关于他的恐怖谣言
《星际迷航》著名演员威廉·夏特纳成为最新的AI虚假新闻受害者。
AI资讯Gartner发布国内企业应对“影子AI”的新指导方针
Gartner指出，许多国内企业尚未有效管理影子AI，建议建立责任分工明确的管理模式。
AI资讯日本东芝数字工程推出防止生成式AI泄露机密信息的数据防泄漏解决方案“Fortra DLP”
日本东芝数字工程株式会社于23日宣布，将于4月开始销售防止向生成式AI提示发送机密信息的产品“Fortra DLP”。 Fortra DLP是一款数据防泄漏（DLP）产品，能够高精度地可视化和控制终端（PC）上的数据操作，针对员工个人判断使用生成式AI（即“影子AI”）导致的信息泄露，以及通过向AI注入恶意指令以窃取机密信息的提示注入攻击等AI使用中的安全挑战。 该产品能够在终端层面掌握和控制包括
AI资讯生成式AI应用现状调查：约90.7%的企业已开始采用
调查显示，生成式AI在企业中的应用日益普及，但信息安全和内容准确性仍是主要顾虑。
AI资讯职场中使用AI的情况及其公开程度调查结果揭晓
调查显示，尽管70.1%的职场人士使用AI，但仅有28.4%主动告知同事和上司。
AI资讯近半数日本小中学生在使用生成式AI时不盲目信任答案
NTT Docomo调查显示，日本小中学生在使用生成式AI时，约半数会保持怀疑态度，避免直接相信AI给出的答案。
AI资讯新方法揭示AI模型的内在思维
研究结果提供了一些证据，虽然尚不能完全确定，但显示某些中国AI模型可能通过“蒸馏”技术，从美国模型中提取了推理信息。这种推理信息原本是隐藏的，因为两者的思维或推理模式极为相似。研究人员还证明，该方法能够从模型的内部推理中恢复个人信息，如密码和API密钥，尽管这一漏洞现已被修复。 “我们测试的所有主要前沿模型供应商都存在这一漏洞，”德国图宾根大学计算机科学家亚历山大·潘菲洛夫（Alexander P
AI资讯将生成式AI现场应用转变为企业可用状态的信任化服务“哈鲁剧本”
哈鲁剧本提供一套信任化服务，帮助企业将由AI工具和低代码开发的小型业务应用整合进公司环境，确保安全与合规。
AI资讯日本株式会社ハンモック推出AI-OCR解决方案“DX OCR”新选项，减少企业人工核对工作
日本株式会社ハンモック于19日宣布，在其AI-OCR解决方案“DX OCR”中新增了“云工作者选项”，旨在提升输出结果的可靠性。 “DX OCR”是一款云服务，专注于提升手工数据输入的效率。该服务无需复杂的表单设计和设置，能够顺畅地将包括手写文字在内的各种图像和文字转换为数据。 尽管随着AI技术的进步，AI-OCR的识别精度已有显著提升，但据日本株式会社ハンモック介绍，许多企业仍需员工对AI-OC