AI资讯日本总务省发布AI安全技术对策指南，面向AI开发者与提供者
日本总务省于3月27日发布了面向AI开发者和提供者的《确保AI安全的技术对策指南》。 该指南的发布基于2025年6月内阁决议的《实现数字社会重点计划》。总务省结合自2025年9月起举行的网络安全工作组AI安全分科会的讨论及公众意见征集，制定了本指南，旨在展示确保AI安全的技术对策实例。最终版本于2025年12月完成意见征集后正式公布。 指南内容参考了总务省与日本经济产业省共同制定的《AI企业指南
#大型语言模型
按标签聚合查看文章内容。
AI资讯
AI资讯分析显示谷歌AI概览传播错误信息的规模或为人类历史之最
谷歌AI概览在搜索结果中提供的摘要存在大量错误，可能引发前所未有的信息误导危机。
AI资讯Clio实现5亿美元收入里程碑，Anthropic加码法律AI竞争
随着人工智能技术广泛应用于医疗、客户支持等多个领域，代码生成无疑是最受欢迎且最具盈利潜力的应用场景之一。加拿大法律事务管理软件公司Clio的联合创始人兼CEO Jack Newton坚信，法律科技将成为大型语言模型（LLM）时代的下一个重要赢家。虽然这一观点带有一定的主观色彩——毕竟Clio是一家已有18年历史的法律科技公司——但其业绩数据令人难以忽视。 自2023年Clio将AI技术整合进其产品
AI资讯从大型语言模型到幻觉：常见AI术语简明指南
人工智能是一个深奥且复杂的领域。该领域的科学家们常用专业术语来解释他们的研究内容，因此我们在报道人工智能行业时也不得不使用这些技术词汇。为此，我们整理了一份术语表，定义了文章中常用的一些重要词汇和短语。 我们将定期更新这份术语表，随着研究人员不断发现推动人工智能前沿的新方法，同时识别新兴的安全风险，我们会添加新的条目。 AGI 人工通用智能（AGI）是一个模糊的概念，通常指的是在许多甚至大多数任务
AI资讯Meta发布大型语言模型系列“Muse Spark”
Meta推出专为产品设计的高效大型语言模型，支持多模态推理，未来将应用于多平台。
AI资讯从博士生到AI行业评判者：Arena如何定义人工智能的未来
人工智能模型正迅速增多，竞争异常激烈。在众多参与者争夺市场的情况下，谁将成为最优秀的AI模型？又由谁来评判？Arena（前身为LM Arena）已成为前沿大型语言模型（LLM）的事实公共排行榜，影响着资金投入、产品发布和公关周期。短短七个月内，这家初创公司从加州大学伯克利分校的博士研究项目，成长为估值达17亿美元的独角兽。 在TechCrunch的Equity播客最新一期中，记者Rebecca B
AI资讯Probably完成900万美元融资，致力打造更可靠的AI系统
随着大型语言模型（LLM）能力的提升，幻觉现象依然难以避免。即使是最先进的模型也会出现错误，尽管业界已有一些方法来检测这些错误，但最佳解决方案仍在探索中。 刚刚获得Andreessen Horowitz 900万美元种子轮融资的Probably，正致力于构建一种更严谨的错误检测机制。 创始人Peter Elias表示，公司目标是杜绝幻觉和简单事实错误传递给用户，实现类似确定性系统中常见的99.99
AI资讯本地运行大型语言模型工具“Ollama”支持“Codex”应用
日本国家开源本地大型语言模型（LLM）运行工具“Ollama”最新版本v0.24.0于5月14日发布。该版本支持Windows、macOS和Linux系统，用户可从官方网站免费下载使用。 “Ollama”是一款通过简单命令即可下载并本地运行管理“Gemma”、“Qwen”、“Llama”等开源大型语言模型的工具。它支持聊天和API调用，且基于MIT许可证开源开发。 此次v0.24.0版本的最大亮
AI资讯日本丸红社内生成AI平台“まるちゃ”对外开放，支持多模型及高精度RAG，月费3万元起
日本丸红信息系统株式会社（丸红I-DIGIO集团）于11日宣布，将其在丸红集团内部广泛使用的生成式AI平台“まるちゃ”对外开放，向外部企业提供服务。企业若自行从零搭建AI基础设施，需投入大量初期资金并配备专业人才，涵盖LLM连接、认证、日志管理、权限控制、文档检索、应用集成及运维等多个环节。而“まるちゃ”则基于丸红集团内部长期使用所锤炼的AI基础环境，以SaaS形式快速且低成本地提供给企业使用。
AI教程人工智能代理简介及应用场景
人工智能代理简介及应用场景 欢迎参加“人工智能代理入门”课程！本课程将为您提供构建人工智能代理的基础知识和实用示例。 加入Azure AI Discord社区，与其他学习者和AI代理开发者交流，解答您在课程中的疑问。 课程开始，我们将深入了解什么是人工智能代理，以及如何在应用程序和工作流程中有效使用它们。 课程内容 本课涵盖： 什么是人工智能代理及其不同类型？ 人工
AI资讯Carta Healthcare如何让AI像临床摘要员一样推理
在我们全新系列《初创企业如何利用Claude构建产品》中，我们聚焦那些通过AI改变行业的高速成长企业。本文分享了Carta Healthcare开发其临床数据抽取平台Lighthouse背后的工程经验，以及为什么在构建大规模AI系统时，语境工程与模型能力同等重要。 临床登记库收集具有相同诊断、手术或病症患者的标准化数据。医院向登记库提交数据以进行结果对比、发现护理缺口并推动质量改进，但登记库的价值
AI资讯利用大型语言模型保障源代码安全
模型能力正迅速且不均衡地提升。我们一直在与安全团队合作，帮助他们发现并修复自身代码及开源软件中的漏洞，这使我们更深入地理解了如何利用模型来保障源代码安全。我们的主要结论是：漏洞发现阶段现在可以轻松并行化，而瓶颈已转移到漏洞验证、分类和修复阶段。 以我们对开源软件的扫描为例，截至2026年5月22日，我们已披露了1596个漏洞，其中据我们所知已有97个被修复。 本文将介绍如何使用Claude Opu