产品详细介绍
Orq.ai 是面向企业与团队的生成式 AI 协作与管理平台，核心目标是帮助组织在“可控、安全、可评估”的前提下，高效构建和规模化部署各类基于大语言模型（LLM）的应用。平台将开发、测试、部署和监控能力集中在同一个工作空间中，减少分散工具带来的管理成本和风险。
平台主要能力可以概括为以下几个方面：
- 统一的 Agent Runtime（智能体运行环境）
Orq.ai 提供专门的 Agent Runtime，用于在生产环境中稳定运行各种 AI Agent、对话机器人和智能工作流：
- 支持多种主流大语言模型与向量检索等组件的组合；
- 通过统一接口管理 Prompt、上下文、工具调用等复杂逻辑；
- 为生产环境提供高可用、可扩展的运行基础设施，减少自建基础设施的运维压力。
- AI Router：智能模型路由与调度
AI Router 是 Orq.ai 的核心能力之一，用于在多模型、多供应商环境下进行智能路由：
- 根据任务类型、成本、延迟、质量等策略自动选择最合适的 LLM；
- 支持在不同模型之间做 A/B 测试和灰度发布；
- 便于企业在合规和成本之间取得平衡，并避免对单一模型供应商的过度依赖。
- Evaluation：大规模 LLM 评估与质量控制
Orq.ai 内置 Evaluation 能力，帮助团队系统化评估模型与应用效果：
- 支持对不同 Prompt、模型版本、路由策略进行对比测试；
- 可在真实或模拟数据集上进行批量评估，量化回答质量、一致性和安全性；
- 为产品迭代提供数据支撑，帮助持续优化 AI 体验与业务指标。
- 一体化协作与治理
作为“Generative AI Collaboration Platform”，Orq.ai 为跨职能团队（产品、研发、数据、安全、合规等）提供统一协作空间：
- 集中管理 Prompt、配置、实验结果和部署版本；
- 支持访问控制与权限管理，确保敏感数据与配置在企业内部安全流转；
- 提供监控与日志能力，便于审计、问题追踪和合规管理。
- 面向企业的安全与扩展性
Orq.ai 针对企业级场景设计：
- 提供安全、可控的环境来开发和运行 GenAI 应用；
- 支持与现有业务系统、数据源和基础设施集成；
- 通过可扩展架构支持从小规模试点到大规模生产部署的平滑升级。
总体而言，Orq.ai 适合希望系统化落地生成式 AI 的企业和团队，为其提供从构思、实验到生产运营的全生命周期支撑。
简单使用教程
以下是基于 Orq.ai 官方定位整理的简要上手流程，帮助你快速理解如何使用该平台构建与管理 GenAI 应用：
- 注册与创建工作区
- 访问 Orq.ai 官网，选择 Get started 或 Book a demo 进行注册或申请演示；
- 创建企业或团队工作区，配置基础信息和成员权限；
- 为不同项目（如客服助手、内部知识问答、内容生成工具等）建立独立空间，便于管理。
- 连接模型与配置 AI Router
- 在平台中添加你计划使用的 LLM 提供商（如主流云厂商或开源模型服务）；
- 在 AI Router 中为不同业务场景配置路由策略，例如：
- 高质量场景使用性能更强的模型；
- 大批量、成本敏感场景使用更经济的模型；
- 可设置备用模型和回退策略，提升整体稳定性。
- 设计与运行 AI Agent（Agent Runtime）
- 在 Agent Runtime 中创建新的 AI Agent 或应用：
- 定义 Agent 的角色、目标和对话风格；
- 配置 Prompt 模板、上下文注入方式以及工具/插件调用逻辑；
- 在沙盒环境中进行交互测试，确认输出质量与业务逻辑符合预期；
- 调整参数（如温度、最大长度等）以平衡创造性与稳定性。
- 使用 Evaluation 进行评估与优化
- 准备一批代表性测试数据（真实用户问题、典型业务场景等）；
- 在 Evaluation 模块中创建评估任务，对不同模型、Prompt 或路由策略进行对比；
- 分析评估结果，关注回答准确率、一致性、安全性和用户体验相关指标；
- 根据结果迭代 Prompt、路由策略或模型选择，并再次评估，形成持续优化闭环。
- 部署到生产并监控运行
- 在平台中将通过评估的 Agent 或应用一键部署到生产环境；
- 配置访问方式（API 接入、嵌入到现有应用、内部工具集成等）；
- 启用监控与日志：
- 跟踪调用量、延迟、错误率和成本；
- 监控异常输出或潜在风险内容，必要时调整策略；
- 定期回收生产数据样本，重新进入 Evaluation 流程，保持模型与应用持续更新。
- 团队协作与治理实践
- 为产品、研发、数据、安全等不同角色分配合适权限；
- 统一管理 Prompt、配置和版本，避免多人修改导致混乱；
- 在需要时导出日志和评估报告，用于内部复盘或合规审计。
通过以上步骤，团队可以在 Orq.ai 上完成从原型设计、实验评估到生产部署与持续优化的完整闭环，在可控、安全的前提下加速生成式 AI 应用的落地与规模化。
