模型、提供商与路由
模型提供文本生成、图像理解等核心能力。提供商(Provider)通过配置好的云端服务或本地端点提供对这些模型的访问。路由(Route)则决定 Holon 在调用某个模型时具体经过哪个提供商端点。
当同一个模型可以通过多家服务商调用时,理清这层区别尤为重要。单靠模型名称,无法确定请求最终会使用哪组认证凭据、哪个端点以及何种服务配置。
可用性与能力支持
模型编目(Model Catalog)描述模型及其具备的功能特性。而一条真正可执行的路由,还必须依赖可用且已正确配置凭据的提供商。模型存在于编目中,并不意味着当前运行时就一定能调用它。
执行具体操作前需核对模型能力。例如,对话模型可能不支持图像输入、生图或决策子系统。单纯文本任务能够运行,并不能证明其他专项操作已经配置妥当。模型参考是查阅模型编目的入口;配置参考说明了如何检查可用性与配置凭据。
全局默认与 Agent 专属选择
全局默认配置为未单独设置的 Agent 提供对话路由。在 Agent 层面单独指定路由,只会覆盖该 Agent 的主路由,不会改动全局默认配置。
例如,文档维护 Agent 与代码审查 Agent 可以在同一个运行时中采用不同的主模型。修改某个 Agent 的模型配置,不会赋予它额外的系统权限,也不会将其已有工作迁移到新身份上。
Holon 严格区分逻辑模型名称与包含服务商端点的可执行路由。在配置时应使用对应的完整路由标识,不要假设所有模型标识符都可以直接互换。
回退链与专用路由
对话提供商链路首先尝试 Agent 专属配置;若未设置,则使用全局默认,接着按顺序尝试已配置的回退路由(Fallback)。设置了 Agent 覆盖后,系统不会把全局默认作为回退静默追加在链条末尾。自动回退机制优先选用已认证提供商的偏好路由。
回退机制能提升可用性,但也可能让请求流转到不同的提供商。如果任务对服务商有严格限制,应当审查或禁用回退。回退链中的不同服务商在能力和输出表现上并不等价,且回退并不能解决所有调用故障。
图像观察、图像生成和咨询决策拥有独立的路由需求。仅配置对话模型,并不等于配齐了所有工具支持。通过独立的视觉和生图路由配置,可以让这些专项操作调用合适的服务,而无需替换主对话模型。
Fast 模式
在支持的路由上,Fast 模式可以请求更快的服务层级。它与模型的思考深度(thinking level)相互独立,可能会消耗更多额度或产生更高费用。Fast 模式的可用性取决于具体路由,兼容的网关不会自动继承上游服务的 Fast 特性。
Auto 使用路由默认策略;Standard 可以覆盖默认的 Fast 行为。回退路由采用各自的默认层级,且上游服务实际响应的层级可能与请求不一致。Fast 模式属于一种倾向性请求,并非严格的低延迟契约;排查问题时应核对请求层级与实际返回层级。
咨询决策(Advisory Decisions)
可选的决策子系统可以在限定选项中为 Agent 提供非权威的第二意见。例如,Agent 在多个诊断检查中犹豫时,可以咨询先执行哪一项。决策返回的结论仅供 Agent 参考。
决策子系统无法赋予系统权限、无法替代审批要求,也不能改变任务的生命周期状态。超出调用限制、超时、提供商故障、选项无效或置信度不足时,决策子系统会显式弃权(abstain)。调用方必须能够妥善处理弃权情况,不得将其视为已获批准。
