兼容性
Open Agent API 把一个智能体发布成 API,支持四种协议:OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 与 Gemini generateContent。调用方在 model 里填智能体名(例如 agent/sample)。本页说明:哪些客户端真正对着网关运行过,哪些是按记录下来的请求形状回放的,哪些未核实,每个客户端怎么配置,以及网关怎么处理它用不上的参数。
本页没有无来源的结论:每个客户端的证据等级都写明了,回放背后的证据在回放文件本身里(integrations/compat/replays/<客户端>.json:读过的源码地址与提交或标签,以及日期)。
兼容性实验室
npm run compat 在 127.0.0.1 随机端口起一个隔离的网关(临时数据目录,一把生成的调用方密钥),发布离线示例智能体和一个由确定性夹具模型驱动的智能体,把每个客户端脚本跑一遍,回放记录下来的请求形状,写出 matrix.json(机器可读)与 matrix.md,最后关掉网关。全程不调用任何模型服务。它需要 integrations/compat/ 里的 Python 与 Node 包(requirements.txt、package-lock.json);缺包的客户端会报告为跳过,绝不会算作通过。
integrations/compat/clients/里每个客户端一个脚本;脚本跑若干具名场景,报告pass、fail、na(客户端按设计做不到)或skip。integrations/compat/replays/存放装不进测试环境的聊天客户端的请求形状。test/compat-replays.test.ts在常规离线测试里回放同一批文件。.github/workflows/compat.yml在每次推送与拉取请求时运行实验室,并每周跑一次(第三方 SDK 在更新,每周的运行能发现哪个 SDK 不再能用)。矩阵作为产物上传,并写进作业摘要。
证据等级
实际对着网关运行(live)
真实的包经真实的套接字运行。版本是实验室最近一次运行时用的。
| 客户端 | 版本 | 场景覆盖 |
|---|---|---|
openai(Python) | 3.51.0 | Chat 与 Responses:非流式、流式、include_usage、system / developer / 历史、内容块、采样与厂商参数、reasoning_effort、工具调用往返(流式与否)、response_format、后台任务加 retrieve 与 cancel、previous_response_id、错误类(401、403、404、400、422、429)、超时与重试、并发、图片输入(data URL、已上传的 file_id、类型与内容不符、只收文本的智能体拒绝) |
anthropic(Python) | 2.8.0 | Messages:非流式、事件序列、流式辅助、各种 system 形态、历史、采样参数、较新的请求字段、max_tokens、工具往返、错误类、models.list/retrieve、count_tokens 与批处理、图片块(base64;只收文本的智能体拒绝) |
google-genai(Python) | 3.3.0 | generateContent、流式、系统指令、chats、配置参数、JSON mime 类型、MAX_TOKENS、函数调用(手动与自动)、错误类、models.list/get、不支持的端点、图片 inline_data(URL 安全的 base64) |
openai(Node) | 7.57.0 | 同上的 Chat 与 Responses,经套接字 |
@anthropic-ai/sdk(Node) | 1.8.0 | 同上的 Messages |
@google/genai(Node) | 3.3.0 | generateContent、流式、chats、函数调用、错误类、models、图片 inlineData |
| Vercel AI SDK | ai 7.0.173 | @ai-sdk/openai(chat 与 responses)、@ai-sdk/openai-compatible、@ai-sdk/anthropic、@ai-sdk/google:generateText、streamText、system / 历史 / 采样设置、工具循环、图片内容段 |
| LangChain | langchain-openai 1.8.0、langchain-anthropic 1.7.10 | invoke、stream、历史、采样、工具往返、结构化输出、Responses API 模式、图片内容块 |
| LiteLLM(作为库) | 1.109.1 | openai/、anthropic/、gemini/ 自定义端点,responses()、工具、错误映射 |
| OpenAI Agents SDK(Python) | 0.24.0 | 网关智能体作为 SDK 智能体的模型,经 OpenAIResponsesModel 与 OpenAIChatCompletionsModel:run、run_streamed、模型设置、函数工具 |
| LlamaIndex | llama-index-core 0.14.26、llama-index-llms-openai-like 0.9.0 | OpenAILike:complete、chat、流式、工具。普通的 OpenAI 类会在客户端先拒绝智能体名(见下) |
按记录的请求形状回放
这些客户端装不进测试环境。我们读了它们的源码(或官方文档),记录下每个客户端发给自定义 OpenAI 兼容端点的请求并附上来源,实验室把这些请求回放给网关,并按客户端自己的代码依赖什么来检查响应(读哪些字段、第一个分块是否需要 delta.role、怎么处理 usage 分块等)。回放能证明网关接受这个请求、并以客户端能解析的形式回答;不能证明整个应用都能正常工作。
| 客户端 | 读过的版本 | 源码证据 | 用例(已核实 / 推断 / 未核实) |
|---|---|---|---|
| Open WebUI | v0.13.3 | verified | 11 / 1 / 0 |
| LibreChat | v0.8.8 | partial(请求体由它所用的 LangChain 源码推出) | 2 / 7 / 1 |
| Chatbox | v1.24.4 | verified | 9 / 4 / 0 |
| Cherry Studio | v2.2.2 | verified | 5 / 5 / 1 |
| LobeChat | v2.3.3 | partial | 4 / 8 / 0 |
| NextChat | main@1d3dc33(最近发布 v2.16.1) | verified | 10 / 0 / 0 |
| Dify(OpenAI-API-compatible 插件) | 插件 0.0.83、SDK 0.10.2 | verified | 10 / 3 / 0 |
| n8n(OpenAI 凭据 / Chat Model) | 2.47.7 | verified | 10 / 4 / 0 |
| Continue | main@5522c6f(最近发布 v2.0.0-vscode 与预发布的 v2.1.0-vscode) | verified | 11 / 1 / 0 |
| Cline | main@72b3d71(发布 4.1.26) | verified | 与 Roo Code 共用一个文件:11 / 3 / 0 |
| Roo Code | b867ec9(2026-05-15 已归档) | verified | (同一个文件) |
| Zed | main@f0fa51b(滚动的 main,没有读发布标签) | verified | 7 / 2 / 0 |
「已核实」指用例来自该客户端在所述修订上的源码;「推断」指来自它所用的库或有文档的默认值;「未核实」指没有找到可靠来源,用例只是协议骨架。
未核实
- Cursor(闭源):只有两个骨架用例,都未核实。Cursor 从它自己的服务器发出请求,所以
localhost地址够不着,需要公网 HTTPS 地址。官方文档没有说 Base URL 是否带/v1。 - 网页版客户端的浏览器行为(Chatbox 网页版、NextChat 自定义端点、LobeChat 客户端请求模式)只按 CORS 预检回放;没有驱动真实浏览器。
- 编码代理(Cline、Roo Code、Continue 智能体模式、Zed 智能体)的工具调用行为按请求形状回放,没有让真实的扩展对着桥接的智能体运行。
配置客户端
把 http://127.0.0.1:8787 换成你的网关地址。API 密钥是调用方密钥(sk-oaa-...);模型名是智能体名,与 GET /v1/models 列出的完全一致(例如 agent/sample)。
| 协议 | Base URL | 说明 |
|---|---|---|
| OpenAI(Chat Completions、Responses) | http://127.0.0.1:8787/v1 | 客户端自己追加 /chat/completions、/responses、/models |
| OpenAI,调用方想自己决定工具怎么处理 | http://127.0.0.1:8787/v1/compat | 只在想保留旧行为时需要;见「调用方工具」 |
| Anthropic | http://127.0.0.1:8787 | SDK 自己追加 /v1/messages;密钥用 x-api-key 或 Authorization: Bearer |
| Gemini | http://127.0.0.1:8787,API 版本 v1beta 或 v1 | 密钥用 x-goog-api-key 或 ?key= |
Base URL 写错是 404 最常见的原因。网关现在忽略末尾斜杠与重复斜杠(/v1//chat/completions),404 的说明也会点出多半是什么错了:缺 /v1(POST /chat/completions),或多了一个(/v1/v1/chat/completions,客户端已经自己加了 /v1)。
聊天客户端
| 客户端 | 位置 | Base URL | 模型 | 说明 |
|---|---|---|---|---|
| Open WebUI | 管理员设置 > 连接 > OpenAI | http://<主机>:8787/v1 | 从 /models 列出,或在 Model IDs(Filter)里加上智能体名 | 除了聊天本身,它还会向同一个智能体发标题、标签与追问请求,所以每个新对话会运行智能体不止一次;如果每次运行代价高,在设置 > 界面里把它们关掉。自定义的「高级参数」(top_k、min_p、repeat_penalty、num_ctx、think 等)被接受并忽略;Ollama 的 format 参数(JSON 模式)会被明确拒绝。在 Docker 里要用容器能访问到的主机名,并把它加进 allowedHosts(见下)。 |
| LibreChat | librechat.yaml,endpoints.custom[] | baseURL: "http://<主机>:8787/v1" | models.default: ["agent/sample"],或 models.fetch: true | 每个请求都带 user(接受)。除非想要每个对话多跑一次智能体,否则设 titleConvo: false。 |
| Chatbox | 提供方 > API Host | http://<主机>:8787/v1 | 加上智能体名,或拉取模型 | 要写 http:// 前缀;不写时客户端按 https:// 处理。API Path 保持 /chat/completions。网页版从浏览器直接调用网关:把它的来源加进 allowedOrigins。 |
| Cherry Studio | 模型服务 > 添加 > 类型 OpenAI > API Host | http://<主机>:8787 或 .../v1(两者都行;末尾加 # 则原样使用) | 手动添加或拉取 | 请求来自 Electron 主进程(没有 CORS)。检查按钮与自动命名发的是不带 max_tokens 的非流式请求。 |
| LobeChat | AI 服务商 > OpenAI(或自定义服务商,格式 OpenAI)> API 代理地址 | http://<主机>:8787/v1 | 拉取模型或手动添加 | 除非需要,保持服务商的「Responses API」开关关闭。LobeChat 会隐藏 id 里含 embedding、tts、whisper、ada、davinci 等字样的模型(所以名为 agent/adapter 的智能体会从列表里消失:改个名字)。「客户端请求模式」从浏览器调用网关:把来源加进 allowedOrigins。 |
| NextChat | 设置 > 自定义接口 > OpenAI 接口地址 | http://<主机>:8787,不带 /v1 | 设置 > 自定义模型:agent/sample | NextChat 自己追加 v1/chat/completions(写成 .../v1 会变成 /v1/v1/...),而且从不拉取远端模型列表。匹配它视觉模型规则的模型名(vision、vl、gpt-4o、o3 等)会被多加 max_tokens: 4000。 |
| Dify | 模型供应商 > OpenAI-API-compatible > 添加模型 | Dify 在 Docker 里时用 http://host.docker.internal:8787/v1 | 模型名 = 智能体名 | Dify 从不调用 /models。它的流解析器要求每个分块都有 choices 数组(网关的 usage 分块是 choices: []),并忽略 : 注释帧。 |
| n8n | 凭据 > OpenAI | Base URL http://<主机>:8787/v1 | OpenAI Chat Model:「By ID」或「From List」 | 凭据的 Test 按钮调用 GET /v1/models。节点的「Use Responses API」模式(新版本默认开)与 Chat Completions 模式都建立在 LangChain 上;LangChain 的两种模式在实验室里对网关都能用,n8n 的请求形状按回放验证。挂了工具的 AI Agent 节点用同一个 Base URL:智能体能接管工具时(见下)正常工作,否则得到那条清楚的拒绝。 |
| Continue | config.yaml,models[] | apiBase: http://<主机>:8787/v1 | model: agent/sample | 加 capabilities: [tool_use] 让 Agent 模式发工具:对内核或 ACP 智能体,工具会交给智能体,用同一个 Base URL。Tab 自动补全默认用 POST /v1/completions,网关不提供:补全留给别的模型,或设 useLegacyCompletionsEndpoint: false 让它改发 chat。 |
| Cline / Roo Code | API 提供方「OpenAI Compatible」 | http://<主机>:8787/v1 | 智能体名 | 两者都总是发 tools。对内核或 ACP 智能体,同一个 Base URL 就能用,工具交给智能体(响应里 X-OAA-Client-Tools: bridge);接管不了的智能体(原生引擎)得到一条点明出路的清楚的 400。Roo Code 上游已归档。 |
| Zed | settings.json,language_models.openai_compatible.<名字> | api_url: "http://<主机>:8787/v1" | available_models[].name: "agent/sample" | Zed 从不调用 /models,所以模型要手工列出。它的智能体配置会发 tools;对内核或 ACP 智能体,工具会交给智能体,用同一个 Base URL。 |
| Cursor | 设置 > 模型 > 覆盖 OpenAI Base URL | 公网 HTTPS 地址,带 /v1(未核实) | 自定义模型名 | 未核实,见上。 |
SDK 与框架
| 包 | 配置 |
|---|---|
openai | OpenAI(base_url="http://127.0.0.1:8787/v1", api_key=...),model="agent/sample" |
anthropic | Anthropic(base_url="http://127.0.0.1:8787", api_key=...) |
google-genai | genai.Client(api_key=..., http_options=types.HttpOptions(base_url="http://127.0.0.1:8787", api_version="v1beta")) |
| Vercel AI SDK | createOpenAI({ baseURL: ".../v1" })(.chat() 与 .responses() 都行)、createOpenAICompatible({ name, baseURL: ".../v1" })、createAnthropic({ baseURL: ".../v1" })、createGoogleGenerativeAI({ baseURL: ".../v1beta" });智能体名原样作为模型 id |
| LangChain | ChatOpenAI(model=..., base_url=".../v1", stream_usage=True)(自定义 base_url 时 LangChain 不会自己请求流式用量),ChatAnthropic(model=..., anthropic_api_url="http://127.0.0.1:8787") |
| LiteLLM | litellm.completion(model="openai/agent/sample", api_base=".../v1");也可用 anthropic/agent/sample 加 api_base="http://127.0.0.1:8787",以及 gemini/agent/sample 加 api_base=".../v1beta" |
| OpenAI Agents SDK | Agent(model=OpenAIResponsesModel(model="agent/sample", openai_client=AsyncOpenAI(base_url=".../v1", api_key=...))) 或 OpenAIChatCompletionsModel(...)。调用 set_tracing_disabled(True),否则 SDK 会把追踪上传给 OpenAI。能接管工具的智能体用普通的 Base URL 就能带函数工具(见下文「调用方工具」) |
| LlamaIndex | OpenAILike(model="agent/sample", api_base=".../v1", api_key=..., is_chat_model=True)。OpenAI 类在发任何请求之前会按 OpenAI 自己的列表检查模型名,并拒绝智能体名 |
调用方工具
请求声明了 tools 又没选模式,按 auto 处理(见 harness.md):
- 能接管工具的智能体(内核智能体、Codex、Claude Code、Antigravity ACP 或 ACP 适配器智能体)拿到它们:它的调用以
tool_calls/function_call/tool_use/functionCall交回,运行从你回传的结果接着做,响应带X-OAA-Client-Tools: bridge。编码代理和智能体框架(Cline、Roo Code、Continue、Zed、OpenAI Agents SDK、LangChain、Vercel AI SDK 等)需要的正是这个,用普通的 Base URL,不用任何请求头。 - 接管不了的智能体(DSH、A2A、HTTP 适配器)照旧。OpenAI 默认端点返回
400 unsupported_parameter(error.param是tools;信息给出原因和三条出路:Base URL 用http://<主机>:8787/v1/compat、X-OAA-Compat: true、X-OAA-Client-Tools: managed);兼容端点、Claude 与 Gemini 让智能体用自己的工具完成(X-OAA-Client-Tools: ignored)。 - 工具选择策略(OpenAI 的
tool_choiceauto/none/required/ 具名函数、Claude 的tool_choice、Gemini 的toolConfig.functionCallingConfig)已正式生效:none本轮不暴露调用方工具;强制调用对内核模型驱动原生下推(续接轮自动收敛回auto),对桥接外部智能体实施提示约束加最多 1 轮续接纠正(未满足时报422 tool_choice_unmet,在managed或不支持桥接的目标上报400 client_tools_unsupported)。 X-OAA-Client-Tools: managed | bridge | reject | auto(或metadata["oaa.client_tools"])显式选择,永远不被覆盖;网关设置clientTools.default改变「什么都没选」的请求得到什么。
结构化输出
response_format(json_object、json_schema)、Responses 的 text.format、Gemini 的 responseMimeType: "application/json" 加 responseSchema / responseJsonSchema,以及 Claude 的 output_config.format 是一份契约:兼容 schema 原生下推至模型驱动(超出严格子集时自动平滑退回提示词加 Ajv),成功的响应就是能解析、合乎 schema 的 JSON,不合格则修正或以 structured_output_invalid(422)失败。流式默认暂存至校验通过后发出(内核路由使用严格原生下推且 maxRepairs === 0 时直接流式转发增量并在完成时做 Ajv 断言)。JSON Schema 辅助函数与强制工具调用辅助函数(LangChain 的 method="function_calling"、@ai-sdk/anthropic 的 jsonTool)均已支持。细节见 structured-output.md。
流式过程
流里可以用各协议自己的思考 / 推理形状(Chat 的 reasoning_content、Responses 的 reasoning 项、Claude 的 thinking 块、Gemini 的 thought part)显示智能体正在做什么,答案不变。每个实际运行的客户端都有 *.stream_progress 场景(开启与关闭时答案相同,SDK 暴露过程时能取到)。缺省 Responses 与 Gemini 开启;Chat 关闭,因为 Dify 会把 reasoning_content 用 <think>…</think> 拼进答案;Claude 出于谨慎关闭(thinking 块会改变 content[0] 和 LangChain 流式内容的形状)。按次开启用 X-OAA-Progress: reasoning。完整的协议 × 客户端对照表:progress.md。
参数策略
规则:只影响采样的参数会被接受并忽略(智能体的采样由它的发布者决定);被忽略的名字列在响应头 X-OAA-Ignored-Params 里。取值会改变网关要做的事、而网关满足不了的参数,会被明确拒绝。网关完全不认识的名字也会被拒绝,所以拼写错误(max_token)不会被吞掉。
| 入口 | 生效 | 接受并忽略(列在 X-OAA-Ignored-Params) | 拒绝 |
|---|---|---|---|
/v1/chat/completions | model、messages(角色 system、developer、user、assistant;name 被丢弃)、stream、stream_options.include_usage、max_tokens / max_completion_tokens(只会调低智能体自己的上限)、metadata、reasoning_effort(路由提示:high / xhigh 倾向质量路线,low / minimal 倾向速度路线)、tools、tool_choice(auto / none / required / 具名函数)与工具消息(auto 模式)、response_format(结构化输出)、n = 1 | temperature、top_p、seed、stop(条数不限)、presence_penalty、frequency_penalty、logit_bias、top_logprobs、user、store、service_tier、parallel_tool_calls、verbosity、prompt_cache_key、safety_identifier、prediction、厂商采样旋钮(top_k、min_p、repeat_penalty、repetition_penalty、repeat_last_n、mirostat、mirostat_eta、mirostat_tau、tfs_z、typical_p、num_ctx、num_batch、num_keep、num_predict、keep_alive、think);无害取值:logprobs: false、modalities: ["text"]、tools: []、response_format: {type: "text"};文本内容块上的多余键(cache_control)与 stream_options 里的多余键(include_obfuscation)被丢弃;可选数值字段允许 null | functions / function_call 不是 auto / none(旧式写法),非法或无法桥接的强制 tool_choice(invalid_request / client_tools_unsupported),logprobs: true,非文本 modalities,n 大于 1,不带 stream: true 的 stream_options(与 OpenAI 一致),未知字段(unsupported_parameter);音频与未知内容块(unsupported_content);image_url 内容段被接受(images.md) |
/v1/responses | model、input(字符串,或带或不带 type: "message" 的消息项,内容块 input_text、output_text、input_file)、instructions、stream、background、previous_response_id、metadata、max_output_tokens、reasoning.effort、tools、tool_choice(auto / none / required / 具名函数)及其调用与结果(auto 模式)、text.format(结构化输出) | temperature、top_p、top_logprobs、user、store、service_tier、truncation、parallel_tool_calls、include、max_tool_calls、prompt_cache_key、safety_identifier、stream_options、prompt_cache_retention、text.format 为 text、tools: [] | 非法或无法桥接的强制 tool_choice、未知字段(unsupported_parameter);消息与工具项以外的输入项,如 reasoning(unsupported_content,error.param 是 input.N);音频(input_image 被接受,images.md) |
/v1/compat/*、X-OAA-Compat: true | 上面所有,加按模式处理的 tools 与 tool_choice、response_format / text.format(结构化输出)、工具消息 | 上面的采样类名字、logprobs、n;未知的额外字段透传 | 音频与未知内容块(unsupported_content) |
/v1/messages | system(字符串或块,全文)、messages、stream、metadata、max_tokens、按模式处理的 tools 与 tool_choice、output_config.format(结构化输出) | temperature、top_p、top_k、stop_sequences、thinking、service_tier;较新的请求字段(cache_control、inference_geo、speed、output_config)被接受 | 内联 base64 / URL 文档、未知块(unsupported_content);image 块被接受(images.md) |
generateContent | contents、systemInstruction、generationConfig.maxOutputTokens、responseMimeType / responseSchema / responseJsonSchema(结构化输出)、按模式处理的 tools 与 toolConfig.functionCallingConfig | generationConfig 的其余字段、safetySettings、非函数类的 toolConfig 字段、cachedContent | 不是图片的 inlineData(unsupported_content);图片的 inlineData / fileData 被接受(images.md) |
Gemini 的请求体可以写 camelCase 或 snake_case(system_instruction、generation_config、parameters_json_schema 等);Google 的 REST 两种都接受,google-genai 3.3 就把工具 schema 发成 parameters_json_schema。不带 models/ 的 POST /v1beta/{agent}:generateContent 也受理,因为 AI SDK 的 Google provider 把任何含斜杠的模型 id 都当作完整的资源名,不会再补 models/。
错误体保持被调用协议的形状(OpenAI 为 {error:{code,message,type,param}},Claude 为 {type:"error",error:{type,message,code}},Gemini 为 {error:{code,message,status,details}});网关稳定的错误码在 error.code(OpenAI)、error.code(Claude)与 details[].reason(Gemini)里。见 GET /v1/errors。
已知不支持
- 音频与其它非图片的内联二进制内容:返回
400 unsupported_content;error.param指向那个内容块(例如messages.0.content.1),信息说明如何上传文件并引用(POST /v1/files,再用file/input_file内容块)。图片在每个入口都被接受;收不了图片的智能体在创建运行之前报unsupported_content(images.md)。 - 旧版补全(
POST /v1/completions):Tab 自动补全与 fill-in-the-middle 在用(Continue、Zed 的编辑预测)。不提供;客户端得到普通的 404。 - 其它 OpenAI 端点:embeddings、moderations、音频、图片、微调、assistants、
GET /v1/files列表、responses/{id}/input_items。OpenAI 形状的干净 404。 - Anthropic:
count_tokens与批处理返回 Claude 形状的 404(not_found_error),SDK 会抛NotFoundError。 - Gemini:
countTokens、embedContent、缓存与文件返回 404。 - 多个候选(
n > 1)、token 概率、强制工具选择:一次智能体运行只返回一个文本答案,调用哪个工具由智能体决定。 - 采样控制:按设计忽略;由智能体的发布者决定。
值得知道的行为
- 客户端断开不会取消运行。 SDK 会重试超时的请求(OpenAI SDK 默认
max_retries=2),每次重试都会再启动一个智能体运行;被放弃的运行继续执行并占用容量(maxActiveRuns,默认 8)。对智能体调用请设max_retries=0和较宽裕的超时,或用background: true加responses.retrieve,并用POST /v1/responses/{id}/cancel取消。失败的运行 SDK 不会重试(网关回答422加x-should-retry: false);/v1/responses像 Responses API 一样,把失败的运行报告为 HTTP 200 加status: "failed"。 - 用
Idempotency-Key安全地重试。 每个入口(Chat、Responses、Claude Messages、Gemini、/v1/compat/*与POST /v1/invoke)都遵守Idempotency-Key请求头:同一个键、同样的输入再发一次,会接到已经存在的那个运行上而不是再起一个(X-Run-ID相同);同一个键配不同输入是409 idempotency_conflict。每个逻辑任务发一个键,每次重试都带同一个键(见 protocol.md);示例集的错误与重试示例就是这样做的。 - 取消之后留下什么。 内置智能体以
cancelled结束。外部智能体(ACP、Codex、Claude Code 等)开始执行后被取消,以interrupted、effect_outcome_unknown结束(Responses 入口显示status: "incomplete"、incomplete_details.reason: "effect_outcome_unknown";Chat、Claude、Gemini 返回 422),因为它的副作用无法排除;开始执行之前被取消的是cancelled。两者都是正常结果,后一种要核对副作用。 - 流(Chat)以
data: [DONE]结束;第一个分块带delta.role: "assistant";带include_usage时,[DONE]之前的最后一个分块是choices: []加用量。不报告 token 用量的智能体(例如示例智能体这样的外部智能体)产生usage: null。空闲的流每 15 秒发一次: heartbeat注释帧。 - Docker 与其它主机:网关只回应
allowedHosts里的Host名(默认127.0.0.1、localhost、[::1])。把网关当作host.docker.internal访问的容器,在这个名字被加进allowedHosts、且网关监听在容器能到达的地址之前,会得到403 invalid_host。这是有意的默认值;实验室不会去改它。浏览器直连的客户端需要把它们的来源加进allowedOrigins;之后预检会回答浏览器要求的那些头。 - 限定了某些智能体的密钥调用其它智能体得到
403(SDK 里是PermissionDeniedError);超过rpm配额的密钥得到429,带Retry-After。