跳到主要内容

调用大模型服务

POST 

/v1/ai/:provider/:path

当调用大模型时需要传递额外路径时,可追加 path 参数,如 chat/completions。具体路径定义参考各大模型文档。

流式输出 (server-sent events)

当启用流式输出时,应显式在请求头 Accept 中指定 text/event-stream,否则请求将在 60 秒后超时。

协议形态

该接口支持 OpenAI 和 Anthropic 兼容协议:

  • pathchat/completions 时:使用 OpenAI 兼容协议,请求体与响应体均为 OpenAI Chat Completions 形态
  • pathv1/messages 时:使用 Anthropic 协议,请求体与响应体均为 Anthropic Messages 形态

注意,使用 Anthropic Messages API 时,所选 provider 必须已配置 Anthropic 协议接入。 当前内置同时支持 OpenAI 与 Anthropic 协议的 provider 为

  • cloudbase
  • hunyuan-v3

Request

Responses

调用大模型成功时返回(不一定返回正确结果)

Response Headers
    X-Request-Id

    请求ID