RemoteLLM

June 26, 2026 · View on GitHub


该类在类层次结构中的位置:

[Oxy](../agent/base_oxy.md)
├── [BaseFlow](../agent/base_flow.md)
├── [BaseLLM](./base_llm.md)
│   ├── [RemoteLLM](./remote_llm.md)
│   │   ├── [HttpLLM](./http_llm.md)
│   │   └── [OpenAILLM](./openai_llm.md)
│   ├── [LocalLLM](./local_llm.md)
│   ├── [ActorLLM](./actor_llm.md)
│   ├── [LiteLLM](./lite_llm.md)
│   └── [MockLLM](./mock_llm.md)
└── [BaseTool](../tools/base_tools.md)

简介

RemoteLLM 扩展了 BaseLLM,用于与远程大语言模型 API 进行通信。它提供了连接远程 LLM 服务的标准化接口,处理 API 认证、请求格式化以及兼容 OpenAI API 标准的响应解析。

参数

参数类型 / 允许值默认值描述
api_keyOptional[str]None用于远程 LLM 服务认证的 API 密钥。
base_urlOptional[str]""远程 LLM API 的基础 URL 端点(必填)。
model_nameOptional[str]""用于请求的模型标识符(必填)。
headersdict[str, str] | Callable[[OxyRequest], dict[str, str]]lambda: {}额外的 HTTP 请求头,或按请求返回请求头的可调用对象。

方法

方法协程 (async)返回值用途(简述)
_execute(oxy_request)OxyResponse抽象方法 -- 子类实现实际的远程 API 调用。

继承

请参阅 BaseLLM 类了解继承的参数和方法。

用法

RemoteLLM 类必须被继承使用。