Provider 配置
ByteMind 支持任何兼容 OpenAI API 的服务,以及 Anthropic 和 Gemini 原生 API。
OpenAI
json
{
"provider": {
"type": "openai-compatible",
"base_url": "https://api.openai.com/v1",
"model": "gpt-4o",
"api_key_env": "OPENAI_API_KEY"
}
}Anthropic
json
{
"provider": {
"type": "anthropic",
"base_url": "https://api.anthropic.com",
"model": "claude-sonnet-4-20250514",
"api_key_env": "ANTHROPIC_API_KEY",
"anthropic_version": "2023-06-01"
}
}Gemini
json
{
"provider": {
"type": "gemini",
"base_url": "https://generativelanguage.googleapis.com/v1beta",
"model": "gemini-2.5-flash",
"api_key_env": "GEMINI_API_KEY"
}
}DeepSeek
json
{
"provider": {
"type": "openai-compatible",
"base_url": "https://api.deepseek.com/v1",
"model": "deepseek-coder",
"api_key_env": "DEEPSEEK_API_KEY"
}
}本地模型(Ollama)
json
{
"provider": {
"type": "openai-compatible",
"base_url": "http://localhost:11434/v1",
"model": "qwen2.5-coder:7b",
"api_key": "ollama"
}
}任意 OpenAI 兼容端点均可使用
只要服务支持 POST /v1/chat/completions 标准格式,就可直接配置。包括 Azure OpenAI、Groq、Together AI 等云服务,以及大多数本地推理就。
通过环境变量传入 API Key
推荐始终使用 api_key_env 而不是将密钥写入配置文件:
json
{ "provider": { "api_key_env": "MY_API_KEY_VAR" } }bash
export MY_API_KEY_VAR="sk-..."
bytemind chat自定义鉴权头
对于需要非标准鉴权的网关或内部服务:
json
{
"provider": {
"type": "openai-compatible",
"base_url": "https://my-internal-gateway/v1",
"model": "gpt-4o",
"auth_header": "X-API-Token",
"auth_scheme": "",
"api_key_env": "GATEWAY_TOKEN"
}
}验证配置
创建配置后运行:
bash
bytemind chat输入一个简单任务(如 说个 hello)验证模型应答正常。如果失败,检查:
base_url可从你的机器访问api_key或环境变量已设置且有效modelID 与 Provider 提供的模型匹配
常见鉴权失败解决方法见故障排查。