主要参数:主机 路由 model Ak

Base URL: 基础地址 如 https://api.openai.com/v1 根路径
Route/Endpoint: 路由/端点 即API 的具体路由接口
/responses
/chat/completions
/embeddings
/images
/audio/transcriptions
这些都挺常见。

完整URL = Base URL + Endpoint
如 /chat/completions 会话补全
OpenAI 新版路由 /responses
Api Key

Input / Messages

这是你真正给模型的输入。

可选参数:

A. 输出控制

  • temperature
  • top_p
  • max_output_tokens / max_completion_tokens
  • stop
  • text.verbosity

B. 格式控制

  • text.format
  • JSON mode
  • JSON Schema / Structured Outputs

C. 流式输出

  • stream
  • stream_options

D. 工具调用

  • tools
  • tool_choice
  • parallel_tool_calls
  • max_tool_calls

E. 推理控制

  • reasoning.effort
  • reasoning.summary

F. 上下文 / 会话状态

  • instructions
  • previous_response_id
  • conversation
  • store
  • truncation

G. 缓存 / 成本 / 性能

  • prompt_cache_key
  • prompt_cache_retention
  • service_tier

H. 安全 / 元数据

  • metadata
  • safety_identifier

temperature

控制随机性。

{  "temperature": 0.7}

官方说明里,temperature 范围是 0 到 2;更高的值,比如 0.8,会让输出更随机;更低的值,比如 0.2,会让输出更集中、更确定。官方也建议通常改 temperature 或 top_p 其中一个,不要两个一起乱调。

常见理解:

0.1 ~ 0.3:更稳定,适合代码、分类、抽取、严肃问答0.5 ~ 0.8:比较自然,适合普通聊天、解释、写作1.0+:更发散,适合创意写作、头脑风暴

top_p

控制 nucleus sampling,意思是只从累计概率前 p 的候选词里采样。

常见:

top_p = 1 默认,不特别限制  
top_p = 0.9 稍微收窄候选范围  
top_p = 0.5 更保守

"max_completion_tokens"
直接截断。如果未完成 一般会返回 incomplete 的状态

stop

停止词。模型生成到某个字符串就停止。

用途/技巧:
控制模型不要生成到下一个段落 (### markdown)
控制聊天模板边界 (句号 或约定的东西。)
控制固定格式输出(如代码块 python代码或JSON)方便后续直接parse(代码解释器直接调用 等等) 不必遍历整个再专门parse markdown的代码块。

stream

流式输出 true/false

tools

告诉模型有哪些工具可以用。

{  
"tools": [  
{  
"type": "function",  
"name": "get_weather",  
"description": "Get current weather for a city",  
"parameters": {  
"type": "object",  
"properties": {  
"city": {"type": "string"}  
},  
"required": ["city"],  
"additionalProperties": false  
},  
"strict": true  
}  
]  
}

tool_choice控制模型要不要调用工具。

{  "tool_choice": "auto"}

官方文档里 tool_choice 可以是 "none"、"auto"、"required";none 表示不调用工具只生成消息,auto 表示模型自己决定回答还是调用工具,required 表示必须调用一个或多个工具

parallel_tool_calls & max_tool_calls

是否允许并行调用多个工具;单次最多使用多少个工具(限制工具调用次数,防止 agent loop 跑飞。)

{  
"parallel_tool_calls": true  
}

reasoning.effort控制推理强度。

{  "reasoning": {    "effort": "low"  }}

官方文档写了 reasoning.effort 用于约束 reasoning models 的推理努力程度,当前支持 none、minimal、low、medium、high、xhigh 等;降低 effort 可以让响应更快、减少推理 token。

reasoning.summary

请求模型返回推理摘要。

{  "reasoning": {    "summary": "concise"  }}

官方文档说 reasoning.summary 可以是 auto、concise、detailed,用于调试和理解模型推理过程的摘要;不是所有模型都支持。

这里主要是为OpenAI 这种 闭源模型做的,不公布model的实际思维链,而是只给摘要。


本文归档于个人知识库 · 领域:CS & AI · 模块:04 Project_CS_AI/AI apps