OpenAI | 批处理

创建大批量 API 请求以异步运行。Batch API 在 24 小时内返回完成结果，享有 50% 折扣。

简单示例

创建一个批处理作业并获取其状态。

OpenAI := TsgcHTTP_API_OpenAI.Create(nil);
OpenAI.OpenAIOptions.ApiKey := 'API_KEY';

// Create a batch
WriteLn(OpenAI._CreateBatch('file-abc123', '/v1/chat/completions'));

// List batches
WriteLn(OpenAI._ListBatches());

方法

• CreateBatch：从已上传的请求文件创建并执行批处理。
  • InputFileId：包含批处理请求的已上传文件的 ID。
  • Endpoint：用于批次中所有请求的端点（例如 /v1/chat/completions）。
  • CompletionWindow：（可选）批次应在其中处理完成的时间范围。默认值为 24h。
• RetrieveBatch：通过 ID 检索批次。
  • BatchId：要检索的批次 ID。
• ListBatches：列出您的组织的批处理任务。
• CancelBatch: 取消正在进行中的批处理。
  • BatchId: 要取消的批处理的 ID。