跳到主要内容

批量处理

批量处理功能允许你并行运行 Hermes 智能体处理成百上千条提示词，生成结构化的轨迹数据。这主要用于训练数据生成——产出包含工具使用统计信息的 ShareGPT 格式轨迹，可用于微调或评估。

概述​

批量运行器 (batch_runner.py) 处理一个包含提示词的 JSONL 数据集，让每条提示词都通过一个具备工具访问权限的完整智能体会话运行。每条提示词都拥有独立的隔离环境。输出是结构化的轨迹数据，包含完整的对话历史、工具调用统计信息和推理覆盖率指标。

快速开始​

# 基本批量运行
python batch_runner.py \
    --dataset_file=data/prompts.jsonl \
    --batch_size=10 \
    --run_name=my_first_run \
    --model=anthropic/claude-sonnet-4-20250514 \
    --num_workers=4

# 恢复中断的运行
python batch_runner.py \
    --dataset_file=data/prompts.jsonl \
    --batch_size=10 \
    --run_name=my_first_run \
    --resume

# 列出可用的工具集分布
python batch_runner.py --list_distributions

数据集格式​

输入数据集是一个 JSONL 文件（每行一个 JSON 对象）。每个条目必须包含一个 prompt 字段：

{"prompt": "编写一个查找最长回文子串的 Python 函数"}
{"prompt": "使用 Flask 创建一个用于用户身份验证的 REST API 端点"}
{"prompt": "调试此错误：TypeError: cannot unpack non-iterable NoneType object"}

条目可以可选地包含：

  • image 或 docker_image：用于此提示词沙箱的容器镜像（适用于 Docker、Modal 和 Singularity 后端）
  • cwd：任务终端会话的工作目录覆盖

配置选项​

参数默认值描述
--dataset_file(必需)JSONL 数据集的路径
--batch_size(必需)每批处理的提示词数量
--run_name(必需)本次运行的名称（用于输出目录和检查点）
--distribution"default"从中采样的工具集分布
--modelclaude-sonnet-4-20250514使用的模型
--base_urlhttps://openrouter.ai/api/v1API 基础 URL
--api_key(环境变量)模型的 API 密钥
--max_turns10每个提示词的最大工具调用迭代次数
--num_workers4并行工作进程数
--resumefalse从检查点恢复
--verbosefalse启用详细日志记录
--max_samples全部仅处理数据集中的前 N 个样本
--max_tokens模型默认值每个模型响应的最大令牌数

提供商路由 (OpenRouter)​

参数描述
--providers_allowed允许的提供商，逗号分隔（例如 "anthropic,openai"）
--providers_ignored忽略的提供商，逗号分隔（例如 "together,deepinfra"）
--providers_order首选的提供商顺序，逗号分隔
--provider_sort按 "price"、"throughput" 或 "latency" 排序

推理控制​

参数描述
--reasoning_effort推理努力程度：xhigh、high、medium、low、minimal、none
--reasoning_disabled完全禁用推理/思考令牌

高级选项​

参数描述
--ephemeral_system_prompt执行期间使用但不保存到轨迹的系统提示词
--log_prefix_chars日志预览中显示的字符数（默认：100）
--prefill_messages_file包含用于少样本提示的预填充消息的 JSON 文件路径

工具集分布​

每条提示词都会从一个分布中随机采样一组工具集。这确保了训练数据涵盖多样化的工具组合。使用 --list_distributions 查看所有可用的分布。

在当前实现中，分布为每个独立的工具集分配一个概率。采样器独立地决定每个工具集是否启用，然后保证至少有一个工具集被启用。这与手动编写的预构建组合表不同。

输出格式​

所有输出都保存到 data/<run_name>/：

data/my_run/
├── trajectories.jsonl    # 合并后的最终输出（所有批次合并）
├── batch_0.jsonl         # 单个批次的结果
├── batch_1.jsonl
├── ...
├── checkpoint.json       # 恢复检查点
└── statistics.json       # 聚合工具使用统计

轨迹格式​

trajectories.jsonl 中的每一行都是一个 JSON 对象：

{
  "prompt_index": 42,
  "conversations": [
    {"from": "human", "value": "编写一个函数..."},
    {"from": "gpt", "value": "我来创建那个函数...",
     "tool_calls": [...]},
    {"from": "tool", "value": "..."},
    {"from": "gpt", "value": "这是完成的函数..."}
  ],
  "metadata": {
    "batch_num": 2,
    "timestamp": "2026-01-15T10:30:00",
    "model": "anthropic/claude-sonnet-4-20250514"
  },
  "completed": true,
  "partial": false,
  "api_calls": 3,
  "toolsets_used": ["terminal", "file"],
  "tool_stats": {
    "terminal": {"count": 2, "success": 2, "failure": 0},
    "read_file": {"count": 1, "success": 1, "failure": 0}
  },
  "tool_error_counts": {
    "terminal": 0,
    "read_file": 0
  }
}

conversations 字段使用类似 ShareGPT 的格式，包含 from 和 value 字段。工具统计信息已标准化，包含所有可能的工具并带有零默认值，确保条目间模式一致，以便与 HuggingFace 数据集兼容。

检查点​

批量运行器具备健壮的检查点功能，以实现容错：

  • 检查点文件： 每批处理完成后保存，跟踪哪些提示词索引已完成
  • 基于内容的恢复： 使用 --resume 时，运行器会扫描现有的批次文件，并根据实际文本内容（而不仅仅是索引）匹配已完成的提示词，即使数据集顺序发生变化也能恢复
  • 失败的提示词： 只有成功完成的提示词才会被标记为完成——失败的提示词将在恢复时重试
  • 批次合并： 完成后，所有批次文件（包括之前运行的）将合并成一个 trajectories.jsonl

恢复工作原理​

  1. 扫描所有 batch_*.jsonl 文件，查找已完成的提示词（通过内容匹配）
  2. 过滤数据集，排除已完成的提示词
  3. 将剩余的提示词重新分批
  4. 仅处理剩余的提示词
  5. 将所有批次文件（旧的 + 新的）合并到最终输出中

质量过滤​

批量运行器应用自动质量过滤：

  • 无推理过滤器： 丢弃那些助手轮次中完全不包含推理（没有 <REASONING_SCRATCHPAD> 或原生思考令牌）的样本
  • 损坏条目过滤器： 在最终合并过程中，过滤掉包含幻觉工具名称（不在有效工具列表中）的条目
  • 推理统计： 跟踪整个运行过程中包含/不包含推理的轮次百分比

统计信息​

完成后，运行器会打印全面的统计信息：

  • 工具使用： 每个工具的调用次数、成功/失败率
  • 推理覆盖率： 包含推理的助手轮次百分比
  • 丢弃的样本： 因缺乏推理而被过滤的样本数量
  • 持续时间： 总处理时间

统计信息也会保存到 statistics.json 中，以便进行程序化分析。

使用场景​

训练数据生成​

生成多样化的工具使用轨迹用于微调：

python batch_runner.py \
    --dataset_file=data/coding_prompts.jsonl \
    --batch_size=20 \
    --run_name=coding_v1 \
    --model=anthropic/claude-sonnet-4-20250514 \
    --num_workers=8 \
    --distribution=default \
    --max_turns=15

模型评估​

评估模型在标准化提示词上使用工具的能力：

python batch_runner.py \
    --dataset_file=data/eval_suite.jsonl \
    --batch_size=10 \
    --run_name=eval_gpt4 \
    --model=openai/gpt-4o \
    --num_workers=4 \
    --max_turns=10

按提示词指定容器镜像​

对于需要特定环境的基准测试，每条提示词可以指定自己的容器镜像：

{"prompt": "安装 numpy 并计算 3x3 矩阵的特征值", "image": "python:3.11-slim"}
{"prompt": "编译这个 Rust 程序并运行它", "image": "rust:1.75"}
{"prompt": "设置一个 Node.js Express 服务器", "image": "node:20-alpine", "cwd": "/app"}

批量运行器在运行每条提示词之前会验证 Docker 镜像是否可访问。