跳转到主要内容
DeepSearchQA evaluates agents on multi-domain search questions with single-answer and set-answer scoring.

运行时状态

字段
Benchmark iddeepsearchqa
TagsDeep Research, Search QA, Judge-Scored
执行类型local with judge
常用 harnessresearchharness or naive_search_agent
常用 environmenthost_process
当前状态已在直接运行时注册

参数

常用参数包括:
  • category
  • answer_type
  • judge_model
  • sample_ids
通用参数如 kavgksample_idsresumecategory 遵循 Benchmark 参数 的约定。

运行示例

agentcompass run \
  deepsearchqa \
  researchharness \
  your-model \
  --env <env-provider> \
  --benchmark-params '{"sample_ids":["<task-id>"]}' \
  --model-base-url "$MODEL_BASE_URL" \
  --model-api-key "$MODEL_API_KEY" \
  --model-api-protocol openai-chat

输出

单任务详情写入 results/deepsearchqa/<model>/<run>/details/,聚合结果写入同一运行目录下的 summary.md