vision_kit 基准报告(REPORT.md)

August 16, 2026 · View on GitHub

python benchmark/eval.py 生成,勿手改;复现方式见 benchmark/README.md

生成信息

  • 模型:qwen3-vl-flash
  • 样本数:12 张
  • 平均调用次数:1.0(首轮贪心 + 采样补漏重试)
  • 平均延迟:3.1417s

汇总指标

指标说明
数值准确率0.9722与 ground truth 逐分量匹配比例
召回10/10识别出的标注名 / 全部标注名
幻觉数(总计)0识别出但 GT 中不存在的标注名
维度/引用一致性率1.0consistent=True 占比
几何自洽率1.0geo_checks 全通过占比
重试率0.0需要 ≥2 次模型调用的占比

逐图明细

idtype数值准确率召回幻觉一致几何自洽调用次数延迟(s)
vec_para_01向量图1.003/3013.53
vec_grid_01向量图1.003/3011.74
tri_angles_01几何图1.000/0014.17
tri_right_01几何图1.000/0014.14
tri_sides_01几何图0.670/0015.05
tri_angles_02几何图1.000/0014.66
mat_2x2_01矩阵图1.001/1011.21
mat_3x3_01矩阵图1.001/1011.75
circ_01几何图1.000/0014.62
coord_pts_01几何图1.000/0011.93
grid_para_01函数图1.000/0012.46
vec_matrix_combo_01向量图1.002/2012.44

失败案例分析

  • tri_sides_01:acc=0.6666666666666666,召回 0/0,幻觉 0,一致=✓,几何自洽=✓,调用 1 次

基线对比(单次贪心直出 vs 带校验 + 重试)

同一套图、同一套 prompt:基线 = 一次贪心调用直出(不重试、不校验),主链路 = engine.recognize(维度校验 + 几何自洽 + 采样补漏重试)。差值即确定性层的增益。

id主链路 acc基线 acc主链路幻觉基线幻觉主链路调用
vec_para_011.001.00001
vec_grid_011.001.00001
tri_angles_011.001.00001
tri_right_011.001.00001
tri_sides_010.670.67001
tri_angles_021.001.00001
mat_2x2_011.001.00001
mat_3x3_011.001.00001
circ_011.001.00001
coord_pts_011.001.00001
grid_para_011.001.00001
vec_matrix_combo_011.001.00001
  • 数值准确率:主链路 0.9722 vs 基线 0.9722(++0.0000)
  • 幻觉标注数:主链路 0 vs 基线 0(0)
  • 平均调用次数:主链路 1.0(含补漏重试)vs 基线 1.0