Experiment Report · 2026-08-01
手绘机场图双任务:草地多框 / 跑道单框
在窄条纸上手绘机场示意图上验证 few-shot 视觉定位:任务 A 检测全部绿色草地色块(多目标 bbox), 任务 B 检测整条灰色跑道(单目标 bbox)。协议为 3.8 生成参考标注 → K-shot 构建描述卡 → 35B 在 hold-out 集预测, 并以参考标注计算 IoU / Precision / Recall。推理阶段仅输入待测图与文本描述,不携带 shot 原图或参考框。
1. 数据与方法
数据集为竖构图手绘机场纸带照片(多数分辨率 1280×1707),背景为木地板,存在强光与家具投影遮挡。 场景难点:细长主体、同色相邻区域(草地 vs 灰条跑道)、以及非写实马克笔笔触。
Grass:全部互不连通的绿色涂色块 → 多 bbox。
Runway:连续灰/黑灰路面条带 → 单 bbox(不含草地与纸面白边)。
全量 11 张由 qwen3.8-max-preview 分别输出草地多框与跑道单框,作为自动参考标注。
K=3:对 GT 裁剪区域做外观描述并聚合为检测卡。跑道为单目标卡;草地为多目标检测 prompt。
剩余 8 张仅输入待测图 + 描述文本,由 Qwen3.6-35B-A3B 输出框;相对 GT 评测。
Train split(K=3)
0076426b… · 0449c453… · 3cb67a90…
(文件名排序优先,且要求草地实例数 ≥ 3)
2. 结果
草地:预测框与 GT 框做贪婪一对一匹配;IoU≥0.5 计为 TP,据此算 Precision / Recall,并对匹配对报告 mean IoU。 跑道:单框直接与 GT 计算 IoU。
Task A · Grass(multi-box, n=8)
| Mean Precision | 0.871 |
| Mean Recall | 0.871 |
| Matched mean IoU | 0.737 |
P/R ≈ 0.87
Task B · Runway(single-box, n=8)
| Mean IoU | 0.696 |
| IoU ≥ 0.50 | 87.5%(7/8) |
| IoU ≥ 0.75 | 50%(4/8) |
mean IoU ≈ 0.70
Per-image breakdown(test)
| 图片 | GT 草地 | Pred | P | R | 草地 mIoU | 跑道 IoU |
|---|---|---|---|---|---|---|
3de8… |
8 | 8 | 0.62 | 0.62 | 0.599 | 0.636 |
4154… |
5 | 5 | 1.00 | 1.00 | 0.822 | 0.758 |
4a61… |
8 | 8 | 0.62 | 0.62 | 0.666 | 0.922 |
7da9… |
7 | 7 | 0.86 | 0.86 | 0.761 | 0.767 |
874d… |
7 | 7 | 1.00 | 1.00 | 0.717 | 0.314 |
c60a… |
5 | 5 | 1.00 | 1.00 | 0.791 | 0.723 |
d872… |
7 | 7 | 0.86 | 0.86 | 0.725 | 0.903 |
e16e… |
7 | 7 | 1.00 | 1.00 | 0.812 | 0.542 |
高亮行 874d…:草地 P/R=1.00,但跑道预测仅覆盖下半段(IoU=0.314)。
跑道主要误差模式为局部覆盖不足或边界偏松,而非完全漏检。
3. 参考标注(3.8 GT)
绿框为草地实例,橙框为跑道。点击放大。草地标注总体贴合色块;跑道偶见边界略松(含少量纸面白边)。
4. 预测可视化(35B,test)
与 §3 同色编码。可对照边界贴合度、实例漏检/过检,以及跑道是否吞入草地区域。
5. 案例分析
左:3.8 参考标注;右:35B 预测(hold-out)。
High runway IoU · d872… = 0.903
High grass fidelity · 4154…
Failure mode · 874d… partial runway
Train-set GT examples
0076… · 8 grass + runway
3cb6… · train shot6. 讨论
Findings
- Multi-box grass:K=3 few-shot 下 hold-out P/R≈0.87,实例计数与色块基本对齐,路径可行。
- Single-box runway:IoU≥0.5 达 7/8,但全长覆盖与边界贴合波动较大(IoU≥0.75 仅 4/8)。
- 当前单目标
/predict不足以表达草地任务;本实验以 multi-bbox JSON 协议验证了扩展方向。
Next steps
- 草地落地需独立 multi-bbox 推理接口,避免复用单框卡。
- 跑道描述约束可继续强化「仅灰条、排除草地」;对局部覆盖失败样本可做人工抽检或提高 K。
- 将强光/投影干扰样本(如
874d、c60a)纳入回归基准。
Reproducibility
Script: scripts/eval_hard_pic_fewshot.py ·
Artifacts: test_outputs/hard_pic_fewshot/ ·
Related:
object few-shot ·
abstract / paper-craft