refactor: 迁移布局检测模型从 PicoDet 到 DocLayout-YOLO
- 核心变更: - app/services/layout_detector.py: 重写布局检测器,从 PicoDet-S_layout_3cls 迁移到 DocLayout-YOLO (DocStructBench, imgsz=1024) - 支持多设备推理 (CPU/CUDA/DirectML/OpenVINO 等),自动探测最优设备 - 预处理改为 letterbox (保比例缩放+灰边 padding),坐标还原使用 (model_coord - padding) / ratio 公式 - 后处理解析 YOLOv10 end-to-end 输出 [N,6]=[x1,y1,x2,y2,conf,cls] - 类别映射改为按 class name 动态匹配 (figure/figure_group→picture, table/table_group→table) - 新增文件: - scripts/export_doclayout_yolo_onnx.py: DocLayout-YOLO ONNX 导出脚本 (独立 venv 运行) - tests/test_layout_detector.py: 布局检测器完整测试 (35 个用例) - 配置更新: - .env.example: 更新布局检测配置 (新增 LAYOUT_IMGSZ, LAYOUT_DEVICE, LAYOUT_DEVICE_ID) - app/config.py: Settings 类对应字段 - pyproject.toml: 新增 export 依赖组 (torch, doclayout-yolo, onnx 等) - 删除旧文件: - scripts/export_picodet_onnx.py: 旧 PicoDet 导出脚本 - 文档更新: - README.md: 更新环境变量说明 - 相关服务注释更新 (pdf_image_extractor.py, summary_persister.py, reextract_images.py) 此重构遵循项目初期开发阶段规范,大胆调整数据模型,无需向后兼容。
This commit is contained in:
@@ -125,7 +125,7 @@ paper/
|
||||
├── scripts/
|
||||
│ ├── init_db.py # 数据库初始化
|
||||
│ ├── manual_crawl.py # 手动抓取脚本
|
||||
│ ├── export_picodet_onnx.py # 导出布局检测 ONNX 模型
|
||||
│ ├── export_doclayout_yolo_onnx.py # 导出布局检测 ONNX 模型
|
||||
│ ├── reextract_images.py # 批量重新提取图片
|
||||
│ └── validate_summary.py # 校验总结 JSON 结构
|
||||
│
|
||||
@@ -198,8 +198,10 @@ SECRET_KEY=your_random_secret_key
|
||||
| `EMBED_API_KEY` | — | Embedding API Key |
|
||||
| `EMBED_MODEL` | — | Embedding 模型名 |
|
||||
| `EMBED_DIMENSIONS` | `0` | 向量维度 |
|
||||
| `LAYOUT_MODEL_PATH` | `data/models/picodet_layout_3cls.onnx` | ONNX 布局检测模型路径(可选) |
|
||||
| `LAYOUT_THRESHOLD` | `0.5` | 布局检测置信度阈值(可选) |
|
||||
| `LAYOUT_MODEL_PATH` | `data/models/doclayout_yolo_docstructbench_imgsz1024.onnx` | DocLayout-YOLO ONNX 模型路径(可选) |
|
||||
| `LAYOUT_IMGSZ` | `1024` | 模型输入尺寸 |
|
||||
| `LAYOUT_THRESHOLD` | `0.2` | 布局检测置信度阈值(可选) |
|
||||
| `LAYOUT_DEVICE` | `auto` | 推理设备:auto/cpu/cuda/directml/openvino/...(可选) |
|
||||
|
||||
### 4. 初始化数据库
|
||||
|
||||
|
||||
Reference in New Issue
Block a user