# Vision Anti-Pinch C++ / TensorRT 实时摄像头风险推理,算法来自最新 run_risk.py。 持续取图、推理并更新内存中的 FrameResult;可视化可选。 相机每次取帧默认等待 **2000 ms**,连续超时 **6 次**才停止流水线(纯超时约 **12 秒**);成功取得有效帧后清零超时计数。单次等待时间由 `config/camera.json` 的 `camera.timeout_ms` 配置。运行中的坏帧、取流错误共用该重试期限;设备失效时尝试重新打开相机,恢复有效帧后继续推理。GPU 错误仍按原有异常处理退出。 ## Orin 直接运行 适用环境:Jetson AGX Orin、JetPack 5.1.2 / L4T R35.4.1、CUDA 11.4、TensorRT 8.5.2、OpenCV 4.5.4。 仓库已包含该板端编译的程序和重新构建的 TensorRT 引擎。 ```bash git clone https://git.kendeji.fun/zmv/vision-anti-pinch.git cd vision-anti-pinch/orin ./scripts/initialize_camera.sh # 开机后初始化 /dev/video5 摄像头链路 ./run.sh # 持续推理,结果只保存在内存 ``` 可选板端本地可视化: ```bash ./run.sh --visualize ``` Ctrl+C / SIGTERM 停止程序。 关闭预览窗口或按 q/Esc 只关闭预览,推理继续。 摄像头为 /dev/video5,1920×1536 UYVY,30 FPS。 当前 door mask 是指定的 constant_door_mask.json 副本,标定状态为 false;装车后应更换与实际画面匹配的门区并更新标定状态。 ## 下游获取结果 main.cpp 注释中也包含以下示例。下游通过自己的调用位置或线程读取: ```cpp auto result = pipeline.latest(); if (result) { const auto& risk = result->risk; const auto& people = result->persons; // result->frame_index / track_ids / boxes // result->image / door_mask_pixels / capture / timing // people[i].selected / smoothed / temporal:各 133 个关键点 } ``` latest() 返回 shared_ptr;首帧尚未完成时为空。 公共定义位于 include/camera_pipeline.hpp 和 include/frame_result.hpp。 ## 从源码构建 ```bash ./scripts/build.sh ./scripts/initialize_camera.sh ./run_camera.sh ``` 源码构建要求 CMake 3.24+、CUDA/NPP、TensorRT 和 OpenCV 开发依赖。 构建脚本会优先使用 Orin 上已有的 ~/miniconda3/envs/yolo/bin/cmake。 源码配置直接使用 orin/engines/ 中的板端引擎。该引擎仅适用于上述 Orin 环境;仓库不包含 ONNX 或模型转换脚本。 独立库目标为 camera_risk_core;可视化在 camera_risk_visualizer。 ## 目录 - src/、include/:采集、推理、结果变量及可选绘制。 - config/:源码构建程序的配置和固定门区。 - scripts/:构建和摄像头初始化脚本。 - orin/:已编译程序、TensorRT 引擎、配置、当前 GMSL 驱动及启动脚本。 - third_party/:nlohmann JSON 及其许可证。 NPP 用于 UYVY 转换、YOLO 缩放填充、RTMW 仿射裁剪;CUDA 用于通道转换与归一化。 风险几何计算仍包含 CPU/OpenCV 操作;算法内部的临时 JSON 对象只在内存中使用。 当前摄像头驱动启动时偶发首帧 ERROR,应用会丢弃并计数;持续错误、采集超时或推理错误会明确报错并退出。 现有 GMSL 驱动停止采集时可产生 videobuf2 缓冲区告警,v4l2-ctl 同样复现;需在驱动侧完成量产修复和验证。 ## 可选保存(默认全部关闭) 三个独立参数可以单独使用,也可以组合: ```bash ./run_camera.sh --save-original --save-annotated --save-results # 独立包:./orin/run.sh --save-original --save-annotated --save-results ``` 开启任一项时,程序自动创建可执行文件所属工程的 `output/` 及三个子目录: - `original/`:`--save-original` 保存未叠加的原图,JPEG 质量 95。 - `annotated/`:`--save-annotated` 保存带框、关键点及风险文字的 JPEG,无需开启可视化窗口。 - `results/`:`--save-results` 每个完成推理的帧保存一个 JSON,包含帧号、检测框、跟踪 ID、关键点及置信度、风险和耗时;有 CAN 的分支还包含相应状态。 同一帧三类文件同名(扩展名不同),文件名包含运行标识和帧号,多次运行不覆盖。JSON 的 `images` 提供相对于 `output/` 的图片路径,未选择保存的图片为 null。源码入口写入工程 `output/`;独立包入口写入 `orin/output/`。默认不创建目录、不保存文件。 保存对象是完成推理的帧;惰性分支暂停时不新增文件。开启保存会增加编码和磁盘 I/O 开销。写入失败时报告错误并停止,不静默丢失文件。 相机超时回归测试:`./tests/run_camera_timeout.sh`;加 `--wall-clock` 验证默认 6 次超时约 12 秒。测试直接编译实际相机代码,使用模拟采集和转换器,无需摄像头、GPU 或 OpenCV;不覆盖视频回放路径。 板端真实摄像头 / TensorRT 恢复与停止测试记录见 [Orin 测试报告](tests/ORIN_TEST_REPORT.md)。