# 铁路无人机智能巡检平台建设方案 版本:V1.0 ## 1. 方案定位 本方案面向铁路工务、防洪、供电、电务、安防和施工监管等巡检业务,建设一套可落地、可扩展、可持续迭代的无人机智能巡检平台。 平台以无人机自主巡飞为入口,统一接入可见光视频/图像、红外热成像、激光雷达点云、TIF/DEM/DSM 形变数据和飞控定位数据,通过场景化 AI 模型、GIS 空间规则、业务规则引擎和工单闭环机制,实现“自动发现隐患、智能研判风险、精准定位里程、快速推送工单、闭环反馈迭代”的全流程能力。 平台建设遵循一条完整业务链路:无人机按航线完成巡检,系统自动接入多源数据,在地图和三维底座上识别隐患,按线路缓冲区、天窗时间、施工豁免和专业阈值完成风险判定,形成带证据、位置、等级和处置建议的告警工单,人工确认结果再回流到样本库和模型迭代体系。 ## 2. 核心需求总览 ### 2.1 业务范围 项目需求覆盖四类巡检场景: 1. 工务巡查场景:外部风险防控、线路设施排查、路基边坡监测、安防隐患治理、施工规范监管。 2. 防洪点精密监测:基于激光雷达巡飞、LAS 点云处理、TIF 三维数字底座和前后期变化对比,发现体积形变异常。 3. 供电保障场景:接触网异物、接头发热、螺栓缺失、鸟巢等供电设备隐患。 4. 电务巡检场景:信号机破损倾斜、电缆槽盖板缺失、线缆悬挂异物、杆上设备发热。 ### 2.2 系统能力需求 需要建设的能力包括: - 多源数据接入:无人机图像、视频流、红外热图、激光雷达点云、TIF/DEM/DSM、航线任务、RTK/PPK 定位、云台姿态、相机内外参。 - 多类型 AI 检测:目标检测、实例分割、语义分割、裂缝细粒度识别、变化检测、点云配准与三维形变分析、热异常识别。 - 空间规则判定:按线路中心线、防护网、接触网、边坡、站区、施工区等 ROI 判断是否触发报警。 - 告警与闭环:生成结构化告警,推送巡检管理平台和工单系统,支持人工确认、误报抑制、施工时限豁免、后续新增变化才报警。 - 工程化部署:适配机载计算、机巢边缘服务器或中心云端,使用 ONNX Runtime、TensorRT 等进行推理加速和模型轻量化。 - 数据体系建设:缺陷标签体系、标注规范、数据质量控制、样本迭代、模型版本管理和技术文档沉淀。 ### 2.3 关键输入材料 为保证平台具备稳定的现场交付能力,项目启动阶段需补齐以下基础材料: - 铁路线路 GIS 数据:线路中心线、里程桩、桥隧涵、站区边界、防护网、接触网塔杆、边坡、挡墙、沟渠、重点防洪点。 - 业务规则:不同隐患的报警距离、面积/体积阈值、温度阈值、禁入区域、天窗时间、施工豁免规则。 - 无人机与载荷参数:相机内参、畸变参数、云台姿态、安装外参、分辨率、焦距、红外测温精度、激光雷达参数。 - 历史巡检数据:可见光图片/视频、红外热图、LAS 点云、TIF 数据、历史告警和人工处置结果。 - 样本标注规范:类别定义、边界框/掩膜/关键点/裂缝线/点云标注格式、困难样本标记方式。 - 系统接口材料:无人机平台 SDK/API、巡检平台 API、工单系统 API、用户组织和权限、告警推送协议。 - 现场验证材料:典型线路、典型病害清单、专家复核结果、误报样本、漏报样本、验收指标。 ## 3. 分场景需求要点 ### 3.1 工务巡查场景 | 分类 | 场景 | 需求要点 | 业务判定口径 | 技术方案概要 | | --- | --- | --- | --- | --- | | 外部风险防控 | 违法开挖 | 检测线路两侧管控范围内开挖、基坑、施工机械,需区分正常养护施工闭环状态 | 规范可能为 500 米,实际可能按 100 米报警;只要有开挖即报警;铁路养护施工也先上报,确认后按施工时限豁免 | 施工机械检测 + 基坑/裸土分割 + 线路缓冲区规则 + 施工豁免白名单 | | 外部风险防控 | 深基坑隐患 | 识别深基坑或无防护措施基坑,需明确深基坑标准 | 可先按“大于一定范围即报警”,人工确认后后续不再重复报警 | 基坑实例分割 + 尺度估算 + 历史变化对比 + 人工确认闭环 | | 外部风险防控 | 违规堆土 | 判断堆土是否违规,落地可按画面像素占比或三维体积 | 体积标准待工务确定;有坐标和三维数据可测算 | 土堆分割 + 单目/双目/点云体积估计 + 缓冲区规则 | | 外部风险防控 | 塔吊 | 检测线路 100 米内塔吊,后续仅新增塔吊报警 | 100 米内报警;闭环后只报新增 | 塔吊检测 + GIS 距离计算 + 新增变化检测 | | 外部风险防控 | 烟火 | 检测线路 100 米内烟雾、火点 | 100 米内报警 | 烟火检测 + 视频时序判断 + 误报过滤 | | 线路设施排查 | 危树侵限 | 判断树木与接触网、线路的安全距离 | 阈值需与工务确认 | 树冠分割 + 接触网/杆塔定位 + 点云距离计算 | | 线路设施排查 | 异物漂浮 | 检测挂在接触网等位置的农用薄膜、施工防尘网 | 重点为农用薄膜、施工防尘网 | 小目标检测 + 异物分割 + 接触网 ROI 限定 | | 线路设施排查 | 广告牌隐患 | 检测广告牌破损、脱落、倾斜、侵限、违规设置 | 先关注破损、脱落 | 广告牌检测 + 破损分类 + 姿态/倾斜估计 | | 线路设施排查 | 彩钢板清理 | 检测新增彩钢瓦、破损、脱落 | 已存在不报警;后续新增、破损、脱落报警,重要程度高 | 基线库 + 变化检测 + 彩钢板检测/分割 | | 线路设施排查 | 落石 | 检测线路板落石、防护网内落石 | 线路板落石、防护网内落石报警 | 落石检测/分割 + 轨道/防护网 ROI | | 路基边坡监测 | 滑坡预警 | 检测已发生滑坡、滑塌、落石,也可扩展到前兆 | 发现滑坡报警 | 边坡变化检测 + 裂缝/形变识别 + 点云/TIF 对比 | | 路基边坡监测 | 裂缝识别 | 检测路基面、边坡、挡墙、隧道口衬砌裂缝 | 3 cm 宽、50 cm 长左右可作为初始讨论口径,最终以模型能力和工务标准确定 | 高分辨率采集 + 裂缝分割 + 尺度换算 + 人工复核 | | 路基边坡监测 | 水毁核查 | 检测路基漫水、路基沉降垮塌 | 主要为路基漫水、沉降垮塌 | 水体分割 + 路基变化检测 + 点云高程差 | | 路基边坡监测 | 沟渠疏通 | 检测沟渠堵塞、大量积水 | 沟渠异物堵塞或大量积水 | 沟渠 ROI + 异物/积水分割 + 流通状态判定 | | 安防隐患治理 | 围墙隐患 | 检测围墙破损 | 破损报警 | 围墙检测 + 破损分割/分类 | | 安防隐患治理 | 人员入侵 | 检测防护网内、禁入区域人员,非天窗时间均报警 | 非天窗时间为 0 点至 4 点,防护网内有人即人员入侵;施工人员也不得进入 | 人员检测/跟踪 + 防护网 ROI + 时间规则 | | 安防隐患治理 | 动物防控 | 检测猪、牛、羊、狗等中大型动物侵入 | 防护网内报警 | 动物检测 + 防护网 ROI + 视频确认 | | 施工规范监管 | 现场规范 | 检测防护网内和边坡施工人员 PPE 违规 | 未戴安全帽、未穿反光衣报警 | 人员检测 + 安全帽/反光衣检测 + 施工区域规则 | | 施工规范监管 | 施工合规 | 视觉可检测合规项 | 未戴安全帽、未穿反光衣 | PPE 检测 + 施工任务关联 | ### 3.2 防洪点精密监测 | 场景 | 需求要点 | 业务判定口径 | 技术方案概要 | | --- | --- | --- | --- | | 防洪点精密监测 | 激光雷达巡飞生成 LAS 点云,经处理生产 TIF 三维数字底座;下一次巡飞生成 TIF 与上一次对比,体积变化超过阈值报警 | 初步以体积超过 1 立方米异常变化报警,并上报变化位置和体积;LAS 到 TIF 可能在机巢前端处理,AI 侧负责接收 TIF 并对比前后变化 | 点云去噪 + 配准 + 栅格化/DEM 差分 + 体积计算 + 变化区域矢量化 + 工单闭环 | 关键要求: - 建立防洪点基准三维底座。 - 每次巡飞数据需与同一坐标系下的历史数据精确配准。 - 输出变化位置、面积、体积、变化方向、置信度和可视化结果。 - 支持降雨后、汛期高频巡飞和异常复核。 ### 3.3 供电保障场景 | 场景 | 需求要点 | 业务判定口径 | 技术方案概要 | | --- | --- | --- | --- | | 接触网异物(高危) | 检测接触网高危异物类型 | 塑料薄膜、施工防尘网、风筝 | 接触网区域定位 + 异物检测/分割 + 高危类别识别 | | 接头严重发热 | 明确测温部件清单和温度阈值 | 待供电专业确认,如接触网接头、电连接线夹、隔离开关等 | 红外热图接入 + 设备 ROI 检测 + 温度标定 + 阈值/相对温升规则 | | 螺栓缺失 | 明确检测位置 | 主要为杆体上部螺栓;下部螺栓 C4 检测车可发现 | 超高分辨率采集 + 小目标检测 + 部件模板匹配 + 人工复核 | | 鸟巢 | 明确检测位置 | 供电塔杆或接触网横担上方鸟巢 | 鸟巢检测 + 杆塔/横担 ROI + 误报过滤 | ### 3.4 电务巡检场景 | 场景 | 需求要点 | 业务判定口径 | 技术方案概要 | | --- | --- | --- | --- | | 信号机破损倾斜 | 检测灯罩破损、机体开裂、部件缺失和倾斜 | 先关注灯罩破损、水泥底座破损;倾斜 15 度以上可作为初始报警口径 | 信号机检测 + 部件分割 + 破损分类 + 姿态/倾角估计 | | 电缆槽盖板缺失 | 判断盖板缺失、破损、移位 | 主要是缺失和破损,移位较难判断 | 电缆槽区域分割 + 盖板实例检测 + 缺失序列判定 | | 线缆悬挂异物 | 检测通信信号线缆异物,标准与接触网异物相同 | 与接触网异物类似,差异主要在巡飞航线和摄像头侧重点 | 线缆 ROI + 异物检测/分割 + 航线适配 | | 杆上设备发热 | 明确纳入测温的设备和阈值 | 设备主要为信号机、箱盒,无变压器;阈值待电务确认 | 红外热图 + 设备检测 + 温升阈值 + 历史趋势 | ## 4. 总体技术架构 ### 4.1 分层架构 建议采用“采集层 - 数据处理层 - AI 分析层 - 规则决策层 - 平台集成层 - 运维闭环层”的架构。 ```mermaid flowchart LR A["无人机/机巢/载荷"] --> B["数据接入与同步"] B --> C["预处理与空间标准化"] C --> D["AI算法服务"] D --> E["规则引擎与告警聚合"] E --> F["巡检平台/工单系统"] F --> G["人工确认与闭环反馈"] G --> H["数据治理与模型迭代"] H --> D ``` ### 4.2 数据接入层 输入数据包括: - 可见光图片:用于目标检测、裂缝识别、设施缺陷识别。 - 可见光视频流:用于实时巡检、烟火、人员/动物入侵、施工机械持续确认。 - 红外热图/测温数据:用于接头发热、杆上设备发热、火点识别。 - 激光雷达点云 LAS/LAZ:用于三维底座、边坡/防洪点形变、危树侵限、堆土/基坑体积测算。 - TIF/DEM/DSM 栅格数据:用于前后期体积变化、沉降、滑坡、水毁核查。 - 飞控与定位元数据:RTK/PPK、WGS84/GCJ02/地方工程坐标、航向、姿态、云台角、相机内外参。 - 平台业务数据:航线、巡检任务、施工计划、天窗时间、历史告警、人工闭环状态。 接入方式可选: - 厂商 SDK/API:对接大疆 MSDK、Cloud API、PSDK 或纵横 Wayline/Console 等。 - 流媒体接入:RTMP、RTSP、GB/T 28181、WebRTC,用于实时视频分析。 - 文件接入:对象存储、NAS、SFTP、消息通知,用于巡飞后批处理。 - 消息队列:MQTT、Kafka、RabbitMQ,用于告警、任务状态、模型结果异步传递。 - REST/gRPC:用于任务下发、结果查询、工单创建、人工确认回传。 ### 4.3 预处理与空间标准化 核心处理包括: - 图像去畸变、曝光/白平衡修正、去模糊、雨雾增强、夜间增强。 - 视频抽帧、关键帧选择、目标跟踪、重复帧过滤。 - 红外热图温度标定、发射率设置、环境温度补偿、热图与可见光配准。 - 点云去噪、体素降采样、地面滤波、坐标转换、配准、分割、栅格化。 - 图像与 GIS 的空间映射:将检测框/分割掩膜映射到线路里程、坐标、设施 ID。 - ROI 裁剪:按线路缓冲区、防护网、接触网、杆塔、边坡、沟渠、站区等区域进行检测。 - 基线库构建:对塔吊、彩钢板、基坑、防洪点、边坡等需要“新增才报警”的目标建立历史基线。 ### 4.4 AI 算法服务 推荐采用多模型协同,不把所有场景压到一个大模型中: - 通用目标检测模型:施工机械、塔吊、人员、动物、车辆、信号机、鸟巢、广告牌、彩钢板等。 - 小目标检测模型:螺栓、线夹、接触网异物、电缆槽盖板、远距离安全帽等。 - 实例/语义分割模型:基坑、堆土、积水、滑坡、落石、裂缝、围墙破损、广告牌破损。 - 变化检测模型:新增塔吊、新增彩钢板、基坑变化、防洪点体积变化、边坡形变。 - 点云/栅格分析模型:点云配准、三维差分、DEM/TIF 差分、体积计算、危树侵限距离计算。 - 热异常模型:设备 ROI 检测 + 温度阈值 + 相对温升 + 历史趋势对比。 - 规则与专家系统:空间距离、天窗时间、施工豁免、告警等级、重复告警合并。 ### 4.5 规则决策与告警闭环 每条告警建议包含: - 告警 ID、场景类别、缺陷类别、告警等级。 - 发生时间、线路、里程、经纬度/工程坐标、关联设施 ID。 - 图片/视频片段/热图/点云变化图证据。 - 检测框、掩膜、多边形、变化区域、体积/面积/距离/温度等结构化结果。 - 模型版本、置信度、规则命中说明。 - 是否新增、是否在豁免期、是否重复告警。 - 工单状态、处理人、人工确认结果、误报原因、闭环时间。 闭环策略: - 对正常养护施工、已确认基坑、已确认塔吊、已存在彩钢瓦建立豁免记录。 - 豁免需设置时限、空间范围、责任单位和审批人。 - 对误报样本自动进入再训练候选集。 - 对漏报样本建立高优先级标注任务。 - 对重复告警进行同区域、同目标、同时间窗口聚合。 ## 5. 分场景技术方案 ### 5.1 违法开挖 目标:发现线路缓冲区内开挖、基坑、挖机、砂石车、施工车辆、裸露土方等风险。 可选方案: 1. 施工机械检测方案:训练挖机、吊车、运输车、砂石车、推土机等类别,结合线路 100 米/500 米缓冲区触发报警。 2. 裸土/基坑分割方案:对新出现的裸土、坑洞、施工区域进行语义分割,解决只有基坑没有机械的场景。 3. 视频时序确认方案:通过连续帧跟踪确认机械作业状态,降低静态机械误报。 4. 历史变化方案:将本次巡飞与上次巡飞正射图或关键帧对比,发现新增开挖区域。 5. 规则闭环方案:人工确认正常施工后,在有效时限和空间多边形内不再重复报警。 难点与解法: - 难点:正常养护施工与违规施工视觉上相似。解法:接入施工计划和人工确认闭环,不仅靠视觉判断。 - 难点:开挖边界不规则。解法:检测机械 + 分割裸土/基坑 + 变化检测联合判断。 - 难点:距离铁路远近影响报警。解法:使用线路中心线和工程坐标做缓冲区计算。 ### 5.2 深基坑隐患 目标:识别铁路周边基坑,判断是否达到报警尺度。 可选方案: 1. 图像分割方案:用实例分割识别基坑轮廓,按像素面积、形状、纹理初筛。 2. 点云体积方案:有激光雷达时估算坑深、坑口面积和体积。 3. 单目尺度估计方案:结合飞行高度、相机内参、地面采样距离 GSD 估算基坑实际尺寸。 4. 变化检测方案:与历史底图对比,发现新增坑洞。 5. 人工确认基线方案:确认后的合法基坑进入白名单,只对扩张或新增变化报警。 难点与解法: - 难点:深基坑“深”的视觉判断不稳定。解法:优先用点云/DEM 或多视角重建补充深度。 - 难点:影子、水坑、裸土会误判。解法:加入阴影增强、材质分类和多帧确认。 ### 5.3 违规堆土 目标:检测线路周边堆土,评估面积/体积和侵限风险。 可选方案: 1. 堆土分割:识别土堆区域,输出面积和像素占比。 2. 点云体积测算:以历史地形或邻域地面为基准,计算凸起体积。 3. DEM/TIF 差分:用前后期高程差计算新增堆土体积。 4. 规则分级:按距离线路、体积、高度、坡脚关系给出等级。 5. 人工校核:体积阈值未确定前,先以疑似隐患推送复核。 难点与解法: - 难点:体积阈值未定。解法:系统支持可配置阈值,先积累样本和工务反馈。 - 难点:土色与地面相似。解法:结合高程变化和纹理边界,而非只靠颜色。 ### 5.4 塔吊 目标:检测线路 100 米内塔吊,新增才报警。 可选方案: 1. 可见光目标检测:检测塔身、吊臂、配重等整体目标。 2. 结构分割:对长臂结构做实例分割,提高遮挡场景识别。 3. GIS 距离计算:将塔吊位置投影到地图,计算与线路距离。 4. 新增变化检测:维护塔吊资产基线,已确认塔吊不重复报警。 5. 多次巡飞确认:同一区域多角度出现才提高告警等级。 难点与解法: - 难点:远距离塔吊细长、容易漏检。解法:高分辨率切片检测 + 多尺度训练。 - 难点:已存在塔吊重复报警。解法:目标指纹、位置聚类和闭环状态管理。 ### 5.5 烟火 目标:发现线路附近烟雾、明火或火点。 可选方案: 1. 图像烟火检测:检测烟雾、火焰、燃烧点。 2. 视频时序模型:判断烟雾扩散、火焰闪烁等动态特征。 3. 红外辅助:用热异常验证火点,降低雾、云、灰尘误报。 4. 气象规则:结合风速、湿度、能见度修正置信度。 5. 分级报警:明火直接高危,烟雾按距离线路和持续时间分级。 难点与解法: - 难点:云雾、扬尘、逆光可能误报。解法:可见光 + 红外 + 时序一致性联合判断。 - 难点:烟火发展快。解法:边缘实时检测,告警链路走高优先级。 ### 5.6 危树侵限 目标:评估树木与线路、接触网、杆塔之间的安全距离。 可选方案: 1. 图像树冠分割:识别树冠范围,结合接触网/杆塔位置粗判。 2. 点云距离测量:从点云中分割树木、线路或接触网,计算三维最短距离。 3. 倾倒风险模型:结合树高、倾角、坡度、风向,评估倒伏后是否侵限。 4. 定期变化监测:记录树冠增长趋势,提前预警。 5. 专家阈值配置:按线路等级、电压等级、地形区域配置阈值。 难点与解法: - 难点:仅图像很难准确测距。解法:危树类优先采用 LiDAR 点云。 - 难点:树冠和背景混杂。解法:多视角点云聚类 + 语义分割。 ### 5.7 接触网/线缆异物 目标:检测塑料薄膜、施工防尘网、风筝等高危异物。 可选方案: 1. 接触网 ROI 检测:先检测接触网和线缆,再在局部区域识别异物。 2. 小目标检测:高分辨率切片、超分辨率增强、多尺度训练。 3. 分割方案:对薄膜、防尘网这类形态不规则目标做实例分割。 4. 视频确认:异物随风摆动,可通过运动模式降低误报。 5. 多模态辅助:红外/可见光互补,复杂背景下做二次确认。 难点与解法: - 难点:目标小、形态变化大、背景复杂。解法:ROI 先验 + 高分辨率采集 + 类别专用模型。 - 难点:线缆细,误检多。解法:先定位线缆结构,再限定搜索范围。 ### 5.8 广告牌隐患 目标:发现广告牌破损、脱落、倾斜、侵限或违规设置。 可选方案: 1. 广告牌检测 + 破损分类:先定位广告牌,再判断破损/脱落。 2. 分割破损区域:输出裂口、缺角、脱落区域。 3. 倾角估计:通过矩形边框、关键点或三维姿态估计判断倾斜。 4. 变化检测:发现新增广告牌或状态恶化。 5. 侵限规则:结合距离线路、方向、倒伏范围判定风险。 难点与解法: - 难点:广告牌样式差异大。解法:先做通用检测,后做状态分类。 - 难点:破损轻微难判。解法:设置“疑似破损”复核等级,不直接高危。 ### 5.9 彩钢板清理 目标:已存在彩钢瓦不报警,新增、破损、脱落报警。 可选方案: 1. 基线巡飞建库:首轮巡飞建立彩钢板位置和外观基线。 2. 新增检测:对比历史影像和当前影像,发现新增彩钢板。 3. 破损/脱落分类:识别散落、卷曲、破碎、松动状态。 4. 风险分级:按距离线路、面积、是否在高处、是否可能被风吹落分级。 5. 人工确认闭环:确认安装牢固后设为低风险基线。 难点与解法: - 难点:客户要求“新增才报警”。解法:必须建立目标级历史基线,而非单帧检测。 - 难点:彩钢板反光、颜色多变。解法:颜色增强 + 纹理/形状特征 + 变化检测。 ### 5.10 落石、滑坡、水毁、沟渠堵塞 目标:发现线路板落石、防护网内落石、滑坡、路基漫水、沉降垮塌、沟渠堵塞或积水。 可选方案: 1. 可见光检测/分割:识别落石、滑坡裸露面、积水、堵塞物。 2. 点云变化检测:对边坡和防洪点做高程差、体积差分析。 3. TIF 差分:对前后期栅格高程进行差分,输出变化区域。 4. 降雨触发巡检:结合气象雨量,自动提高防洪点巡检频率。 5. 风险分级:按变化体积、坡度、离线路距离、是否侵入防护网分级。 难点与解法: - 难点:滑坡前兆识别比已发生滑坡难。解法:阶段一检测已发生病害,阶段二加入裂缝/形变趋势。 - 难点:积水与阴影混淆。解法:偏振/多时相/水体分割模型 + 高程低洼规则。 ### 5.11 裂缝识别 目标:识别路基面、边坡、挡墙、隧道口衬砌裂缝。 可选方案: 1. 高分辨率裂缝分割:用专用裂缝分割模型输出裂缝线。 2. 图像增强:去阴影、对比度增强、Retinex、超分辨率,提高细裂缝可见度。 3. 多尺度切片:大图切片后检测,保留 3 cm 级别裂缝细节。 4. 尺度换算:结合 GSD、飞高、相机内参估算宽度和长度。 5. 人工复核流程:裂缝类先作为疑似病害,专家确认后沉淀标注。 6. 三维辅助:对挡墙、衬砌可通过多视角重建或点云辅助判断错台和形变。 难点与解法: - 难点:3 cm 级裂缝对采集质量要求极高。解法:制定专用低空、定焦、低速航线。 - 难点:水渍、阴影、接缝误报。解法:加入难负样本和结构先验,按材质区域限定检测。 ### 5.12 围墙、人员、动物、施工规范 目标:安防入侵和施工合规监管。 可选方案: 1. 人员/动物检测:通用目标检测模型,结合防护网内 ROI。 2. 目标跟踪:视频中连续出现才报警,过滤偶发误检。 3. 时间规则:非天窗时间触发人员入侵,天窗时间结合施工任务判断。 4. PPE 检测:安全帽、反光衣、人员姿态识别。 5. 围墙破损检测:围墙区域分割后做破损分类。 6. 施工任务关联:施工现场规范告警与施工计划、人员授权、区域边界绑定。 难点与解法: - 难点:小人、远距离动物误检。解法:高分辨率切片 + 多帧跟踪。 - 难点:施工人员是否授权视觉无法判断。解法:必须接入施工计划和天窗时间。 ### 5.13 防洪点精密监测 目标:通过 LAS/TIF 前后期对比,发现超过 1 立方米的异常变化。 可选方案: 1. TIF 差分方案:接收机巢前端生成的 TIF,直接做前后期栅格差分和体积计算。 2. 点云原始方案:接收 LAS/LAZ,进行点云配准、滤波、地面建模和变化检测。 3. 点云 + TIF 混合方案:前端快速 TIF 差分,后台保留点云做复核。 4. 变化区域分割:将显著变化栅格聚类成多边形,输出中心点、面积、体积。 5. 多期趋势分析:不仅看相邻两期,也看近 N 期变化趋势,过滤噪声。 6. 人工三维复核:提供剖面图、差分热力图、点云对比视图。 难点与解法: - 难点:点云配准误差会被误认为形变。解法:固定控制点、ICP/NDT 配准、稳定区域校正。 - 难点:植被变化影响体积。解法:地面滤波、植被分类、按裸地/植被分层计算。 - 难点:不同巡飞姿态和密度差异。解法:统一航线、统一点云密度、体素化和置信区间。 ### 5.14 供电发热与杆上设备发热 目标:检测接触网接头、电连接线夹、隔离开关、信号机、箱盒等热异常。 可选方案: 1. 绝对温度阈值:设备温度超过专业阈值报警。 2. 相对温升阈值:设备温度相对环境或同类设备高出一定值报警。 3. 历史趋势阈值:同一设备温度较历史均值异常升高报警。 4. 设备 ROI 测温:先检测部件位置,再读取 ROI 的最高温、平均温。 5. 可见光 + 红外配准:用可见光识别设备,用红外读取温度。 6. 分级策略:轻微温升记录观察,严重温升高危报警。 难点与解法: - 难点:红外温度受距离、角度、发射率影响。解法:固定航线和角度,按设备配置发射率,并做现场标定。 - 难点:设备清单和阈值未定。解法:算法平台支持阈值配置,由供电/电务专业最终维护。 ### 5.15 螺栓缺失 目标:检测杆体上部螺栓缺失。 可选方案: 1. 超高分辨率局部拍摄:为螺栓类目标设计近距离定点拍摄动作。 2. 部件定位 + 模板匹配:先定位杆体/连接件,再对螺栓孔位做缺失判断。 3. 关键点检测:检测应有螺栓位置和实际螺栓位置。 4. 多角度复核:同一部件多张照片共同判断。 5. 人工复核优先:早期仅输出疑似缺失,降低误报风险。 难点与解法: - 难点:螺栓极小,普通巡飞难以稳定识别。解法:不建议作为第一阶段高承诺场景,需专用航线和样本验证后上线。 - 难点:遮挡、锈蚀、反光。解法:多角度采集 + 结构先验 + 专家复核。 ### 5.16 信号机、电缆槽盖板、线缆悬挂异物 目标:电务设备外观缺陷和异物检测。 可选方案: 1. 信号机部件级检测:灯罩、水泥底座、机体、支架分别建模。 2. 倾斜角估计:通过信号机立柱关键点和垂直方向计算角度。 3. 盖板缺失检测:电缆槽长条 ROI 分割后判断连续盖板是否中断。 4. 盖板破损检测:对破损、缺角、断裂纹理进行分类。 5. 线缆异物检测:沿通信信号线缆 ROI 做异物检测,标准与接触网异物复用。 6. 设备发热检测:信号机、箱盒可见光定位后读取红外温度。 难点与解法: - 难点:盖板移位“不好判断”。解法:阶段一只做缺失/破损,阶段二用线性排列规则探索移位。 - 难点:信号机倾斜受拍摄角度影响。解法:结合相机姿态和杆体三维姿态校正。 ## 6. 技术难点与解决思路汇总 | 难点 | 影响 | 解决思路 | | --- | --- | --- | | 业务标准未完全确定 | 阈值、报警范围、等级难以一次定死 | 将阈值、范围、时间窗口、豁免规则做成配置;先以专家复核驱动标准收敛 | | 数据样本不足 | 模型泛化差,长尾缺陷难识别 | 首轮巡飞建样本库;主动学习;误报/漏报回流;合成数据和迁移学习辅助 | | 小目标识别难 | 螺栓、线缆异物、远距离 PPE 容易漏检 | 高分辨率航线、图像切片、超分辨率、局部 ROI、专用模型 | | 复杂背景误报 | 石头、阴影、水渍、反光、云雾会干扰 | 加入难负样本;多模态验证;时序确认;空间 ROI 约束 | | 坐标转换复杂 | 告警难以落到里程和设施 ID | 统一 WGS84/GCJ02/地方工程坐标转换;相机内外参标定;GIS 资产映射 | | 多源数据同步 | 可见光、红外、点云不一致导致融合错误 | 统一时间戳;记录云台/飞控姿态;做外参标定;按轨迹插值对齐 | | 点云配准误差 | 形变检测误报 | 使用稳定控制点、ICP/NDT、体素化、误差模型、多期趋势 | | 三维体积估算误差 | 堆土、基坑、防洪点报警不准 | LiDAR 优先;DEM/TIF 差分;设置置信区间;人工复核高风险变化 | | 施工/养护场景难区分 | 正常施工也可能报警 | 接入施工计划、天窗时间、人工确认和豁免白名单 | | 实时性与算力受限 | 边缘端无法运行过多大模型 | 模型蒸馏、剪枝、量化、TensorRT/ONNX Runtime、分级推理 | | 重复告警 | 用户疲劳,工单过多 | 空间聚类、目标跟踪、历史基线、闭环状态和时限豁免 | | 验收指标不清 | 交付风险高 | 每类场景定义 Precision、Recall、漏报率、误报率、定位误差、处理时延 | | 巡飞质量不稳定 | 模糊、过曝、尺度变化影响识别 | 制定采集规范;图像质量评分;低质量重飞;航线按场景定制 | | 夜间/雨雾/逆光 | 视觉识别下降 | 红外辅助、图像增强、低照度模型、天气规则、必要时降低自动判定等级 | | 模型上线后漂移 | 新区域、新季节、新设备样式导致性能下降 | 数据监控、置信度分布监控、周期复训、灰度发布、模型回滚 | | 安全合规 | 铁路生产系统对稳定性要求高 | 私有化部署、权限审计、日志留存、接口限流、离线容灾 | ## 7. 可选算法路线 ### 7.1 目标检测路线 适用场景:施工机械、塔吊、人员、动物、鸟巢、广告牌、彩钢板、信号机、箱盒、PPE。 方案选择: - 轻量实时检测:适合边缘部署和视频流实时告警。 - 高精度检测:适合巡飞后离线分析和疑难小目标。 - 两阶段检测:先大场景定位,再局部裁剪精检。 - 类别专用检测:对螺栓、异物、盖板等长尾小目标单独训练。 推荐策略: - P0 阶段使用通用检测模型覆盖高频大目标。 - P1 阶段对异物、盖板、PPE、小目标做专用模型。 - P2 阶段加入多任务模型和主动学习。 ### 7.2 分割路线 适用场景:基坑、堆土、裂缝、积水、滑坡、落石、围墙破损、广告牌破损、彩钢板破损。 方案选择: - 语义分割:适合区域类隐患,如积水、滑坡面、裸土。 - 实例分割:适合多个独立目标,如落石、彩钢板、广告牌。 - 交互式/半自动分割:适合早期标注和专家复核。 - 裂缝专用分割:适合细长目标,需要高分辨率和后处理。 推荐策略: - 分割输出应转化为面积、长度、宽度、位置等结构化指标。 - 对边界不清晰场景,用“疑似区域 + 复核”而非直接高危报警。 ### 7.3 变化检测路线 适用场景:新增塔吊、新增彩钢板、基坑扩张、堆土新增、防洪点形变、边坡滑坡。 方案选择: - 图像配准 + 差分:实现快,但对光照和视角敏感。 - 深度变化检测:对复杂光照更稳,但需要标注数据。 - 目标级基线对比:对塔吊、彩钢板等目标最实用。 - 三维变化检测:对体积和高程变化最可靠。 推荐策略: - 需要“新增才报警”的场景必须建设基线库。 - 对变化类告警输出变化前后对比图,便于人工确认。 ### 7.4 点云与三维路线 适用场景:防洪点、危树侵限、堆土体积、基坑深度、边坡形变、路基沉降。 方案选择: - PCL/Open3D 处理:点云滤波、配准、分割、聚类、体积计算。 - DEM/DSM/TIF 栅格差分:适合防洪点和大范围边坡。 - 点云语义分割:区分地面、植被、构筑物、线路设施。 - 多期趋势分析:识别持续形变,过滤单期噪声。 推荐策略: - 防洪点优先采用“TIF 差分 + 点云复核”的混合方案。 - 危树和堆土体积优先使用点云,图像方案作为补充。 ### 7.5 多模态融合路线 适用场景:烟火、设备发热、接触网异物、复杂环境缺陷、三维测量。 方案选择: - 后融合:各模态独立出结果,规则层融合,工程落地快。 - 中融合:对齐 ROI 后融合特征,提高准确率。 - 前融合:输入级融合,对标定和同步要求最高。 - 人机融合:AI 先筛选疑似,专家确认后回流训练。 推荐策略: - 第一阶段采用后融合,便于快速上线。 - 对红外测温和点云形变等强依赖空间对齐的场景,再逐步做中融合。 ### 7.6 规则引擎路线 适用场景:线路距离、禁入区域、天窗时间、施工豁免、设备阈值、告警等级。 方案选择: - 配置化规则:适合频繁调整的业务阈值。 - 空间规则:基于 GIS 多边形、缓冲区、里程范围。 - 时序规则:基于天窗时间、持续时长、重复出现次数。 - 闭环规则:基于人工确认、工单状态、豁免时限。 推荐策略: - AI 只负责“看见什么”,规则引擎负责“是否需要报警、报给谁、如何闭环”。 - 所有规则命中原因都要可解释,方便客户验收。 ## 8. 部署方案选择 ### 8.1 云端/中心端离线分析 特点: - 巡飞后上传图片、视频、点云,中心端批量分析。 - 算力充足,适合高精度模型和点云重处理。 - 实时性较弱。 适用: - 防洪点精密监测。 - 大范围巡飞后复核。 - 裂缝、螺栓等高精度离线任务。 ### 8.2 机巢边缘服务器分析 特点: - 数据在机巢或线路附近边缘服务器处理。 - 能兼顾实时性、算力和数据安全。 - 适合大多数项目落地。 适用: - 烟火、人员入侵、动物入侵、施工机械。 - LAS 到 TIF 前端处理。 - 告警快速推送。 ### 8.3 机载端实时分析 特点: - 在无人机或载荷侧直接推理。 - 延迟最低,但算力、电力、散热受限。 - 模型需要极致轻量化。 适用: - 高危异物、烟火、人员入侵等需要即时发现的少数场景。 - 航线自动补拍或目标跟随。 ### 8.4 混合分级部署 推荐采用混合方案: - 机载端:低延迟粗检,高危事件即时提示。 - 机巢边缘端:主力实时分析和告警生成。 - 中心端:高精度复核、点云重算、模型训练、报表分析。 ## 9. 数据与标注体系 ### 9.1 标签体系 建议建立四层标签: 1. 一级业务域:工务、防洪、供电、电务、安防、施工监管。 2. 二级场景:违法开挖、塔吊、裂缝、接触网异物等。 3. 三级目标/缺陷:挖机、基坑、塑料薄膜、灯罩破损、盖板缺失等。 4. 四级属性:新增/存量、严重程度、是否侵限、是否在防护网内、是否已闭环。 ### 9.2 标注格式 建议按任务类型区分: - 检测类:边界框 + 类别 + 遮挡程度 + 目标尺寸等级。 - 分割类:实例掩膜或语义掩膜。 - 裂缝类:裂缝线、宽度、长度、所属结构面。 - 点云类:点云类别、变化区域、控制点、地面/植被/构筑物分类。 - 热异常类:设备 ROI、最高温、平均温、环境温度、发射率。 - 规则类:ROI 多边形、线路缓冲区、禁入区域、施工豁免区。 ### 9.3 数据闭环 数据闭环流程: 1. AI 生成告警。 2. 用户确认真实/误报/重复/正常施工/需观察。 3. 系统自动回写样本库。 4. 数据管理员抽样质检。 5. 标注团队补充标注。 6. 算法团队训练新版本。 7. 灰度发布和 A/B 对比。 8. 性能达标后替换生产模型。 ### 9.4 数据质量控制 关键检查项: - 图像清晰度、曝光、目标占比、拍摄角度。 - GPS/RTK 定位是否有效。 - 云台角、飞高、焦距是否符合场景采集规范。 - 红外测温是否有标定参数。 - 点云密度、重叠率、控制点、配准误差。 - 标注一致性和专家复核比例。 ## 10. 接口与系统集成方案 ### 10.1 无人机平台对接 对接内容: - 航线任务下发、暂停、恢复、终止。 - 无人机状态、机巢状态、电池状态、载荷状态。 - 实时视频流、图片、红外热图、点云数据。 - RTK/PPK、姿态、云台、相机参数。 - 巡飞完成事件和数据上传事件。 可选方式: - 大疆 Cloud API/MSDK/PSDK。 - 纵横 Wayline/Console API。 - 厂商开放协议 + 文件/流媒体接入。 - 自定义载荷通过 PSDK 输出结构化数据。 ### 10.2 巡检平台与工单系统对接 核心接口: - 巡检任务接收:任务 ID、线路、里程、航线、目标场景、时间窗口。 - AI 结果推送:告警 ID、类别、等级、位置、证据、置信度、规则解释。 - 工单创建:责任单位、处置建议、截止时间、附件。 - 工单回写:真实/误报/重复/正常施工/已处置/延期。 - 白名单/豁免:空间范围、时限、原因、审批人。 - 统计报表:按线路、类别、单位、时间段统计。 ### 10.3 结果数据结构建议 建议每个 AI 结果统一为结构化 JSON: ```json { "alarm_id": "AI-20260720-000001", "task_id": "inspection-task-id", "scene": "违法开挖", "category": "挖机", "severity": "high", "confidence": 0.91, "time": "2026-07-20T17:00:00+08:00", "location": { "line": "线路名称", "mileage": "K123+456", "wgs84": [116.0, 39.0], "project_coord": [500000.0, 4300000.0] }, "geometry": { "bbox": [100, 120, 300, 260], "polygon": [[100, 120], [300, 120], [300, 260], [100, 260]] }, "measurements": { "distance_to_track_m": 83.2, "area_m2": 12.5, "volume_m3": null, "temperature_c": null }, "evidence": { "image_url": "oss://bucket/path/image.jpg", "video_clip_url": "oss://bucket/path/clip.mp4", "pointcloud_url": null }, "rule_hits": ["线路100米内", "非豁免区", "新增目标"], "model": { "name": "uav-rail-detector", "version": "v1.0.0" } } ``` ## 11. 实施优先级建议 ### 11.1 P0:优先 MVP 场景 优先选择目标清晰、样本容易获得、业务价值高、工程闭环明确的场景: - 违法开挖:挖机、施工车辆、基坑、裸土。 - 塔吊:100 米内检测和新增报警。 - 烟火:可见光 + 视频时序,必要时红外辅助。 - 人员入侵:防护网内、非天窗时间报警。 - 动物防控:中大型动物侵入防护网。 - 施工规范:安全帽、反光衣。 - 接触网/线缆异物:塑料薄膜、防尘网、风筝。 - 鸟巢:供电塔杆或接触网横担上方。 - 电缆槽盖板缺失/破损。 - 围墙破损。 ### 11.2 P1:第二阶段增强场景 - 深基坑隐患:结合面积、深度、变化和人工确认。 - 违规堆土:面积/体积估算。 - 彩钢板新增、破损、脱落。 - 广告牌破损、脱落、倾斜。 - 落石、防护网内落石。 - 水毁核查、沟渠堵塞/积水。 - 信号机灯罩破损、水泥底座破损、倾斜。 - 供电/电务设备发热。 ### 11.3 P2:高精度与三维场景 - 防洪点 TIF/点云体积变化。 - 危树侵限三维距离测量。 - 边坡滑坡前兆、形变趋势。 - 裂缝识别和尺度测量。 - 螺栓缺失。 - 盖板移位。 ### 11.4 推荐里程碑 | 阶段 | 时间建议 | 目标 | 交付物 | | --- | --- | --- | --- | | 需求冻结与数据盘点 | 1-2 周 | 明确场景、阈值、接口、采集规范 | 需求规格书、标签体系、接口清单、样本清单 | | MVP 数据接入与基础检测 | 4-6 周 | 打通无人机数据、实现 P0 类检测初版 | 数据接入服务、P0 模型、告警 API | | 业务闭环与规则引擎 | 4-6 周 | 接入巡检平台/工单,支持豁免和闭环 | 规则引擎、告警聚合、工单回写 | | 多场景扩展 | 2-3 个月 | 覆盖 P1 场景,提升准确率 | 场景模型、标注库、验收报告 | | 点云/红外/三维增强 | 2-4 个月 | 防洪点、危树、发热、形变等能力 | 点云/TIF 分析、热异常分析、三维可视化 | | 工程化和规模化运维 | 持续 | 模型轻量化、监控、复训、灰度发布 | MLOps、模型版本管理、运维看板 | ## 12. 验收指标建议 ### 12.1 算法指标 - 检测类:Precision、Recall、mAP、误报率、漏报率。 - 分割类:mIoU、Dice、边界误差、面积误差。 - 裂缝类:最小可识别宽度、长度误差、漏检率。 - 点云类:配准误差、体积误差、高程差误差、变化区域定位误差。 - 热异常类:测温误差、阈值命中率、异常召回率。 ### 12.2 业务指标 - 告警到达时延。 - 告警位置误差:经纬度、线路里程、设施 ID。 - 工单自动创建成功率。 - 重复告警合并率。 - 人工确认闭环率。 - 按场景统计的有效告警率。 - 巡飞数据入库完整率。 ### 12.3 建议验收方式 - 每类场景至少准备正样本、负样本、困难样本和跨线路样本。 - 高风险场景优先看漏报率,普通场景兼顾误报率。 - 对新场景先验收“疑似告警发现能力”,再逐步提高自动判定等级。 - 对点云体积变化需要使用人工测量或专业软件结果作为对照。 ## 13. 项目组织与角色建议 项目组织需要覆盖算法研发、数据工程、平台集成、边缘部署和现场交付等关键能力: - 核心算法研发:CV 检测/分割、点云处理、红外热异常、多模态融合、变化检测。 - 数据链路对接:大疆/纵横等无人机平台 SDK/API,图像、视频流、点云和任务数据接入。 - 系统集成:巡检平台、工单系统、告警平台、数据协议、任务下发和闭环回传。 - 工程化部署:模型量化、剪枝、ONNX Runtime/TensorRT、边缘端推理、Linux 服务化。 - 标准体系建设:标签体系、标注规范、质量控制、模型评测、技术文档。 - 跨团队协同:无人机厂商、外包团队、工务/供电/电务专业、平台研发、运维团队。 建议团队配置: - 算法与平台技术负责人:总体方案、算法路线、交付质量把控。 - CV 算法工程师:目标检测、分割、裂缝、小目标、PPE。 - 点云算法工程师:LAS/TIF、配准、体积、形变、危树。 - 红外/多模态工程师:热图配准、设备测温、烟火融合。 - 数据工程师:数据接入、样本库、标注平台、数据质量。 - 后端工程师:API、告警、规则、工单、权限、日志。 - 边缘部署工程师:推理服务、TensorRT/ONNX、设备适配、监控。 - 测试/交付工程师:现场验证、验收样本、问题闭环。 ## 14. 风险与应对 | 风险 | 表现 | 应对 | | --- | --- | --- | | 客户标准反复变化 | 阈值、距离、类别定义调整 | 配置化规则 + 版本化需求确认 | | 样本无法覆盖长尾 | 稀缺病害难训练 | 先疑似告警 + 人工复核,持续积累 | | 采集质量不足 | 小目标、裂缝识别不达标 | 为每类场景制定专用航线和拍摄规范 | | 接口联调周期长 | 无人机平台/工单平台文档不完整 | 先定义中间协议和模拟器,分阶段联调 | | 点云处理链路重 | 数据量大、配准耗时 | 前端 TIF 快速处理 + 后台点云精算 | | 误报导致用户不信任 | 工单过多、重复告警多 | 告警分级、重复合并、白名单和人工确认 | | 边缘算力不足 | 多模型无法实时运行 | 模型分级、任务调度、异步处理、硬件选型 | | 环境变化导致漂移 | 季节、天气、线路差异 | 持续监控、定期复训、跨区域测试 | ## 15. 推荐落地路线 第一步:先不要追求所有场景“一步到位”。优先打通无人机数据接入、空间规则、告警闭环和 P0 场景模型,建立可跑通的业务闭环。 第二步:围绕客户最关心的告警质量,建设样本库、误报漏报回流、白名单/豁免机制和模型评测体系。 第三步:再扩展点云/TIF、红外热异常、裂缝、小目标等高难度场景。高难度场景要先做可行性验证,明确采集条件、验收样本和人工复核流程。 第四步:形成“场景模型 + 空间规则 + 告警闭环 + 数据迭代”的长期运营体系。铁路巡检不是单次模型交付,而是持续迭代的数据工程和运维工程。 ## 16. 一句话方案总结 本项目应采用“多源数据接入 + 场景化 AI 模型 + GIS 空间规则 + 人工确认闭环 + 边缘/中心混合部署”的技术路线:先用可见光检测和规则引擎快速覆盖高价值风险,再逐步引入点云三维变化、红外热异常和多模态融合,最终形成可持续迭代的铁路无人机智能巡检平台。