产线真正在意的不是精度,是延迟是否可控
工业视觉检测的讨论长期集中在模型精度上。但在实际产线中,决定一套视觉系统能否上线的,往往不是识别率高了零点几个百分点,而是从相机曝光到控制指令输出之间,那几十到几百毫秒的延迟是否可控。
有产线记录过一组对比:质检图像上传云端、排队推理、结果返回,往返约380毫秒;把推理下沉到产线边上的端侧算力平台之后,端到端延迟压到了100毫秒以内,产线才愿意接受这套方案。在节拍1.2秒的工位上,几百毫秒的云端往返足以造成堆料和停线。延迟的分布方式,比平均算力更直接地决定了视觉检测能否与产线节拍对齐。
端到端延迟的构成:瓶颈不在模型本身
工业视觉检测的延迟由多个环节串联构成:相机曝光与采集、图像预处理、模型推理、后处理与坐标映射、控制指令下发。任何一个环节出现抖动,整条链路的时间确定性就会被打破。
一项面向产线实时缺陷检测的研究给出了各环节的典型耗时:图像采集3.2毫秒、预处理2.6毫秒、推理17.8毫秒、后处理与坐标映射4.0毫秒,加上网络传输与执行机构响应8.4毫秒,全链路端到端约36毫秒,满足了实时工业要求。另一项边缘部署研究显示,在34毫秒端到端延迟下,系统平均功耗约8.9瓦。这些数据说明,工业视觉对延迟的要求并不是“越快越好”,而是在可控功耗和散热条件下,保持端到端时间的可预测性。
云端方案的问题恰恰出在“可预测性”上。网络抖动的尾部延迟、云端推理队列的排队时间,都不在产线控制范围内。而将推理迁移到产线边缘的端侧算力平台,采集与推理在同一物理节点内完成,预处理和推理之间的数据搬运不经过外部网络,延迟的方差大幅收窄。
集中式架构的三个瓶颈:推理负载为何会干扰检测节拍
将推理搬到本地只是第一步。如果推理任务与预处理、通信任务共享同一颗SoC的NPU和内存资源,延迟的可预测性仍然难以保证。
第一,推理队列的排队时间随负载波动。 单芯片方案中,视觉检测模型、读码模型(若同工位部署)以及预处理任务共享同一NPU资源。当模型数量增加或输入分辨率提高时,推理队列的排队时间会随之拉长,端到端延迟的方差扩大。
第二,推理与预处理争抢内存带宽。 图像预处理(缩放、色彩转换、畸变校正)是内存密集型操作,模型推理同样需要频繁访问内存。两者在同一内存总线上竞争,预处理阶段的带宽占用会间接拉长推理阶段的等待时间。
第三,散热降频破坏时间确定性。 视觉检测工位通常需要7×24小时连续运行。如果散热设计不足,芯片在高负载下触发降频,推理延迟会从数十毫秒跳到上百毫秒。这种跳变不是模型精度问题,而是硬件热设计问题,却直接表现为检测节拍的失稳。
瑞迅科技RK3588+1828双芯方案:将推理负载从主控中分离
针对集中式架构的上述瓶颈,瑞迅科技基于RK3588与RK1828协处理器的双芯端侧算力方案,采用“主控+协处理器”的分工架构。
RK3588采用八核异构架构(四核Cortex-A76+四核Cortex-A55),内置三核架构6TOPS NPU算力。在这一方案中,RK3588承担主控与调度角色,负责多路相机接入、图像预处理、后处理与坐标映射、产线通信,以及检测流程的整体编排。RK1828协处理器专职AI推理,提供20TOPS以上的NPU算力,通过PCIe高速总线与RK3588互联。
这一分工带来的直接收益是延迟确定性的提升。推理任务集中在RK1828上执行,RK3588的CPU和NPU资源不再被推理负载挤占,预处理、控制与通信的时序更加稳定。对于同时运行多个检测模型的高密度工位,推理队列的排队时间不再与预处理任务竞争同一资源池,端到端延迟的方差随之收窄。
在接口与可靠性层面,该方案提供多路千兆网口,可将相机网络、产线控制网络和厂区数据网络分开承载,避免视觉数据流与控制指令在同一个网络端口上争抢带宽。CAN、RS485、RS232及DI/DO接口可直接对接检测触发信号、分拣气缸和产线PLC,减少中间转换环节带来的附加延迟。无风扇全封闭设计与工业级宽温、宽压输入,保障了在电柜温度波动和电网波动下的持续运行能力,避免因散热降频导致的推理延迟跳变。
分级配置:RK3576与RK3568承接不同检测负载
RK3588+RK1828是视觉检测的高算力配置,但并非所有检测工位都需要这一层级。瑞迅科技同时提供RK3576与RK3568平台的端侧算力方案,按检测任务的复杂度分级配置。
RK3576平台搭载八核处理器(4×Cortex-A72+4×Cortex-A53,最高2.2GHz),内置6TOPS NPU,可在本地完成多路视频分析和中等复杂度的视觉检测。以MPC-1760为例,该型号提供六组千兆网口物理隔离,能够将相机网络、产线控制网络和厂区数据网络分开承载。CAN×2、RS485×2、RS232×2以及DI/DO接口可直接对接检测触发信号、分拣气缸和产线PLC。适用于焊点检测、丝印识别、划伤检测等中等复杂度工位,在算力与成本之间取得平衡。
RK3568平台面向轻量级视觉检测场景。四核Cortex-A55架构,内置1TOPS NPU,功耗控制在较低水平,适合二维码识别、简单缺陷分类、工件有无判定等任务,以及对成本和功耗敏感的产线工位。对于不需要运行复杂模型的检测工位,RK3568可以在本地完成图像采集和基础推理,避免将每一帧图像都上传到更高层级的计算节点。
结语
工业视觉AI检测的落地瓶颈,很少出在模型精度本身。延迟是否与产线节拍对齐、推理负载是否干扰预处理和通信、设备在电柜环境中能否持续保持确定的推理性能,这些才是决定一套视觉系统能否从演示走向产线的关键条件。
瑞迅科技以RK3588+1828双芯端侧算力方案承接高密度视觉检测工位,通过将推理负载从主控中分离,提升端到端延迟的确定性;同时以RK3588、RK3576及RK3568平台覆盖中等负载和轻量级场景。从算力承载、多网口隔离、工业总线接入到无风扇宽温设计,为工业视觉AI检测提供了按场景匹配的端侧硬件载体。
审核编辑 黄宇