On this page6 sections
AI 视觉项目进入质检、巡检、仓储或生产系统前，真正需要评估的往往不是模型排行榜，而是数据安全、权限治理、责任边界和合规落地。近期公开文章提到，让质检员“陪线两周”，观察模型在真实流程中的误检、漏检与人工复判压力。这类信息可以作为趋势信号，但不能直接证明某个方案适用于你的业务。决策者应把现场观察转化为可验证的 risk evaluation，而不是把热门案例当成采购结论。
本文面向中国的 AI 开发者、系统建设者和技术采购人员，提供一份上线前检查清单。
一、先核验趋势，再定义问题
- [ ] 记录原始文章、发布主体、发布时间和完整上下文，不仅引用摘要或转述。
- [ ] 区分“公开内容明确说明的事实”“团队推测的结论”和“仍需现场验证的主张”。
- [ ] 明确业务目标：减少漏检、降低复判量、提升追溯效率，还是辅助人员决策。
- [ ] 规定模型不能承担的事项。涉及安全事故、质量放行、人员处罚或客户索赔时，应保留人工复核。
- [ ] 先建立基线流程，再比较模型效果，避免只看准确率而忽略处理时长和责任成本。
二、数据安全检查清单
- [ ] 列出采集的图像、视频、时间、设备、工位、人员和订单信息，判断是否包含个人信息、商业秘密或敏感生产数据。
- [ ] 说明每类数据的来源、处理目的、保存期限、访问主体和删除方式。
- [ ] 生产环境与训练环境分离，测试数据脱敏、去标识化，并限制下载和外发。
- [ ] 核实云端推理、第三方接口和日志系统是否会留存原始图像、提示内容或输出结果。
- [ ] 对跨境传输、外部模型调用和供应商二次使用进行合规审查，未经确认不得上传生产数据。
- [ ] 建立数据导出、删除、备份恢复和异常销毁流程，保留必要的操作记录。
- [ ] 对摄像头覆盖范围、录音能力和员工知情告知进行检查，避免功能超出业务必要范围。
三、权限与系统治理
- [ ] 按岗位划分查看原图、查看结果、修改阈值、发布模型和导出数据的权限。
- [ ] 禁止共享账号；管理员、开发者、质检员和供应商使用独立身份认证。
- [ ] 对模型版本、规则、阈值、数据集和配置变更启用审批与审计。
- [ ] 供应商仅获得完成服务所需的最小权限，并设置到期时间和撤销机制。
- [ ] 对接口调用实施身份校验、访问控制、限流和异常告警。
- [ ] 明确模型输出的责任人、复核人、发布人和事故联系人，避免“系统自动判断”成为责任空白。
四、上线前验证与风险评估
让质检员陪线观察是有价值的现场方法，但必须形成记录。至少覆盖正常样本、低照度、遮挡、污损、角度变化、设备更换和新产品等情况。
- [ ] 记录误检、漏检、拒答、重复告警和人工改判，不只记录模型分数。
- [ ] 分别评估高置信度错误和低置信度样本，设置人工复判区间。
- [ ] 进行分批灰度发布，先辅助提示，再考虑有限自动化。
- [ ] 设定暂停条件，例如数据漂移、告警激增、关键缺陷漏检或接口异常。
- [ ] 预演断网、服务不可用、模型回滚、数据泄露和误操作事件。
- [ ] 用可解释的业务指标判断是否上线，并保存验证样本和结论依据。
五、供应商与合同核对
- [ ] 要求说明训练数据来源、模型更新机制、服务区域、故障响应和退出方案。
- [ ] 合同明确数据归属、保密义务、分包限制、删除证明和安全事件通知时限。
- [ ] 验收标准包含业务场景、数据安全、权限审计、日志留存和回滚能力。
- [ ] 不以演示效果替代现场验收，不接受无法解释的数据处理条款。
- [ ] 对大模型、云算力和行业工具分别比较能力、成本、依赖与适配性。
六、决策结论模板
完成检查后，将结论分为“可试点”“补充材料后试点”“暂缓上线”三类，并写明证据、责任人、截止时间和复评条件。不要因为一篇热门文章或单次演示就扩大权限、延长数据保存或取消人工复核。趋势只负责提示问题，现场证据、权限控制和可追溯流程才决定 AI 视觉是否值得纳入业务系统。