设备接入与数据基础设施：从裸硬件到自描述的数据体系
补天石 · 2025–2026 · 已上线
这是个什么项目
iPhone 一直是采集系统的主力设备。自研双目设备到手时只能采集视频、暂存内存卡，没有联网、身份、任务认知和上传能力。项目分两段：先把硬件接入生产系统，再借设备端编码瓶颈重构视频数据基础设施。
接入侧解决设备发现、网络配置、状态同步和数据归属；数据侧把设备编码、切片上传、云端转换和统一的 Manifest 组织成新的生产链路，同时兼容历史数据。
硬件形态与协议从零定义，需要主导设计并完成客户端、后端、硬件三方联调；多手机、多设备场景考验状态模型。数据体系既要容纳历史几万小时旧数据和新 Chunk 格式，也要为脱敏、切片、重编码等局部处理留出基础。
系统长什么样
设备开机（裸硬件） → 扫码配网（AP 热点 + 运行配置下发） → 服务端中转双端状态（~1s，双向心跳，数据归属锁定录制身份） → 任务与采集 → 设备端 H.264 30s 切片 → 2min Chunk 上传 → 云端 Remux（H.264 → MP4） → Manifest（统一新旧数据） → 下游（质检 / 标注 / 播放）+ 交付（合并 MP4） 设备端算力是硬约束，只做最小必要工作。
项目规模
- 时间：两段推进；视频基础设施约 1.5–2 个月上线
- 团队：4 人（我、软件同事、硬件 Leader、实习生）；我负责协议、平台实现与跨端联调
- 部署：25 台测试机 + 5–10 台样机，运行约 1.5 个月，累计几千小时采集
- 覆盖：公司所有采集设备统一采用该体系，国内与马来西亚均在运行
- 兼容：历史几万小时旧格式数据通过 Manifest 在线兼容，不做迁移
核心问题清单
① 裸硬件怎么成为生产体系里的一等公民？
→ 二维码合并设备发现与网络下发；服务端中转双端状态；主导协议并跨端联调收口。
② 多手机、多设备交叉使用时，状态与数据归属怎么不出错？
→ 双向心跳判定设备真实所有者；数据生成时锁定录制身份，连接与归属解耦。
③ 设备算力受限、历史数据难迁，视频体系怎么持续演进？
→ 非实时计算搬到云端；Manifest 统一新旧数据；GOP 规范支持局部处理；生产与交付格式分离。
我的职责
设备接入：作为统一 Owner，主导协议设计与修改，完成手机端与平台侧全部适配，收口客户端、后端、硬件三方联调。视频基础设施：负责整体方案（Chunk 粒度与文件格式、Meta / Manifest 模型、生产与交付格式分离、Closed GOP 要求），并开发云端 Remux、Calibration Service、处理流水线与 Web 播放器；同时基于采集场景对硬件形态提出反向设计建议（主控与电池背带、后置出线、按钮与指示灯前置）。
技术基础设施沉淀
- 设备接入体系：二维码配网、服务端中转、双向心跳与数据归属协议稳定运行，双目设备接入生产系统。
- 视频数据体系：所有采集设备采用 Chunk → Remux → Manifest，旧上传链路停用，连续录制死机与上传恶化不再出现。
- 数据模型沉淀：质检、流水线、标注、播放器统一走 Manifest；历史数据补 Manifest 在线兼容；标定入库固化，实现数据自描述。
- 可持续演进：固定 GOP / Closed GOP 支持切片、局部脱敏与重编码；生产和交付格式分离，避免处理成本随数据量失控。