一场终端AI革命正式拉开帷幕

联通数科以自主研发的新型物联网操作系统格物OS为抓手，推进在端侧智能领域的关键核心技术攻关。格物OS是智能硬件的“数字管家”与资源调度中枢，为开发者提供标准API接口与全链路管理能力，支撑多场景应用高效运行，帮助开发者快速开发和部署物联网应用。

目前，联通数科选取自主研发的泛在物联网网关，率先完成了格物OS与DeepSeek大模型的适配部署。泛在物联网网关作为一款高度集成化的物联网核心设备，内置6TOPSNPU算力资源，通过集成格物OS，可支持边缘计算框架和AI推理引擎，支持Wi-Fi、BLE、Zigbee等7种网络协议泛在接入，配合联通数科自主打造的格物平台可实现亿级消息转发和毫秒级实时数据存储。当下，通过对DeepSeek-R1模型的量化与转换，已实现DeepSeek-R1-Distill-Qwen-7B模型在泛在物联网网关的本地化部署。本地化部署的DeepSeek模型打破网络传输存在的诸多限制，规避了时延响应、用户敏感数据泄露等问题，对于满足隐私保护、提高可靠性、降低延迟、降低云端计算负载等方面都具备独特优势。经过实测，本地化部署方案内存占用小于8GB，CPU/NPU占用率约40%/90%，推理响应时间在100ms内。基于格物OS与DeepSeek的融合，网关可与格物平台形成云边端协同体系，实现算法模型下发、算力动态调度与边缘自主运算，构建出具备实时响应与弹性扩展能力的端侧AI框架，推动轻量化AI技术在物联网终端的商业化落地。