端侧人工智能是指将人工智能算法和模型部署在本地终端设备上,实现本地化的数据处理、分析和决策。作为人工智能技术与终端设备融合的产物,端侧人工智能不仅是推动数字化转型的重要引擎,更是实现终端智能化与应用场景化的核心载体,在赋能千行百业、提升用户体验方面具有重要作用,其战略地位日益凸显。
端侧人工智能典型应用场景广泛覆盖消费电子等行业领域,包括人工智能手机、人工智能计算机、可穿戴设备、全屋智能产品、智能网联汽车、端侧智能医疗及工业级人工智能终端等。各类终端厂商围绕硬件架构优化、操作系统适配及模型轻量化展开激烈竞争,同时推动算法模型向“本地轻量化”与“端云协同化”演进,加速端侧人工智能技术与应用场景的深度融合。
端侧人工智能产业发展机遇
国家与地方政策协同为端侧人工智能产业链生态构建提供坚实支撑。在国家层面,2025年8月发布的《国务院关于深入实施“人工智能+”行动的意见》提出,“到2027年,率先实现人工智能与6大重点领域广泛深度融合,新一代智能终端、智能体等应用普及率超70%”“到2030年,我国人工智能全面赋能高质量发展,新一代智能终端、智能体等应用普及率超90%,智能经济成为我国经济发展的重要增长极,推动技术普惠和成果共享”。在地方层面,多地推出专项政策,支持端侧人工智能技术和产业发展。例如,广东省人民政府办公厅印发《广东省关于人工智能赋能千行百业的若干措施》,计划到2027年打造百款以上大规模使用的智能终端产品,进一步夯实人工智能产业底座。
边缘计算与物联网的深度融合为端侧人工智能提供技术基座。边缘计算通过在靠近数据源的位置进行数据处理和分析,减少对云端计算的依赖,从而提升响应速度、降低延迟并优化带宽使用,与物联网终端的广泛部署形成技术互补。通过开放的平台和标准化的接口,边缘计算使得不同物联网厂商的设备和系统能够更好地协同工作,从而加速端侧人工智能技术的普及和落地。同时,开源框架和工具的普及,使中小企业无需从零开始构建技术体系,可直接基于标准化工具包开发适配端侧场景的应用,显著降低技术研发成本与准入门槛。
多元化应用场景驱动端侧人工智能技术落地与应用边界持续拓展。在智能家居领域,基于端侧人工智能部分功能“终端自治”的特性,家庭场景中的数十类智能设备能够形成“去中心化”的协同网络,工业制造场景中的深度学习模型开始逐步嵌入工业生产流程。2025年5月,我国智能无人飞行器制造、智能车载设备制造增加值分别增长85.9%、29.5%,机器人减速器、工业机器人等智能化产品产量分别增长1倍、35.5%。智能化发展日益成为新型工业化的显著特征。端侧人工智能的应用领域呈现持续拓宽的态势,并不断融入新的创新场景。教育场景的人工智能板书笔、物流行业的智能分拣机器人,以及环保监测设备、深海勘探机器人和光伏电站清洁无人机等多类产品正被开发并投入市场。端侧人工智能多模态能力不断提升,进一步加速终端智能化的发展。
个性化服务能力深度契合多元用户需求。传统云端人工智能受制于数据传输延迟与隐私合规压力,难以深度捕捉用户行为的瞬时变化与场景细节,而终端设备本地的实时数据处理能力使得每个智能终端都能构建独特的用户画像。例如,智能座舱通过本地人工智能分析驾驶员的面部微表情与手势习惯,识别到乘车人在打电话,便会自动降低音乐音量,快速响应乘车人的需求等。当设备具备自主消化私域数据并即时输出的能力时,用户无需在个性化体验与数据安全之间做出妥协,极大拓展了服务落地的可能性。
国际人工智能市场态势向好,端侧人工智能迎来全球发展机遇。有机构预测,全球端侧人工智能市场将从2024年的270.1亿美元增长至2032年的2698.2亿美元。同时,人工智能相应产品标准的国际化特征也更加凸显,国际电信联盟(ITU)正式上线“国际AI标准交流平台”,整合ITU、国际标准化组织(ISO)、电气电子工程师学会(IEEE)等超700项AI标准和技术报告,尝试推动人工智能系统建设标准的全球统一。中国信息通信研究院牵头制定的《多媒体应用中基于AI的代码生成技术要求及评价方法》等多项ITU国际标准公开发布,为“AI+软件”领域的标准化建设提供参考,推动产业健康发展。市场增长的牵引与国际标准的融合,使得端侧人工智能制造商需要同时考虑产品性能与全球生态构建能力。随着端侧人工智能市场的发展,高端人才与资本的跨境流动也呈现集束效应,集中涌向具备全球化规模效应的人工智能技术平台与产业生态核心。
端侧人工智能产业发展挑战
算力与能耗需求依赖云端。终端设备算力虽持续提升,但面对百亿参数级大模型仍显吃力。受限于当前终端设备芯片尺寸、散热能力等物理条件,高性能移动芯片在高负载运行时易因高温触发降频机制,导致处理效率波动。这些物理层面的硬约束,使得端侧人工智能在众多高性能需求场景中仍需与边缘计算节点形成协同网络。高性能、低时延需求的人工智能应用对算力供给提出了较大挑战。端侧人工智能设备在脱离云端支持时仍存在显著的能力边界。
人工智能模型面临可解释性缺失、安全风险难回避与模型更新适配的兼容困境问题。在人工智能技术发展的整体图景中,模型可解释性与安全性的风险并非端侧人工智能所独有,而是贯穿于深度学习范式演进的核心挑战,即使是算法设计者也不能保证训练后的模型可被充分解释。在可解释性方面,端侧模型算力有限,难以部署复杂解释工具,导致模型决策过程不透明。例如,自研模型依赖开发者控制架构与训练,合作模型则需第三方标准化工具支持,但均因计算资源不足而难以实现决策透明化。在安全性方面,端侧模型易受对抗攻击、数据投毒及神经元级后门植入等安全威胁,相应风险可能通过隐蔽的后门机制、污染训练数据或知识蒸馏引发系统性安全漏洞,甚至加剧偏见传播与敏感信息泄露。在模型更新与适配方面,端侧硬件高度碎片化,不同场景和不同用户群体的差异化需求进一步加剧兼容难度,尽管模型蒸馏等技术可部分缓解该问题,但仍需解决算法框架与硬件平台之间的深度协同挑战。
数据敏感系数升高威胁用户隐私,数据共享与隐私保护的平衡难题制约产业协同。端侧人工智能的核心优势在于数据本地化处理,减少了数据上传至云端的需求,从而降低了数据泄露的风险。然而,数据的本地化也并不意味着数据安全问题一定可以解决。相反,由于终端设备直接处理用户实时、高频的数据,如人脸信息、语音记录、时空间行为数据等,其敏感性和利用价值也随之增加。一旦终端设备被攻击,或者出现超出授权范围处理个人信息的情况,个人隐私权益将受到直接侵害。一方面,目前许多端侧人工智能产品的隐私政策存在过于繁杂的问题,使得用户的知情权难以真正落实。特别是人工智能手机往往需要利用无障碍权限来实现功能,而当前厂商对其权限说明较模糊,用户对其数据收集范围、用途及存储周期的认知存在壁垒,导致其知情权与控制权进一步受损。另一方面,虽然数据共享能够促进技术创新和产业协同,推动端侧人工智能的优化和普及,但是目前数据权属的模糊性导致许多企业和机构对数据共享持谨慎态度,各平台数据共享依然受限。
风险责任有待清晰界分。一是信息污染追责缺位。由于设备固件层、本地计算层与云端接口层的权责分离,恶意内容可能通过篡改设备传感器数据、劫持本地模型推理过程或污染云端交互协议三个路径注入,形成全链路污染风险。有关法律尚未明确设备厂商在端侧数据采集阶段的真实性验证义务,致使污染行为在设备固件层发生时难以穿透追责。二是算法偏见权责失衡。模型开发方、设备厂商与用户三方责任边界模糊。三是终端误用责任不明。端侧人工智能赋予终端设备自主决策能力的同时,也降低了用户行为的外部可见性。端侧用户恶意实施隐私侵犯、深度伪造等行为,因操作完全发生于本地设备,传统网络监管手段难以取证。从技术提供者到平台再到用户,整条传播链上各主体的法律风险分担机制亟待完善。
端侧人工智能创新发展建议
顶层设计需统筹发展和安全,贡献中国方案。一是要细化模型研发者与终端部署者责任,根据不同活动特点分配主体义务。模型研发者应确保所开发的算法和模型符合伦理与法律规范,避免算法偏见、歧视或对用户产生潜在危害;终端部署者应确保人工智能模型在终端环境中的适应性,以及模型在不同硬件和软件环境下运行稳定。二是要统筹国内发展与国际竞争。应推动我国端侧人工智能产业链的完善,主动参与国际规则的构建,贡献端侧人工智能产业标准与治理的中国方案,增强国际话语权,共建人工智能全球治理体系。
产业政策应激发市场活力,引导合规创新。一是用足用好大规模设备更新和消费品以旧换新政策,可设立消费补贴带动市场,建立分层补贴体系,并借鉴家电下乡经验,结合“人工智能普惠专区”下沉到县域市场,同步开展人工智能应用场景教育。二是鼓励企业把握边缘算力释放与场景耦合机遇,聚焦自主技术栈研发,参与开源生态与标准制定,瞄准高价值垂直场景,建立“护城河”。三是激励企业自发创新合规,通过税收优惠、研发补贴引导,重点关注数据全生命周期管理、算法伦理审查、知识产权布局及资质认证动态管理,协助企业加快端侧大模型备案,构建弹性合规体系。
监管工具需创新突破,实现精准治理。一是要采取包容审慎的监管态度,为端侧人工智能技术提供充分的创新空间。建议采用“沙盒监管”模式,为端侧人工智能企业提供一个受控的试验环境,在此环境中实时评估风险并提供优化指导。二是技术赋能解决数据与隐私难题,构建差异化安全策略。例如,低功耗终端采用轻量级加密;中高算力设备结合硬件安全模块与区块链存证,并协同应用同态加密(一种不需要访问数据本身就可以处理数据的密码学技术,允许用户直接在密文上进行运算,其得到的结果仍是密文,解密结果与对明文运算的结果一致)与差分隐私(一种隐私计算方法,通过在模型训练过程中引入随机性,使输出结果与真实结果产生一定程度的偏差,从而防止攻击者的恶意推理),进行合规化改造。三是推进分层监管体系,划分通用能力层、领域深化层、智能执行层及终端落地层,分别聚焦模型训练透明性、突出行业适用标准、关注行为可控性、考察数据处理边界,建立责任明确的风险共担机制。四是建议调整“避风港”规则,针对端侧本地数据处理特性,强化“红旗原则”适用标准,例如,若平台主动干预内容传播链路介入端侧生成内容,应根据其对技术工具的控制强度与商业获益情况,推定其符合“红旗原则”中的“应知”标准,不得以技术中立为由免责。
社会治理应多元协同,夯实发展根基。一是搭建创新合规指标,涵盖技术创新性、数据安全、算法合规性等维度,从技术性能、数据使用、算法公平性、用户知情权到企业内部治理等方面进行全面评估,分阶段、分行业推广。二是共建国家知名IP库,联合企业、行业协会、科研机构等多方力量,整合知识产权信息,通过政府主导、多方协作实现端侧人工智能侵权的快速识别与追溯。三是强化用户权益保护,提升用户算法素养,保障数据知情权以及对终端设备的控制能力,通过政企媒协同普及人工智能数据安全知识,使用户能够自主选择是否开启某些智能功能、管理数据的收集范围与使用方式。四是建立企业“标准化协作”机制,推动数据格式、预处理流程及模型架构标准化,共建多维度测试集统一评估标准,从而帮助企业共享基础设施。
端侧人工智能的发展需平衡技术效能与安全可控,通过构建多级协同治理体系,使端侧人工智能成为数字化转型的核心基础设施引擎,让技术赋能符合以人为本的精神宗旨,确保人工智能可持续和负责任地发展。
来源:中国网信杂志