王江平：终端、设备AI化技术与生态—以AI终端为例
十四届全国政协委员、人口资源环境委员会委员，工业和信息化部原副部长王江平发表了题目为《终端、设备AI化技术与生态—以AI终端为例》的主题演讲。他指出，AI终端已成为新一轮科技革命和产业变革的重要载体。应以国家“人工智能+”战略为引领，夯实大模型技术基础，推动智能产品与装备的持续升级。他强调要加快产业生态共建，制定统一标准，打造多场景AI智能体生态，同时兼顾安全与伦理，完善法规治理与国际合作，推动AI终端产业高质量、可持续发展。
以下为发言实录：
尊敬的马培华主席，侯云春会长，尊敬的各位领导、企业家朋友，大家好！非常高兴与大家相聚在美丽的雄安召开科创高质量发展大会。这个会议的主题是科技创新引领未来，这充分地昭示了雄安这座城市未来的产业发展方向。我今天给大家带来的话题是终端、设备AI化的技术与生态，我想以AI终端为例来说明这个问题。
今年以来人工智能快速发展，大家都在思考和探索人工智能怎么落地、怎么服务于经济社会发展。在我看来，人工智能落地有两大方向。第一大方向，人工智能赋能千行百业，包括AI+制造业、AI+科学研究、AI+医疗、AI+教育等等。第二个方向，终端和设备的AI化。这个问题也引起了各方面的高度关注。我想就利用这个时间，给大家讲讲我的一些学习体会。
我从三个方面来谈这个问题。第一，AI终端是消费电子的一次新的机遇。事实上，党中央、国务院高度重视AI终端的发展，在2024年政府工作报告中讲到人工智能+行动的时候，在第三条就特别强调，要促进关键软件智能终端的升级迭代。我们把终端分为经典终端、新型终端和行业终端。大家非常熟悉的各种AI手机、PC、头盔，这些叫新型终端。行业终端既包括工业领域的这些设备，也包括医疗设备。为什么说大模型点燃了终端的产业热情？这两张图可以看出从2021年一季度以来，事实上AI手机和AI PC都一直处于下滑态势，直到2023年初，因为大模型的出现使手机和PC出现了翻转。这个是IDC的预测，他预测在未来几年，AI PC、平板、手机将会保持高速的增长。
什么是AI终端呢？中间这个图大家可以看一看，我们的手机是2007年以前是功能机时代，随后经历了早期的智能机时代，以及现在大多数人使用的智能手机。从去年开始，AI终端开始陆续产生。除了手机以外，还有眼镜、戒指、机器人、智能汽车，这些统统都是AI终端的范畴。我们有一个定义，这个定义大家还没有形成统一的意见，我使用了中国信通院的定义，AI终端是指具备主动感知理解，多模态自然交互，智能化服务，还有一个就是自主学习进化的这一类终端产品。从这个定义来看，我们现在的终端的智能化水平还刚刚开始。
AI终端和传统终端的区别是什么？比如在执行任务上，AI终端是以意图为中心，先是理解用户意图，然后自主规划，闭环地去执行。它的交付是多模态的交付，不仅仅是语音或者文本，它甚至一个手势也可以进行交互。运用能力是开放的，它可以在线持续地学习，可以自主或者是半自主地来进化。
第二个方面，需要什么样的技术和生态呢？我们认为要发展AI终端包括以后的设备AI化，至少有五个技术非常关键。一是算力智能化升级。这就要求多维度的协同升级。以往的终端可能就是CPU或者GPU，今后要加NPU，而且芯片制程要求越来越高，都是3纳米，或者至少4纳米的制程。重要的一点就是新型的成算结构。CPU每年进展大概性能是提高60%，但是存储器它的性能之提高7%，两者差距越来越大。事实上算和存这之间还有一个数据传输，数据传输过程当中消耗了大量的能量，导致终端面临算力强或者功耗强的问题。解决这个问题，新的一些技术就发展起来了。比如说PNM，这个是已经成熟的路线了。最近正在发展的路线就是存储和计算在一个单元里面，减少数据传输的能量消耗。这样一些技术都是来推动AI终端发展的关键技术。
二是端侧模型的轻量化。我们知道大模型之所以大就是因为参数大，一个小小的终端不可能容纳这么大的算力，这就需要模型进行轻量化。现在通行的做法就是压缩技术、蒸馏技术以及稀疏化的处理，把千亿的模型降为十亿、百亿级这种小的模型，才能使端层能够使用这个模型。
三是操作系统和大模型要融合。过去终端操作系统是没有大模型的概念，也没有Agent概念，而今后的AI终端需要把操作系统，把大模型、Agent放在中心位置，实现以AI为核心的系统的全面重构。
四是端云协同。随着AI智能化的要求越来越高，端侧的算力始终难以满足这个要求，所以就需要云上的大模型来支撑，所以就形成一个云上是个大模型，端侧是个小模型，云上的大模型是大算力、大存储，小模型放在终端里面是一个灵活的小脑，具有低延时、隐私保护、个性化等特征。
五是多维度的安全防护。既然今后是端云协同，那就意味着很多数据要上传到云里面去，那就需要有一个全系统多维度的安全防护，包括端测的芯片、硬件、操作系统以及云侧的大模型，以及相关智能体全链路的安全保障体系。我们用云的服务都有三大安全问题，一是隐私保障很难验证，二是云计算的透明度不够高，三是如何控制特权访问，今后端云协同的模式就需要这样一个安全防护的问题。这是关于五大技术。
第二个就是AI终端产业生态是哪些人怎么样做这件事情。AI智能体有望成为AI终端时代的人机交互界面。过去我们交互界面都是一个屏幕，输入文档或者声音，现在是Agent帮我们做这件事情。Agent有两大发展方向，一个方向是我们提出要求，它可以根据我们的要求把这个任务分解成各种小的任务，来调用不同的模型甚至Agent来完成这个任务，还有一个就是对话，我们问它答，满足我们对某种知识或者某种需要的满足。
既然Agent如此重要，那谁掌握Agent就掌握未来，AI终端时代的主动权。现在上游、中游、下游的企业都在抢占这样一个生态，就是生态站位，谁掌握Agent谁掌握AI终端的话语权，所以现在还处于一个把产品打磨，运用场景探索，生态站位的这样一个初期。
第三就是系统级的AI应用是一个大趋势。今后一个公司，既然有很多厂商参与其中，那么谁掌握主动权就应该掌握更关键的一些环节。我们认为系统级的AI部署会掌握主动权。比如苹果、华为这两家公司他们既做终端又做芯片又做模型，这就是一种系统级AI应用的一种发展方式。
挑战。第一个挑战，技术标准现在是比较缺的。所以模型、智能体、芯片各种适配工作量很大。第二是互联互通也有很多的障碍。里面有很多Agent、APP、数据，现在调用因为标准不统一，再加上商业模式，所以跨越的难度很大。第三革命性应用场景还没有出现。我们回顾智能终端，当时是因为淘宝或者网上移动支付的应用，推动了智能终端的发展，那么AI终端的发展也需要这样一个革命性的应用才会出现快速地发展。
对我国来讲，我们有自身的特点，我们的芯片对我们的影响比较大，因为AI终端需要端侧对算力要求更高，我们以往通过超节点，通过软硬协同的方式，不能完全解决这个问题。第二个差距，我们的模型能力和美方还是有一定差距。最重要的是生态有可能分化。因为现阶段我们不允许美国的模型，当然了它的终端也没办法进入中国，这种情况下对我们是好事，但是长此以往有可能形成美西方一套的生态体系。这种分化也不是我们愿意看到的。
最后我们也提了一些建议。一是加强终端核心技术的研发。二是强化标准建设。三是打造智能体应用生态体系。加强国际合作，和美西方形成一个扭抱的态势。谢谢大家！
