整体来看，目前AI芯片主要应用在云端、终端甚至更小的边缘节点上。云端应用对处理器运算能力要求最高，处理器需要支持不断变化的AI推理和训练工作负载，云端市场主要被英特尔、英伟达、谷歌等巨头公司占据；在终端应用中，很多设备逐渐增加了AI功能，比如智能手机上的人脸识别，智能音箱上的语音识别等等，主要是高通、联发科、华为、苹果等公司在主导；同样，在更低成本的终端设备上，对计算处理能力要求较低，但是对功耗要求更苛刻，这些设备依赖公共以太网或低功耗广域网进行连接，而这些设备的数量恰恰增长最快。ABIResearch预测，这些设备的出货量将从2019年的90万台增至2024年的570万台，CAGR为45.5%。
Arm认为，终端AI市场将在未来几年出现爆炸性增长。这也是Arm近期推出两款AI处理器的目的所在，而这一市场也恰恰是MCU厂商的切入AI市场的关键点。以前很多终端产品采用的主控器就是MCU，当这些设备需要增加AI功能时，设备厂商首先想到的就是升级，而不是用AI边缘芯片替换原有的MCU产品，升级的优势很明显，对于设计工程师来说，产品升级比重现设计更简单，对于设备厂商来说，在原来的MCU上进行升级，产品稳定性更高，风险更低。
在2019年底，ICInsights发布预测性研究报告，2019年全球MCU市场规模将达204亿美元、出货量达到342亿颗，不过平均售价（ASP）将持续下降。在全球电子产品智能化的进程中，AI芯片创业公司看到了电子产品更新换代的商机，但是传统MCU厂商也不会对新的市场需求熟视无睹，Arm推出AI处理器无疑在架构上给MCU厂商提供了更强大的支持。
存量市场的AI改造势在必行
对现有的电子设备增加AI功能是否可行？这估计是应用市场最关心的问题，比如电梯，出于成本的考虑，物业管理公司更愿意进行智能改造，而不是更换新的设备。当前的肺炎疫情让电梯成为一个重要的防控区域，由此还激发出人们想出各种按电梯“妙招”，其实如果将电梯改为语音控制，就能有效避免交叉感染。前几天，苏州思必驰展示了基于其“智能电梯离线语音方案”改造的语音控制电梯，其工作人员介绍，“这套解决方案内置思必驰高性能语音算法，采用线性双麦降噪，满足小而密闭空间下的复杂场景需求；支持远场唤醒、强鲁棒识别，支持普通话、带方言的普通话识别，以及方言定制；提供高自然度的多种合成音选择，支持小数据快速定制TTS。在硬件方面，采用了思必驰的TH1520芯片，进行电梯改装时，直接加外挂模块就可以完成。”
MCU是否可以切入AI应用？嵌入式资深工程师马晓东（化名）的看法是，“MCU切入人工智能市场是必然趋势，而且对于后面进入AI市场的人是很好的机会，可以使设备体积缩小，部署更加容易。比如我们的电梯系统，现在通过一颗RK3288统计乘坐人的数量、年龄、性别，是否有人员跌倒等状态信息，目前的识别方式是将图片发送到服务器识别，如果可以在本地做AI处理，我们就不用部署大型服务器进行远程图形识别了。”