与互联网公司专注于云端的人工智能技术不同，设备端的技术发展主要得益于移动计算厂商的投入。
今年3月，ARM发布面向人工智能应用的DynamIQ技术。在近日举办的技术论坛上，ARM再次展示基于DynamIQ技术的全新处理器，Cortex-A75处理器、Cortex-A55处理器和Mali-G72图形处理器。ARM副总裁暨计算产品事业部总经理Nandan Nayampally表示：“我们需要赋予从网络节点到云端的计算具有更快速、更高效和更安全的分布式智能。”采用DynamIQ技术的Cortex-A系列处理器在优化应用后，可实现比基于Cortex-A73的设备高50倍的人工智能性能，并最多可提升10倍CPU与SoC上指定硬件加速器之间的响应速度。
在日前举行的GMIC（全球移动互联网大会）上，美国高通公司中国区董事长孟樸也重点提出了人工智能话题。他表示：“未来机器学习会在云端和终端协调发展。我们不认为所有的人工智能，都是在云里面实现，因为个人隐私的问题、信息安全问题，还有传输上的时延问题等。高通旗舰处理器骁龙835拥有高性能的图形处理能力，还有数字信号处理器DSP，加上软件算法，将使终端实现机器学习能力。相信今后人工智能、机器学习，在终端的发展会和在云端的发展一样，同步加速进行。”
针对边缘运算日益增加的需求，NVIDIA推出新款开发板Jetson TX2，将整套人工智能系统缩小在一块电路板之上，这让Jetson TX2可在终端设备上更好地运行深度学习功能等，进而开发出更高的智能化装置。相较前一代产品Jetson TX1，Jetson TX2的效能提升了两倍，耗电量则不到7.5瓦，能源效率提升了两倍多。