NPU是什么,NPU有哪些优势
什么是NPU?
现在刚好是神经网络和机器学习处理需求爆发的初期。传统的CPU/GPU也可以做类似的任务,但是针对神经网络特殊优化过的NPU单元,性能会比CPU/GPU高得多。渐渐的,类似的神经网络任务也会由专门的NPU单元来完成。
NPU(嵌入式神经网络处理器/网络处理器)是一种专门应用于网络应用数据包的处理器,采用“数据驱动并行计算”的架构,特别擅长处理视频、图像类的海量多媒体数据。
NPU也是集成电路的一种,但区别于特殊用途集成电路(ASIC)的单一功能,网络处理更加复杂、更加灵活,一般可以利用软件或硬件依照网络运算的特性特别编程从而实现网络的特殊用途,在一块芯片上实现许多不同功能,以应用于多种不同的网络设备及产品。
NPU处理器模块
NPU处理器专门为物联网人工智能而设计,用于加速神经网络的运算,解决传统芯片在神经网络运算时效率低下的问题。NPU处理器包括了乘加、激活函数、二维数据运算、解压缩等模块。
乘加模块用于计算矩阵乘加、卷积、点乘等功能,NPU内部有64个MAC,SNPU有32个。 激活函数模块采用最高12阶参数拟合的方式实现神经网络中的激活函数,NPU内部有6个MAC,SNPU有3个。 二维数据运算模块用于实现对一个平面的运算,如降采样、平面数据拷贝等,NPU内部有1个MAC,SNPU有1个。 解压缩模块用于对权重数据的解压。为了解决物联网设备中内存带宽小的特点,在NPU编译器中会对神经网络中的权重进行压缩,在几乎不影响精度的情况下,可以实现6-10倍的压缩效果。
NPU:手机AI的核心载体
Galaxy中的NPU也是内置于移动处理器中,以利用先进的神经网络并为Galaxy S20/S20 +/S20 Ultra和Z Flip提供更高水平的视觉智能。NPU为场景优化器提供动力,增强了识别照片中内容的能力,并提示相机将其调整为适合主体的理想设置。现在,它也比以前的Galaxy模型更准确。它还使前置摄像头能够模糊自拍照的背景并创建散景效果。不仅如此,NPU还可以帮助设备上的AI Bixby Vision。
NPU与GPU的关系
各芯片架构特点总结
CPU —— 70%晶体管用来构建Cache,还有一部分控制单元,计算单元少,适合逻辑控制运算。
GPU —— 晶体管大部分构建计算单元,运算复杂度低,适合大规模并行计算。主要应用于大数据、后台服务器、图像处理。
NPU —— 在电路层模拟神经元,通过突触权重实现存储和计算一体化,一条指令完成一组神经元的处理,提高运行效率。主要应用于通信领域、大数据、图像处理。
FPGA —— 可编程逻辑,计算效率高,更接近底层IO,通过冗余晶体管和连线实现逻辑可编辑。本质上是无指令、无需共享内存,计算效率比CPU、GPU高。主要应用于智能手机、便携式移动设备、汽车。
NPU的实际应用场景
拍照时通过NPU实现AI场景识别,并利用NPU运算修图
NPU判断光源和暗光细节合成超级夜景
通过NPU实现语音助手的运行
NPU配合GPU Turbo预判下一帧实现提前渲染提高游戏流畅度
NPU预判触控提高跟手度和灵敏度
NPU判断前台后台网速需求差异配合实现Link Turbo
NPU判断游戏渲染负载智能调整分辨率
把降低游戏时AI的运算负载交给NPU以省电
NPU实现CPU和GPU的动态调度
NPU辅助大数据广告推送
通过NPU实现输入法AI智能联想词的功能
相关信息
APU:Accelerated Processing Unit, 加速处理器,AMD公司推出加速图像处理芯片产品。 BPU:Brain Processing Unit, 地平线公司主导的嵌入式处理器架构。 CPU:Central Processing Unit 中央处理器, 目前PC core的主流产品。 DPU:Dataflow Processing Unit 数据流处理器,Wave Computing 公司提出的AI架构。 FPU:Floating Processing Unit 浮点计算单元,通用处理器中的浮点运算模块。 GPU:Graphics Processing Unit 图形处理器,采用多线程SIMD架构,为图形处理而生。 HPU:Holographics Processing Unit 全息图像处理器, 微软出品的全息计算芯片与设备。 IPU:Intelligence Processing Unit,Deep Mind投资的Graphcore公司出品的AI处理器产品。 MPU/MCU:Microprocessor/Micro controller Unit,微处理器/微控制器,一般用于低计算应用的RISC计算机体系架构产品,如ARM-M系列处理器。 NPU:Neural Network Processing Unit,神经网络处理器,是基于神经网络算法与加速的新型处理器总称,如中科院计算所/寒武纪公司出品的diannao系列。 RPU:Radio Processing Unit 无线电处理器,Imagination Technologies 公司推出的集合集Wifi/蓝牙/FM/处理器为单片的处理器。 TPU:Tensor Processing Unit 张量处理器,Google 公司推出的加速人工智能算法的专用处理器。目前一代TPU面向Inference,二代面向训练。 VPU:Vector Processing Unit 矢量处理器,Intel收购的Movidius公司推出的图像处理与人工智能的专用芯片的加速计算核心。 WPU:Wearable Processing Unit 可穿戴处理器,Ineda Systems公司推出的可穿戴片上系统产品,包含GPU/MIPS CPU等IP。 XPU:百度与Xilinx公司在2017年Hotchips大会上发布的FPGA智能云加速,含256核。 ZPU:Zylin Processing Unit,由挪威Zylin公司推出的一款32位开源处理器。
本文地址:百科问答频道 https://www.neebe.cn/wenda/903436.html,易企推百科一个免费的知识分享平台,本站部分文章来网络分享,本着互联网分享的精神,如有涉及到您的权益,请联系我们删除,谢谢!