人定勝天
11
02
神经网络量化初探——量化感知训练 神经网络量化初探——量化感知训练
后训练量化虽然操作简单,并且大部分推理框架都提供了这类离线量化算法 (如 tensorrt、ncnn,SNPE 等),但有时候这种方法并不能保证足够的精度,因此本文介绍另一种比后训练量化更有效地量化方法——量化感知训练。 量化感知训练,顾名
2023-11-02
02
01
10
31
31
30
神经网络剪枝初探 神经网络剪枝初探
剪枝 如上图,我们发现函数的曲线其实已经有点过拟合了,但是如果我们去掉一些参数很小的项,那么它的泛化性就更好: 即剪枝的目的:去掉一些不重要的参数,让我们的模型变得更小,计算效率更高。 如何剪枝 例如我们要将前一个网络剪枝成后一个网络
2023-10-30
27
27
21
神经网络量化初探 神经网络量化初探
将介绍神经网络量化的概念和原理,讨论为什么量化对于神经网络模型是有益的。文章还会介绍一些常见的量化方法和技术,并提供相应的代码示例。
2023-10-21
08
08
03
2 / 10