人定勝天
  文章分类
前端开发 71 理论知识 30 技术方案 1 深度学习 21 工具 3 后端开发 4 Node.js 1 桌面游戏 1 生活 1 计算机图形学 2 计算机视觉 2 计算机技巧 2 电子游戏 2 算法 7 数据结构 7 浏览器相关 3 论文工作 1
深度学习基础——知识点汇总 深度学习基础——知识点汇总
如今在神经网络上获得更好性能的最可靠的方法是什么？ 训练一个更大的神经网络 投入更多数据 这只能在一定程度上起作用，因为最终你耗尽了数据，或者最终你的网络是如此大规模导致将要用太久的时间去训练。 所以如果你没有大量的训练集，那效果会取决
2023-11-22 深度学习
深度学习
大模型优化经典回顾 大模型优化经典回顾
模型量化（Q） 用定点的数值运算代替浮点的数值运算。 模型剪枝（P） 一般指的是模型训练后进行反训练之前，或反训练之后部署之前进行剪枝，或保留模型的部分权重和结构。 online：边剪枝边训练 offline：不训练直接剪枝 权
2023-11-04 深度学习
深度学习
神经网络量化初探——量化感知训练 神经网络量化初探——量化感知训练
后训练量化虽然操作简单，并且大部分推理框架都提供了这类离线量化算法 (如 tensorrt、ncnn，SNPE 等)，但有时候这种方法并不能保证足够的精度，因此本文介绍另一种比后训练量化更有效地量化方法——量化感知训练。 量化感知训练，顾名
2023-11-02 深度学习
深度学习
神经网络量化初探——后训练量化 神经网络量化初探——后训练量化
逐步深入到卷积网络的量化细节中，并用 pytorch 从零搭建一个量化模型。
2023-11-01 深度学习
深度学习
量化训练之可微量化参数—LSQ 量化训练之可微量化参数—LSQ
转载于知乎 https://zhuanlan.zhihu.com/p/396001177
2023-10-31 深度学习
深度学习 论文工作
神经网络剪枝初探 神经网络剪枝初探
剪枝 如上图，我们发现函数的曲线其实已经有点过拟合了，但是如果我们去掉一些参数很小的项，那么它的泛化性就更好： 即剪枝的目的：去掉一些不重要的参数，让我们的模型变得更小，计算效率更高。 如何剪枝 例如我们要将前一个网络剪枝成后一个网络
2023-10-30 深度学习
深度学习
神经网络知识蒸馏初探 神经网络知识蒸馏初探
本文从多方面详细剖析了下知识蒸馏的开篇之作，初学者必看！！
2023-10-27 深度学习
深度学习
PyTorch模型训练常规流程 PyTorch模型训练常规流程
本文从数据预处理、模型定义、损失函数、优化器等方面详细介绍了PyTorch模型训练的流程，并给出了相应的代码示例。
2023-10-27 深度学习
深度学习 PyTorch
神经网络量化初探 神经网络量化初探
将介绍神经网络量化的概念和原理，讨论为什么量化对于神经网络模型是有益的。文章还会介绍一些常见的量化方法和技术，并提供相应的代码示例。
2023-10-21 深度学习
深度学习
2 / 2