两粒种子,一片森林
轻量化设计之深度卷积和结构重参数 轻量化设计之深度卷积和结构重参数
脑图可拖动和放缩 在深度学习领域,卷积神经网络(CNN)一直是计算机视觉任务的主流架构。近年来,随着对模型效率要求的提高,各种卷积变体和优化技术层出不穷。本文将深入探讨标准卷积、深度卷积以及结构重参数化技术,特别是其中
2025-05-09
ToyDL之扩散模型DDPM ToyDL之扩散模型DDPM
背景:某生成任务用到了DDPM,为了更直观理解其前向和反向过程,写个简易的Toy工程 Github地址 扩散模型简介由两条参数化马尔可夫链组成。 前向过程(又称扩散过程)时逐渐向数据中添加噪声,直到数据完全退化为噪声。反向过程则逐步去噪
2024-08-24
ToyDL之Pytorch中RNN的内部实现 ToyDL之Pytorch中RNN的内部实现
背景:某分类任务用到了两层(单向)RNN,训练时基于Pytorch中nn.RNN(),C化部署时则需要自己手动实现 Github地址 RNNPytorch中RNN迭代公式如下 $x_t$为输入,$h_{t-1}$为隐变量 可以看出$h
2024-07-06
}