在训练神经网络时我们有很多的需求,比如我们在训练时需要冻结某一部分网络,再比如我们需要通过一个网络两次等等,这都涉及对计算图的操作,首先通过简单...

1. nn.LayerNorm 函数 nn.LayerNorm(normalized_shape, eps=1e-05, elementwise...

@TOC 不同 Normalization 之间的具体区别和优缺点我也不是很清楚,这里只是展示他们的具体运行机制 1. Batch Normal...

@装饰器函数 作用:在很多情况下我们需要扩展现有函数的功能,如果重新写一个函数会很麻烦,函数装饰器的作用就是在不改变现有函数的基础上对其进行合...

1月 28, 2022

本文简要介绍三种常见的可视化库:tensorboard visdom 以及 wandb 1. tensorboard 1.1 安装 tensor...

# -*- coding: utf-8 -*- import h5py import numpy as np #HDF5的写入: imgDa...

1月 27, 2022

1. shape,dim 查看维度和维度数量 a = np.array([1, 2, 3]) print(a.shape) # (3,) p...

1月 27, 2022

MNIST 数据集一般有两种使用方法,其中一种在 torchvision 中已经包装好了,这里讲解手动加载 MNIST 数据集的方法 1. 下载...

visdom 是一个数据可视化工具,可以让实验文本或图像可视化 github 地址:https://github.com/fossasia/v...

1月 25, 2022

原文地址:https://arxiv.org/pdf/1711.07971.pdf 代码地址:https://github.com/facebo...