MetricLogger：大厂都在用的指标记录器 MetricLogger是现在比较流行的一个用来记录各种metric的类，它实际上最开始来源于DeiT项目，而DeiT项目又是从torchvision-classification-reference-utils.py里面抄过来的，所以总的来说是PyTorch提供的一个轮子。 1 前置模块：SmoothedValue SmoothedValue

单机多卡DDP tutorial 1 什么是DDP 当数据足够多的时候，一张显卡装不下很大的batch_size，我们需要将数据分摊到多个显卡上去。 DDP的思路很简单，我们在每个显卡上面都创建一个模型的复制以及相同的Optimizer，数据被Distributed Sampler平分，并送到每张显卡上完成Forward和Backward过程。 但如果只做以上步骤的话，我们得到的是四个不同参数

Overview of GAN 1 GAN的诞生 GAN的全称为Generative Adversarial Net，意思是对抗生成网络。 在这之前，生成式网络总会遇到很多难以实现的概率计算方法，这些问题在最大似然估计等策略中经常出现。 而GAN采用一种完全不同的方式来学习数据集的分布。 首先，我们定义一个生成器GGG，生成器的输入是一个随机噪声z∼pz(z)z\sim p_z(z)z∼pz​

03 Chapter 3：调制模拟信号

01 信号与系统的基础 1 信号 信号其实广泛指代现实世界中的各种物理现象，例如，人说话的声音是一种信号，它在不同时间有不同的音量大小。股票价格是一种信号，在不同时间股票的价格不同。当然，也有与时间没有关系的信号，例如一张静态的图片，图片上像素点的亮度值与所处图片的位置有关。 所以，信号总是一种在变换的值，可能随着时间变化（声音，股票），可能随着空间变化（图片）。它可能还随着其它因素变化，但在

Markov模型 1 生灭过程 连续时间Markov链满足以下三个条件 过程中状态仅限于从一个状态向其邻近状态转移 如果t时刻处在状态n，那么在[t,t+Δt)[t, t+\Delta t)[t,t+Δt)内转移到n+1n+1n+1的概率为λn(t)Δt+o(Δt)\lambda_n(t) \Delta t+o(\Delta t)λn​(t)Δt+o(Δt)，转移到n−1n-1n−1的概率为

附件2：矩母函数(母函数) 1 定义 原英文是Moment Generating Function，直译叫做矩生成函数。 对于离散随机变量，Moment Genertating Function定义为 ϕ(t)=E[etX]=∑xetxp(x)\phi(t) = E[e^{tX}]=\sum_x e^{tx}p(x) ϕ(t)=E[etX]=x∑​etxp(x) 对于连续随机变量，Moment

Poisson过程 1 回顾计数过程 计数过程将记录一段时间[0,t)[0,t)[0,t)内出现的事件的次数，计数过程表示为{N(t),t≥0}\{N(t), t\geq 0\}{N(t),t≥0}，且满足以下性质 N(t)≥0N(t)\geq 0N(t)≥0 N(t)∈Z+N(t)\in Z_+N(t)∈Z+​ ∀s,t>0,s<t\forall s,t>0, s<

连续时间Markov链 1 连续时间Markov链的定义 在之前研究的Markov链中，状态和时间均是离散的，我们研究某个时刻到下一个时刻所处的状态，转移是一步一步进行，可列离散。 现在，考虑时间变成连续，Markov链在一个连续的时间上进行状态转移，此时时间不可列。 现给出数学定义：设X={X(t),t≥0}X=\{X(t), t\geq 0\}X={X(t),t≥0}是取值于状态空间S的随

importScripts('https://cdn.webpushr.com/sw-server.min.js');