HAVE A NICE DAY !
MLE与MAP MLE与MAP
前言 这篇博客中，我主要想复习一下极大似然估计(maximum likelihood estimation, MLE)和最大后验估计(maximum a posteriori estimation, MAP)。 MLE 似然函数 假设我么现
2026-06-16 math basic
math ML statistic
t分布，卡方分布，F分布 t分布，卡方分布，F分布
前言 很对模型都会默认一个很基本的假设：噪声是服从高斯分布的（高斯分布也叫做常态分布，这是更好理解的。反而是正态分布z这个名字让人疑惑）。 如果一个随机变量XXX服从高斯分布，即X∼N(μ,σ2)X \sim \mathcal{N}(\mu
2026-06-10 math basic
math statistic
Horvitz–Thompson估计量 Horvitz–Thompson估计量
简述 对于某一个一维随机变量XXX，我们让它的观测x={x1,x2,…,xN}\boldsymbol{x} = \{x_{1}, x_{2}, \dots, x_{N}\}x={x1​,x2​,…,xN​}为总体。 接下来，我们对XXX的这
2026-06-09 math basic
math statistic
Bootstrap Bootstrap
简述 这里写一些对于bootstrap的理解。 在进行线性回归的时候，我经常遇到的问题是，我不知道回归出来的系数是否显著不为0。 如果只有二元随机变量的时候，我们可以借助HSIC之类的方法进行独立性检测。如果两个变量相互独立，那他俩必然不线
2025-09-17 math basic
math statistic
一些专业名词的定义及解释 一些专业名词的定义及解释
简述 这里主要对一些我经常遇到的专业名词进行记录 概率统计 随机变量（Random Variable） 定义：一个在实验或观测前无法确定其取值，只能通过概率分布来描述的变量。 类型： 离散型：如掷骰子的结果 X∈{1,2,3,4,5,6}
2025-09-17 math basic
math statistic
Central Limit Theorem (CLT) Central Limit Theorem (CLT)
简述 这里记录一些有关于中心极限定理的结论和推导 中心极限定理的简单理解 中心极限定理指的是给定一个任意分布的总体。我每次从这些总体中随机抽取nnn个抽样，一共抽mmm次。 然后把这mmm组抽样分别求出平均值。 这些平均值的分布接近正态分布
2025-09-17 math basic
math statistic
微分方程 微分方程
简述 这篇博文主要将一些微分方程的解法记录在这里，会持续更新。 一 v(t)=exp(At)v(0)v(t) = exp(At)v(0)v(t)=exp(At)v(0)是微分方程ddtv(t)=Av(t)\frac{d}{dt}v(t) =
2022-11-05 math basic
math calculus
统计学笔记 统计学笔记
简述 这篇博文中主要对统计学进行简单的梳理。使用的教材是贾俊平老师编著的《统计学（第八版）》。 第一章 导论 数据类型的分类 其中顺序数据也可以归属于分类数据中，数值数据则可以进一步分为离散数据和连续数据。 统计中的几个基本概念 总体：
2022-10-31 math basic
math statistic
矩阵求导相关结论 矩阵求导相关结论
在线性回归中，损失函数一般被定义为最小二乘。在不考虑正则项的前提下，我们可以推出权重w=(XTX)−1XTyw=(X^{T}X)^{-1}X^{T}yw=(XTX)−1XTy。其中XXX为输入数据或者说明变量，yyy是输出结果或者被说明变量
2022-06-18 math basic
math
蒙特卡罗与MCMC 蒙特卡罗与MCMC
简述 蒙特卡罗方法是一种用多次取样来逐渐逼近样本真实分布的方法。 另外蒙特卡罗并不是人的名字，而是位于摩纳哥的一个赌场的名字。 简单的例子 最经典的例子应该是几何概型中的算π\piπ的数值。也就是高中课本上的撒豆子问题。 通过多次随机取样，
2022-06-18 math basic
math RL ML