最小二乘法（Least Squares Method）

线性回归（Linear Regression）

为什么有些时候，期望的符号是一个空心E？

空心E通常表示随机变量的期望，它也被称为数学期望、平均值或期望值。它表示对随机变量在其取值范围内所有可能取值的加权平均值。

与实心E表示样本的平均数不同，空心E表示的是随机变量的平均值。随机变量是指具有多个可能取值的变量，而这些值可能是离散的（例如投掷硬币的结果）或连续的（例如人的身高）。空心E可以用来计算随机变量的平均值，以便进行概率分析和推断。

魏尔施特拉斯逼近定理

魏尔斯特拉斯逼近定理有两个：

1.闭区间上的连续函数可用多项式级数一致逼近。

2.闭区间上周期为2π的连续函数可用三角函数级数一致逼近。

通用近似定理

对一个矩阵进行softmax操作的步骤如下：

1. 计算每行的指数：对矩阵的每个元素计算指数。
2. 按行求和：对每行的指数值求和。
3. 归一化：将每个元素的指数值除以其所在行的指数和。