本节综述

简单线性回归属于回归分析中最基础的一部分内容，仅仅涉及到两个变量之间的线性关系，但其作为学习多元回归乃至其他更复杂统计方法的基础，所以本节将先从理解"回归"这一概念人手，并讨论只有一个因变量和一个自变量的简单线性回归模型。

理解回归

如何根据回归模型的构成形式理解回归模型的现实意义呢？在此，我们提出理解回归的三种视角：

这三种理解方式提供了定量分析的三种不同视角：

• 第一种方式接近于 古典计量经济学 的视角，这种方法试图找出具有决定性的模型并以此发现数据产生的机制。但当前更多的方法论研究者认为，所谓的"真实"模型并不存在，好的模型只是相对于其他模型而言更实用、更有意义或者更接近真实。
• 第二种方式适用于 工程学 领域，它通常用于在已知一组自变量和因变量之间的关系后，应用新的数据给出有用的预测回答。这一理解方法的特点是我们只是通过经验规律来做预测，而对因果关系的机制不感兴趣或不在乎。
• 第三种方式反映了当今 定量社会科学和统计学 的主流观点。它希望在不曲解数据的情况下利用模型概括数据的基本特征。这种方法与第一种方法的不同之处在于它并不关注模型是否"真实"，而只关注其是否符合已被观察到的事实。

回归分析的步骤

1. 问题的表述
2. 变量的选择 - 专家论文、前人研究
3. 数据的收集
4. 模型设定 - 散点图、表达形式、基本假定
5. 参数估计/模型拟合 - （加权）最小二乘法、极大似然法、岭估计法、主成分估计法
6. 模型检验 - 假设检验、回归诊断
7. 模型评价 - 拟合优度、交叉验证
8. 解释预测

简单线性回归模型

模型设定1–表达形式

开门见山，写出数学表达式： $$ y_i=\beta_0 + \beta_1 x_i + \epsilon_i $$

对应指定的 $x_i$ 值，在一定的条件下，对公式求条件期望后得到 总体回归方程： $$ E(Y|X=x_i) = \mu_i = \beta_0 + \beta_1x_i $$ 它表示，对于每一个特定的取值 $x_i$，观测值 y 实际上都来自一个均值为 μ、方差为 σ² 的正态分布，回归直线将穿过点 $(x_i,\mu_i)$，$\beta_0$ 就是回归直线在 y 轴上的截距，而 $\beta_1$ 则是回归直线的斜率。如下图所示：


无论回归模型还是回归方程，都是针对总体而言，是对总体恃征的总结和描述。所以，参数 $\beta_0$ 和 $\beta_1$ 也是总体的特征。当利用样本统计量 $b_0$ 和 $b_1$ 代替总体回归方程中的 $\beta_0$ 和 $\beta_1$ 时，就得到了 估计的回归方程或经验回归方程，其形式为： $$ \hat{y} = b_0 + b_1x_i $$ 同时，我们也可以得到观测值与估计值之差，称为残差，记作 $e_i$，它对应的是公式中的总体随机误差项 $\epsilon_i$，观测值、估计值和残差这三者之间的关系可用下图加以说明。


模型设定2–基本假定[诸多错误，日后修正]

可以看到在第一步的模型设定中我们首先做出了线性假定方可建立线性回归模型，同时假定 ε 的分布以便于确定 $y_i$ 的分布，接下来着重阐释简单线性回归模型中的诸多假定及这些假定存在的必要性。

线性假定

该假定规定 Y 的条件均值是自变量 X 的线性函数： $$ E(Y|X=x_i)=\mu_i = \beta_0 + \beta_1 x_i $$

例如，对于 $y_i = \alpha x_i^\gamma \sigma_i$，通过变换可以得到: $$ \ln y_i = \beta_0 + \beta_1 \ln x_i + \epsilon_i $$ 其中， $\beta_0=\ln \alpha ,\beta_1=\gamma ,\epsilon_i=\ln\sigma_i$。经过转换后的方程便可以运用最小二乘法，并使得估计值仍然保持最小二乘法估计值的性质。

正交假定

正交假定包括：

1. 误差项 ε 和 x 不相关，即 $Cov(X,\epsilon)=0$ ;
2. 误差项 ε 的期望值为0，即 $E(\epsilon)=0$ ; 推导： 由正交假定可得 $Cov(\hat{y},\epsilon)=0$ 。

在线性假定和正交假定下，可以将简单线性回归方程中 y 的条件期望定义为: $$ E(Y|x)=\beta_0 + \beta_1 x $$ 正交假定是一个关键的识别假定，它帮助我们从条件期望 E(Y|x) 中剥离出误差项。在这假定下，利用最小二乘估计得到的 β0 和 βl 的估计值 b0 和 b1 是无偏的[详见下方-各随机变量的分布]，即： $$ \begin{align*} E(b_0)&=\beta_0 \ & \ E(b_1)&=\beta_1 \end{align*} $$ 这一假定是最小二乘估计的计算的理论依据，所以 最小二乘估计的结果一定无例外地满足如下公式: $$ \begin{cases} &\sum_{i=1}^{n}e_i=0 \ & \ &\sum_{i=1}^{n}x_ie_i=0 \end{cases} \rightleftharpoons \begin{cases} & \frac{\partial D}{\partial b_0} = -2\sum_{i=1}^{n}(y_i-b_0-b_1x_i) = 0 \ & \ & \frac{\partial D}{\partial b_1} = -2\sum_{i=1}^{n}x_i(y_i-b_0-b_1x_i) = 0 \end{cases} $$

独立同分布假定

也称 i.i.d 假定，是指误差项 ε 相互独立，并且遵循同一分布，有： $$ \begin{align*} \sigma_\epsilon^2 &= \sigma^2 \ & \ Cov(\epsilon_i,\epsilon_j)&=0,\left (i\neq j \right ) \end{align*} $$

正态分布假定

尽管 i.i.d 假定规定误差项 ε 独立且同分布，但是它仍然无法确定 ε 的实际分布。不过，对于大样本数据，我们可以根据中心极限定理对 β 进行统计推断。然而在小样本情况下，我们只有在假定 ε 服从正态分布时才能使用 t检验 $$ \epsilon_i \sim N(0,\sigma^2) $$ 此时，最小二乘估计与总体参数的最大似然估计(MLE) 结果一致(Lehmann & CaseUa, 1998),也就是说 b0 和 b1 不仅是 β0 和 β1 的最佳线性无偏估计，而且是所有的 β0 和 β1 (线性和非线性的)无偏估计中的最佳选择。

参数估计–最小二乘估计

回顾一下，前文建立的线性回归模型如下： $$ y_i = \beta_0 + \beta_1x_i + \epsilon_i = E(y_i|x_i) + \epsilon_i = \mu_i + \epsilon_i $$ 在样本数据下得到拟合回归模型如下： $$ y_i = b_0 + b_1x_i + e_i = \hat{y_i} + e_i $$ 各关系如图所示：

最小二乘估计的基本思路便是 找到一条与所有现有数据垂直距离平方和最小的直线，即确保观测值和预测值的残差平方和最小： $$ D = \sum_{i=1}^{n}e_i^2 = \sum_{i=1}^{n}(y_i-\hat{y_i})^2 = \sum_{i=1}^{n}(y_i-b_0-b_1x_i)^2 $$

为使残差平方和达到最小值，有： $$ \begin{cases} & \frac{\partial D}{\partial b_0} = -2\sum_{i=1}^{n}(y_i-b_0-b_1x_i) = 0 \ & \ & \frac{\partial D}{\partial b_1} = -2\sum_{i=1}^{n}x_i(y_i-b_0-b_1x_i) = 0 \end{cases} $$ 整理得正态方程组： $$ \begin{cases} & nb_0 + b_1\sum_{i=1}^{n}x_i = \sum_{i=1}^{n}y_i \ & \ & b_0\sum_{i=1}^{n}x_i + b_1\sum_{i=1}^{n}x_i^2 = \sum_{i=1}^{n}x_iy_i \end{cases} $$ 求解得： $$ \begin{align*} b_0 &= \frac{\sum x_i^2 \sum y_i - \sum x_i \sum x_iy_i}{n \sum x_i^2 - (\sum x_i)^2} \ & \ b_1 &= \frac{n \sum x_iy_i - \sum x_i \sum y_i}{n \sum x_i^2 - (\sum x_i)^2} \ & \ &= \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^2} \ \end{align*} $$ 在实际计算时，我们通常使用下列两个化简后的式子： $$ \begin{align*} b_1 &= \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^2} \ & \ &= \frac{\sum (x_i - \bar{x})(y_i - \bar{y})/(n-1)}{\sum (x_i - \bar{x})^2/(n-1)} \ & \ &= S_{xy}/S_x^2 \ &\ &= r\frac{S_y}{S_x} \ & \ b_0 &= \bar{y} - b_1\bar{x} \end{align*} $$

小结–各随机变量的分布

在上面的运算中，我们接触到的随机变量有 $\epsilon$、$y_i$、$b_0$、$b_1$ 等，接下来我们对这些随机变量的分布做个总结。

$\epsilon$

根据简单线性回归的假定前提可知：$\epsilon \sim N(0,\sigma^2)$

$y_i$

由关系式 $y_i=\beta_0+\beta_1x_i+\epsilon_i$ 及 $\epsilon$ 的分布推知：$y_i \sim N(\beta_0+\beta_1x_i,\sigma^2)$

$b_0$ 、 $b_1$

求解 $b_0$ 和 $b_1$ 的分布需要一些技巧，首先对 $b_0$ 和 $b_1$ 的表达式稍加变形： $$ \begin{cases} b_0&=\frac{\sum x_i^2 \sum y_i - \sum x_i \sum x_iy_i}{n \sum x_i^2 - (\sum x_i)^2} \ & \ &=\sum \left [ \frac{1}{n}-\frac{(x_i-\bar{x})\bar{x}}{\sum (x_i-\bar{x})^2} \right ]y_i \ & \ b_1&=\frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^2} \ & \ &=\sum \frac{x_i-\bar{x}}{\sum (x_i-\bar{x})^2}y_i \end{cases} $$ 可以看到，当 $x_i$ 确定，等式右端仅有 $y_i$ 为随机变量，并且现在 $y_i$ 的分布已知，$b_0$ 和 $b_1$ 的分布自然可以求出：

• 期望 $$ \begin{align*} E(b_1)&= \sum \frac{x_i-\bar{x}}{\sum (x_i-\bar{x})^2} E(y_i) \ & \ &= \sum \frac{x_i-\bar{x}}{\sum (x_i-\bar{x})^2} (\beta_0+\beta_1x_i) \ & \ &= \sum \frac{x_i-\bar{x}}{\sum (x_i-\bar{x})^2} (\beta_0+\beta_1x_i) \leftarrow \beta_0=\bar{y}-\beta_1\bar{x} \bigstar \ & \ &= \frac{\sum \left [ (x_i-\bar{x})\bar{y}+\beta_1 (x_i-\bar{x})^2 \right ]}{\sum (x_i-\bar{x})^2} & \ &= \beta_1 \end{align*} $$

$\bigstar$：我们知道对样本数据有 $b_0=\bar{y}-b_1\bar{x}$，同时可推导出在总体数据中存在以下关系式： $$ \begin{cases} &\beta_0 = y_i-\beta_1x_i-\epsilon_i \ & \ & \Rightarrow E(\beta_0)=E(y_i-\beta_1x_i-\epsilon_i) \ & \ &\Rightarrow \beta_0=E(y)-\beta_1E(x_i) \end{cases} $$

再次应用这个性质 ——— 无偏估计，可以很容易的得到 $b_0$ 的期望： $$ \begin{align*} E(b_0)&=E(\bar{y}-b_1\bar{x}) \ & \ &= E(y)-\beta_1E(x) \ & \ &= \beta_0 \end{align*} $$

• 方差 $$ \begin{align*} Var(b_0)&= \sum \left { \left [ \frac{1}{n}-\frac{(x_i-\bar{x})\bar{x}} {\sum (x_i-\bar{x})^2} \right ]^2 Var(y_i) \right } \ & \ &= \sigma^2 \sum \left [ \frac{1}{n}-\frac{(x_i-\bar{x})\bar{x}} {\sum (x_i-\bar{x})^2} \right ]^2 \ & \ &= \sigma^2 \sum \left [ \frac{1}{n^2}-\frac{(x_i-\bar{x})\bar{x}}{2n\sum (x_i-\bar{x})^2}+ \frac{(x_i-\bar{x})^2\bar{x}^2}{\sum (x_i-\bar{x})^2} \right ] \ & \ &= \sigma^2 \left [ \frac{1}{n}+\frac{\bar{x}^2}{\sum (x_i-\bar{x})^2} \right ] \ & \ & \ Var(b_1)&= \sum \left { \left [ \frac{x_i-\bar{x}}{\sum (x_i-\bar{x})^2} \right ]^2 Var(y_i) \right } \ & \ &= \sigma^2 \frac{\sum (x_i-\bar{x})^2}{[\sum (x_i-\bar{x})^2]^2} \ & \ &= \frac{\sigma^2}{\sum (x_i-\bar{x})^2} \end{align*} $$

可以看到在 $\epsilon$、$y_i$、$b_0$、$b_1$ 的分布中都有 $\sigma^2$ 的身影，但 $\sigma^2$ 目前还属于未知参数，所以接下来要做的就是构造 $\sigma^2$ 的估计量 $\hat{\sigma}^2$ 。

$\hat{\sigma}^2$

由于 $\sigma^2$ 是总体中误差的方差，自然想到用样本中误差（即残差）的方差来做无偏估计： $$ \hat{\sigma}^2 = \frac{\sum e_i^2}{n-2} = \frac{\sum (y_i-\hat{y_i})^2}{n-2} = \frac{SSE}{n-2} $$

这里，$n-2$ 为总体误差方差的自由度。因为我们需要以回归直线为基准来计算 $e_i$ ( 即以 $y_i-\hat{y}_i$ 进行估计)，而决定这条直线需要估计截距和斜率两个参数，所以消耗了两个自由度。

模型检验–假设检验

模型整体检验

回归系数检验

模型评价–拟合优度

模型预测–响应值、响应均值

前景展望

1. 需要提醒的是 OLS 回归方法找出的是两个变量间最佳的线性关系，但实际情况中两个变量间可能并不是简单的线性关系。因为社会现象往往受到诸多因素的共同影响，单因素造成某一社会现象的情况几乎不存在。但是，了解简单回归的原理是学习多元回归乃至其他更复杂统计方法的基础。
2. 同时，在简单线性回归中除了最小二乘法还有多种进行参数估计的方法可以运用，其中最大似然法的思想其实是与最小二乘法相通的。
3. 此外，尽管我们可以根据基本假定估计出回归模型，但是我们不知道这些假定是否成立。诊断数据仍然是必不可少的一个环节。这部分内容我们将在之后的系列 回归诊断 中进行详细讨论。

参考文章

[1]谢宇著.回归分析[M].北京：社会科学文献出版社.2010. [2]（美）查特吉著.例解回归分析 原书第5版[M].北京：机械工业出版社.2013.

本节综述

本章着重介绍一些最基本的统计概念，比如总体、样本、随机变量、概率、期望、方差、标准差、协方差和相关系数等。这些概念着似简单，但却是线性回归方法的基础。只有真正熟练掌握并理解这些概念，才能在后面的学习中游刃有余。

概念掌握

期望与条件期望

1. 期望 离散型： $E(X)=\sum_{i=1}^{n}x_{i}P(x_{i})$
   连续型： $E(X)=\int_{-\infty }^{+\infty}xf(x)dx$

总体方差与样本方差

1. 总体方差

$$ \begin{align*} Var(X)&=\sum_{i=1}^{n}[x_{i}-E(X)]^{2}P(x_{i}) \ & \ &=E[X-E(X)]^{2} \
& \ &=E(X^{2})-[E(X)]^{2} \end{align*} $$

2. 样本方差

$$ S^{2}=\frac{1}{n-1}\sum_{i=1}^{n}(x_{i}-\bar{X})^{2} $$

总体标准差、样本标准差与标准误

总体标准差：$\sigma (X)=\sqrt{Var(X)}$ 样本标准差：$S=\sqrt{S^{2}}$ 标准误：$S.E.=\sigma /\sqrt{n}$


标准化随机变量

$$z=\frac{X-E(X)}{\sigma (X)}$$ 在多元线性回归中，由于不同自变量的测量单位通常并不一致，因而得到的回归系数通常也不能直接进行相对大小的比较。但如果我们对随机变量进行标准化，消除了变量各自测量单位的影响，得到的标准化回归系数之间就能够进行比较了。标准化经常被用来解决由于变量测量单位不同而导致的结果不可比的问题。

协方差与相关系数

1. 总体协方差 协方差用于测量两个随机变量之间的线性关系。注意，这里强调了 线性 这个词。 $$ \begin{align*} Cov(X,Y)&=\sum_{i}\sum_{j}[x_{i}-E(X)][y_{i}-E(Y)]P(x_{i},y_{i}) \ & \ &=E\left {[X-E(X)][Y-E(Y)] \right } \ & \ &=E(XY)-E(X)E(Y) \end{align*} $$

性质掌握

随机变量的和与差

1. 如果X 和Y 是两个随机变量，那么X+Y 的期望与方差为: 期望：$E(X+Y)=E(X)+E(Y)$ 方差：$Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y)$

期望的简单代数运算性质

$$E(a+bX)=a+bE(X)$$

方差的简单代数运算性质

$$Var(a+bX)=b^2Var(X)$$

协方差的简单代数运算性质

1. $Cov(X,X)=Var(X)$
2. $Cov(X,Y)=Cov(Y,X)$
3. $Cov(C,Y)=0$，C 为任意常数
4. $Cov(X_{1}+X_{2},Y)=Cov(X_{1},Y)+Cov(X_{2},Y)$
5. $Cov(a+bX,c+dY)=bd[Cov(X,Y)]$

下节引读

由于个体异质性的存在，我们不能利用样本对总体中的个体进行任何推断，但是，概括性的总体特征——参数是相对稳定的，总体参数可以通过总体中的一个样本构建样本统计量来进行估计。 然而，样本提供的信息是有限的。那么，接下来的问题就在于如何依据样本信息来认识所研究的总体。统计推断在这里扮演着关键角色。所谓统计推断，就是通过样本统计量来推断未知的总体参数。

参考文章

[1]谢宇著.回归分析[M].北京：社会科学文献出版社.2010.

（yyyy-mm-dd@xx）