广义线性模型是一种应用灵活的线性回归模型，其允许因变量的偏差分布有除了正态分布之外的分布形式。

定义

广义线性模型是简单最小二乘回归的扩展，假设每个资料的观测值 $latex {Y}$latexY 来自某个指数族分布，那么该分布的平均数 $latex {\mu}$latexμ 可由该点独立的 $latex {X}$latexX 解释：

$latex {E{ \left( {y} \right) }\text{ }=\text{ } \mu \text{ }=\text{ }g\mathop{{}}\nolimits^{{-1}}{ \left( {X \beta } \right) }}$latexE(y) = μ = g−1(Xβ)

其中 $latex {E{ \left( {y} \right) }}$latexE(y) 为 $latex {y}$latexy 的期望值， $latex {X \beta }$latexXβ 则是由未知待估计参数 $latex {\beta }$latexβ 与已知变量 $latex {X}$latexX 构成的线性估计式， $latex {g}$latexg 则为链接函数。

在此模式下， $latex {y}$latexy 的方差 $latex {V}$latexV 可表示为：

$latex {Var{ \left( {y} \right) }\text{ }=\text{ }V{ \left( { \mu } \right) }\text{ }=\text{ }V{ \left( {g\mathop{{}}\nolimits^{{-1}}{ \left( {X \beta } \right) }} \right) }}$latexVar(y) = V(μ) = V(g−1(Xβ))

其中 $latex {V}$latexV 可被看做指数族随机变量的函数，未知参数 $latex {\beta }$latexβ 通常以最大概似估计量、殆最大概似估计量或贝氏方法来估计。

模型组成

广义线性模式包含了以下主要部分：

1. 来自指数族的分布函数 $latex {f}$latexf 。

2. 线性预测子 $latex { \eta \text{ }=\text{ }X \beta }$latexη = Xβ 。

3. 链接函数 $latex {g}$latexg 使得 $latex {E{ \left( {y} \right) }\text{ }=\text{ } \mu \text{ }=\text{ }g\mathop{{}}\nolimits^{{-1}}{ \left( {\eta } \right) }}$latexE(y) = μ = g−1(η) 。

参考来源

【1】广义线性模型-维基百科