广义线性模型是一种应用灵活的线性回归模型，其允许因变量的偏差分布有除了正态分布之外的分布形式。

定义

广义线性模型是简单最小二乘回归的扩展，假设每个资料的观测值 $latex {Y}$ 来自某个指数族分布，那么该分布的平均数 $latex {\mu}$ 可由该点独立的 $latex {X}$ 解释：

$latex {E{ \left( {y} \right) }\text{ }=\text{ } \mu \text{ }=\text{ }g\mathop{{}}\nolimits^{{-1}}{ \left( {X \beta } \right) }}$

其中 $latex {E{ \left( {y} \right) }}$ 为 $latex {y}$ 的期望值， $latex {X \beta }$ 则是由未知待估计参数 $latex {\beta }$ 与已知变量 $latex {X}$ 构成的线性估计式， $latex {g}$ 则为链接函数。

在此模式下， $latex {y}$ 的方差 $latex {V}$ 可表示为：

$latex {Var{ \left( {y} \right) }\text{ }=\text{ }V{ \left( { \mu } \right) }\text{ }=\text{ }V{ \left( {g\mathop{{}}\nolimits^{{-1}}{ \left( {X \beta } \right) }} \right) }}$

其中 $latex {V}$ 可被看做指数族随机变量的函数，未知参数 $latex {\beta }$ 通常以最大概似估计量、殆最大概似估计量或贝氏方法来估计。

模型组成

广义线性模式包含了以下主要部分：

1. 来自指数族的分布函数 $latex {f}$ 。

2. 线性预测子 $latex { \eta \text{ }=\text{ }X \beta }$ 。

3. 链接函数 $latex {g}$ 使得 $latex {E{ \left( {y} \right) }\text{ }=\text{ } \mu \text{ }=\text{ }g\mathop{{}}\nolimits^{{-1}}{ \left( {\eta } \right) }}$ 。

参考来源

【1】广义线性模型-维基百科