HyperAI超神经

广义线性模型是一种应用灵活的线性回归模型，其允许因变量的偏差分布有除了正态分布之外的分布形式。

定义

广义线性模型是简单最小二乘回归的扩展，假设每个资料的观测值 $\text{[math]}$ 来自某个指数族分布，那么该分布的平均数 ${\mu}$ 可由该点独立的 $\text{[math]}$ 解释：

${E{ \left( {y} \right) }\text{ }=\text{ } \mu \text{ }=\text{ }g\mathop{{}}\nolimits^{{-1}}{ \left( {X \beta } \right) }}$

其中 ${E{ \left( {y} \right) }}$ 为 $\text{[math]}$ 的期望值， ${X \beta }$ 则是由未知待估计参数 ${\beta }$ 与已知变量 $\text{[math]}$ 构成的线性估计式， $\text{[math]}$ 则为链接函数。

在此模式下， $\text{[math]}$ 的方差 $\text{[math]}$ 可表示为：

${Var{ \left( {y} \right) }\text{ }=\text{ }V{ \left( { \mu } \right) }\text{ }=\text{ }V{ \left( {g\mathop{{}}\nolimits^{{-1}}{ \left( {X \beta } \right) }} \right) }}$

其中 $\text{[math]}$ 可被看做指数族随机变量的函数，未知参数 ${\beta }$ 通常以最大概似估计量、殆最大概似估计量或贝氏方法来估计。

模型组成

广义线性模式包含了以下主要部分：

1. 来自指数族的分布函数 $\text{[math]}$ 。

2. 线性预测子 ${ \eta \text{ }=\text{ }X \beta }$ 。

3. 链接函数 $\text{[math]}$ 使得 ${E{ \left( {y} \right) }\text{ }=\text{ } \mu \text{ }=\text{ }g\mathop{{}}\nolimits^{{-1}}{ \left( {\eta } \right) }}$ 。

参考来源

【1】广义线性模型-维基百科

广义线性模型 Generalized Linear Model

定义

模型组成

参考来源