Modelo lineal

En estadística , el término modelo lineal se refiere a cualquier modelo que suponga linealidad en el sistema. La ocurrencia más común es en relación con los modelos de regresión y el término se toma a menudo como sinónimo de modelo de regresión lineal . Sin embargo, el término también se utiliza en el análisis de series temporales con un significado diferente. En cada caso, la designación "lineal" se utiliza para identificar una subclase de modelos para los que es posible una reducción sustancial de la complejidad de la teoría estadística relacionada .

Para el caso de regresión, el modelo estadístico es el siguiente: dada una muestra (aleatoria), la relación entre las observaciones y las variables independientes se formula como${\displaystyle (Y_{i},X_{i1},\ldots ,X_{ip}),\,i=1,\ldots ,n}$${\displaystyle Y_{i}}$ $Estilo de visualización X_{ij}}$

${\displaystyle Y_{i}=\beta _{0}+\beta _{1}\phi _{1}(X_{i1})+\cdots +\beta _{p}\phi _{p}(X_{ip})+\varepsilon _{i}\qquad i=1,\ldots ,n}$

donde pueden ser funciones no lineales . En lo anterior, las cantidades son variables aleatorias que representan errores en la relación. La parte "lineal" de la designación se relaciona con la aparición de los coeficientes de regresión , de manera lineal en la relación anterior. Alternativamente, se puede decir que los valores predichos correspondientes al modelo anterior, a saber${\displaystyle \phi _{1},\ldots ,\phi _{p}}$${\displaystyle \varepsilon _{i}}$${\displaystyle \beta _{j}}$

${\displaystyle {\hat {Y}}_{i}=\beta _{0}+\beta _{1}\phi _{1}(X_{i1})+\cdots +\beta _{p}\phi _{p}(X_{ip})\qquad (i=1,\ldots ,n),}$

son funciones lineales de .${\displaystyle \beta _{j}}$

Dado que la estimación se realiza sobre la base de un análisis de mínimos cuadrados , las estimaciones de los parámetros desconocidos se determinan minimizando una función de suma de cuadrados.${\displaystyle \beta _{j}}$

${\displaystyle S=\sum _{i=1}^{n}\varepsilon _{i}^{2}=\sum _{i=1}^{n}\left(Y_{i}-\beta _{0}-\beta _{1}\phi _{1}(X_{i1})-\cdots -\beta _{p}\phi _{p}(X_{ip})\right)^{2}.}$

De esto se desprende fácilmente que el aspecto "lineal" del modelo significa lo siguiente:

• la función a minimizar es una función cuadrática de la cual la minimización es un problema relativamente simple;${\displaystyle \beta _{j}}$
• las derivadas de la función son funciones lineales de la, por lo que es fácil encontrar los valores minimizadores;${\displaystyle \beta _{j}}$
• Los valores minimizados son funciones lineales de las observaciones ;${\displaystyle \beta _{j}}$${\displaystyle Y_{i}}$
• Los valores minimizados son funciones lineales de los errores aleatorios , lo que hace que sea relativamente fácil determinar las propiedades estadísticas de los valores estimados de .${\displaystyle \beta _{j}}$${\displaystyle \varepsilon _{i}}$${\displaystyle \beta _{j}}$

Un ejemplo de un modelo de serie temporal lineal es un modelo de media móvil autorregresivo . Aquí el modelo para los valores { } en una serie temporal se puede escribir en la forma${\displaystyle X_{t}}$

${\displaystyle X_{t}=c+\varepsilon _{t}+\sum _{i=1}^{p}\phi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,}$

donde nuevamente las cantidades son variables aleatorias que representan innovaciones que son nuevos efectos aleatorios que aparecen en un momento determinado pero que también afectan valores de en momentos posteriores. En este caso, el uso del término "modelo lineal" se refiere a la estructura de la relación anterior al representar como una función lineal los valores pasados ​​de la misma serie temporal y los valores actuales y pasados ​​de las innovaciones. ^[1] Este aspecto particular de la estructura significa que es relativamente simple derivar relaciones para las propiedades de media y covarianza de la serie temporal. Nótese que aquí la parte "lineal" del término "modelo lineal" no se refiere a los coeficientes y , como sería en el caso de un modelo de regresión, que parece estructuralmente similar.${\displaystyle \varepsilon _{i}}$${\displaystyle X}$${\displaystyle X_{t}}$${\displaystyle \phi _{i}}$${\displaystyle \theta _{i}}$

Existen otros casos en los que se utiliza el término "modelo no lineal" para contrastar con un modelo de estructura lineal, aunque el término "modelo lineal" no se suele aplicar. Un ejemplo de esto es la reducción de dimensionalidad no lineal .

• Modelo lineal general
• Modelo lineal generalizado
• Función predictora lineal
• Sistema lineal
• Regresión lineal
• Modelo estadístico