Modelos de errores en las variables

En estadística , los modelos de errores en las variables o modelos de error de medición son modelos de regresión que tienen en cuenta los errores de medición en las variables independientes . Por el contrario, los modelos de regresión estándar suponen que esos regresores se han medido con exactitud o se han observado sin errores; por lo tanto, esos modelos solo tienen en cuenta los errores en las variables dependientes o respuestas. ^{[ cita requerida ]}

En el caso de que algunos regresores hayan sido medidos con errores, la estimación basada en el supuesto estándar conduce a estimaciones inconsistentes , lo que significa que las estimaciones de los parámetros no tienden a los valores verdaderos incluso en muestras muy grandes. En el caso de la regresión lineal simple, el efecto es una subestimación del coeficiente, conocida como sesgo de atenuación . En los modelos no lineales, es probable que la dirección del sesgo sea más complicada. ^{[1] [2] [3]}

Consideremos un modelo de regresión lineal simple de la forma

${\displaystyle y_{t}=\alpha +\beta x_{t}^{*}+\varepsilon _{t}\,,\quad t=1,\ldots ,T,}$

donde denota el regresor verdadero pero no observado . En cambio, observamos este valor con un error:${\displaystyle x_{t}^{*}}$

${\displaystyle x_{t}=x_{t}^{*}+\eta _{t}\,}$

donde se supone que el error de medición es independiente del valor verdadero . Una aplicación práctica es el experimento de ciencias estándar de la escuela para la Ley de Hooke , en el que se estima la relación entre el peso agregado a un resorte y la cantidad en que se estira el resorte. Si los ′ se regresionan simplemente sobre los ′ (ver regresión lineal simple ), entonces el estimador para el coeficiente de pendiente es${\displaystyle \eta _{t}}$${\displaystyle x_{t}^{*}}$

${\displaystyle y_{t}}$${\displaystyle x_{t}}$

${\displaystyle {\hat {\beta }}_{x}={\frac {{\tfrac {1}{T}}\sum _{t=1}^{T}(x_{t}-{\bar {x}})(y_{t}-{\bar {y}})}{{\tfrac {1}{T}}\sum _{t=1}^{T}(x_{t}-{\bar {x}})^{2}}}\,,}$

que converge a medida que aumenta el tamaño de la muestra sin límite:${\displaystyle T}$

${\displaystyle {\hat {\beta }}_{x}\xrightarrow {p} {\frac {\operatorname {Cov} [\,x_{t},y_{t}\,]}{\operatorname {Var} [\,x_{t}\,]}}={\frac {\beta \sigma _{x^{*}}^{2}}{\sigma _{x^{*}}^{2}+\sigma _{\eta }^{2}}}={\frac {\beta }{1+\sigma _{\eta }^{2}/\sigma _{x^{*}}^{2}}}\,.}$

Esto contrasta con el efecto "verdadero" de , estimado utilizando el ,:${\displaystyle \beta }$${\displaystyle x_{t}^{*}}$

${\displaystyle {\hat {\beta }}={\frac {{\tfrac {1}{T}}\sum _{t=1}^{T}(x_{t}^{*}-{\bar {x}})(y_{t}-{\bar {y}})}{{\tfrac {1}{T}}\sum _{t=1}^{T}(x_{t}^{*}-{\bar {x}})^{2}}}\,,}$

Las varianzas no son negativas, de modo que en el límite el estimado es menor que , un efecto que los estadísticos llaman atenuación o dilución de regresión . ^[4] Por lo tanto, el estimador de mínimos cuadrados "ingenuo" es un estimador inconsistente para . Sin embargo, es un estimador consistente del parámetro requerido para un mejor predictor lineal de dado el observado : en algunas aplicaciones esto puede ser lo que se requiere, en lugar de una estimación del coeficiente de regresión "verdadero" , aunque eso supondría que la varianza de los errores en la estimación y la predicción es idéntica. Esto se desprende directamente del resultado citado inmediatamente arriba, y del hecho de que el coeficiente de regresión que relaciona los ′ con los ′ realmente observados, en una regresión lineal simple, está dado por${\displaystyle {\hat {\beta }}_{x}}$${\displaystyle {\hat {\beta }}}$${\displaystyle {\hat {\beta }}_{x}}$${\displaystyle \beta }$${\displaystyle {\hat {\beta }}_{x}}$${\displaystyle y}$${\displaystyle x_{t}}$${\displaystyle \beta }$${\displaystyle y_{t}}$${\displaystyle x_{t}}$

${\displaystyle \beta _{x}={\frac {\operatorname {Cov} [\,x_{t},y_{t}\,]}{\operatorname {Var} [\,x_{t}\,]}}.}$

Es este coeficiente, en lugar de , el que se requeriría para construir un predictor de basado en un observado que está sujeto a ruido.${\displaystyle \beta }$${\displaystyle y}$${\displaystyle x}$

Se puede argumentar que casi todos los conjuntos de datos existentes contienen errores de distinta naturaleza y magnitud, por lo que el sesgo de atenuación es extremadamente frecuente (aunque en la regresión multivariante la dirección del sesgo es ambigua ^[5] ). Jerry Hausman ve esto como una ley de hierro de la econometría : "La magnitud de la estimación suele ser menor que la esperada". ^[6]

Por lo general, los modelos de error de medición se describen utilizando el enfoque de variables latentes . Si es la variable de respuesta y son los valores observados de los regresores, entonces se supone que existen algunas variables latentes y que siguen la relación funcional “verdadera” del modelo , y que las cantidades observadas son sus observaciones ruidosas:${\displaystyle y}$${\displaystyle x}$${\displaystyle y^{*}}$${\displaystyle x^{*}}$ ${\displaystyle g(\cdot )}$

${\displaystyle {\begin{cases}y^{*}=g(x^{*}\!,w\,|\,\theta ),\\y=y^{*}+\varepsilon ,\\x=x^{*}+\eta ,\end{cases}}}$

donde es el parámetro del modelo y son aquellos regresores que se supone que están libres de errores (por ejemplo, cuando la regresión lineal contiene una intersección, el regresor que corresponde a la constante ciertamente no tiene "errores de medición"). Dependiendo de la especificación, estos regresores libres de errores pueden o no tratarse por separado; en el último caso, simplemente se supone que las entradas correspondientes en la matriz de varianza de son cero.${\displaystyle \theta }$${\displaystyle w}$${\displaystyle \eta }$

Las variables , , son todas observadas , lo que significa que el estadístico posee un conjunto de datos de unidades estadísticas que siguen el proceso de generación de datos descrito anteriormente; sin embargo, las variables latentes , , y no se observan.${\displaystyle y}$${\displaystyle x}$${\displaystyle w}$${\displaystyle n}$ ${\displaystyle \left\{y_{i},x_{i},w_{i}\right\}_{i=1,\dots ,n}}$${\displaystyle x^{*}}$${\displaystyle y^{*}}$${\displaystyle \varepsilon }$${\displaystyle \eta }$

Esta especificación no abarca todos los modelos de errores en las variables existentes. Por ejemplo, en algunos de ellos la función puede ser no paramétrica o semiparamétrica. Otros enfoques modelan la relación entre y como distributiva en lugar de funcional, es decir, suponen que condicionalmente en sigue una determinada distribución (normalmente paramétrica).${\displaystyle g(\cdot )}$${\displaystyle y^{*}}$${\displaystyle x^{*}}$${\displaystyle y^{*}}$${\displaystyle x^{*}}$

• La variable observada puede denominarse variable manifiesta , indicadora o proxy .${\displaystyle x}$
• La variable no observada puede denominarse variable latente o verdadera . Puede considerarse una constante desconocida (en cuyo caso el modelo se denomina modelo funcional ) o una variable aleatoria (en consecuencia, un modelo estructural ). ^[7]${\displaystyle x^{*}}$
• La relación entre el error de medición y la variable latente se puede modelar de diferentes maneras:${\displaystyle \eta }$${\displaystyle x^{*}}$
  • Errores clásicos : los errores son independientes de la variable latente. Este es el supuesto más común, implica que los errores son introducidos por el dispositivo de medición y su magnitud no depende del valor medido.${\displaystyle \eta \perp x^{*}}$
  • Independencia de la media : los errores son de media cero para cada valor del regresor latente. Este es un supuesto menos restrictivo que el clásico, ^[8] ya que permite la presencia de heterocedasticidad u otros efectos en los errores de medición.${\displaystyle \operatorname {E} [\eta |x^{*}]\,=\,0,}$
  • Errores de Berkson :los errores son independientes delregresor observado x . ^[9] Esta suposición tiene una aplicabilidad muy limitada. Un ejemplo son los errores de redondeo: por ejemplo, si la edad de una persona* es una variable aleatoria continua , mientras que la edad observada se trunca al siguiente entero más pequeño, entonces el error de truncamiento es aproximadamente independiente de la edad observada . Otra posibilidad es con el experimento de diseño fijo: por ejemplo, si un científico decide hacer una medición en un cierto momento predeterminado de tiempo, digamos en, entonces la medición real puede ocurrir en algún otro valor de(por ejemplo, debido a su tiempo de reacción finito) y dicho error de medición será generalmente independiente del valor "observado" del regresor.${\displaystyle \eta \,\perp \,x,}$${\displaystyle x}$${\displaystyle x=10s}$${\displaystyle x^{*}}$
  • Errores de clasificación errónea : caso especial utilizado para los regresores ficticios . Si es un indicador de un determinado evento o condición (como que la persona es hombre/mujer, se le administra algún tratamiento médico/no, etc.), entonces el error de medición en dicho regresor corresponderá a la clasificación incorrecta similar a los errores de tipo I y tipo II en las pruebas estadísticas. En este caso, el error puede tomar solo 3 valores posibles, y su distribución condicional a se modela con dos parámetros: , y . La condición necesaria para la identificación es que , es decir, la clasificación errónea no debería ocurrir "con demasiada frecuencia". (Esta idea se puede generalizar a variables discretas con más de dos valores posibles).${\displaystyle x^{*}}$${\displaystyle \eta }$${\displaystyle x^{*}}$${\displaystyle \alpha =\operatorname {Pr} [\eta =-1|x^{*}=1]}$${\displaystyle \beta =\operatorname {Pr} [\eta =1|x^{*}=0]}$${\displaystyle \alpha +\beta <1}$

Los modelos lineales de errores en las variables se estudiaron primero, probablemente porque los modelos lineales se usaban ampliamente y eran más fáciles que los no lineales. A diferencia de la regresión de mínimos cuadrados (MCO) estándar, extender la regresión de errores en las variables (EiV) del caso simple al caso multivariable no es sencillo, a menos que se traten todas las variables de la misma manera, es decir, suponiendo que la confiabilidad es igual. ^[10]

El modelo simple de errores lineales en las variables ya fue presentado en la sección "motivación":

${\displaystyle {\begin{cases}y_{t}=\alpha +\beta x_{t}^{*}+\varepsilon _{t},\\x_{t}=x_{t}^{*}+\eta _{t},\end{cases}}}$

donde todas las variables son escalares . Aquí α y β son los parámetros de interés, mientras que σ _ε y σ _η —desviaciones estándar de los términos de error— son los parámetros molestos . El regresor "verdadero" x* se trata como una variable aleatoria ( modelo estructural ), independiente del error de medición η ( supuesto clásico ).

Este modelo es identificable en dos casos: (1) o bien el regresor latente x* no se distribuye normalmente , (2) o bien x* tiene una distribución normal, pero ni ε _t ni η _t son divisibles por una distribución normal. ^[11] Es decir, los parámetros α , β se pueden estimar de forma consistente a partir del conjunto de datos sin ninguna información adicional, siempre que el regresor latente no sea gaussiano.${\displaystyle \scriptstyle (x_{t},\,y_{t})_{t=1}^{T}}$

Antes de que se estableciera este resultado de identificabilidad, los estadísticos intentaron aplicar la técnica de máxima verosimilitud suponiendo que todas las variables eran normales y luego concluyeron que el modelo no estaba identificado. La solución sugerida fue suponer que algunos de los parámetros del modelo son conocidos o pueden estimarse a partir de una fuente externa. Entre estos métodos de estimación se incluyen ^[12]

• Regresión de Deming : supone que se conoce la relación δ = σ² _ε / σ² _η . Esto podría ser apropiado, por ejemplo, cuando los errores en y y x son causados ​​por mediciones y se conoce la precisión de los dispositivos o procedimientos de medición. El caso en el que δ = 1 también se conoce como regresión ortogonal .
• Regresión con un índice de fiabilidad conocido λ = σ² _∗ / ( σ² _η + σ² _∗ ), donde σ² _∗ es la varianza del regresor latente. Este enfoque puede ser aplicable, por ejemplo, cuando se dispone de mediciones repetidas de la misma unidad o cuando el índice de fiabilidad se conoce a partir de un estudio independiente. En este caso, la estimación consistente de la pendiente es igual a la estimación de mínimos cuadrados dividida por λ .
• La regresión con σ² _η conocido puede ocurrir cuando se conoce la fuente de los errores en x' s y se puede calcular su varianza. Esto podría incluir errores de redondeo o errores introducidos por el dispositivo de medición. Cuando se conoce σ² _η podemos calcular la razón de confiabilidad como λ = ( σ² _x − σ² _η ) / σ² _x y reducir el problema al caso anterior.

Los métodos de estimación que no presuponen el conocimiento de algunos de los parámetros del modelo incluyen:

El modelo multivariable se parece exactamente al modelo lineal simple, sólo que esta vez β , η _t , x _t y x* _t son vectores k× 1.

${\displaystyle {\begin{cases}y_{t}=\alpha +\beta 'x_{t}^{*}+\varepsilon _{t},\\x_{t}=x_{t}^{*}+\eta _{t}.\end{cases}}}$

En el caso en que ( ε _t , η _t ) sea conjuntamente normal, el parámetro β no se identifica si y solo si hay una  matriz de bloques k×k no singular [ a A ], donde a es un vector k× 1 tal que a′x*  se distribuye normalmente e independientemente de  A′x* . En el caso en que ε _t , η _t1 ,..., η _tk sean mutuamente independientes, el parámetro  β  no se identifica si y solo si además de las condiciones anteriores algunos de los errores se pueden escribir como la suma de dos variables independientes, una de las cuales es normal. ^[15]

Algunos de los métodos de estimación para modelos lineales multivariables son

Un modelo genérico de error de medición no lineal toma forma

${\displaystyle {\begin{cases}y_{t}=g(x_{t}^{*})+\varepsilon _{t},\\x_{t}=x_{t}^{*}+\eta _{t}.\end{cases}}}$

Aquí la función g puede ser paramétrica o no paramétrica. Cuando la función g es paramétrica se escribirá como g ( x *, β ).

En el caso de un regresor x* de valor vectorial general, no se conocen las condiciones de identificación del modelo . Sin embargo, en el caso de un escalar x*, el modelo se identifica a menos que la función g tenga la forma "log-exponencial" ^[20].

${\displaystyle g(x^{*})=a+b\ln {\big (}e^{cx^{*}}+d{\big )}}$

y el regresor latente x* tiene densidad

${\displaystyle f_{x^{*}}(x)={\begin{cases}Ae^{-Be^{Cx}+CDx}(e^{Cx}+E)^{-F},&{\text{if}}\ d>0\\Ae^{-Bx^{2}+Cx}&{\text{if}}\ d=0\end{cases}}}$

donde las constantes A , B , C , D , E , F pueden depender de a , b , c , d .

A pesar de este resultado optimista, hasta el momento no existen métodos para estimar modelos no lineales de errores en las variables sin ninguna información extraña. Sin embargo, hay varias técnicas que hacen uso de algunos datos adicionales: ya sean las variables instrumentales o las observaciones repetidas.

En este enfoque se dispone de dos (o quizás más) observaciones repetidas del regresor x* . Ambas observaciones contienen sus propios errores de medición, pero se requiere que esos errores sean independientes:

${\displaystyle {\begin{cases}x_{1t}=x_{t}^{*}+\eta _{1t},\\x_{2t}=x_{t}^{*}+\eta _{2t},\end{cases}}}$

donde x* ⊥ η ₁ ⊥ η ₂ . Las variables η ₁ , η ₂ no necesitan estar distribuidas de manera idéntica (aunque si lo están, la eficiencia del estimador puede mejorarse ligeramente). Con solo estas dos observaciones es posible estimar de manera consistente la función de densidad de x* utilizando la técnica de deconvolución de Kotlarski . ^[22]

• Dougherty, Christopher (2011). "Regresores estocásticos y errores de medición". Introducción a la econometría (cuarta edición). Oxford University Press. pp. 300–330. ISBN 978-0-19-956708-9.
• Kmenta, Jan (1986). "Estimación con datos deficientes". Elements of Econometrics (segunda edición). Nueva York: Macmillan. pp. 346–391. ISBN 978-0-02-365070-3.
• Schennach, Susanne (2013). "Error de medición en modelos no lineales: una revisión". En Acemoglu, Daron; Arellano, Manuel; Dekel, Eddie (eds.). Avances en economía y econometría . Cambridge University Press. págs. 296–337. doi :10.1017/CBO9781139060035.009. hdl :10419/79526. ISBN . 9781107017214.

• Una visión histórica de la regresión lineal con errores en ambas variables, JW Gillard 2006
• Conferencia sobre econometría (tema: Regresores estocásticos y error de medición) en YouTube por Mark Thoma .