Sesión 22 (C) — Edad y kilómetros: colinealidad con coeficientes significativos

El caso nox y lnox es la forma más visible de la colinealidad: dos \(t\) nulos y un \(F\) grande. Esta práctica muestra otra, más traicionera: dos regresores casi alineados cuyos coeficientes son significativos, uno de ellos con un signo que nadie esperaría. Aquí el VIF no avisa de un \(t\) pequeño, sino de un coeficiente que no puede leerse como se lee normalmente.

Los datos son data3-7 de Ramanathan: cincuenta y siete coches con su coste acumulado de reparaciones (cost, en dólares), su edad (age, en semanas) y los kilómetros recorridos (miles, en miles de millas). Edad y kilómetros crecen juntos: un coche que lleva más tiempo ha recorrido más. La pregunta es qué pasa cuando se pide al modelo que separe el efecto de cada uno.

Objetivos

1. Comparar las dos regresiones simples con la regresión múltiple: los coeficientes cambian de tamaño y uno cambia de signo.
2. Medir la colinealidad: correlación, partes propias y VIF, y comprobar de nuevo \(\mathrm{ee}(\hat\beta_j)=\mathfrak s/\Vert\tilde{\boldsymbol x}_j\Vert_e\).
3. Ver que un VIF de \(142\) es compatible con dos \(t\) grandes, y qué es lo que ese VIF sí está diciendo.
4. Comprobar la inestabilidad de las coordenadas estimando en dos mitades de la muestra.

Abra data3-7, mire las variables y su correlación, y estime cost sobre age y cost sobre miles por separado.

o bien teclee en línea de comandos:

open data3-7.gdt --quiet
labels
summary cost age miles --simple
corr age miles
ols cost const age
ols cost const miles

 cost: cumulative repair cost in actual dollars (11 - 3425)
 age: age of car in weeks of ownership (Range 5 - 538)
 miles: miles driven in thousands (Range 0.8 - 74.4)


                Media    Mediana      D. T.        Mín        Máx
cost             1427       1182       1151      11,00       3425
age             279,5      276,0      148,7      5,000      538,0
miles           41,58      43,40      19,96     0,8000      74,40


corr(age, miles) = 0,99646458
Bajo la hipótesis nula de no correlación:
 t(55) = 87,9614, con valor p a dos colas 0,0000

cost ~ age:    coef(age)   =    7,343   ee =   0,330   t =  22,28   R2 = 0,9003   s = 366,8
cost ~ miles:  coef(miles) =   53,451   ee =   2,926   t =  18,27   R2 = 0,8585   s = 437,0

Estime cost sobre age y miles, y pida los factores de inflación (Análisis -> Colinealidad).

o bien teclee en línea de comandos:

ols cost const age miles
vif

Modelo 1: MCO, usando las observaciones 1-57
Variable dependiente: cost

             coeficiente   Desv. típica   Estadístico t   valor p 
  ----------------------------------------------------------------
  const         26,1888     114,201           0,2293      0,8195  
  age           28,0163       2,77558        10,09        4,91e-14 ***
  miles       -154,635       20,6882         -7,475       6,99e-10 ***

Media de la vble. dep.  1426,632   D.T. de la vble. dep.   1151,186
Suma de cuad. residuos   3637878   D.T. de la regresión    259,5537
R-cuadrado              0,950980   R-cuadrado corregido    0,949165
F(2, 54)                523,8010   Valor p (de F)          4,36e-36
Log-verosimilitud      -396,1995   Criterio de Akaike      798,3990
Criterio de Schwarz     804,5282   Crit. de Hannan-Quinn   800,7810


Factores de inflación de varianza (VIF)
Mínimo valor posible = 1.0
Valores mayores que 10.0 pueden indicar un problema de colinealidad

         age  141,676
       miles  141,676

VIF(j) = 1/(1 - R(j)^2), donde R(j) es el coeficiente de correlación múltiple
entre la variable j y las demás variables independientes

Mida la parte propia de cada regresor con la regresión auxiliar y compruebe la fórmula del error estándar con miles.

en línea de comandos:

ols miles const age --quiet
scalar longPropiaMiles = sqrt($ess)
ols cost const age miles --quiet
printf "s/||parte propia de miles|| = %.3f    ee(miles) = %.3f\n", $sigma/longPropiaMiles, $stderr(miles)

parte propia de age   sobre miles: ||.|| =   93,513    ||age en desviaciones||   = 1113,071    R2aux = 0,9929
parte propia de miles sobre age:   ||.|| =   12,546    ||miles en desviaciones|| =  149,332    R2aux = 0,9929
s = 259,554 ;  s/||parte propia de miles|| = 20,688 ;  ee(miles) de Gretl = 20,688

Compare los \(t\) individuales, el \(F\) conjunto y el \(F\) de omitir cada regresor, y lea la correlación entre los dos estimadores.

en línea de comandos:

ols cost const age miles --quiet
restrict --quiet
    b[miles] = 0
end restrict
printf "Omitir miles: F = %.2f\n", $test
printf "correlacion entre los estimadores: %.4f\n", $vcv[2,3]/sqrt($vcv[2,2]*$vcv[3,3])

Modelo completo: t(age) = 10,09   t(miles) = -7,47   t_c = 2,005
IC 95% de age:   [22,45 ; 33,58]
IC 95% de miles: [-196,1 ; -113,2]
F de significacion conjunta (pie de tabla) = 523,8   F_c(2,54) = 3,168
Omitir age:   F(1,54) = 101,89 = t^2   valor p = 4,91e-14
Omitir miles: F(1,54) = 55,87 = t^2   valor p = 6,99e-10
correlacion entre los estimadores de age y miles: -0,9965

Estime el modelo con los coches \(1\) a \(28\) y con los coches \(29\) a \(57\).

en línea de comandos (o Muestra -> Establecer rango):

smpl 1 28
ols cost const age miles
smpl 29 57
ols cost const age miles
smpl full

La misma regresion en dos mitades de la muestra:
obs 1-28 : coef(age) =    5,142 (ee  4,624)   coef(miles) =    -5,368 (ee  30,413)   s = 142,5
obs 29-57: coef(age) =   23,724 (ee  8,230)   coef(miles) =  -107,742 (ee  69,552)   s = 296,5

1. En la Actividad 2, el coeficiente de miles pasa de \(+53\) a \(-155\) al añadir age. Explique con la parte propia por qué el coeficiente de la regresión múltiple no tiene por qué parecerse al de la simple.
2. Compruebe la identidad \(7{,}34\approx28{,}02-154{,}6\cdot0{,}134\) y diga qué representa cada uno de los tres números de la derecha.
3. Con un VIF de \(142\), ¿por qué los dos coeficientes son significativos? ¿Qué tendría que valer el coeficiente de miles para no serlo?
4. Un taller quiere predecir el coste de reparaciones de un coche de \(300\) semanas y \(40\) mil millas, valores típicos de la muestra. ¿Le preocupa la colinealidad para esa predicción? ¿Y para un coche de \(300\) semanas y \(10\) mil millas?
5. Si tuviera que informar del efecto de la edad sobre el coste, ¿qué modelo usaría y qué diría del coeficiente de miles?

• Lección 14 (lección 14), ``Síntomas y diagnóstico'' y ``Qué es y qué no es''.
• Lección 10 (lección 10), el coeficiente de regresión múltiple como coordenada, y la familia ortogonal como único caso en que coincide con el simple.
• Ramanathan, R. (2002). Introductory Econometrics with Applications, 5.ª ed., ejemplo 5.2 y sección 5.4 sobre multicolinealidad.
• Wooldridge, J. M. (2020). Introductory Econometrics, cap. 3, sección 3.4.

1. Por qué cambia tanto el coeficiente. El coeficiente de miles en la regresión simple es la coordenada de \(\boldsymbol{\mathop{\widehat y}}\) sobre miles en desviaciones, un vector de longitud \(149\). En la múltiple es la coordenada de \(\boldsymbol{\mathop{\widehat y}}\) en la base \(\{\boldsymbol 1,\text{age},\text{miles}\}\), y una coordenada depende de toda la base: con generadores casi alineados, la lección 14 mostró que el mismo ajuste admite descomposiciones muy distintas. Además, la lección 14 enunció que ese coeficiente se mide con la parte propia de miles, un vector de longitud \(12{,}5\) casi ortogonal a miles en desviaciones. Los dos coeficientes responden a preguntas distintas y no hay razón para que se parezcan, ni en tamaño ni en signo. Coinciden solo cuando los regresores son ortogonales (lección 10, familia ortogonal).
2. La identidad. \(28{,}02\) es el coeficiente de age en la múltiple; \(-154{,}6\) el de miles; \(0{,}134\) es cuántas mil millas más tiene, en esta muestra, un coche una semana más viejo. La regresión simple de cost sobre age recoge el efecto directo de la edad más el efecto de las millas que la edad arrastra: \(28{,}02+(-154{,}6)(0{,}134)=7{,}30\). La identidad es exacta salvo redondeo, y dice que el coeficiente de la simple no es ``el efecto de la edad'', sino el efecto de la edad junto con todo lo que en la muestra se mueve con ella.
3. Significativos con VIF \(142\). Porque el \(t\) es el coeficiente entre su error estándar, y el VIF solo infla el denominador: \(20{,}7\) en lugar de \(1{,}74\). Con un coeficiente de \(-155\) el cociente sigue siendo \(-7{,}5\). Para no ser significativo, el coeficiente de miles tendría que ser menor que \(2{,}005\cdot20{,}7\approx41\) en valor absoluto; sin la colinealidad, bastaría con que fuera menor que \(3{,}5\). El VIF dice cuánta evidencia se ha perdido, no si queda suficiente.
4. Predicción. Para el coche típico, no: \(300\) semanas y \(40\) mil millas está sobre la recta de la figura, y allí el ajuste es el mismo cualquiera que sea el reparto entre los dos coeficientes; la predicción usa \(\boldsymbol{\mathop{\widehat y}}\), que la colinealidad no toca. Para el coche de \(300\) semanas y \(10\) mil millas, sí: está lejos de la recta, en una región donde no hay datos, y la predicción depende de la coordenada de miles por separado, \(-155\cdot(10-40)=+4\,640\) dólares sobre el coche típico. Ese número descansa en la parte propia de miles, que mide \(12{,}5\): es una extrapolación con un error estándar enorme.
5. Qué informar. Depende de la pregunta, y hay que decir cuál se responde. Si se quiere el efecto de la edad sin separar lo que la edad arrastra, la regresión simple, \(7{,}3\) dólares por semana, con su intervalo estrecho, y advertir que incluye el efecto del kilometraje. Si se quiere el efecto de la edad a kilometraje fijo, la múltiple, \(28\) con intervalo de \(22\) a \(34\), y advertir que en la muestra casi no hay coches con la misma edad y distinto kilometraje, que el coeficiente de miles es negativo y difícil de interpretar por separado, y que el VIF es \(142\). Lo que no se puede hacer es informar de \(-155\) como ``el efecto de rodar mil millas''.