Lección 13. El contraste \(F\): significación conjunta

Todo el aparato de la lección 12 (error estándar, intervalo de confianza, contraste \(t\)) se pronuncia sobre un coeficiente cada vez. Es lo natural cuando la pregunta es ``¿interviene este regresor?'', y es lo que hace la tabla de resultados fila a fila. Pero muchas preguntas económicas no son sobre un coeficiente, sino sobre varios a la vez: ¿aportan algo en conjunto estos tres regresores?, ¿tienen el mismo efecto estas dos variables?, si la suma de dos coeficientes valiese uno, ¿serían estos datos demasiado raros? Ninguna de ellas se responde con una fila de la tabla. Hoy construimos la herramienta que las responde a todas.

Dos piezas de las sesiones anteriores bastan para construirla. La primera es la identidad de la lección 12, \(t^2=(n-k)\,\mathrm{SEC}/\mathrm{SRC}\): el cuadrado del estadístico \(t\) es la razón entre las longitudes al cuadrado de los dos catetos del triángulo de la lección 8, multiplicada por la dimensión \(n-k\). La segunda es una observación del laboratorio anterior: al pie de toda tabla de regresión Gretl imprime un número rotulado \(F\), y en la regresión simple de price sobre rooms ese número, \(472{,}95\), coincidía con \(t^2\).¹ Allí dijimos que el \(F\) era ``el cociente entre la parte explicada y la parte residual, cada una dividida por su número de dimensiones'' y que la lección 13 lo convertiría en un contraste por derecho propio. Esa conversión es la lección de hoy.

La tabla de la transparencia es el caso que motiva la sesión. Es una regresión con datos reales (las viviendas de hprice2 de los laboratorios) del precio mediano sobre tres regresores: el número de habitaciones y dos medidas de la contaminación del aire, la concentración de óxidos de nitrógeno nox y su logaritmo lnox. Los coeficientes de nox y lnox tienen ambos un valor \(p\) muy alto: \(0{,}854\) y \(0{,}295\). Si uno lee la tabla como enseñó la lección 12, fila a fila, podría asumir que ninguno de los dos interviene y que ambos sobran. Sin embargo, como veremos en la sección ``Conjunto \(\neq\) individual'', si se quitan los dos a la vez el ajuste empeora: la contaminación sí mejora el ajuste. El error está en leer una pregunta sobre dos coeficientes con dos respuestas sobre uno.

Sobre el reparto de la sesión: las cuatro primeras transparencias construyen el contraste \(F\) de significación conjunta y lo leen en el triángulo; la quinta lo lee en una tabla de Gretl; la sexta y la séptima lo generalizan a cualquier hipótesis lineal sobre los coeficientes; las dos siguientes lo interpretan, y la décima recapitula.

Para profundizar: Wooldridge, J. M. (2020), cap. 4, introducción a la sección 4.5 (por qué los contrastes \(t\) individuales no responden a hipótesis sobre varios coeficientes).

Un contraste muy frecuente es el de significación conjunta, cuya hipótesis nula es: que todos los coeficientes de los regresores no constantes sean cero a la vez, \(\beta_2=\cdots=\beta_k=0\). En términos del modelo poblacional de la lección 10, \(Y=\beta_1\,\mathit1+\beta_2X_2+\cdots+\beta_kX_k+U\), dice que ninguno de los regresores interviene: \(Y=\beta_1\,\mathit1+U\), así que lo mejor que puede hacerse para predecir \(Y\) es su valor esperado, la constante \(\beta_1\); en la muestra, la media. La hipótesis alternativa es la negación lógica: al menos uno de esos coeficientes es distinto de cero. \(H_1\) es poco exigente: no dice cuál ni cuántos, solo que no son todos nulos.

La traducción geométrica usa el vocabulario de la lección 10. El ajuste \(\boldsymbol{\mathop{\widehat y}}\) es la proyección de \(\boldsymbol y\) sobre \(\mathcal L(\boldsymbol 1,\boldsymbol x_2,\ldots,\boldsymbol x_k)\), y el triángulo rectángulo de la lección 8 (hipotenusa \(\boldsymbol y-\boldsymbol{\mathop{\overline y}}\), catetos \(\boldsymbol{\mathop{\widehat y}}-\boldsymbol{\mathop{\overline y}}\) y \(\boldsymbol{\mathop{\widehat e}}\)) sigue existiendo sea cual sea \(k\), como se estudió allí.

Si \(H_0\) fuese cierta, el modelo poblacional no contendría ningún regresor distinto de la constante y el ajuste correspondiente a \(H_0\) sería el vector de medias; consecuentemente, el cateto explicado \(\boldsymbol{\mathop{\widehat y}}-\boldsymbol{\mathop{\overline y}}\) ``debería'' ser nulo.²

En la práctica ese cateto no será cero ni siquiera con \(H_0\) cierta: para que lo fuera debería ocurrir que el vector de datos \(\boldsymbol y\) fuera exactamente perpendicular a los vectores de datos que constituyen los regresores del ajuste, y la probabilidad de que eso ocurra es casi nula en la práctica. Por tanto, la pregunta que el contraste tiene que responder es si el cateto explicado es más largo de lo que cabe esperar que sea por azar cuando \(H_0\) es cierta. Es la misma pregunta de la lección 12, con una diferencia: allí el cateto explicado vivía en una recta (la del regresor en desviaciones) y aquí vive en un subespacio de dimensión \(k-1\) (el de los \(k-1\) regresores en desviaciones, lección 10).

Para responder no basta con mirar los \(k-1\) contrastes \(t\) de la tabla. La razón está en el contenido de la hipótesis: cada \(t\) contrasta \(H_0\!:\beta_j=0\) manteniendo a los demás regresores en el modelo. Es decir, el \(t\) de nox pregunta si nox aporta algo además de rooms y lnox, y el de lnox pregunta si aporta algo además de rooms y nox. Ambos pueden responder ``no se rechaza \(H_0\!:\beta_j=0\)'' (es decir, los datos sugieren omitir un regresor si el otro se mantiene) y, sin embargo, el contraste conjunto puede rechazar que sobren los dos a la vez (es decir, los datos sugieren que se deben mantener ambos a la vez). ``Todos individualmente nulos'' y ``todos simultáneamente nulos'' son afirmaciones distintas, y la segunda constituye la \(H_0\) para el contraste de significación conjunta.³

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.5 (``Testing multiple linear restrictions'': el planteamiento de la hipótesis conjunta y por qué los \(t\) individuales no la contrastan).

La lección 12 dejó el estadístico \(t\) escrito como \(t^2=\frac{\mathrm{SEC}/1}{\mathrm{SRC}/(n-k)}\), y en su recapitulación hizo notar que ese \(1\) es \(k-1\) con \(k=2\). Con \(k-1\) en su sitio, la misma fórmula es el estadístico \(F\): \[ F=\frac{\mathrm{SEC}/(k-1)}{\mathrm{SRC}/(n-k)}. \] El curso ya conoce los dos divisores. El denominador, \(\mathrm{SRC}/(n-k)\), es la cuasivarianza de los residuos \(\mathfrak s^2\) de la lección 11: la suma de cuadrados del residuo dividida por la dimensión \(n-k\) del subespacio \(\mathcal L(\boldsymbol 1,\boldsymbol x_2,\ldots,\boldsymbol x_k)^\perp\) donde el residuo vive. El numerador hace lo mismo con el otro cateto: \(\mathrm{SEC}=\Vert\boldsymbol{\mathop{\widehat y}}-\boldsymbol{\mathop{\overline y}}\Vert_e^2\) es la suma de cuadrados del cateto explicado, y \(k-1\) es la dimensión del subespacio donde ese cateto vive, el de los regresores en desviaciones (lección 10). Así que \(F\) compara los dos catetos por dimensión. La razón de dividir es esta. Si en cada subespacio se toma una base de vectores ortogonales de norma uno, la longitud al cuadrado de un vector es la suma de sus coordenadas al cuadrado (Pitágoras generalizado, lección 10): el cateto explicado suma \(k-1\) coordenadas al cuadrado y el residuo, \(n-k\). Un cateto puede ser largo por dos motivos: porque sus coordenadas son grandes o porque son muchas. Dividir por el número de coordenadas deja solo el primero: \(\mathrm{SEC}/(k-1)\) es la media de las coordenadas al cuadrado del cateto explicado y \(\mathrm{SRC}/(n-k)\), la del residuo. \(F\) es el cociente de esas dos medias, y el párrafo siguiente dice por qué, bajo \(H_0\), deben parecerse.⁴

¿Por qué sirve ese cociente para contrastar \(H_0\)? Supongamos \(H_0\) cierta. Entonces el modelo poblacional es \(Y=\beta_1\,\mathit1+U\) y, como vimos en la lección 12, \(Y_i-\overline Y=U_i-\overline U\) para cada \(i\): la hipotenusa del triángulo es la realización de las perturbaciones centradas. Tomemos la base ortonormal de la lección 12, con sus \(k-1\) primeros vectores en el subespacio de los regresores en desviaciones (el que el apéndice (html) llama \(\mathcal E\)) y los \(n-k\) restantes en el del residuo (\(\mathcal R\)), y las \(n-1\) coordenadas del ruido: las fórmulas de las coordenadas evaluadas sobre las perturbaciones centradas. Para cada realización, \(\mathrm{SEC}\) es la suma de los cuadrados de las \(k-1\) primeras coordenadas y \(\mathrm{SRC}\) la de las otras \(n-k\) (Pitágoras generalizado, lección 10). Y las coordenadas del ruido, evaluadas sobre la muestra aleatoria, son variables aleatorias ortogonales y de la misma longitud \(\sigma\): cada cuadrado tiene esperanza \(\sigma^2\). Por tanto, bajo \(H_0\), la longitud al cuadrado del cateto explicado vale en promedio \((k-1)\sigma^2\) y la del residuo, \((n-k)\sigma^2\).⁵ Para estas dos esperanzas bastan la homocedasticidad y la incorrelación de la lección 11; la demostración está en el apéndice (sección 7, Resultados 1 y 2) (html).⁶ Dividiendo cada una por su dimensión, numerador y denominador de \(F\) estiman ambos \(\sigma^2\), y su cociente debe rondar \(1\). Si \(H_0\) es falsa, el apéndice (sección 7.2) (html) muestra también qué cambia: las coordenadas en \(\mathcal E\) llevan sumada la parte sistemática, su suma de cuadrados crece, y el numerador estima \(\sigma^2\) más algo positivo; el denominador no cambia, porque la parte sistemática no tiene coordenadas en \(\mathcal R\). Un \(F\) mucho mayor que \(1\) es evidencia contra \(H_0\); un \(F\) cercano a \(1\) (o menor) es lo que \(H_0\) hace esperar. La normalidad, como en la lección 12, hará falta para la distribución del cociente.

Para convertir esta idea en un contraste con nivel de significación hace falta saber cuánto mayor que \(1\) es ``mucho'', y eso exige la distribución de \(F\) bajo \(H_0\). Igual que en la lección 12 con la \(t\) de Student, la sesión la enuncia y el apéndice la demuestra: bajo \(H_0\) y los supuestos de la lección 12, el estadístico sigue una distribución \(F\) de Fisher–Snedecor con \(k-1\) y \(n-k\) grados de libertad, \(F_{k-1,\,n-k}\). Es una distribución que solo toma valores positivos, asimétrica, con esperanza próxima a \(1\) y una cola derecha larga. Su forma depende de los dos números de grados de libertad, las dos dimensiones de los subespacios donde viven los catetos del triángulo.⁷ La regla de decisión tiene una novedad respecto a la lección 12: la región crítica está en una sola cola. Se rechaza \(H_0\) al nivel \(\alpha\) si \(F>F_c\), donde \(F_c\) es el valor de la \(F_{k-1,\,n-k}\) que deja probabilidad \(\alpha\) a su derecha. No hay cola izquierda porque \(F\) compara longitudes al cuadrado y no tiene signo: un \(F\) pequeño dice que el cateto explicado es corto, que es lo que \(H_0\) predice. El valor \(p\) es la probabilidad de un valor al menos tan grande como el observado si \(H_0\) fuese cierta, \(\mathrm{P}(F_{k-1,\,n-k}>F)\), y Gretl lo imprime al lado del \(F\) al pie de cada tabla.

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.5 (el estadístico \(F\) y su distribución bajo la hipótesis nula); apéndice B (distribuciones \(\chi^2\), \(t\) y \(F\) y la relación \(t^2_{\nu}=F_{1,\nu}\)).

La figura es similar a la de la lección 12. Con \(k\) regresores el esquema del triángulo rectángulo de la bondad de ajuste (lección 8) se mantiene intacto: \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\) y también se mantiene que \(R^2=\cos^2\theta\). El motivo es que el residuo MCO siempre es ortogonal al subespacio de los regresores; así que, en particular, \(\boldsymbol{\mathop{\widehat e}}\perp\boldsymbol{\mathop{\widehat y}}-\boldsymbol{\mathop{\overline y}}\) puesto que los vectores \(\boldsymbol{\mathop{\widehat y}}\) y \(\boldsymbol{\mathop{\overline y}}\) son combinación lineal de los regresores. Lo único que cambia en esta figura respecto a la lección 12 es el eje horizontal: el cateto explicado ya no es un múltiplo del regresor no constante en desviaciones, porque ahora hay \(k-1\) regresores y \(\boldsymbol{\mathop{\widehat y}}-\boldsymbol{\mathop{\overline y}}\) es una combinación de todos ellos que, en general, no está alineada con ninguno (lección 10). La recta horizontal representa aquí un subespacio de dimensión \(k-1\) (y en la lección 12 correspondía únicamente a los múltiplos del regresor no constante en desviaciones \((\boldsymbol{x}-\boldsymbol{\mathop{\overline x}})\)).

Escribamos \(F\) en términos del triángulo. Sacando los divisores fuera, \[ F=\frac{\mathrm{SEC}/(k-1)}{\mathrm{SRC}/(n-k)}=\frac{n-k}{k-1}\cdot\frac{\mathrm{SEC}}{\mathrm{SRC}}, \] y como \(\mathrm{SEC}/\mathrm{SRC}=R^2/(1-R^2)\),⁸ \[ F=\frac{n-k}{k-1}\cdot\frac{R^2}{1-R^2}. \] Es la misma estructura que la identidad de la lección 12 con un factor distinto: allí \(t^2=(n-k)\,R^2/(1-R^2)\); aquí el \(n-k\) se divide además por \(k-1\). (En el apéndice, sección 5.5 (html), la misma identidad sale de escribir el \(F\) con las coordenadas del vector de datos en desviaciones en una base ortonormal.) En los dos casos el estadístico es una función únicamente del ángulo \(\theta\) (vía \(R^2=\cos^2\theta\)) y de las dimensiones de los subespacios donde viven los catetos. Y en los dos casos vale la misma lectura: el contraste no mide nada que el \(R^2\) no midiera ya; lo que añade es el factor que cuenta cuántas dimensiones respaldan ese ángulo. Un \(R^2\) dado es tanto más sorprendente cuantas más observaciones haya (\(n-k\) grande) y cuantos menos regresores se hayan usado para conseguirlo (\(k-1\) pequeño).

La razón está en cuánto \(R^2\) produce el azar por sí solo. Bajo \(H_0\), las \(n-1\) coordenadas del ruido de la sección ``El estadístico \(F\)'' son, con normalidad, independientes y con la misma distribución (apéndice, Resultado 3 (html)); lo que sigue son afirmaciones sobre esperanzas de sumas de sus cuadrados, como en la sección ``El estadístico \(F\)''.⁹ Tomemos en ese espacio una base ortonormal cuyos \(k-1\) primeros vectores generen el subespacio de los regresores en desviaciones. Para cada realización, \(\mathrm{STC}\) es la suma de los cuadrados de las \(n-1\) coordenadas del vector de datos en desviaciones; evaluadas sobre la muestra aleatoria, esas \(n-1\) coordenadas tienen la misma distribución (isotropía), de modo que cada cuadrado se lleva, en esperanza, la misma fracción de \(\mathrm{STC}\), \(1/(n-1)\). El cateto explicado, \(\mathrm{SEC}\), es la suma de las \(k-1\) primeras. Así que, cuando \(H_0\) es cierta, \(R^2=\mathrm{SEC}/\mathrm{STC}\) vale en promedio \((k-1)/(n-1)\): ese es el \(R^2\) que se obtiene sin que los regresores tengan nada que ver con el regresando. Crece con el número de regresores, porque cada regresor añadido aporta una coordenada más al cateto explicado; y decrece con \(n\), porque el mismo número de coordenadas es una fracción menor del total. Un \(R^2\) de \(0{,}30\) dice cosas distintas con \(n=11\) y \(k=4\), donde el azar da \(0{,}30\) en promedio, que con \(n=101\) y \(k=2\), donde el azar da \(0{,}01\).

El estadístico \(F\) compara el \(R^2\) observado con esa referencia: sustituyendo \(R^2=(k-1)/(n-1)\) en la fórmula sale \(F=1\) exactamente. Y es la misma referencia que usa el \(R^2\) ajustado de la actividad 5 (html) de la práctica que siguió a la lección 10: \(\bar R^2=1-(1-R^2)\frac{n-1}{n-k}\) vale cero en ese mismo punto. Las dos herramientas descuentan lo mismo, el ajuste que el azar regala por cada regresor; el \(\bar R^2\) lo hace para comparar modelos y el \(F\) para decidir si lo que sobra de ese descuento es demasiado para ser casualidad. Con \(k=2\) la referencia es \(1/(n-1)\), y eso explica la propiedad que la lección 12 enunció sin demostrar: que en dimensión alta dos direcciones tomadas al azar son casi ortogonales. Con un solo regresor el subespacio de los regresores en desviaciones es una recta, y \(R^2=\cos^2\theta\) es el cuadrado del coseno del ángulo entre el vector de datos en desviaciones y esa recta. Ese cuadrado vale en promedio \(1/(n-1)\) porque la recta es una sola de las \(n-1\) direcciones ortonormales, y las \(n-1\) coordenadas del ruido sobre ellas, evaluadas sobre la muestra aleatoria, tienen la misma distribución y el mismo cuadrado esperado; las otras \(n-2\) direcciones se quedan con el resto. Cuantas más observaciones, más direcciones compiten con la del regresor y menor es la parte que le toca. Un ángulo pequeño con una dirección fija exige que casi toda la longitud caiga precisamente en ella, y el azar no tiene ningún motivo para hacerlo. Los números: con \(n=5\) el promedio de \(\cos^2\theta\) es \(1/4\), el de un ángulo de \(60^\circ\); con \(n=1002\) es \(1/1001\), el de un ángulo de \(88{,}2^\circ\). Es la figura del cono de la lección 12: con mil observaciones casi todo el azar cae en la rendija vertical. La conclusión: con muchos datos, \(H_0\) se rechaza en cuanto el ángulo se desvía ligeramente de los \(90^\circ\), porque con \(H_0\) cierta el azar casi nunca produce ni siquiera esa pequeña desviación. Un \(R^2\) minúsculo basta entonces para rechazar.

El caso \(k=2\) es el de la lección 12. Con un único regresor no constante, \(k-1=1\) y la fórmula se reduce a \(F=(n-2)\,\mathrm{SEC}/\mathrm{SRC}\), que es \(t^2\). También coincide el valor crítico, porque la \(F_{1,\,n-k}\) es la distribución del cuadrado de una \(t_{n-k}\) (apéndice, sección 10 (html): con \(q=1\) el numerador del \(F\) es el cuadrado del numerador de la \(t\), y el denominador es el mismo), de modo que \(F_c=t_c^2\) y las dos reglas de decisión rechazan en los mismos casos. Es lo que el laboratorio anterior verificó sobre hprice2 con restrict (actividad 3 (html)), y lo que el ejemplo de juguete de la lección 8 permite comprobar con números redondos: \(\mathrm{SEC}=90\), \(\mathrm{SRC}=10\), \(n=5\), luego \(F=(90/1)/(10/3)=27\), el mismo \(t^2=27\) de la lección 12; y el valor crítico al \(5\,\%\) de la \(F_{1,3}\) es \(10{,}13\), el cuadrado del \(3{,}18\) de la \(t_3\). Se rechaza por las dos vías, y por el mismo margen.

También la región crítica se lee igual que en la lección 12: rechazar cuando \(F>F_c\) equivale a rechazar cuando el ángulo \(\theta\) es menor que un ángulo crítico \(\theta_c\) (un cono alrededor del subespacio de los regresores en desviaciones), y la abertura de ese cono depende de las dos dimensiones. Con los números de la transparencia siguiente (\(n=506\), \(k=4\)), la abertura al \(5\,\%\) es de \(82{,}9^\circ\): casi todo el espacio, por la misma razón que en la lección 12: en dimensión alta el azar solo produce ángulos próximos a \(90^\circ\).

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.5, apartado ``The \(R\)-squared form of the \(F\) statistic''.

Toda tabla de regresión de Gretl termina con dos líneas de resumen que, hasta hoy, habíamos leído solo en parte: el \(R^2\) y la ``D.T. de la regresión'', que es la \(\mathfrak s\) de la lección 12 (la raíz de la cuasivarianza de los residuos), y a su lado un ``\(F(k-1,\,n-k)\)'' con su valor \(p\). Ese \(F\) es el estadístico de significación conjunta de esta lección: contrasta, automáticamente y para cualquier modelo que se estime, la hipótesis de que todos los coeficientes de los regresores no constantes son cero a la vez. Los dos números entre paréntesis se denominan grados de libertad y son las dimensiones de los subespacios donde viven los catetos del triángulo.

Tomemos el modelo de la actividad 3 (html) de la práctica sobre hprice2 que siguió a la lección 10, el precio mediano de la vivienda sobre el número de habitaciones, la contaminación y la ratio alumnos/profesor del distrito. Con \(n=506\) y \(k=4\) (tres regresores más la constante), las dimensiones son \(k-1=3\) y \(n-k=502\). Todo lo que hace falta para reconstruir el \(F\) está en la tabla o sale de ella con la lección 8: \(\mathrm{SRC}\) lo imprime Gretl; \(\mathrm{STC}\) se obtiene de \(R^2=1-\mathrm{SRC}/\mathrm{STC}\), y \(\mathrm{SEC}=\mathrm{STC}-\mathrm{SRC}=2{,}572\cdot10^{10}\). Dividiendo cada cateto por su dimensión, el numerador vale \(8{,}573\cdot10^9\) y el denominador \(3{,}408\cdot10^7\), que es \(\mathfrak s^2=5837{,}8^2\), como debe. El cociente es \(251{,}5\), el \(F\) de la tabla. Por la otra vía, \(\frac{502}{3}\cdot\frac{0{,}6005}{0{,}3995}=251{,}5\), el mismo número.

El valor crítico de la \(F_{3,502}\) al \(5\,\%\) es \(2{,}62\), y al \(1\,\%\), \(3{,}82\); el estadístico observado es cien veces mayor y el valor \(p\) es del orden de \(10^{-99}\). Se rechaza \(H_0\): datos como estos serían muy raros si rooms, nox y stratio tuvieran, a la vez, coeficiente nulo. La magnitud también se lee: \(F=251{,}5\) dice que, por dimensión, el cateto explicado tiene una longitud al cuadrado doscientas cincuenta veces mayor que la del residuo; si \(H_0\) fuese cierta esa razón debería rondar \(1\).

Y lo que el \(F\) no dice, que la sección ``Qué dice y qué no dice el \(F\)'' desarrollará. Rechazar \(H_0\!:\beta_2=\beta_3=\beta_4=0\) es rechazar que los tres sean nulos a la vez; es compatible con que dos de ellos lo sean. El \(F\) conjunto no señala a ningún regresor en particular, ni dice nada de la magnitud de los efectos: para eso están las columnas de la tabla y los intervalos de confianza de la lección 12.

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.5, apartado ``The \(F\) statistic for overall significance of a regression''; y sección 4.6 (cómo se presentan los resultados, incluido el \(F\)).

Empecemos por la geometría, porque es lo que permite tratar con una única herramienta todas las hipótesis de esta sección. Imponer \(q\) restricciones lineales sobre los coeficientes (excluir un regresor, igualar dos coeficientes, fijar un valor) equivale a exigir que el ajuste sea una combinación lineal de los regresores de un tipo particular. El conjunto de esas combinaciones es un subespacio menor que \(\mathcal L(\boldsymbol 1,\boldsymbol x_2,\ldots,\boldsymbol x_k)\), contenido en él, con \(q\) dimensiones menos.¹⁰ El ajuste restringido \({\boldsymbol{\mathop{\widehat y}}}_r\) es la proyección de \(\boldsymbol y\) sobre ese subespacio menor (lo que Gretl calcula al estimar, por ejemplo, el modelo sin nox ni stratio a la vez), y su suma de cuadrados residual, \(\mathrm{SRC}_r=\Vert\boldsymbol y-{\boldsymbol{\mathop{\widehat y}}}_r\Vert_e^2\), es necesariamente mayor o igual que la del modelo completo: proyectar sobre un subespacio más pequeño nunca acerca más. Es la propiedad que la lección 8 anunció como ``\(R^2\) nunca empeora al añadir regresores'' y que la práctica del \(R^2\) ajustado hizo explícita (actividad 4 (html)): quitar regresores nunca reduce \(\mathrm{SRC}\). La figura de la izquierda en la transparencia, repetida aquí más grande, lo muestra: el plano es el subespacio de los regresores; la recta dentro de él representa el subespacio restringido; \(\boldsymbol{\mathop{\widehat y}}\) es la ``sombra'' de \(\boldsymbol y\) sobre el plano y \({\boldsymbol{\mathop{\widehat y}}}_r\) su ``sombra'' sobre la recta, más lejos de \(\boldsymbol y\).

Con esa imagen delante, la definición general. Una hipótesis lineal es un sistema de \(q\) ecuaciones lineales sobre los coeficientes del modelo poblacional, y el ajuste pierde una dimensión por cada ecuación. El modelo que cumple esas ecuaciones y el modelo completo están anidados: el restringido es un caso particular del completo, porque cada combinación lineal de los regresores que el restringido admite la admite también el completo. Geométricamente, el subespacio restringido está contenido en el de los regresores, como la recta dentro del plano de la figura. Tres ejemplos que reaparecerán con números en la transparencia siguiente: excluir dos regresores a la vez, \(\beta_3=\beta_4=0\) (\(q=2\)); excluir uno solo, \(\beta_4=0\) (\(q=1\), el contraste \(t\) de siempre); y una hipótesis que no excluye ningún regresor, sino que relaciona dos coeficientes, \(\beta_3=\beta_4\) (\(q=1\)). Otras fijan un valor (una elasticidad unitaria, \(\beta_2=1\)) o una suma (rendimientos constantes a escala, \(\beta_2+\beta_3=1\), que veremos al hablar de la función de producción). La significación conjunta de las transparencias anteriores es solo una de ellas, y no siempre la más interesante: su subespacio restringido es \(\mathcal L(\boldsymbol 1)\).

En términos de este esquema geométrico, la pregunta del contraste es cuánto crece \(\mathrm{SRC}\) al imponer las restricciones. Si \(H_0\) es cierta, el modelo restringido es el verdadero y el aumento \(\mathrm{SRC}_r-\mathrm{SRC}\) es solo la parte de la perturbación realizada que recogían por azar las \(q\) direcciones del plano de los regresores ortogonales al subespacio restringido, las que el modelo completo tiene y el restringido no (apéndice, sección 6.4 (html): bajo \(H_0\), las coordenadas de la parte sistemática en esas \(q\) direcciones son nulas). Si \(H_0\) es falsa, las restricciones le quitan al ajuste algo que sí lo acercaba a \(\boldsymbol y\), y el aumento es grande. Para medirlo hace falta el resultado que hoy demostramos:

Proposición (Pitágoras anidado). Los dos ajustes cumplen \(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\perp\boldsymbol{\mathop{\widehat e}}\), y por tanto \[ \mathrm{SRC}_r=\mathrm{SRC}+\Vert\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\Vert_e^2. \]

Demostración. El ajuste restringido \({\boldsymbol{\mathop{\widehat y}}}_r\) es una combinación lineal de los regresores (de un tipo particular), luego pertenece a \(\mathcal L(\boldsymbol 1,\boldsymbol x_2,\ldots,\boldsymbol x_k)\); y \(\boldsymbol{\mathop{\widehat y}}\) también. Su diferencia está, por tanto, en ese subespacio, y el residuo del modelo completo es ortogonal a todo él (lección 10: \(\boldsymbol{\mathop{\widehat e}}\boldsymbol{\mathsf X}=\boldsymbol 0\)). Así que \(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\perp\boldsymbol{\mathop{\widehat e}}\). Ahora escribimos el residuo restringido como suma de dos vectores ortogonales: \[ \boldsymbol y-{\boldsymbol{\mathop{\widehat y}}}_r=(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r)+(\boldsymbol y-\boldsymbol{\mathop{\widehat y}})=(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r)+\boldsymbol{\mathop{\widehat e}}. \] Aplicando el teorema de Pitágoras de la lección 3, \(\Vert\boldsymbol y-{\boldsymbol{\mathop{\widehat y}}}_r\Vert_e^2=\Vert\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\Vert_e^2+\Vert\boldsymbol{\mathop{\widehat e}}\Vert_e^2\), que es la igualdad anunciada. \(\blacksquare\)

La figura hace visible un hecho más: \({\boldsymbol{\mathop{\widehat y}}}_r\) es también la proyección de \(\boldsymbol{\mathop{\widehat y}}\) sobre el subespacio restringido. Llamemos \(\boldsymbol v_r\) a la ``sombra'' de \(\boldsymbol{\mathop{\widehat y}}\) sobre ese subespacio: es el vector del subespacio restringido tal que \(\boldsymbol{\mathop{\widehat y}}-\boldsymbol v_r\) es ortogonal a dicho subespacio (la condición de ortogonalidad que caracteriza la proyección, lecciones 6 y 10). Ahora bien, \(\boldsymbol y-\boldsymbol v_r=(\boldsymbol y-\boldsymbol{\mathop{\widehat y}})+(\boldsymbol{\mathop{\widehat y}}-\boldsymbol v_r)\), y los dos sumandos son ortogonales al subespacio restringido: el primero porque \(\boldsymbol{\mathop{\widehat e}}\) es ortogonal a todo el plano y el subespacio restringido es una parte del plano; el segundo por la definición de \(\boldsymbol v_r\). Luego \(\boldsymbol y-\boldsymbol v_r\) es ortogonal al subespacio restringido, y como \(\boldsymbol v_r\) está en él, \(\boldsymbol v_r\) es la ``sombra'' de \(\boldsymbol y\): es decir, \(\boldsymbol v_r={\boldsymbol{\mathop{\widehat y}}}_r\). Así que \(\boldsymbol y\) y \(\boldsymbol{\mathop{\widehat y}}\) tienen la misma ``sombra'' sobre el subespacio restringido. La proyección puede hacerse en dos pasos, primero sobre el plano y después sobre la recta.

Fíjese que la figura marca tres ángulos rectos, y cada uno tiene su lectura. Uno está en el punto donde termina el vector \(\boldsymbol{\mathop{\widehat y}}\), que es donde acaba el cateto \(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\) y empieza el cateto \(\boldsymbol{\mathop{\widehat e}}\): es el ángulo recto del triángulo sombreado, y es recto porque el primer cateto está en el plano y el segundo es ortogonal a todo el plano. Los otros dos están en el punto donde termina el vector \({\boldsymbol{\mathop{\widehat y}}}_r\), y en ambos uno de los catetos está sobre la recta del subespacio restringido. El que forma con \(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\) es la condición de ortogonalidad que define a \({\boldsymbol{\mathop{\widehat y}}}_r\) como ``sombra'' de \(\boldsymbol{\mathop{\widehat y}}\); el que forma con \(\boldsymbol y-{\boldsymbol{\mathop{\widehat y}}}_r\) es lo que acabamos de demostrar, que \({\boldsymbol{\mathop{\widehat y}}}_r\) es también la ``sombra'' de \(\boldsymbol y\). El primero de esos dos dice además en qué subespacio está \(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\): en el de los vectores del plano de los regresores ortogonales al subespacio restringido. Ese subespacio tiene dimensión \(q\) y es el eje horizontal del triángulo de la derecha de la transparencia.

Volvamos al Pitágoras anidado. La proposición es la de la lección 8 (\(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\)) con el vector de medias sustituido por el ajuste restringido, y la figura de la transparencia es la de la lección 8 con esa sustitución: hipotenusa \(\boldsymbol y-{\boldsymbol{\mathop{\widehat y}}}_r\), catetos \(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\) y \(\boldsymbol{\mathop{\widehat e}}\). El aumento de la suma de cuadrados residual al imponer las restricciones es la longitud al cuadrado del cateto \(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\): \(\mathrm{SRC}_r-\mathrm{SRC}=\Vert\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\Vert_e^2\). Ese cateto es lo que el ajuste completo añade al restringido, porque \(\boldsymbol{\mathop{\widehat y}}={\boldsymbol{\mathop{\widehat y}}}_r+(\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r)\), y pertenece al subespacio de dimensión \(q\) del párrafo anterior, el de los vectores del plano de los regresores ortogonales al subespacio restringido. Así que ese cateto tiene \(q\) dimensiones, igual que el residuo tiene \(n-k\). Con esto, el estadístico se construye igual que el de significación conjunta, cada cateto dividido por su dimensión: \[ F=\frac{(\mathrm{SRC}_r-\mathrm{SRC})/q}{\mathrm{SRC}/(n-k)}=\frac{\Vert\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\Vert_e^2/q}{\mathfrak s^2}. \] El mismo reparto por dimensión de la sección ``El estadístico \(F\)'' hace que, bajo \(H_0\), numerador y denominador estimen ambos \(\sigma^2\). Su distribución bajo \(H_0\) es la \(F_{q,\,n-k}\) (la demostración está en el apéndice, sección 10 (html)), y la regla es la de siempre: rechazar si \(F>F_c\). La significación conjunta es el caso particular en que el subespacio restringido es \(\mathcal L(\boldsymbol 1)\): entonces \({\boldsymbol{\mathop{\widehat y}}}_r=\boldsymbol{\mathop{\overline y}}\), \(\mathrm{SRC}_r=\mathrm{STC}\), el aumento es \(\mathrm{SEC}\) y \(q=k-1\). Las transparencias anteriores trataban este caso.

Cualquier par de modelos anidados, es decir, cualquier hipótesis lineal, se contrasta con la misma receta: estimar los dos, leer las dos sumas de cuadrados residuales, contar \(q\) y \(n-k\).

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.5 (``Testing exclusion restrictions'' y ``Testing general linear restrictions''); y sección 4.4 (contraste de una única combinación lineal de coeficientes, el caso \(q=1\)).

Los tres contrastes de la tabla se hacen sobre el mismo modelo completo de la sección ``El \(F\) en una tabla de resultados'', de modo que el denominador es siempre el mismo: \(\mathrm{SRC}/(n-k)=\mathfrak s^2=3{,}408\cdot10^7\), la cuasivarianza de los residuos de la lección 11, cuya raíz, \(\mathfrak s=5837{,}8\), es la ``D.T. de la regresión'' de Gretl. Lo que cambia de fila a fila es el numerador, es decir, el modelo restringido que se compara.

Primera fila: dos exclusiones a la vez, \(H_0\!:\beta_{\text{nox}}=\beta_{\text{stratio}}=0\). El modelo restringido es la regresión simple de price sobre rooms que arrastramos desde el laboratorio que siguió a la lección 8 (actividad 2 (html)), con \(\mathrm{SRC}_r=2{,}209\cdot10^{10}\). El aumento al quitar los dos regresores es \(4{,}985\cdot10^9\), que repartido entre \(q=2\) dimensiones y dividido por \(\mathfrak s^2\) da \(F=73{,}1\), frente a un valor crítico \(F_c(2,502)=3{,}01\), con un valor \(p\) del orden de \(10^{-28}\). Se rechaza: la contaminación y la ratio alumnos/profesor añaden, juntas, mucho más de lo que dos direcciones de azar suelen añadir. Es la respuesta a la pregunta ``¿sobran estas dos variables?'', que ningún \(t\) individual formula.

Segunda fila: una exclusión, \(H_0\!:\beta_{\text{stratio}}=0\). Ahora el modelo restringido es price sobre rooms y nox, con \(\mathrm{SRC}_r=1{,}991\cdot10^{10}\); el aumento es \(2{,}799\cdot10^9\), \(q=1\), y \(F=82{,}1\). Compárese con la tabla de la sección ``El \(F\) en una tabla de resultados'': el \(t\) de stratio era \(-9{,}06\), y \((-9{,}06)^2=82{,}1\). Es la identidad \(F=t^2\) con \(q=1\), ahora en un modelo con varios regresores: el contraste \(t\) de un coeficiente es el contraste \(F\) de una única restricción de exclusión, y el valor crítico \(F_c(1,502)=3{,}86\) es el cuadrado del \(t_c=1{,}96\) de la lección 12. Con \(k=2\) lo demostró la transparencia ``Lectura geométrica: la misma figura''; con varios regresores lo comprobamos aquí con números, y su demostración general usa la fórmula de \(\mathrm{ee}(\hat\beta_j)\) que la lección 12 enunció y que la lección 14 leerá con la parte propia del regresor; el apéndice (sección 10) (html) la demuestra con \(q=1\) para cualquier número de regresores, a partir de la fórmula del error estándar de su sección 5.4. Gretl lo confirma si se le pide la restricción con restrict o desde el menú: devuelve un \(F(1,502)\) idéntico al \(t^2\), con el mismo valor \(p\).

Tercera fila: una igualdad, \(H_0\!:\beta_{\text{nox}}=\beta_{\text{stratio}}\) (``una unidad más de contaminación cuesta lo mismo que un alumno más por profesor''). Esta hipótesis no excluye ningún regresor, así que hay que decir cuál es su modelo restringido. Bajo \(H_0\), la combinación \(\beta_{\text{nox}}\boldsymbol x_{\text{nox}}+\beta_{\text{stratio}}\boldsymbol x_{\text{stratio}}\) se convierte en \(\beta_{\text{nox}}(\boldsymbol x_{\text{nox}}+\boldsymbol x_{\text{stratio}})\): los dos regresores se funden en uno, la suma, y el modelo restringido es la regresión de price sobre rooms y nox \(+\) stratio. Su \(\mathrm{SRC}_r\) es \(1{,}723\cdot10^{10}\), apenas por encima del completo: el aumento es \(1{,}213\cdot10^8\) y \(F=3{,}56\), ligeramente por debajo del valor crítico \(3{,}86\). No se rechaza al \(5\,\%\), con un valor \(p\) de \(0{,}060\) que conviene informar tal cual: datos como estos serían algo raros si los dos efectos fuesen iguales, pero no lo bastante para rechazar al \(5\,\%\), y la lección 12 ya advirtió que ``no rechazar'' no es ``aceptar''. Esta fila muestra que imponer una restricción es cambiar de subespacio, no necesariamente recortar regresores: el subespacio \(\mathcal L(\boldsymbol 1,\boldsymbol x_{\text{rooms}},\boldsymbol x_{\text{nox}}+\boldsymbol x_{\text{stratio}})\) tiene una dimensión menos que el completo, pero no se obtiene quitando ninguna columna de \(\boldsymbol{\mathsf X}\).¹¹

En Gretl, las tres filas se obtienen sin estimar a mano el modelo restringido: en la ventana del modelo completo, el menú Contrastes -> Restricciones lineales (o el bloque restrict que el laboratorio anterior usó con b[2]=0, actividad 3 (html)) acepta cualquier sistema de ecuaciones lineales sobre los coeficientes y devuelve el \(F\) con sus dos grados de libertad y su valor \(p\). Un laboratorio posterior lo aplicará con varias restricciones a la vez y comprobará, estimando los dos modelos, que el \(F\) que imprime es el cociente de sumas de cuadrados de esta lección.

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.4 (contrastar \(\beta_j=\beta_h\) como un \(t\) con la covarianza de los estimadores, y por qué la vía del modelo restringido es más cómoda); manual de Gretl, comando restrict.

Volvamos a la tabla con la que abrimos la sesión, ahora con la herramienta para leerla. Las tres filas de la transparencia son tres regresiones del precio mediano de la vivienda: sobre rooms y la concentración de óxidos de nitrógeno nox; sobre rooms y el logaritmo de esa concentración, lnox; y sobre rooms y las dos medidas a la vez. Las dos primeras dicen lo mismo: el coeficiente de la contaminación es negativo y se separa con claridad de cero, con un \(t\) de \(-7{,}4\) o \(-7{,}5\) y un \(R^2\) de \(0{,}535\) o \(0{,}536\). Medirla en niveles o en logaritmos apenas cambia el resultado, porque la correlación entre nox y lnox es \(0{,}994\); en el lenguaje de la lección 5, sus vectores en desviaciones forman un ángulo de unos \(6^\circ\), prácticamente la misma dirección.

La tercera fila, leída fila a fila, dice otra cosa. Con las dos medidas en el modelo, el \(t\) de nox cae a \(0{,}18\) y el de lnox a \(-1{,}05\); los valores \(p\) son \(0{,}854\) y \(0{,}295\), y la lectura fila a fila de la lección 12 podría llevar a asumir que ninguna de las dos interviene. Pero el \(R^2\) apenas ha cambiado (\(0{,}5362\)) y el \(F\) de excluir las dos a la vez vale \(F(2,502)=28{,}2\) frente a un crítico de \(3{,}01\): quitar la contaminación del modelo, en cualquiera de sus dos formas, empeora el ajuste. Los dos coeficientes juntos son significativos; cada uno, en presencia del otro, no lo es.

La lección 12 dio la clave en su recapitulación: con varios regresores, el error estándar de \(\hat\beta_j\) es \(\mathfrak s/\Vert\tilde{\boldsymbol x}_j\Vert_e\), donde \(\tilde{\boldsymbol x}_j\) es lo que le queda de propio al regresor \(j\) tras descontar lo que comparte con los demás. Cuando nox y lnox están los dos en el modelo, casi todo lo que tiene cada uno lo comparte con el otro. La parte propia de cada uno es un vector muy corto, el error estándar de cada coeficiente se dispara y el \(t\) se hunde: compárense los errores estándar de nox y lnox en la tabla de la apertura, \(2198{,}85\) y \(12655{,}7\), con los \(236{,}25\) que tenía nox en el modelo con rooms y stratio, sin lnox, en la sección ``El \(F\) en una tabla de resultados''. El contraste \(t\) de nox pregunta si nox aporta algo que lnox no aporte ya, y los datos no permiten afirmar que aporte; y lo mismo al revés. Pero esa es una pregunta sobre la dirección propia de cada regresor, no sobre el subespacio que generan entre los dos. Ese subespacio, un plano dentro de \(\mathcal L(\boldsymbol 1)^\perp\), sí acerca el ajuste a \(\boldsymbol y\): la dirección que nox y lnox comparten recoge una parte grande de la variación del precio, aunque ninguno de los dos añada nada al otro. El \(F\) de excluir ambas mide eso: cuánto se alarga el residuo si se suprime el plano entero. Por eso el \(F\) es grande mientras los dos \(t\) son pequeños.

Esta situación tiene nombre, colinealidad, y le dedicaremos la lección 14. La lectura correcta de la tabla importa porque el error contrario es frecuente en informes y artículos: ante dos regresores con \(t\) pequeños, eliminar los dos ``porque no son significativos''. El contraste conjunto dice que eso es un error: los datos no permiten separar el efecto de uno del efecto del otro, pero el \(F\) rechaza que sobren los dos a la vez. La respuesta razonable es quedarse con uno de los dos (cualquiera de las dos primeras filas) o, si la pregunta económica exige distinguirlos, reconocer que estos datos no lo permiten. Es la moraleja de la lección 12, que con un solo regresor no constante decía que para medir un efecto hace falta que la variable varíe, trasladada a más regresores: para medir el efecto de cada uno hace falta que cada uno varíe por su cuenta.

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.5, apartado ``Relationship between \(F\) and \(t\) statistics'' (el ejemplo en que ningún \(t\) es significativo y el \(F\) sí lo es); y cap. 3, sección 3.4, apartado sobre multicolinealidad.

Todo lo que la lección 12 dijo sobre la lectura del \(t\) vale para el \(F\), y la forma \(F=\frac{n-k}{k-1}\cdot\frac{R^2}{1-R^2}\) lo muestra: el estadístico es el producto de un factor que mide la fuerza de la relación en la muestra (el ángulo, el \(R^2\)) y otro que solo cuenta dimensiones. La tabla de la transparencia repite, con \(k=4\), el experimento de la lección 12: tres casos inventados, no procedentes de datos, con el \(F\) calculado con la fórmula a partir de \(n\) y \(R^2\). Las dos primeras filas tienen el mismo \(R^2\) de \(0{,}90\), el mismo ángulo de \(18{,}4^\circ\), y veredictos opuestos: con \(n=6\) hay solo \(n-k=2\) dimensiones para el residuo, el valor crítico de la \(F_{3,2}\) es \(19{,}16\) y un \(F\) de \(6\) no basta; con \(n=10\) el valor crítico baja a \(4{,}76\) y \(F=18\) rechaza la \(H_0\) con holgura. La tercera fila hace el camino inverso: un \(R^2\) del \(1\,\%\) (un ángulo de \(84^\circ\), casi ortogonalidad) resulta conjuntamente significativo con mil observaciones. La comparación con la tabla análoga de la lección 12 muestra lo que el \(F\) añade al \(t\): el número de regresores también cuenta. Allí, con \(k=2\), bastaban \(n=5\) observaciones para que un \(R^2=0{,}90\) llevase a rechazar \(H_0\); aquí, con \(k=4\), hacen falta más datos (en la tabla, \(n=10\)), porque un mismo valor del \(R^2\) alcanzado con tres regresores no constantes es más fácil de obtener por azar que con uno solo: hay más direcciones sobre las que proyectar, y el azar regala, en promedio, \(1/(n-1)\) de \(R^2\) por cada una de ellas, \((k-1)/(n-1)\) en total. Dividir el numerador de \(F\) entre \(k-1\) compensa ese regalo, porque lo que \(F\) compara no son las longitudes de los dos catetos, sino lo que cada uno mide por dirección: el cateto explicado repartido entre sus \(k-1\) direcciones y el residuo repartido entre sus \(n-k\) (sección ``El estadístico \(F\)''). Bajo \(H_0\) los dos repartos estiman lo mismo, \(\sigma^2\), sea cual sea \(k\): con más regresores el cateto explicado crece por azar en proporción, y el reparto lo descuenta. Es la misma idea que motivó el \(R^2\) ajustado.

Hay una segunda advertencia, propia del \(F\). El \(F\) que Gretl imprime al pie de cada tabla contrasta la significación conjunta de todos los regresores: la hipótesis de que ninguno de ellos mejore el ajuste, es decir, de que el modelo no explique nada mejor que la media. Es una prueba de mínimos sobre la validez del modelo: si no se rechaza, no hay nada que interpretar en la tabla. Pero superar ese mínimo dice muy poco del modelo, porque nadie estima un modelo con regresores elegidos al azar; y con muestras grandes se supera casi sin excepción, como muestra la tercera fila de la tabla. En un contraste de significación global, un \(F\) grande no dice nada nuevo; uno pequeño en una muestra grande es una señal de alarma. Los contrastes \(F\) que responden a una pregunta del investigador son los de la transparencia ``Tres restricciones sobre hprice2'': ¿sobran estas dos variables?, ¿tienen el mismo efecto?, ¿vale uno la elasticidad?, ¿son constantes los rendimientos a escala?; preguntas cuya respuesta decide cómo se especifica el modelo o qué se concluye de él. El contraste de significación global conviene mirarlo una vez y no volver sobre él.

La tercera advertencia es la que el laboratorio anterior ilustró con doce viviendas para el \(t\) (actividad 5 (html)), y que vale igual para el \(F\). Con las doce viviendas de aquella actividad (sorteadas una sola vez, con semilla fija para poder reproducir el resultado) y el modelo de rooms, nox y stratio, el \(F(3,8)\) de significación conjunta fue \(9{,}55\) frente a un valor crítico de \(4{,}07\): se rechaza \(H_0\): datos como estos serían muy raros (\(p=0{,}005\)) si los tres coeficientes fuesen nulos a la vez. Y sin embargo el \(t\) de stratio es \(-0{,}10\), el de nox, \(-2{,}6\), apenas supera el crítico \(2{,}31\), y los intervalos de confianza de los tres coeficientes son muy anchos. El rechazo de \(H_0\) dice que algo del subespacio de los regresores mejora el ajuste del precio; no dice qué, ni cuánto, ni con qué precisión. Como en la lección 12, lo que informa es el coeficiente en las unidades del problema y su intervalo, y un \(F\), como un \(t\), solo dice si la desviación respecto a la hipótesis es distinguible del azar. Un \(F\) que no rechaza \(H_0\) tampoco prueba que las restricciones sean ciertas: es la ausencia de evidencia en su contra, y con pocas observaciones esa ausencia es frecuente aunque \(H_0\) sea falsa.

Y, como siempre, nada de esto establece causalidad. Un \(F\) conjunto significativo dice que la proyección de \(\boldsymbol y\) sobre el subespacio de los regresores es más larga de lo que el azar produciría; de si alguno de esos regresores causa el regresando no dice nada, por las mismas razones de las lecciones 8, 9 y 12. Las correlaciones espurias producen \(F\) grandes igual que producen \(t\) grandes.

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.2f (significación económica frente a estadística, que se aplica sin cambios al \(F\)) y sección 4.5, apartado sobre el valor \(p\) del contraste \(F\).

La sesión tiene un solo ingrediente nuevo. Todo el aparato (el triángulo, las sumas de cuadrados, el \(R^2\), la cuasivarianza \(\mathfrak s^2\), la isotropía de las coordenadas del ruido bajo normalidad) estaba ya disponible desde las lecciones 8, 11 y 12. Lo único que hoy hemos añadido es una idea: comparar los dos catetos por dimensión, dividiendo cada suma de cuadrados por el número de direcciones del subespacio donde vive. Con ella, el contraste \(t\) de la lección 12 resulta ser el caso de una sola dirección, y el contraste de cualquier hipótesis lineal sobre los coeficientes (excluir, igualar, fijar) se reduce a una única receta: estimar el modelo con y sin la hipótesis, leer las dos sumas de cuadrados residuales y contar dimensiones.

La tabla resume las piezas. Como en la lección 12, distingamos lo demostrado de lo enunciado. Se ha demostrado, con material del propio curso, el Pitágoras anidado (el aumento de la suma de cuadrados residual al imponer restricciones es la longitud al cuadrado de un cateto ortogonal al residuo) y las identidades \(F=\frac{n-k}{k-1}\frac{R^2}{1-R^2}\) y, con \(k=2\), \(F=t^2\). La distribución \(F_{q,\,n-k}\) del estadístico bajo \(H_0\) se ha enunciado en la sesión, igual que la \(t\) de Student en la lección 12; el apéndice (html) la demuestra (sección 10) a partir de una única propiedad de la normal que queda enunciada. Que numerador y denominador estimen los dos \(\sigma^2\) bajo \(H_0\) solo usa homocedasticidad e incorrelación, y está demostrado (apéndice, sección 7 (html)). La parte geométrica está demostrada en la sesión; la probabilística, en el apéndice (html).

Quedan dos hilos abiertos. El primero es el caso de nox y lnox, que hoy hemos sabido leer pero no medir. La lección 12 enunció que con varios regresores \(\mathrm{ee}(\hat\beta_j)=\mathfrak s/\Vert\tilde{\boldsymbol x}_j\Vert_e\), con \(\tilde{\boldsymbol x}_j\) la parte propia del regresor \(j\); hoy hemos visto qué pasa cuando esa parte propia es casi nula: el \(t\) individual se hunde mientras el conjunto sigue siendo significativo. La lección 14 pondrá números a \(\Vert\tilde{\boldsymbol x}_j\Vert_e\), mostrará que se calcula con una regresión auxiliar de \(\boldsymbol x_j\) sobre los demás regresores, y de ahí saldrá el factor de inflación de la varianza, la medida habitual de cuánto encarece la colinealidad cada error estándar. El segundo hilo es de laboratorio. En una práctica posterior se aplicará restrict con varias restricciones simultáneas sobre datos reales, comprobando estimación a estimación que el \(F\) de Gretl es el cociente de sumas de cuadrados de hoy. Y se simulará, con el loop del laboratorio que siguió a la lección 11 (actividad 3 (html)), la distribución del \(F\) bajo una \(H_0\) cierta: los histogramas mostrarán que ronda \(1\) y que la cola derecha es la que Gretl tabula.

Para profundizar: Wooldridge, J. M. (2020), cap. 4, sección 4.5 (resumen del contraste \(F\)); cap. 3, sección 3.4, apartado ``Multicollinearity'' (con el que arranca la lección siguiente).

Las preguntas que más le conviene trabajar son la 3 (fija la idea que vertebra la sesión: bajo \(H_0\) las longitudes al cuadrado de los dos catetos, divididas por su dimensión, estiman lo mismo, y por eso \(F\) ronda \(1\)), la 6 (exige el argumento geométrico exacto del Pitágoras anidado) y la 8 (la lectura correcta de \(t\) individuales pequeños con \(F\) conjunto alto, el error de interpretación más frecuente de la regresión múltiple y el enlace con la lección 14). Repase también la 7: muestra restricciones que no consisten en quitar regresores. La 12 le pide distinguir, como en las lecciones anteriores, qué está demostrado y qué solo enunciado.

El estadístico \(F(k-1,\,n-k)\) que Gretl imprime al pie de toda tabla de regresión contrasta la hipótesis de que:

1. El coeficiente de la constante es cero.
2. Todos los coeficientes de los regresores no constantes son cero a la vez.
3. Al menos uno de los coeficientes es cero.
4. El \(R^2\) es igual a uno.

En \(F=\dfrac{\mathrm{SEC}/(k-1)}{\mathrm{SRC}/(n-k)}\), los números \(k-1\) y \(n-k\) son:

1. El número de regresores y el número de observaciones.
2. Las dimensiones de los subespacios donde viven, respectivamente, el cateto explicado (los regresores en desviaciones) y el residuo.
3. Dos constantes de normalización sin significado geométrico, elegidas para que \(F\) esté entre \(0\) y \(1\).
4. El número de restricciones y el número de coeficientes.

Si \(H_0\!:\beta_2=\cdots=\beta_k=0\) es cierta, ¿por qué cabe esperar que el estadístico \(F\) esté cerca de \(1\)?

1. Porque bajo \(H_0\) el cateto explicado es nulo y \(\mathrm{SEC}=0\).
2. Porque bajo \(H_0\) el vector de datos en desviaciones es la realización de las perturbaciones centradas y, evaluadas sobre la muestra aleatoria, las sumas de cuadrados de cada cateto tienen esperanza \(\sigma^2\) por dimensión (homocedasticidad e incorrelación): \(\mathrm{SEC}/(k-1)\) y \(\mathrm{SRC}/(n-k)\) estiman ambos \(\sigma^2\).
3. Porque \(F\) es siempre igual a \(R^2/(1-R^2)\) y bajo \(H_0\) el \(R^2\) vale \(0{,}5\).
4. Porque la distribución \(F\) es simétrica alrededor de \(1\).

En la regresión simple (\(k=2\)), la relación entre el \(F\) de significación conjunta y el \(t\) del regresor es:

1. \(F=t\), y las dos reglas de decisión son distintas.
2. \(F=t^2\) y \(F_c=t_c^2\): los dos contrastes rechazan en los mismos casos.
3. \(F=t^2\) pero \(F_c=t_c\), así que el \(F\) es más exigente.
4. No hay relación: \(F\) depende de \(R^2\) y \(t\) no.

El contraste \(F\) rechaza \(H_0\) solo cuando \(F\) es grande, nunca cuando es pequeño. La razón es que:

1. La distribución \(F\) no tiene cola izquierda.
2. Un \(F\) pequeño indica que las restricciones son falsas, pero eso no se puede contrastar.
3. \(F\) compara longitudes al cuadrado y no tiene signo: un cateto explicado corto es lo que \(H_0\) predice, así que un \(F\) pequeño nunca es evidencia contra ella.
4. Por convención: se podría usar igualmente la cola izquierda.

¿Por qué se cumple \(\mathrm{SRC}_r=\mathrm{SRC}+\Vert\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\Vert_e^2\) para cualquier hipótesis lineal?

1. Porque los dos ajustes \(\boldsymbol{\mathop{\widehat y}}\) y \({\boldsymbol{\mathop{\widehat y}}}_r\) pertenecen al subespacio de los regresores, luego su diferencia también, y el residuo \(\boldsymbol{\mathop{\widehat e}}\) es ortogonal a todo ese subespacio: \(\boldsymbol y-{\boldsymbol{\mathop{\widehat y}}}_r\) es la suma de dos vectores ortogonales.
2. Porque el residuo restringido \(\boldsymbol y-{\boldsymbol{\mathop{\widehat y}}}_r\) es ortogonal a \(\boldsymbol{\mathop{\widehat e}}\).
3. Porque \(\mathrm{SRC}_r\geq\mathrm{SRC}\) siempre, y la diferencia entre dos sumas de cuadrados es una suma de cuadrados.
4. Solo se cumple cuando las restricciones son de exclusión.

Para contrastar \(H_0\!:\beta_3=\beta_4\) en el modelo con regresores \(\boldsymbol 1,\boldsymbol x_2,\boldsymbol x_3,\boldsymbol x_4\), el modelo restringido es:

1. El que excluye \(\boldsymbol x_3\) y \(\boldsymbol x_4\).
2. El que excluye solo \(\boldsymbol x_4\).
3. La regresión sobre \(\boldsymbol 1\), \(\boldsymbol x_2\) y la suma \(\boldsymbol x_3+\boldsymbol x_4\): los dos regresores se funden en uno y se pierde una dimensión, sin quitar ninguna columna.
4. No existe: una igualdad entre coeficientes no se puede contrastar con un \(F\).

En un modelo, dos regresores tienen valores \(p\) individuales de \(0{,}85\) y \(0{,}30\), pero el \(F\) de excluirlos a la vez tiene un valor \(p\) de \(10^{-12}\). La lectura correcta es:

1. Los dos regresores sobran: se eliminan ambos y se reestima.
2. Hay un error de cálculo, porque un \(F\) conjunto no puede ser significativo si ningún \(t\) lo es.
3. Los dos regresores apuntan casi en la misma dirección: juntos mejoran el ajuste del regresando, pero a cada uno le queda tan poca longitud propia que no se puede separar el efecto de uno del efecto del otro. Es colinealidad, y no autoriza a eliminar los dos.
4. El \(F\) es más fiable que el \(t\), luego los dos coeficientes son individualmente significativos.

Se rechaza \(H_0\!:\beta_2=\beta_3=\beta_4=0\) con un \(F\) muy grande. ¿Qué puede concluirse?

1. Que los tres coeficientes son distintos de cero.
2. Que los tres coeficientes son grandes en términos económicos.
3. Que datos como estos serían muy raros si los tres fuesen cero a la vez; cuáles importan y cuánto hay que leerlo en los coeficientes y sus intervalos.
4. Que el modelo es correcto y los regresores causan el regresando.

Dos regresiones con \(k=4\) tienen el mismo \(R^2=0{,}90\); la primera con \(n=6\) no es conjuntamente significativa y la segunda con \(n=10\) sí. ¿Cómo se explica?

1. Con \(n=6\) el \(R^2\) está mal calculado.
2. \(F=\frac{n-k}{k-1}\frac{R^2}{1-R^2}\) mezcla el ángulo con las dimensiones: el mismo ángulo respaldado por \(n-k=2\) dimensiones residuales es fácil de obtener por azar (con tres regresores y seis puntos casi cualquier cosa se ajusta), y con \(n-k=6\) ya no.
3. La distribución \(F\) solo es válida para \(n\geq10\).
4. Con \(n=6\) el modelo tiene más grados de libertad y por eso es más exigente.

Al imponer \(q\) restricciones se obtiene \(\mathrm{SRC}_r\) exactamente igual a \(\mathrm{SRC}\). Entonces:

1. \(F=0\): el ajuste sin restringir ya cumplía las restricciones, \({\boldsymbol{\mathop{\widehat y}}}_r=\boldsymbol{\mathop{\widehat y}}\), y no hay ninguna evidencia contra \(H_0\).
2. \(F\) no está definido y el contraste no se puede hacer.
3. \(F=1\): exactamente lo que \(H_0\) predice.
4. Las restricciones son falsas, porque no han cambiado nada.

De los siguientes resultados de la sesión, ¿cuál se ha demostrado y cuál se ha enunciado sin demostrar?

1. Se ha demostrado que \(F\sim F_{q,\,n-k}\) bajo \(H_0\), y se ha enunciado sin demostrar que \(\mathrm{SRC}_r=\mathrm{SRC}+\Vert\boldsymbol{\mathop{\widehat y}}-{\boldsymbol{\mathop{\widehat y}}}_r\Vert_e^2\).
2. Se ha demostrado el Pitágoras anidado y las identidades \(F=\frac{n-k}{k-1}\frac{R^2}{1-R^2}\) y \(F=t^2\) con \(k=2\) (con la geometría de las lecciones 8, 10 y 12), y que las coordenadas del ruido son ortogonales y de la misma longitud, que el apéndice (html) demuestra; la distribución \(F_{q,\,n-k}\) se ha enunciado en la sesión y se demuestra en el apéndice (html) a partir de una propiedad de la normal enunciada sin demostrar.
3. Se ha demostrado todo, incluida la distribución del estadístico.
4. No se ha demostrado nada: la sesión entera se apoya en resultados externos.