Lección 8. Bondad de ajuste: de Pitágoras a \(R^2\)

La lección 7 resolvió el sistema de dos ortogonalidades que la lección 6 había dejado planteado: impusimos \(\langle\boldsymbol{\mathop{\widehat{e}}} , \boldsymbol{1}\rangle_s=0\) y \(\langle\boldsymbol{\mathop{\widehat{e}}} , \boldsymbol{x}\rangle_s=0\), y de ahí salieron \(\hat\beta_1=\mu_{\boldsymbol{y}}-\hat\beta_2\mu_{\boldsymbol{x}}\) y \(\hat\beta_2=\sigma_{\boldsymbol{x}\boldsymbol{y}}/\sigma_{\boldsymbol{x}}^2\).

De la primera condición obtuvimos, además, dos consecuencias que hoy son protagonistas. Primero, que la media del vector ajustado coincide con la media de los datos: \(\mu_{\boldsymbol{y}}=\mu_{\boldsymbol{\mathop{\widehat{y}}}}\) (porque \(\boldsymbol{\mathop{\widehat{e}}}\perp\boldsymbol{1}\) implica \(\mu_{\boldsymbol{\mathop{\widehat{e}}}}=0\), y \(\boldsymbol{y}=\boldsymbol{\mathop{\widehat{y}}}+\boldsymbol{\mathop{\widehat{e}}}\)). Segundo, la identidad \[ \boldsymbol{\mathop{\widehat{y}}} - \mu_{\boldsymbol{\mathop{\widehat{y}}}}\boldsymbol{1} \;=\; \hat\beta_2\big(\boldsymbol{x}-\mu_{\boldsymbol{x}}\boldsymbol{1}\big), \] que decía, literalmente, que el vector en desviaciones del ajuste es el mismo vector que el vector en desviaciones de \(\hat\beta_2\boldsymbol{x}\). En la lección 7 la usamos únicamente para concluir que \(\boldsymbol{y}\) forma el mismo ángulo con \(\boldsymbol{\mathop{\widehat{y}}}\) que con \(\hat\beta_2\boldsymbol{x}\). Al final de la lección volveremos sobre esta identidad para deducir nuevas propiedades del ajuste lineal simple.

El plan de la sesión es el siguiente. Vamos a construir, a partir de \(\boldsymbol{y}=\boldsymbol{\mathop{\widehat{y}}}+\boldsymbol{\mathop{\widehat{e}}}\), un triángulo rectángulo cuya hipotenusa sea el vector en desviaciones \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\). Aplicando el teorema de Pitágoras (lección 3) a ese triángulo obtendremos una descomposición de la varianza de \(\boldsymbol{y}\); de ahí surgirá, de manera casi inmediata, el coeficiente de determinación \(R^2\) como el coseno al cuadrado de un ángulo. Y, al final, la identidad guardada nos permitirá relacionar ese \(R^2\) con la correlación \(\rho_{\boldsymbol{x}\boldsymbol{y}}\) de la lección 5, cerrando un círculo que empezamos a dibujar hace varias sesiones.

Para profundizar:

• Wooldridge, J. M. (2020). Introductory Econometrics, cap. 2, sección 2.3: ``Units of Measurement and Functional Form'' y la presentación clásica de \(\mathrm{SST}=\mathrm{SSE}+\mathrm{SSR}\).

Detengámonos en justificar, una por una, las cuatro marcas de ortogonalidad de la figura, porque de la última de ellas sale todo lo que sigue.

Marca 1 y marca 2 (adyacentes a \(\boldsymbol{\mathop{\overline{y}}}\), azules y pequeñas): Ambas conocidas desde la lección 4. Señalan dos proyecciones ortogonales sobre \(\mathcal{L}(\boldsymbol{1})\) que coinciden en un único vector \(\boldsymbol{\mathop{\overline{y}}}\) (múltiplo de \(\boldsymbol{1}\)). Como ya sabíamos, tanto \(\boldsymbol{y}\) como \(\boldsymbol{\mathop{\widehat{y}}}\) comparten la misma proyección \(\boldsymbol{\mathop{\overline{y}}}\) sobre \(\mathcal{L}(\boldsymbol{1})\) (consecuentemente \(\mu_{\boldsymbol{y}}=\mu_{\boldsymbol{\mathop{\widehat{y}}}}\), lección 7).

Marca 3 (transparente y grande): \(\boldsymbol{\mathop{\widehat{e}}}\perp\boldsymbol{\mathop{\widehat{y}}}\). Esta es la ortogonalidad ``principal'': por construcción \(\boldsymbol{\mathop{\widehat{e}}}\) es ortogonal a todo el plano \(\mathcal{L}(\boldsymbol{1},\boldsymbol{x})\); y \(\boldsymbol{\mathop{\widehat{y}}}\) está en ese plano (por ser combinación lineal de \(\boldsymbol{1}\) y de \(\boldsymbol{x}\); pues \(\boldsymbol{\mathop{\widehat{y}}}=\hat\beta_1\boldsymbol{1}+\hat\beta_2\boldsymbol{x}\)).

Marca 4 (la que más nos interesa hoy, morada, pequeña y duplicada): \(\boldsymbol{\mathop{\widehat{e}}}\perp(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})\). Como en la marca anterior, se deduce porque \(\boldsymbol{\mathop{\widehat{y}}}\) e \(\boldsymbol{\mathop{\overline{y}}}\) son vectores del plano \(\mathcal{L}(\boldsymbol{1},\boldsymbol{x})\). \[ \langle\boldsymbol{\mathop{\widehat{e}}},\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\rangle_s = \langle\boldsymbol{\mathop{\widehat{e}}},\boldsymbol{\mathop{\widehat{y}}}\rangle_s - \mu_{\boldsymbol{\mathop{\widehat{y}}}}\langle\boldsymbol{\mathop{\widehat{e}}},\boldsymbol{1}\rangle_s = 0 - \mu_{\boldsymbol{\mathop{\widehat{y}}}}\cdot0 = 0. \]

Con las cuatro marcas confirmadas, podemos leer la descomposición central de la sesión: restando \(\boldsymbol{\mathop{\overline{y}}}\) a ambos lados de \(\boldsymbol{y}=\boldsymbol{\mathop{\widehat{y}}}+\boldsymbol{\mathop{\widehat{e}}}\), \[ \boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}} = (\boldsymbol{\mathop{\widehat{y}}}+\boldsymbol{\mathop{\widehat{e}}}) - \boldsymbol{\mathop{\overline{y}}} = (\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}) + \boldsymbol{\mathop{\widehat{e}}}, \] Tal como indica la marca 4 (duplicada en dos planos paralelos), los dos sumandos \((\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})\) y \(\boldsymbol{\mathop{\widehat{e}}}\) son ortogonales entre sí. Tenemos, por tanto, un triángulo rectángulo genuino: hipotenusa \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\), catetos \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) y \(\boldsymbol{\mathop{\widehat{e}}}\).

Respecto a la figura: las dos vistas muestran la misma escena en \(\mathbb{R}^n\) (representada esquemáticamente) desde dos puntos de observación distintos, exactamente como hicimos con la correlación en la lección 5. La primera vista permite apreciar con claridad el triángulo rectángulo de la regresión (hipotenusa \(\boldsymbol{y}\) y los dos catetos \(\boldsymbol{\mathop{\widehat{y}}}\) y \(\boldsymbol{\mathop{\widehat{e}}}\)); la segunda, rotada, ayuda a visualizar mejor el ángulo \(\theta\) entre \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) y \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\), marcado con el arco y protagonista de la próxima transparencia.

Nótese, para quien repase las figuras de la lección 6, que aquí no se muestra explícitamente la componente \(\hat\beta_2\boldsymbol{x}\) dentro del plano: solo destaca en él la recta \(\mathcal{L}(\boldsymbol{1})\) y las proyecciones sobre ella. Esto es deliberado: hace que la figura —y el argumento que construimos hoy— sirva igualmente como esquema de la regresión con cualquier número \(k\) de regresores, sustituyendo el plano \(\mathcal{L}(\boldsymbol{1},\boldsymbol{x})\) por un subespacio de dimensión \(k\). Volveremos sobre esto en la transparencia ``Recapitulación y guiño a la lección siguiente''.

Para profundizar:

• Bujosa, M. Curso de Álgebra Lineal, cap. 11: descomposición ortogonal y teorema de Pitágoras en \(\mathbb{R}^n\).

Con el triángulo rectángulo ya establecido en la transparencia anterior, aplicar el teorema de Pitágoras¹ es inmediato: \[ \|\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\|_s^2 = \|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s^2 + \|\boldsymbol{\mathop{\widehat{e}}}\|_s^2. \] Reconociendo que \(\|\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\|_s^2=\sigma_{\boldsymbol{y}}^2\) (definición de varianza, lección 5) y que \(\|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s^2=\sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2\) (la varianza del propio vector ajustado puesto que \(\boldsymbol{\mathop{\overline{y}}}=\mu_{\boldsymbol{y}}\boldsymbol{1}=\mu_{\boldsymbol{\mathop{\widehat{y}}}}\boldsymbol{1}=\boldsymbol{\mathop{\overline{\widehat{y}}}}\)), llegamos a \[ \sigma_{\boldsymbol{y}}^2 = \sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2 + \sigma_{\boldsymbol{\mathop{\widehat{e}}}}^2; \] donde, como \(\boldsymbol{\mathop{\widehat{e}}}\) tiene media cero, \(\mu_{\boldsymbol{\mathop{\widehat{e}}}}=0\) (primera condición de ortogonalidad de la lección 7), su varianza \(\sigma_{\boldsymbol{\mathop{\widehat{e}}}}^2\) coincide con \(\|\boldsymbol{\mathop{\widehat{e}}}\|_s^2\), puesto que \(\boldsymbol{\mathop{\overline{\widehat{e}}}}=\boldsymbol{0}\).

Esa es la razón por la que los tres vectores involucrados en el triángulo rectángulo: \((\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}})\), \((\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})\) y \(\boldsymbol{\mathop{\widehat{e}}}\), aparecen, en la figura de la transparencia anterior, en el plano \(\mathcal{L}(\boldsymbol{1})^\perp\) perpendicular a la recta \(\mathcal{L}(\boldsymbol{1})\) (los tres pertenecen al plano de aquellos vectores que tienen media cero).

Sobre el cambio de lenguaje a STC=SEC+SRC en los manuales de econometría y programas econométricos como Gretl. Aquí hemos usado sistemáticamente el producto escalar de la estadística \(\langle\cdot,\cdot\rangle_s\) (con su factor \(1/n\)) a lo largo de las lecciones 4, 5, 6 y 7. La medición de los vectores en desviaciones \((\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}})\), \((\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})\) y \(\boldsymbol{\mathop{\widehat{e}}}\) usando el producto escalar de la estadística, arroja la identidad \(\sigma_{\boldsymbol{y}}^2=\sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2+\sigma_{\boldsymbol{\mathop{\widehat{e}}}}^2\). Sin embargo, en la inmensa mayoría de los libros de texto —y en la salida que ofrece Gretl— esta identidad se presenta multiplicada por \(n\) (es decir, omitiendo el factor \(1/n\)): \[ \mathrm{STC} = \mathrm{SEC} + \mathrm{SRC}; \] con \(\mathrm{STC}=\sum_i(y_i-\mu_{\boldsymbol{y}})^2,\;\) \(\mathrm{SEC}=\sum_i(\hat y_i-\mu_{\boldsymbol{y}})^2\;\) y \(\mathrm{SRC}=\sum_i\hat e_i^2\).

Es decir, en la literatura es tradicional expresar la identidad pitagórica de más arriba midiendo el cuadrado de las longitudes de los vectores \((\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}})\), \((\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})\) y \(\boldsymbol{\mathop{\widehat{e}}}\) con el producto escalar usual en el espacio euclídeo: \(\langle\cdot,\cdot\rangle_e\).

Nota: tenga en cuenta que en inglés la identidad se escribe habitualmente \(\mathrm{SST}=\mathrm{SSE}+\mathrm{SSR}\) (Sum of Squares Total, Explained, Residual). Aquí conviene una advertencia, porque es una fuente de confusión frecuente: en esta convención anglosajona, \(\mathrm{SSE}\) denota la suma explicada, no la suma de errores al cuadrado (que sería lo que la sigla ``E'' sugiere a primera vista). En este curso usaremos las siglas españolas STC/SEC/SRC.

Para profundizar:

• Wooldridge, J. M. (2020), cap. 2, ecuación (2.35) y comentario adyacente sobre la nomenclatura SST/SSE/SSR.

Antes de dar ninguna definición formal, merece la pena razonar sobre la figura, porque el razonamiento mismo va a sugerir, de manera casi inevitable, cómo debe definirse la medida de bondad de ajuste que buscamos.

El ajuste \(\boldsymbol{\mathop{\widehat{y}}}\) es mejor cuanto más se parezca a \(\boldsymbol{y}\) —dicho con precisión (lección 3), cuanto menor sea la distancia \(\|\boldsymbol{y}-\boldsymbol{\mathop{\widehat{y}}}\|_s\)—. Pero comparar \(\boldsymbol{y}\) y \(\boldsymbol{\mathop{\widehat{y}}}\) directamente esconde un hecho que ya conocíamos desde la lección 7: ambos vectores comparten la misma componente sobre \(\mathcal{L}(\boldsymbol{1})\), el vector de medias \(\boldsymbol{\mathop{\overline{y}}}\) (pues \(\mu_{\boldsymbol{y}}=\mu_{\boldsymbol{\mathop{\widehat{y}}}}\)). Esta es la razón por la que en la figura de arriba y en la de abajo el vector azul es idéntico: sea cual sea el tamaño del residuo, esa parte nunca cambia.

Como esa componente es siempre común, no aporta ninguna información sobre la calidad del ajuste: da igual cuál sea \(\boldsymbol{y}\), el vector de medias de \(\boldsymbol{y}\) y el vector de medias \(\boldsymbol{\mathop{\widehat{y}}}\) son inevitablemente el mismo vector (\(\boldsymbol{\mathop{\overline{y}}}=\boldsymbol{\mathop{\overline{\widehat{y}}}}\)). Por tanto, para comparar el ajuste basta con mirar lo que no es común: los dos vectores en desviaciones, \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) (verde claro) y \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) (violeta).

Ya sabemos que estos dos vectores forman parte de un triángulo rectángulo: \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) es un cateto, y \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) es la hipotenusa (el otro cateto es \(\boldsymbol{\mathop{\widehat{e}}}\)). Por tanto, \(\|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s\leq\|\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\|_s\) (pues un cateto nunca es más largo que la hipotenusa), con igualdad exactamente cuando \(\boldsymbol{\mathop{\widehat{e}}}=\boldsymbol{0}\) (ajuste perfecto cuando los dos vectores en desviaciones coinciden).

Esto sugiere de manera natural cómo medir la bondad del ajuste: comparando las longitudes de esos dos vectores en desviaciones, por ejemplo, mirando el ratio \[ \frac{\|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s^2}{\|\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\|_s^2} \] (elevado al cuadrado, para trabajar con varianzas en lugar de con desviaciones típicas). Si \(\boldsymbol{\mathop{\widehat{e}}}\) es pequeño (figura de abajo), las dos longitudes son casi iguales, y el ratio está cerca de \(1\): buen ajuste. Si \(\boldsymbol{\mathop{\widehat{e}}}\) es grande (figura de arriba), \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) es mucho más corto que \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\), y el ratio se hace mucho más pequeño que \(1\): mal ajuste. En nuestra figura, por tanto, el ajuste de abajo es mejor que el de arriba —y el ratio que acabamos de construir lo confirmará numéricamente en la próxima transparencia, donde por fin lo llamamos por su nombre: el coeficiente de determinación \(R^2\).

La transparencia anterior nos dejó el camino casi completo: la bondad del ajuste se puede medir comparando las longitudes de los vectores en desviaciones \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) y \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\). Formalizamos esa intuición como definición:

Definición. El coeficiente de determinación es \[ R^2 = \frac{\|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s^2}{\|\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\|_s^2} = \frac{\sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2}{\sigma_{\boldsymbol{y}}^2}. \]

Multiplicando numerador y denominador por \(n\) se obtiene la forma habitual en los manuales: \[ R^2 = \frac{\mathrm{SEC}}{\mathrm{STC}} = 1-\frac{\mathrm{SRC}}{\mathrm{STC}}; \] ya que, como \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\), podemos sustituir \(\mathrm{SEC}=\mathrm{STC}-\mathrm{SRC}\).²

Esta definición como ratio de normas admite una segunda lectura, tan reveladora como la primera: es, literalmente, el coseno al cuadrado de un ángulo. Recordemos la definición de coseno entre dos vectores (lección 3) aplicada aquí a los vectores en desviaciones de \(\boldsymbol{y}\) y \(\boldsymbol{\mathop{\widehat{y}}}\) (como se hizo con \(\boldsymbol{x}\) e \(\boldsymbol{y}\) en la lección 5): el ángulo \(\theta\) entre \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) y \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) cumple

\begin{equation} \cos\theta \;=\; \frac{\langle\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}},\,\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\rangle_s}{\|\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\|_s\,\|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s} \;=\; \rho_{\boldsymbol{\mathop{\widehat{y}}}\boldsymbol{y}}; \label{eq:coseno-correlacion} \end{equation}

donde hemos usado la definición de correlación de la lección 5.

Para simplificar el numerador de (\ref{eq:coseno-correlacion}), sustituimos \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}=(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})+\boldsymbol{\mathop{\widehat{e}}}\) (transparencia ``El triángulo rectángulo de la bondad de ajuste''): \[ \langle\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}},\,\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\rangle_s = \Big\langle(\big(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})+\boldsymbol{\mathop{\widehat{e}}}\big)\,,\,\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\Big\rangle_s = \|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s^2 + \underbrace{\langle\boldsymbol{\mathop{\widehat{e}}},\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\rangle_s}_{=0\text{ ($\boldsymbol{\mathop{\widehat{e}}}\perp\mathcal{L}(\boldsymbol{1},\boldsymbol{x})$)}} = \|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s^2; \] donde hemos usado que \(\boldsymbol{\mathop{\widehat{e}}}\) es ortogonal al plano que contiene a los vectores \(\boldsymbol{\mathop{\widehat{y}}}\) y \(\boldsymbol{\mathop{\overline{y}}}\).

Sustituyendo: \[ \cos\theta = \frac{\|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s^2}{\|\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\|_s\,\|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s} = \frac{\|\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\|_s}{\|\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\|_s} = \frac{\sigma_{\boldsymbol{\mathop{\widehat{y}}}}}{\sigma_{\boldsymbol{y}}}. \] Elevando al cuadrado, y comparando con la definición del principio de esta misma transparencia: \[ \cos^2\theta = \frac{\sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2}{\sigma_{\boldsymbol{y}}^2} = R^2, \] donde, además, \(\cos\theta = \rho_{\boldsymbol{\mathop{\widehat{y}}}\boldsymbol{y}}\).

Las dos lecturas son, por tanto, la misma cosa vista de dos maneras. \(R^2\) es un ratio de normas al cuadrado (la forma que motivamos con la figura de la transparencia anterior) y es, a la vez, un coseno al cuadrado (la forma habitual en los manuales, que conecta con el cuadrado de la correlación entre el vector de datos \(\boldsymbol{y}\) y su ajuste \(\boldsymbol{\mathop{\widehat{y}}}\)). El ángulo \(\theta\) es el marcado con el arco en la figura de la transparencia ``El triángulo rectángulo de la bondad de ajuste'': el ángulo entre el vector en desviaciones de los datos y el vector en desviaciones de su ajuste: \(\theta = \measuredangle\Big((\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}),\,(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})\Big)\).

El hecho de que \(0\leq R^2\leq1\) tiene dos justificaciones independientes, que conviene señalar porque es un ejemplo bonito de cómo dos caminos distintos llevan a la misma cota. Por un lado, ya lo sabíamos por Pitágoras (transparencia ``Pitágoras: la varianza se descompone''): como \(\mathrm{SEC}+\mathrm{SRC}=\mathrm{STC}\) y \(\mathrm{SRC}\geq0\), forzosamente \(\mathrm{SEC}\leq\mathrm{STC}\), luego \(R^2\leq1\) (y \(R^2\geq0\) porque \(\mathrm{SEC}\) y \(\mathrm{SRC}\) son el cuadrado de dos longitudes o normas). Por otro, ahora lo sabemos también porque ningún coseno se sale de \([-1,1]\), así que ningún coseno al cuadrado se sale de \([0,1]\) —sin necesidad de invocar Pitágoras.

Las figuras anteriores permiten comprender, sin necesidad de ninguna fórmula adicional, cuando se dan los casos extremos.

Si \(\boldsymbol{\mathop{\widehat{e}}}=\boldsymbol{0}\), el triángulo rectángulo degenera: la hipotenusa \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) coincide con el cateto \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\), el ángulo \(\theta\) es \(0^\circ\), y \(R^2=\cos^2 0^\circ=1^2\): el ajuste reproduce los datos exactamente. Si, en cambio, dejamos crecer \(\boldsymbol{\mathop{\widehat{e}}}\) sin límite (manteniendo fijo el cateto \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\), como en la figura), la hipotenusa se alarga cada vez más en la dirección de \(\mathcal{L}(\boldsymbol{1},\boldsymbol{x})^\perp\), el ángulo \(\theta\) se abre progresivamente hacia \(90^\circ\), y \(R^2=\cos^2\theta\) se acerca a \(0\). Nótese que decir ``\(\theta\) se abre hacia \(90^\circ\)'' es, aquí, lo mismo que decir ``el residuo crece sin límite''.

Conviene precisar un matiz que la propia figura deja entrever. Mientras el cateto \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) permanezca fijo y sea distinto de \(\boldsymbol{0}\) (como en las dos escenas de la figura), \(R^2=\sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2/(\sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2+\sigma_{\boldsymbol{\mathop{\widehat{e}}}}^2)\) es siempre estrictamente positivo, por grande que sea el residuo: \(R^2\) se acerca a \(0\) tanto como queramos, pero solo lo alcanza en el límite de un residuo de norma infinita, que no es una situación real.

Esto no significa que \(R^2\) no pueda ser exactamente \(0\) en la práctica: sí puede, pero en una situación distinta de la que muestra esta figura. Ocurre cuando el propio ajuste coincide con el vector de medias, \(\boldsymbol{\mathop{\widehat{y}}}=\boldsymbol{\mathop{\overline{y}}}\) —es decir, cuando el cateto \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) es \(\boldsymbol{0}\), no cuando el residuo se dispara—. En la regresión simple, esto sucede exactamente cuando \(\hat\beta_2=0\) (covarianza muestral nula entre \(\boldsymbol{x}\) e \(\boldsymbol{y}\), lección 7): el mejor ajuste posible resulta ser, sencillamente, ``predecir siempre la media'', sin que \(\boldsymbol{x}\) aporte nada.³ Es importante no confundir esta situación —perfectamente posible con datos \(\boldsymbol{y}\) ordinarios, no constantes— con el caso degenerado en que \(\boldsymbol{y}\) mismo fuera constante: en ese caso \(\sigma_{\boldsymbol{y}}^2=0\) y \(R^2\) ni siquiera estaría definido (\(0/0\)), igual que ocurría con la correlación en la lección 5.

Verifiquemos con números todo lo dicho, retomando exactamente el ejemplo de la lección 7 (el mismo \(n=5\), con \(\boldsymbol{x}=(1,2,3,4,5)\), \(\boldsymbol{u}=(1,-2,0,2,-1)\) y \(\boldsymbol{y}=2+3\boldsymbol{x}+\boldsymbol{u}=(6,6,11,16,16)\)), donde ya obtuvimos \(\hat\beta_1=2\), \(\hat\beta_2=3\) y comprobamos que, en ese ejemplo con truco, \(\boldsymbol{\mathop{\widehat{e}}}=\boldsymbol{u}\).

Los valores ajustados son \(\hat y_i=2+3x_i\): \(\boldsymbol{\mathop{\widehat{y}}}=(5,8,11,14,17)\). Los residuos, \(\hat e_i=y_i-\hat y_i\): \(\boldsymbol{\mathop{\widehat{e}}}=(1,-2,0,2,-1)\) (efectivamente, coincide con \(\boldsymbol{u}\), como ya sabíamos).

Media de \(\boldsymbol{y}\) y de \(\boldsymbol{\mathop{\widehat{y}}}\): \(\mu_{\boldsymbol{y}}=\frac{6+6+11+16+16}{5}=11\); \(\mu_{\boldsymbol{\mathop{\widehat{y}}}}=\frac{5+8+11+14+17}{5}=\frac{55}{5}=11\). Coinciden, como debía ser.

STC: \(\sum_i(y_i-11)^2 = (-5)^2+(-5)^2+0^2+5^2+5^2 = 25+25+0+25+25=100\).

SEC: \(\sum_i(\hat y_i-11)^2 = (-6)^2+(-3)^2+0^2+3^2+6^2 = 36+9+0+9+36=90\).

SRC: \(\sum_i\hat e_i^2 = 1^2+(-2)^2+0^2+2^2+(-1)^2 = 1+4+0+4+1=10\).

Comprobación de Pitágoras: \(\mathrm{SEC}+\mathrm{SRC}=90+10=100=\mathrm{STC}\) ✓.

\(R^2=\mathrm{SEC}/\mathrm{STC}=90/100=0{,}9\): el ajuste explica el \(90\,\%\) de la variación total de \(\boldsymbol{y}\).

Verifiquemos también la vía de la correlación (transparencia anterior). De la lección 7 ya teníamos \(\sigma_{\boldsymbol{x}}^2=2\) y \(\sigma_{\boldsymbol{x}\boldsymbol{y}}=6\). Y \(\sigma_{\boldsymbol{y}}^2=\mathrm{STC}/n=100/5=20\). Entonces \[ \rho_{\boldsymbol{x}\boldsymbol{y}}^2 = \frac{\sigma_{\boldsymbol{x}\boldsymbol{y}}^2}{\sigma_{\boldsymbol{x}}^2\,\sigma_{\boldsymbol{y}}^2} = \frac{6^2}{2\cdot20} = \frac{36}{40} = 0{,}9. \] Coincide con \(R^2\): una comprobación numérica anticipada del resultado general \(R^2=\rho_{\boldsymbol{x}\boldsymbol{y}}^2\), que demostraremos formalmente más adelante, en la transparencia ``En el caso de la regresión simple: \(R^2=\rho_{\boldsymbol{x}\boldsymbol{y}}^2\)''.

Antes de seguir, conviene detenerse en una advertencia que atañe al propio nombre que hemos venido usando: ``Suma Explicada de Cuadrados''. La identidad \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\) —o, equivalentemente, \(\sigma_{\boldsymbol{y}}^2=\sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2+\sigma_{\boldsymbol{\mathop{\widehat{e}}}}^2\)— es una consecuencia puramente geométrica de la descomposición ortogonal \(\boldsymbol{y}=\boldsymbol{\mathop{\widehat{y}}}+\boldsymbol{\mathop{\widehat{e}}}\). Se cumple independientemente del contenido de los vectores \(\boldsymbol{x}\) e \(\boldsymbol{y}\): la geometría de \(\mathbb{R}^n\) no sabe nada de economía, de causalidad, ni de sentido común. El nombre ``explicada'' sugiere que hay algo sustantivo detrás; la propia matemática ni lo sugiere ni lo garantiza en modo alguno.

Primer peligro: no hace falta ninguna relación real para obtener un \(R^2\) alto. El ejemplo más elocuente es el de las llamadas correlaciones espurias. Tyler Vigen, en su proyecto Spurious Correlations (tylervigen.com), recopiló decenas de pares de series con correlaciones altísimas y sin ningún vínculo causal plausible. Un ejemplo: el consumo de queso per cápita en Estados Unidos y el número de personas que mueren cada año enredadas en sus sábanas, con \(\rho\approx0{,}947\) durante el periodo 2000-2009 (un \(R^2\approx0{,}897\) si regresáramos una serie sobre la otra). Nadie sostendría que el consumo de queso provoca —ni evita— morir enredado en las sábanas: ambas series, sencillamente, crecieron en paralelo por razones completamente ajenas entre sí. La identidad \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\) se cumple, con toda su fuerza matemática, igual para estos dos vectores sin sentido que para cualquier par de vectores con un significado económico razonable: la matemática, por sí sola, no distingue un caso del otro.

Segundo peligro, distinto del anterior: incluso cuando la relación SÍ es real, el \(R^2\) no dice nada sobre su dirección. Retomemos el ejemplo del precio y la superficie de las viviendas. Aquí sí existe una relación económicamente razonable: ampliar la superficie de una vivienda tiende a aumentar su precio. Si regresamos precio sobre superficie, obtenemos un \(R^2\) que, en efecto, sugiere que el modelo parece ``explicar'' el precio a partir del tamaño. Pero si invertimos los papeles —regresando superficie sobre /precio/— obtenemos el mismo \(R^2\). La razón la veremos en la próxima transparencia: en la regresión lineal simple \(R^2=\rho_{\boldsymbol{x}\boldsymbol{y}}^2\), y la correlación no distingue cuál de las dos variables hace de \(x\) y cuál de \(y\). Y sin embargo, decir que ``el precio explica la superficie'' —en el sentido de que cuando los precios de las viviendas suben hace que sus superficies crezcan— no tiene ningún sentido. La regresión, y el \(R^2\) que de ella se deriva, son completamente indiferentes a cuál de las dos variables juega el papel de causa y cuál el de efecto: esa es una pregunta que solo puede responder una teoría económica previa, nunca la mera geometría de los datos.

La lección que hay que extraer de ambos peligros es la misma, aunque se manifieste de dos maneras distintas: un \(R^2\) alto solo puede ser tomado como ``una buena señal'' cuando el modelo es sensato y está bien fundamentado desde un punto de vista teórico. Un \(R^2\) alto no sirve, ni para afirmar que existe una relación real (primer peligro), ni para afirmar en qué sentido va esa relación si de verdad existe (segundo peligro). Tampoco un \(R^2\) bajo implica que el modelo deba ser descartado. Retomaremos esta discusión, con más herramientas, en la lección 9 (``El puente'').

Advertencia para más adelante. \(R^2\) tiene una propiedad puramente mecánica que conviene no olvidar: nunca empeora al añadir regresores, aunque esos regresores aporten muy poca información real. Precisamente por eso, más adelante necesitaremos una versión corregida de esta medida: el \(R^2\) ajustado.

Conviene subrayar una diferencia con el ejemplo de correlación tratado en la lección 5. Allí, \(\rho_{\boldsymbol{x}\boldsymbol{y}}=\cos\theta'\) era el coseno del ángulo entre los vectores en desviaciones, \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) y \(\boldsymbol{x}-\boldsymbol{\mathop{\overline{x}}}\), correspondientes a los datos y el regresor. Aquí, \(R^2=\rho_{\boldsymbol{\mathop{\widehat{y}}}\boldsymbol{y}}^2=\cos^2\theta\) es el cuadrado del coseno del ángulo entre los datos y su ajuste (\(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) y \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\)), ambos en desviaciones (si no, no sería una correlación). Son, en principio, dos ejemplos de ángulos distintos, definidos entre parejas de vectores distintas. Sin embargo, en la próxima transparencia veremos que, en el caso particular de la regresión lineal simple (un único regresor \(\boldsymbol{x}\) además de la constante), ambos ángulos coinciden.

Para profundizar:

• Vigen, T. Spurious Correlations, tylervigen.com: catálogo de correlaciones estadísticamente altas y causalmente vacías.
• Wooldridge, J. M. (2020), cap. 2, sección 2.4: advertencias sobre la interpretación causal de \(R^2\).

Esta transparencia cierra la identidad guardada de la lección 7, pero conviene detenerse en por qué el resultado es cierto, porque el argumento explica también por qué es exclusivo de la regresión simple.

Empecemos por un hecho general sobre el plano \(\mathcal{L}(\boldsymbol{1},\boldsymbol{x})\), que no depende en absoluto de cuál sea el ajuste MCO. Tomemos cualquier vector del plano, es decir, cualquier \(\boldsymbol{w}=c_1\boldsymbol{1}+c_2\boldsymbol{x}\). Su media es \(\mu_{\boldsymbol{w}}=c_1+c_2\mu_{\boldsymbol{x}}\), así que su vector en desviaciones es \[ \boldsymbol{w}-\boldsymbol{\mathop{\overline{w}}} = \big(c_1\boldsymbol{1}+c_2\boldsymbol{x}\big) - \big(c_1+c_2\mu_{\boldsymbol{x}}\big)\boldsymbol{1} = c_2\big(\boldsymbol{x}-\mu_{\boldsymbol{x}}\boldsymbol{1}\big). \] Es decir: el vector en desviaciones de \(\boldsymbol{w}\) es algún múltiplo de \(\boldsymbol{x}-\mu_{\boldsymbol{x}}\boldsymbol{1}\). Dicho de otro modo, todos los vectores de \(\mathcal{L}(\boldsymbol{1},\boldsymbol{x})\), una vez centrados, caen en la misma recta \(\mathcal{L}(\boldsymbol{x}-\mu_{\boldsymbol{x}}\boldsymbol{1})\) —una única dirección dentro de \(\mathcal{L}(\boldsymbol{1})^\perp\)—. Esto no es más que la identidad guardada de la lección 7, \(\;\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}=\hat\beta_2(\boldsymbol{x}-\mu_{\boldsymbol{x}}\boldsymbol{1}),\;\) generalizada de \(\boldsymbol{\mathop{\widehat{y}}}\) a cualquier vector del plano: \(\boldsymbol{\mathop{\widehat{y}}}\) no tiene nada de especial en este sentido; es, sencillamente, uno más de esos vectores \(\boldsymbol{w}\) (con \(c_1=\hat\beta_1\), \(c_2=\hat\beta_2\)), y como tal hereda la propiedad.

Esta observación tiene una consecuencia inmediata sobre los ángulos. Si dos vectores en desviaciones son proporcionales y no nulos, \((\boldsymbol{w}-\boldsymbol{\mathop{\overline{w}}})=c_2(\boldsymbol{x}-\mu_{\boldsymbol{x}}\boldsymbol{1})\) (con \(c_2\ne0\)), entonces el ángulo que un tercer vector \(\boldsymbol{y}\) no nulo forma con \((\boldsymbol{w}-\boldsymbol{\mathop{\overline{w}}})\) coincide, salvo un posible cambio de \(180^\circ\), con el ángulo formado entre \(\boldsymbol{y}\) y \((\boldsymbol{x}-\boldsymbol{\mathop{\overline{x}}})\). Y como el coseno de \(\theta\) y el de \(180^\circ-\theta\) solo difieren en el signo, las correlaciones \(\rho_{\boldsymbol{x}\boldsymbol{y}}\) y \(\rho_{\boldsymbol{w}\boldsymbol{y}}\) coinciden en valor absoluto, sea cual sea el vector \(\boldsymbol{w}\) elegido (con tal de que \(c_2\neq0\)).

Podemos evitar repetir el argumento desde cero: basta combinar las dos propiedades demostradas en la lección 5 bajo el nombre de propiedades de traslación y escala de la correlación. Allí vimos que, si \(\boldsymbol{x}'=\lambda\boldsymbol{x}+a\boldsymbol{1}\) (una traslación seguida de un reescalado), entonces \[ \rho_{\boldsymbol{x}'\boldsymbol{y}} = \frac{\lambda}{|\lambda|}\,\rho_{\boldsymbol{x}\boldsymbol{y}}. \] Y el ajuste \(\boldsymbol{\mathop{\widehat{y}}}=\hat\beta_2\boldsymbol{x}+\hat\beta_1\boldsymbol{1}\) es, literalmente, una transformación de ese tipo: un reescalado de \(\boldsymbol{x}\) por \(\hat\beta_2\), seguido de una traslación por \(\hat\beta_1\boldsymbol{1}\). Aplicando la fórmula con \(\lambda=\hat\beta_2\): \[ \rho_{\boldsymbol{\mathop{\widehat{y}}}\boldsymbol{y}} = \frac{\hat\beta_2}{|\hat\beta_2|}\,\rho_{\boldsymbol{x}\boldsymbol{y}}. \] No hace falta ninguna cuenta nueva: es la propiedad de la lección 5, aplicada al caso concreto en que el ``reescalado'' es precisamente la pendiente de la regresión.

Solo falta un ingrediente, ya demostrado en la lección 7: el signo de \(\hat\beta_2\) coincide siempre con el signo de \(\rho_{\boldsymbol{x}\boldsymbol{y}}\) (porque \(\hat\beta_2=\sigma_{\boldsymbol{x}\boldsymbol{y}}/\sigma_{\boldsymbol{x}}^2\) y \(\sigma_{\boldsymbol{x}}^2>0\)). Así que el factor \(\hat\beta_2/|\hat\beta_2|\) es exactamente \(\mathrm{sign}(\rho_{\boldsymbol{x}\boldsymbol{y}})\), y \[ \rho_{\boldsymbol{\mathop{\widehat{y}}}\boldsymbol{y}} = \mathrm{sign}(\rho_{\boldsymbol{x}\boldsymbol{y}})\rho_{\boldsymbol{x}\boldsymbol{y}} = |\rho_{\boldsymbol{x}\boldsymbol{y}}|. \] Elevando al cuadrado, y usando \(R^2=\rho_{\boldsymbol{\mathop{\widehat{y}}}\boldsymbol{y}}^2\) (transparencia ``El coeficiente de determinación''): \[ R^2 = \rho_{\boldsymbol{x}\boldsymbol{y}}^2. \]

Este resultado explica por qué es exclusivo de la regresión simple, sin necesidad de comparar dos cálculos algebraicos: en \(\mathcal{L}(\boldsymbol{1},\boldsymbol{x})\) hay una sola dirección perpendicular a los vectores constantes, así que todos los vectores no constantes del plano —\(\boldsymbol{x}\), \(2\boldsymbol{x}\), \(\boldsymbol{x}+7\boldsymbol{1}\), o el propio \(\boldsymbol{\mathop{\widehat{y}}}\)— una vez centrados, forman con \(\boldsymbol{y}\) el mismo ángulo (\(\pm180^\circ\)). En la lección 10 (regresión múltiple con dos o más regresores no constantes \((k>2)\)), el subespacio análogo —los vectores no constantes de \(\mathcal{L}(\boldsymbol{1},\boldsymbol{x}_2,\ldots,\boldsymbol{x}_k)\), centrados— tiene dimensión \(k-1\), no \(1\): ya no hay una única dirección perpendicular a los vectores constantes, y \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) deja de estar alineado con ningún regresor individual centrado. Por eso \(R^2=\cos^2\theta\) seguirá siendo válido (no depende de la dimensión del subespacio), pero dejará de coincidir con el cuadrado de ninguna correlación simple \(\rho_{\boldsymbol{x}_j\boldsymbol{y}}\).

Para profundizar:

• Wooldridge, J. M. (2020), cap. 2, ecuación (2.38): \(R^2=\hat\rho_{xy}^2\) en el modelo de regresión simple.

Los tres diagramas de esta figura viven en un espacio distinto del de las demás figuras de esta sesión. No es \(\mathbb{R}^n\), el espacio abstracto de los \(n\) datos donde vive el triángulo de las transparencias ``El triángulo rectángulo de la bondad de ajuste'' y ``Pitágoras: la varianza se descompone''; es el plano \((x,y)\) de los diagramas de dispersión de toda la vida, que ya usamos en el laboratorio que sigue a la lección 5. Es un complemento de la representación abstracta con vectores: mientras que allí una norma al cuadrado es ``la longitud de un vector, elevada al cuadrado'', aquí cada sumando de STC, SEC o SRC es, literalmente, el área de un cuadrado dibujado sobre el propio diagrama de dispersión.

En el panel de la izquierda, cada observación \((x_i,y_i)\) aparece en una esquina de un cuadrado, cuyo lado vertical muestra la distancia \(|y_i-\mu_{\boldsymbol{y}}|\) entre el dato y la recta horizontal de altura \(\mu_{\boldsymbol{y}}\). La suma de las áreas de todos esos cuadrados es exactamente \(\mathrm{STC}=\sum_i(y_i-\mu_{\boldsymbol{y}})^2\).

En el panel central, los cuadrados —notablemente más pequeños que en los otros dos paneles, cuando el ajuste es razonablemente bueno— tienen como lado la distancia vertical entre cada dato y su propio ajuste, \(|y_i-\hat y_i|\), es decir, el residuo \(|\hat e_i|\). La suma de estas áreas es \(\mathrm{SRC}=\sum_i\hat e_i^2\).

En el panel de la derecha, los puntos ya no son los datos originales, sino los valores ajustados \(\hat y_i\) —por eso aparecen perfectamente alineados sobre la recta de regresión—; el lado de cada cuadrado es ahora la distancia \(|\hat y_i-\mu_{\boldsymbol{y}}|\). La suma de áreas de estos cuadrados es \(\mathrm{SEC}=\sum_i(\hat y_i-\mu_{\boldsymbol{y}})^2\).

En las transparencias ``El triángulo rectángulo de la bondad de ajuste'' y ``Pitágoras: la varianza se descompone'' demostramos la identidad \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\) como una única igualdad entre normas de vectores en \(\mathbb{R}^n\). Aquí se lee observación a observación: la suma de las áreas de la izquierda es igual a la suma de las áreas del centro más la de la derecha. Es la misma identidad, vista con los ojos del diagrama de dispersión en lugar de los del espacio abstracto de datos. Por eso usamos aquí las siglas STC/SEC/SRC, la versión ``sin dividir por \(n\)'' de la que advertimos en la transparencia ``Pitágoras: la varianza se descompone'': es la que corresponde a sumar áreas de cuadrados sin más.

Esta segunda representación —cuadrados sobre el diagrama de dispersión frente a vectores abstractos en \(\mathbb{R}^n\)— es la ilustración clásica con la que muchos manuales de econometría presentan \(R^2\) por primera vez. Aquí llega en último lugar, a propósito: primero conviene entender por qué es cierta la identidad (Pitágoras en \(\mathbb{R}^n\), transparencias ``El triángulo rectángulo de la bondad de ajuste'' y ``Pitágoras: la varianza se descompone''), y solo después verla como la receta de ``sumar áreas de cuadraditos''. Además, esta representación gráfica solo es viable y legible en la regresión lineal simple.

Para profundizar:

• Wooldridge, J. M. (2020), cap. 2: representación gráfica clásica de la descomposición de varianzas sobre el diagrama de dispersión.

El recorrido de hoy ha sido, otra vez, muy corto en ingredientes nuevos: la única pieza matemática genuinamente nueva ha sido aplicar el teorema de Pitágoras (lección 3) al triángulo rectángulo formado por \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\), \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) y \(\boldsymbol{\mathop{\widehat{e}}}\) —un triángulo que ya estaba, en germen, en las dos condiciones de ortogonalidad resueltas en la lección 7—. Todo lo demás ha sido, una vez más, aplicar herramientas ya conocidas: la definición de varianza (lección 5), la definición de coseno (lección 3), y la fórmula de \(\hat\beta_2\) (lección 7).

Para cerrar, merece la pena remarcar tres ideas:

1. La descomposición \(\sigma_{\boldsymbol{y}}^2=\sigma_{\boldsymbol{\mathop{\widehat{y}}}}^2+\sigma_{\boldsymbol{\mathop{\widehat{e}}}}^2\) (o, sin el factor \(1/n\), \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\)) es consecuencia directa e inevitable de las dos ortogonalidades de la lección 7: es lo que se obtiene, sin ningún supuesto adicional, de aplicar Pitágoras a esas ortogonalidades.
2. \(R^2=\cos^2\theta\) mide, literalmente, cuánto se parece —en dirección, no en escala— el vector de datos en desviaciones al vector ajustado en desviaciones. En la regresión simple, ese ángulo coincide con el de la correlación entre \(\boldsymbol{x}\) e \(\boldsymbol{y}\) (transparencia ``En el caso de la regresión simple: \(R^2=\rho_{\boldsymbol{x}\boldsymbol{y}}^2\)''), cerrando el círculo abierto en la lección 5; en la regresión múltiple (lección 10) seguirá siendo \(\cos^2\theta\), pero ya no será el cuadrado de alguna correlación con un regresor particular.
3. Un \(R^2\) alto no es una condición necesaria para tomarse en serio un modelo, ni un \(R^2\) bajo una condición suficiente para descartarlo. La identidad \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\) es una propiedad geométrica que no distingue entre una relación económicamente sensata y una correlación espuria: eso exige, siempre, una teoría previa ajena a la pura geometría de los datos.

La práctica de laboratorio que sigue a esta lección retoma exactamente los datos con los que se trabajó en la práctica que siguió a la lección 5, y comprobará numéricamente, con un conjunto de datos completo, tanto las dos condiciones de ortogonalidad como la propia descomposición \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\) y el valor de \(R^2\) que reporta Gretl automáticamente al pedir una regresión.

Y la lección 9 (``El puente'') dará un paso de naturaleza distinta a los de las lecciones anteriores: hasta ahora hemos trabajado exclusivamente con vectores concretos de \(\mathbb{R}^n\), sin ningún supuesto sobre cómo se generaron los datos. La lección 9 presentará, como analogía explícita —no como demostración—, el paralelismo entre esta geometría muestral (vectores de datos) y el mundo de las variables aleatorias. El valor esperado jugará el papel de la media; la esperanza \(E[\cdot]\), el del vector de medias; la esperanza condicional \(E[Y\mid X]\), el de la proyección \(\boldsymbol{\mathop{\widehat{y}}}\); y los supuestos del modelo clásico de regresión serán las condiciones que hacen legítimo ese paralelismo. Solo entonces podremos empezar a hablar, con algún rigor, de si cabe una lectura causal de un buen ajuste —la pregunta que hoy hemos dejado, deliberadamente, sin responder.

Para profundizar:

• Wooldridge, J. M. (2020), cap. 2, secciones 2.3-2.4: resumen completo de STC/SEC/SRC, \(R^2\) y sus limitaciones interpretativas.
• Bujosa, M. Curso de Álgebra Lineal, cap. 11: teorema de Pitágoras y ángulo entre vectores en \(\mathbb{R}^n\).

Las preguntas más valiosas pedagógicamente son la 4 (obliga a distinguir la ortogonalidad correcta \(\boldsymbol{\mathop{\widehat{e}}}\perp(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})\) de una afirmación parecida pero falsa, reforzando que \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) es la hipotenusa y no puede ser ortogonal a \(\boldsymbol{\mathop{\widehat{e}}}\)), la 9 (exige entender por qué la igualdad de medias es un prerrequisito silencioso de toda la construcción de la sesión, no un detalle menor) y la 12 (distingue con precisión qué se generaliza y qué no se generaliza de \(R^2=\cos^2\theta\) al pasar a varios regresores, evitando tanto la sobregeneralización como la infrageneralización). Conviene comentar en clase la 11: el ejemplo de Vigen suele quedar en la memoria de los alumnos mucho más que la fórmula, y es una buena ancla para recordar la advertencia central de la sesión: la mera presencia de correlación no implica causalidad ni es una explicación de nada.

En la descomposición \((\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}})=(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})+\boldsymbol{\mathop{\widehat{e}}}\), ¿cuál de los tres vectores es la hipotenusa?

1. \(\boldsymbol{\mathop{\widehat{e}}}\).
2. \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\).
3. \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\).
4. \(\boldsymbol{\mathop{\overline{y}}}\).

El coeficiente de determinación se define como:

1. \(R^2=\mathrm{STC}/\mathrm{SEC}\).
2. \(R^2=\mathrm{SEC}/\mathrm{STC}\).
3. \(R^2=\mathrm{SRC}/\mathrm{STC}\).
4. \(R^2=\mathrm{STC}-\mathrm{SRC}\).

En la convención anglosajona SST=SSE+SSR, la sigla SSE denota:

1. La suma de los residuos al cuadrado.
2. La suma explicada de cuadrados.
3. La suma total de cuadrados.
4. La varianza de \(\boldsymbol{x}\).

¿Cuál de las siguientes NO es una de las cuatro ortogonalidades marcadas en la figura de la transparencia ``El triángulo rectángulo de la bondad de ajuste''?

1. \(\boldsymbol{\mathop{\overline{y}}}\perp(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}})\).
2. \(\boldsymbol{\mathop{\widehat{e}}}\perp\boldsymbol{\mathop{\widehat{y}}}\).
3. \(\boldsymbol{\mathop{\widehat{e}}}\perp(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}})\).
4. \(\boldsymbol{\mathop{\widehat{e}}}\perp(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})\).

El ángulo \(\theta\) tal que \(R^2=\cos^2\theta\) se mide entre:

1. \(\boldsymbol{x}\) y \(\boldsymbol{1}\).
2. \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}\) y \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\).
3. \(\boldsymbol{\mathop{\widehat{e}}}\) y \(\boldsymbol{1}\).
4. \(\boldsymbol{y}\) y \(\boldsymbol{\mathop{\widehat{e}}}\).

En la regresión simple (un solo regresor \(\boldsymbol{x}\) además de la constante), \(R^2\) es igual a:

1. \(\rho_{\boldsymbol{x}\boldsymbol{y}}\).
2. \(\rho_{\boldsymbol{x}\boldsymbol{y}}^2\).
3. \(2\rho_{\boldsymbol{x}\boldsymbol{y}}\).
4. \(1/\rho_{\boldsymbol{x}\boldsymbol{y}}\).

Si el cateto \(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}}\) permanece fijo mientras el residuo \(\boldsymbol{\mathop{\widehat{e}}}\) crece sin límite, entonces:

1. \(\theta\) se acerca a \(0^\circ\) y \(R^2\) se acerca a \(1\).
2. \(\theta\) se acerca a \(90^\circ\) y \(R^2\) se acerca a \(0\).
3. \(\theta\) se acerca a \(180^\circ\) y \(R^2\) se vuelve negativo.
4. \(R^2\) no depende del tamaño de \(\boldsymbol{\mathop{\widehat{e}}}\).

En el ejemplo con \(\mathrm{STC}=100\) y \(\mathrm{SRC}=10\), ¿cuánto vale \(R^2\)?

1. \(0{,}1\).
2. \(0{,}9\).
3. \(10\).
4. \(90\).

La descomposición \(\boldsymbol{y}-\boldsymbol{\mathop{\overline{y}}}=(\boldsymbol{\mathop{\widehat{y}}}-\boldsymbol{\mathop{\overline{y}}})+\boldsymbol{\mathop{\widehat{e}}}\) requiere, como paso previo imprescindible, que:

1. \(\hat\beta_2=1\).
2. \(\mu_{\boldsymbol{y}}=\mu_{\boldsymbol{\mathop{\widehat{y}}}}\), de modo que ambos compartan el mismo vector de medias \(\boldsymbol{\mathop{\overline{y}}}\).
3. \(\boldsymbol{x}\) tenga media cero.
4. \(R^2=1\).

Añadir un regresor adicional a un modelo, por poco relevante que sea:

1. Siempre reduce \(R^2\).
2. Nunca puede reducir \(R^2\) (puede quedar igual o aumentar).
3. No tiene ningún efecto sobre \(R^2\).
4. Reduce \(R^2\) solo si el nuevo regresor está incorrelado con \(\boldsymbol{y}\).

El ejemplo del consumo de queso y las muertes por enredarse en sábanas (Vigen) se usa en esta lección para ilustrar que:

1. Un \(R^2\) alto certifica siempre una relación causal.
2. Dos series pueden tener una correlación alta sin que exista ninguna relación causal entre ellas.
3. La correlación entre queso y sábanas prueba que existe una tercera variable oculta que las conecta.
4. \(\mathrm{STC}=\mathrm{SEC}+\mathrm{SRC}\) deja de cumplirse en presencia de correlaciones espurias.

¿Qué cambia y qué NO cambia de \(R^2=\cos^2\theta\) al pasar de la regresión simple a la regresión múltiple (varios regresores)?

1. Cambia la propia definición de \(R^2\) como coseno al cuadrado; deja de ser válida con más de un regresor.
2. \(R^2=\cos^2\theta\) sigue siendo válido tal cual, pero deja de coincidir, en general, con el cuadrado de una única correlación \(\rho_{\boldsymbol{x}_j\boldsymbol{y}}\).
3. Con varios regresores, \(R^2\) deja de estar acotado entre \(0\) y \(1\).
4. Con varios regresores, ya no existe ningún ángulo \(\theta\) que definir.