Sesión 11 (D) — El cuarteto de Anscombe: cuatro rectas iguales, cuatro nubes distintas

Material adicional de la sesión, fuera del guion troncal: dura media hora y puede hacerse por su cuenta.

En la práctica C de la sesión 7 (actividad 1 (html)) vimos cuatro empresas con el mismo salario medio y la misma desviación típica y estructuras salariales muy distintas: los momentos no bastan para describir una variable. Hoy repetimos la comprobación con dos variables y su recta de regresión. El estadístico Francis Anscombe construyó en 1973 cuatro conjuntos de once puntos \((x,y)\) que comparten, cifra por cifra, todo lo que una tabla de regresión resume: medias, varianzas, correlación, recta ajustada y \(R^2\). Y sin embargo, sus diagramas de dispersión son completamente distintos.

Objetivos

1. Estimar la misma regresión simple sobre cuatro conjuntos de datos y comprobar que las cuatro tablas de resultados son idénticas.
2. Dibujar los cuatro diagramas de dispersión y ver que solo uno de ellos es lo que la tabla sugiere.
3. Sacar la conclusión: la tabla de una regresión (coeficientes, \(R^2\), sumas de cuadrados) no dice qué forma tiene la nube de puntos; sin el gráfico, no se sabe qué se ha ajustado.

Comandos de esta práctica. nulldata, setobs, series, summary --simple, printf, gnuplot (sesiones 4 y 7) y ols con sus accesores $coeff, $rsq y $ess (práctica A de esta sesión). Dos detalles nuevos:

{10, 8, 13, ...}'

una fila de números entre llaves, separados por comas, es una matriz fila; el apóstrofo final la traspone a columna, y así puede convertirse en una serie con un valor por observación.

loop i=1..4

repite las líneas hasta endloop con i valiendo \(1\), \(2\), \(3\) y \(4\); dentro, x$i se convierte en x1, x2, etc. Como en la sesión 7, lo presentamos sin explicar su mecánica.

Los cuatro comparten el mismo \(\boldsymbol x\) salvo el último, en el que diez observaciones tienen el mismo valor.

Conjunto de once observaciones. Cada serie se escribe a mano: una fila de once números entre llaves, traspuesta con el apóstrofo para que sea una columna. Los tres primeros conjuntos comparten el regresor, por eso x2 y x3 se copian de x1. La última línea muestra media, mediana, desviación típica, mínimo y máximo de las ocho series.

en línea de comandos:

nulldata 11
setobs 1 1 --cross-section

series x1 = {10, 8, 13, 9, 11, 14, 6, 4, 12, 7, 5}'
series y1 = {8.04, 6.95, 7.58, 8.81, 8.33, 9.96, 7.24, 4.26, 10.84, 4.82, 5.68}'
series x2 = x1
series y2 = {9.14, 8.14, 8.74, 8.77, 9.26, 8.10, 6.13, 3.10, 9.13, 7.26, 4.74}'
series x3 = x1
series y3 = {7.46, 6.77, 12.74, 7.11, 7.81, 8.84, 6.08, 5.39, 8.15, 6.42, 5.73}'
series x4 = {8, 8, 8, 8, 8, 8, 8, 19, 8, 8, 8}'
series y4 = {6.58, 5.76, 7.71, 8.84, 8.47, 7.04, 5.25, 12.50, 5.56, 7.91, 6.89}'

summary x1 y1 x2 y2 x3 y3 x4 y4 --simple

                Media    Mediana      D. T.        Mín        Máx
x1              9,000      9,000      3,317      4,000      14,00
y1              7,501      7,580      2,032      4,260      10,84
x2              9,000      9,000      3,317      4,000      14,00
y2              7,501      8,140      2,032      3,100      9,260
x3              9,000      9,000      3,317      4,000      14,00
y3              7,500      7,110      2,030      5,390      12,74
x4              9,000      8,000      3,317      8,000      19,00
y4              7,501      7,040      2,031      5,250      12,50

El primer printf imprime una cabecera. El bucle estima con --quiet, para cada conjunto, la regresión de y$i sobre la constante y x$i, y a continuación imprime una fila con el número del conjunto (%d es el formato de un entero), los dos coeficientes ($coeff), la correlación (corr), el \(R^2\) ($rsq) y la suma de cuadrados de los residuos ($ess). Los anchos de campo alinean las columnas.

en línea de comandos:

printf "conjunto   beta1     beta2     rho(x,y)    R2       SRC\n"
loop i=1..4 --quiet
    ols y$i const x$i --quiet
    printf "   %d     %7.3f   %7.4f   %8.4f   %7.4f   %7.3f\n", i, $coeff(const), $coeff(x$i), corr(x$i, y$i), $rsq, $ess
endloop

conjunto   beta1     beta2     rho(x,y)    R2       SRC
   1       3,000    0,5001     0,8164    0,6665    13,763
   2       3,001    0,5000     0,8162    0,6662    13,776
   3       3,002    0,4997     0,8163    0,6663    13,756
   4       3,002    0,4999     0,8165    0,6667    13,742

en línea de comandos (o, para cada pareja, marque y y x, botón derecho, /Gráfico X-Y)/. Cuatro diagramas de dispersión, y en el eje vertical y x en el horizontal, cada uno con su recta ajustada; en la consola, cada uno se abre en su ventana:

gnuplot y1 x1
gnuplot y2 x2
gnuplot y3 x3
gnuplot y4 x4

Todo lo que una regresión simple imprime (\(\hat\beta_1\), \(\hat\beta_2\), \(R^2\), \(\mathrm{STC}\), \(\mathrm{SEC}\), \(\mathrm{SRC}\)) se calcula con cinco números: dos medias, dos varianzas y una covarianza. Dos conjuntos de datos que compartan esos cinco números tendrán la misma tabla, tengan la forma que tengan. Es la versión bivariante de lo que vimos con los salarios de las cuatro empresas, y la razón práctica de la advertencia de la lección 8: un \(R^2\) no certifica que el modelo esté bien especificado. El diagrama de dispersión es la única forma de saber qué se ha ajustado.

1. ¿Por qué basta con que dos conjuntos compartan medias, varianzas y covarianza para que su tabla de regresión sea idéntica? Enumere qué cantidades de la tabla dependen de cada uno de esos cinco números.
2. En el segundo conjunto no hay ruido: los puntos están exactamente sobre una parábola. ¿Por qué el \(R^2\) no vale \(1\)?
3. En el cuarto conjunto, ¿qué ocurriría con la recta si se quitara la observación con \(x=19\)? ¿Y con el \(R^2\)?
4. ¿Cuál de los cuatro conjuntos ilustra la situación de la práctica A de la sesión 14 (actividad 6 (html)), una vivienda que tira del ajuste?

Para profundizar:

• Anscombe, F. J. (1973). ``Graphs in Statistical Analysis''. The American Statistician, 27(1), 17-21.
• Lección 8 (lección 8), sección ``Una advertencia: el nombre suma explicada es engañoso''.

1. Cinco números. \(\hat\beta_2=\sigma_{\boldsymbol x\boldsymbol y}/\sigma_{\boldsymbol x}^2\) (lección 7) depende de la covarianza y de la varianza de \(x\); \(\hat\beta_1=\mu_{\boldsymbol y}-\hat\beta_2\mu_{\boldsymbol x}\) añade las dos medias; \(R^2=\rho^2=\sigma_{\boldsymbol x\boldsymbol y}^2/(\sigma_{\boldsymbol x}^2\sigma_{\boldsymbol y}^2)\) (lección 8) usa la covarianza y las dos varianzas; \(\mathrm{STC}=n\sigma_{\boldsymbol y}^2\) y \(\mathrm{SRC}=(1-R^2)\,\mathrm{STC}\). Ninguna cantidad de la tabla depende de los datos uno a uno: todas son funciones de esos cinco resúmenes, y dos nubes que los compartan son indistinguibles para la regresión.
2. Parábola sin ruido. Porque \(R^2\) mide cuánto se acerca \(\boldsymbol y\) al plano \(\mathcal L(\boldsymbol 1,\boldsymbol x)\), es decir, a la mejor recta. Una parábola no está en ese plano: la distancia de \(\boldsymbol y\) a la recta ajustada no es cero aunque la relación entre \(x\) e \(y\) sea exacta. El residuo es la parte de \(\boldsymbol y\) que la recta no reproduce, y aquí esa parte es la curvatura. Es un caso de modelo mal especificado, no de datos ruidosos; la lección 9 lo llamaría un fallo del primer supuesto.
3. Quitar el punto de \(x=19\). Los diez puntos restantes tienen todos \(x=8\): el regresor en desviaciones es el vector nulo, \(\sigma_{\boldsymbol x}^2=0\), y la pendiente no está definida (Gretl no puede estimar el modelo). Esa única observación no influye en la recta: la determina por completo. El \(R^2\) tampoco existe sin ella. Es la versión extrema de la actividad 6 de la práctica A de la sesión 14.
4. El cuarto. Allí una vivienda lejos del centro del rango y lejos de la recta movía el ajuste de forma visible; aquí una sola observación está tan lejos de las demás en el eje de \(x\) que determina por completo la recta. El tercer conjunto ilustra lo contrario: un punto lejos de la recta pero dentro del rango de \(x\), que tira de la pendiente sin llegar a determinarla.