Sesión 16 (B) — Condicionar en \(\boldsymbol X\): la misma fórmula, dos experimentos

Qué es condicionar en \(\boldsymbol X\) ya está definido con precisión: la lección 9 presentó \(E[Z\mid\boldsymbol X]\) como la proyección ortogonal de \(Z\) sobre las funciones de \(\boldsymbol X\), y la lección 11 trabajó con esa definición. Esta práctica busca otra cosa: la consecuencia observable de condicionar, es decir, qué cambia en los números cuando se condiciona y cuando no. Quien practica la econometría lee errores estándar condicionales a diario, y rara vez ve qué distingue esa cifra de la que saldría sin condicionar.

En la práctica anterior mantuvimos el regresor rooms fijo a lo largo de las 2000 réplicas, y solo dejamos cambiar la perturbación. Lo justificamos con una frase que conviene ahora tomarse en serio: ``eso es lo que significa condicionar en \(\boldsymbol X\)''.

Esta práctica pone esa frase a prueba haciendo lo contrario. Vamos a repetir el mismo experimento de Montecarlo dos veces:

• Experimento A: el regresor se fija una vez y no cambia; solo cambia la perturbación.
• Experimento B: en cada réplica se sortea también un regresor nuevo.

Si la distinción fuera irrelevante, ambos experimentos darían lo mismo. Veremos que no.

Objetivos

1. Comprobar que la fórmula \(Var[\hat\beta_2\mid\boldsymbol X]=\sigma^2/\sum_i(X_i-\overline{X})^2\) describe el experimento A, no el B.
2. Ver qué consecuencia numérica concreta tiene la barra vertical de \(Var[\cdot\mid\boldsymbol X]\), que las lecciones 9 y 11 ya definieron con precisión.
3. Ver que la insesgadez, en cambio, se cumple en ambos experimentos —y entender por qué las dos propiedades se comportan de forma distinta.
4. Apreciar por qué el resultado que reportan los programas estadísticos es siempre el condicional.

Advertencia de diseño. Para que la diferencia se vea con claridad, trabajaremos con una muestra deliberadamente pequeña: doce viviendas. Cuanto mayor es la muestra, menos importa la distinción que queremos ilustrar, y con las 506 observaciones de la práctica anterior costaría apreciarla. En la última actividad repetiremos el experimento con una muestra grande para comprobar precisamente eso.

Reutilizamos el mundo artificial de la práctica A —mismos \(\beta_1\), \(\beta_2\) y \(\sigma\)—, pero nos quedamos solo con doce viviendas, elegidas al azar. Además, anotamos la media y la desviación típica de rooms en el conjunto completo: harán de ``población'' de la que se sortean regresores nuevos en el experimento B.

o bien teclee en línea de comandos:

open hprice2.gdt --quiet

ols price const rooms --quiet
scalar b1_true = $coeff(const)
scalar b2_true = $coeff(rooms)
scalar sigma   = sqrt($ess/$df)

scalar mu_r = mean(rooms)               # "poblacion" del regresor
scalar sd_r = sd(rooms)

printf "Poblacion del regresor: media = %.4f   desv. tipica = %.4f\n", mu_r, sd_r

set seed 160
smpl 12 --random                        # doce viviendas elegidas AL AZAR
scalar Sxx_obs  = sum((rooms-mean(rooms))^2)
scalar var_cond = sigma^2 / Sxx_obs

printf "\nSubmuestra observada (n = %d):\n", $nobs
printf "  media(rooms) = %.4f    desv. tipica(rooms) = %.4f\n", mean(rooms), sd(rooms)
printf "  Sxx = suma de cuadrados en desviaciones = %.4f\n", Sxx_obs
printf "  Sxx tipico de una muestra de este tamano = %.4f\n", ($nobs-1)*sd_r^2
printf "\nVar[b2 | X] que predice la leccion 11 = %.1f   (desv. tipica %.1f)\n", var_cond, sqrt(var_cond)

Poblacion del regresor: media = 6,2841   desv. tipica = 0,7026

Submuestra observada (n = 12):
  media(rooms) = 6,3917    desv. tipica(rooms) = 0,5450
  Sxx = suma de cuadrados en desviaciones = 3,2670
  Sxx tipico de una muestra de este tamano = 5,4300

Var[b2 | X] que predice la leccion 11 = 13417907,5   (desv. tipica 3663,0)

Recuerde que Sxx es la abreviatura que introdujimos en la práctica A para \(\sum_i(X_i-\overline{X})^2\) —el cuadrado de la norma euclídea del vector en desviaciones del regresor, o equivalentemente \(n\,S^2\)—. No es notación del curso, solo una comodidad para los guiones.

Dos detalles del código merecen comentario. El primero es smpl 12 --random: elegimos las doce viviendas al azar, en lugar de tomar las doce primeras. Es importante, porque hprice2 viene ordenado por distritos censales y las primeras viviendas se parecen mucho entre sí; tomarlas sin más nos daría una submuestra rara por un motivo ajeno a lo que queremos estudiar. El segundo es set seed, que fija qué doce viviendas salen, para que el resultado sea reproducible.

Compare ahora las dos últimas cifras: el Sxx de nuestras doce viviendas y el Sxx que cabría esperar de doce viviendas cualesquiera. Guarde esa comparación: será la clave de todo lo que sigue.

Es el experimento de la práctica anterior, sin más cambio que el tamaño muestral.

o bien teclee en línea de comandos:

scalar R = 4000

set seed 160
loop R --progressive --quiet
    series u = normal(0, sigma)
    series y = b1_true + b2_true*rooms + u      # rooms NO cambia
    ols y const rooms --quiet
    scalar b_fijo = $coeff(rooms)
    store "@workdir/repFijo.gdt" b_fijo
endloop

Ahora añadimos una línea dentro del bucle: antes de construir el regresando, sorteamos un regresor nuevo. Conceptualmente estamos diciendo ``no solo podría haber sido otra la perturbación; también podrían haber sido otras las doce viviendas''.

o bien teclee en línea de comandos:

set seed 160
loop R --progressive --quiet
    series xnew = mu_r + sd_r*normal(0,1)       # doce viviendas NUEVAS
    series u    = normal(0, sigma)
    series y    = b1_true + b2_true*xnew + u
    ols y const xnew --quiet
    scalar b_var = $coeff(xnew)
    scalar Sxx_i = sum((xnew-mean(xnew))^2)     # el Sxx de ESTA replica
    store "@workdir/repVar.gdt" b_var Sxx_i
endloop

Guardamos también Sxx_i, la suma de cuadrados en desviaciones del regresor de cada réplica. En el experimento A ese número era una constante; aquí es una variable aleatoria más, y en ella está la explicación de todo.

o bien teclee en línea de comandos:

printf "=== LO QUE PREDICE LA LECCION 11 (condicional en la X observada) ===\n"
printf "beta_2 verdadero  = %.2f\n", b2_true
printf "Var[b2 | X]       = %.1f\n\n", var_cond

printf "=== EXPERIMENTO A: regresor FIJO ===\n"
printf "media de b2hat    = %.2f\n", mean(b_fijo)
printf "varianza de b2hat = %.1f\n\n", sum((b_fijo-mean(b_fijo))^2)/$nobs

printf "=== EXPERIMENTO B: regresor REGENERADO en cada replica ===\n"
printf "media de b2hat    = %.2f\n", mean(b_var)
printf "varianza de b2hat = %.1f\n", sum((b_var-mean(b_var))^2)/$nobs
printf "\nSxx a lo largo de las replicas del experimento B:\n"
printf "  medio = %.4f    minimo = %.4f    maximo = %.4f\n", mean(Sxx_i), min(Sxx_i), max(Sxx_i)

=== LO QUE PREDICE LA LECCION 11 (condicional en la X observada) ===
beta_2 verdadero  = 9119,55
Var[b2 | X]       = 13417907,5

=== EXPERIMENTO A: regresor FIJO ===
media de b2hat    = 9061,70
varianza de b2hat = 13168607,8

=== EXPERIMENTO B: regresor REGENERADO en cada replica ===
media de b2hat    = 9125,59
varianza de b2hat = 9747173,3

Sxx a lo largo de las replicas del experimento B:
  medio = 5,4482    minimo = 0,7178    maximo = 19,0432

Repita el experimento con cuatrocientas viviendas en lugar de doce, dejando todo lo demás igual.

o bien teclee en línea de comandos:

open hprice2.gdt --quiet
ols price const rooms --quiet
scalar b1_true = $coeff(const)
scalar b2_true = $coeff(rooms)
scalar sigma   = sqrt($ess/$df)
scalar mu_r = mean(rooms)
scalar sd_r = sd(rooms)

set seed 160
smpl 400 --random
scalar Sxx_obs  = sum((rooms-mean(rooms))^2)
scalar var_cond = sigma^2 / Sxx_obs

set seed 160
loop 40000 --progressive --quiet      # diez veces mas replicas: ver nota
    series u = normal(0, sigma)
    series y = b1_true + b2_true*rooms + u
    ols y const rooms --quiet
    scalar bg_fijo = $coeff(rooms)
    series xnew = mu_r + sd_r*normal(0,1)
    series u2   = normal(0, sigma)
    series y2   = b1_true + b2_true*xnew + u2
    ols y2 const xnew --quiet
    scalar bg_var = $coeff(xnew)
    store "@workdir/repGrande.gdt" bg_fijo bg_var
endloop

printf "Con n = 400:  Sxx observado = %.2f   (tipico: %.2f)\n", Sxx_obs, ($nobs-1)*sd_r^2
printf "             Var[b2|X] condicional teorica = %.2f\n", var_cond
printf "             cociente Sxx observado/tipico = %.3f  <- lo que cabe esperar de var_B/var_A\n", Sxx_obs/(($nobs-1)*sd_r^2)

printf "  regresor FIJO       : var = %.2f\n", sum((bg_fijo-mean(bg_fijo))^2)/$nobs
printf "  regresor REGENERADO : var = %.2f\n", sum((bg_var-mean(bg_var))^2)/$nobs
printf "  cociente observado  : %.3f\n", (sum((bg_var-mean(bg_var))^2))/(sum((bg_fijo-mean(bg_fijo))^2))

Con n = 400:  Sxx observado = 205,76   (tipico: 196,96)
             Var[b2|X] condicional teorica = 213046,34
             cociente Sxx observado/tipico = 1,045  <- lo que cabe esperar de var_B/var_A
  regresor FIJO       : var = 214203,96
  regresor REGENERADO : var = 224464,19
  cociente observado  : 1,048

1. ¿Qué pregunta responde el experimento A y qué pregunta, distinta, responde el experimento B? Formule ambas con palabras, sin fórmulas.
2. ¿Por qué la insesgadez se cumple en los dos experimentos, mientras que la fórmula de la varianza solo describe el primero? (Pista: ¿en qué paso de la demostración de la lección 11 interviene \(\boldsymbol X\) de forma esencial?)
3. Cuando Gretl le muestra el error estándar de un coeficiente, ¿está respondiendo a la pregunta del experimento A o a la del B? ¿Por qué cree que es así?
4. Imagine que un investigador diseña el experimento y puede elegir los valores del regresor (por ejemplo, las dosis en un ensayo). A la vista de la fórmula de la lección 11, ¿qué le convendría hacer con esas dosis?
5. En la Actividad 5, con \(n=400\), las dos varianzas casi coinciden. ¿Diría entonces que la distinción entre condicionar y no condicionar es irrelevante en la práctica? Argumente a favor y en contra.

Para profundizar:

• Lección 11 (lección 11), sección ``Varianza'', en particular el párrafo final sobre la varianza incondicional y la ley de la varianza total.
• Lección 9 (lección 9) para la esperanza condicional como proyección.
• Wooldridge, J. M. (2020). Introductory Econometrics, cap. 2, sección 2.5.

1. Las dos preguntas. El experimento A pregunta: ``dadas estas doce viviendas, con estos valores concretos de rooms, ¿cuánto variaría mi estimación si el azar hubiera repartido otras perturbaciones?''. El experimento B pregunta algo más amplio: ``¿cuánto variaría mi estimación entre todos los estudios posibles de doce viviendas, considerando que también podrían haberme tocado otras viviendas?''. La primera toma la muestra de regresores como un dato del problema; la segunda la considera parte de lo que podría haber sido distinto.
2. Por qué la insesgadez sobrevive. Porque la demostración de la insesgadez pasa por \(E[\hat\beta_2\mid\boldsymbol X]=\beta_2\,\mathit 1\) y después aplica la ley de las esperanzas iteradas: el resultado condicional no depende de \(\boldsymbol X\), es la misma constante sea cual sea la matriz de regresores, y por tanto su promedio sobre todas las \(\boldsymbol X\) posibles vuelve a ser esa constante. Con la varianza ocurre lo contrario: \(Var[\hat\beta_2\mid\boldsymbol X]=\sigma^2/\mathrm{Sxx}\) sí depende de \(\boldsymbol X\), así que promediar sobre las \(\boldsymbol X\) posibles da un número distinto del que corresponde a una \(\boldsymbol X\) concreta.
3. Lo que reporta Gretl. Responde a la pregunta del experimento A: el error estándar se calcula con la matriz de datos efectivamente observada, sustituyendo \(\sigma^2\) por su estimación \(\mathfrak s^2\). Tiene sentido que sea así por dos motivos. Uno práctico: no conocemos la distribución de la que salieron los regresores, así que no podríamos promediar sobre ella aunque quisiéramos. Y otro conceptual, más importante: la pregunta que le interesa a quien analiza unos datos es cuánta confianza merece su estimación, con su muestra —no cuánta merecería en promedio un estudio hipotético que nunca hizo.
4. Si se pueden elegir los valores del regresor. La fórmula dice que la varianza es \(\sigma^2\) dividido por \(\sum_i(X_i-\overline{X})^2\). Conviene, por tanto, hacer ese denominador lo más grande posible: elegir dosis muy separadas entre sí, en los extremos del rango admisible, en lugar de concentrarlas en torno a un valor central. Es el mismo principio que hemos visto al revés en esta práctica: nuestras doce viviendas tenían valores de rooms poco dispersos, y eso encarecía la estimación. (Naturalmente, esto supone que el modelo lineal es válido en todo ese rango: separar mucho las dosis mejora la precisión, pero solo si la relación sigue siendo lineal allí.)
5. ¿Es irrelevante con \(n\) grande? A favor de que lo es: numéricamente las dos varianzas se acercan mucho —la diferencia pasa de ser enorme con doce observaciones a ser modesta con cuatrocientas—, así que a efectos de calcular un error estándar la distinción cambia poco las cifras. En contra: primero, que ``\(n\) grande'' no siempre se da —con muestras pequeñas, que abundan en economía aplicada, la diferencia es la que hemos visto—; y segundo, que la distinción no es solo numérica, sino conceptual: aclara qué población de muestras estamos imaginando cuando decimos que un estimador ``varía''. Confundir ambas preguntas lleva a interpretar mal qué significa exactamente un error estándar.