Capítulo 19 Heterocedasticidad: teoría
19.1 Objetivos de aprendizaje
Al finalizar esta página podrás:
- Escribir la heterocedasticidad como \(\text{Var}(\epsilon)=\sigma_\epsilon^2\Psi\) y reconocer sus dos casos puros.
- Explicar por qué MCO sigue siendo insesgado y consistente, pero
reg y xreporta mal la varianza. - Derivar \(\text{Var}(\hat{\beta})=\sigma_\epsilon^2(X'X)^{-1}X'\Psi X(X'X)^{-1}\).
- Calcular los errores robustos de White con la receta de cinco pasos.
- Derivar el estimador de MCO ponderados (MCP) y su varianza.
- Describir la lógica de las pruebas de White, Breusch-Pagan y Goldfeld-Quandt.
19.2 Intuición y motivación
El supuesto clásico de perturbaciones esféricas dice que todas las observaciones tienen la misma varianza del error,
\[ \text{Var}(\epsilon)=\sigma_\epsilon^2I_n . \]
Hay heterocedasticidad cuando esa varianza cambia de una observación a otra.
Piensen en el gasto de los hogares contra su ingreso. Los hogares de ingreso bajo gastan más o menos lo mismo, porque no tienen mucho margen. Entre los hogares de ingreso alto hay de todo, algunos gastan mucho y otros ahorran mucho. La recta de MCO puede seguir pasando por el centro de la nube, pero la dispersión alrededor de la recta crece con el ingreso.
19.3 El modelo con heterocedasticidad
Partimos de
\[ y=X\beta+\epsilon, \qquad \mathbb{E}[\epsilon\mid X]=0, \qquad \text{Var}(\epsilon)=\sigma_\epsilon^2\Psi , \]
donde \(\Psi\) es una matriz \(n\times n\). En el caso que estudiamos, \(\Psi\) es diagonal,
\[ \Psi= \begin{bmatrix} z_1 & & & 0\\ & z_2 & & \\ & & \ddots & \\ 0 & & & z_n \end{bmatrix}_{n\times n}, \]
así que la observación \(i\) tiene varianza \(\sigma_\epsilon^2z_i\). Si \(\Psi=I_n\) volvemos al caso homocedástico.
19.3.1 Heterocedasticidad pura
La heterocedasticidad es pura cuando la varianza realmente cambia entre observaciones, aunque el modelo esté bien especificado. Vimos dos casos.
a. Datos agrupados. Muchas veces no observamos a las personas sino promedios por grupo (municipio, colegio, empresa). Si el grupo \(m\) tiene \(N_m\) personas y cada una tiene un error con varianza \(\sigma_u^2\), el error promedio del grupo tiene varianza \(\sigma_u^2/N_m\). Con \(J\) grupos,
\[ \text{Var}(\bar{u}_m)=\sigma_u^2\Psi, \qquad \Psi= \begin{bmatrix} 1/N_{m_1} & & & 0\\ & 1/N_{m_2} & & \\ & & \ddots & \\ 0 & & & 1/N_{m_J} \end{bmatrix}_{J\times J}. \]
Los grupos grandes tienen promedios más precisos que los grupos pequeños.
b. Grupos de varianza local. Cada observación tiene su propia escala de dispersión \(z_i\), como en el ejemplo del gasto y el ingreso. Ahí \(\text{Var}(\epsilon)=\sigma_\epsilon^2\Psi\) con \(\Psi=\text{diag}(z_1,\dots,z_n)\).
19.3.2 Heterocedasticidad impura
La heterocedasticidad impura es un síntoma de mala especificación. Si el modelo verdadero es
\[ y_i=\beta_1+\beta_2X_{2i}+\beta_3X_{3i}+\epsilon_i \]
pero se estima
\[ y_i=\beta_1+\beta_2X_{2i}+u_i, \]
entonces \(u_i=\beta_3X_{3i}+\epsilon_i\). Si \(X_3\) cambia sistemáticamente con \(X_2\), la varianza del error compuesto también cambia. En este caso la solución no es corregir la varianza sino especificar bien el modelo.
19.4 Consecuencias para MCO
El estimador sigue siendo el mismo,
\[ \hat{\beta}=(X'X)^{-1}X'y=\beta+(X'X)^{-1}X'\epsilon . \]
Lo que se mantiene. Como \(\mathbb{E}[\epsilon\mid X]=0\),
\[ \mathbb{E}[\hat{\beta}]=\beta \quad\text{(insesgado)}, \qquad \text{plim}[\hat{\beta}]=\beta \quad\text{(consistente)}. \]
Ninguna de las dos demostraciones usó la varianza del error.
Lo que se rompe. Usando \(\text{Var}(A\epsilon)=A\,\text{Var}(\epsilon)\,A'\) con \(A=(X'X)^{-1}X'\),
\[ \begin{aligned} \text{Var}[\hat{\beta}] &=\text{Var}\big[\beta+(X'X)^{-1}X'\epsilon\big]\\ &=(X'X)^{-1}X'\,\underbrace{\text{Var}(\epsilon)}_{\sigma_\epsilon^2\Psi}\,X(X'X)^{-1}\\ &=\sigma_\epsilon^2\,(X'X)^{-1}X'\Psi X(X'X)^{-1}. \end{aligned} \]
Revisemos las dimensiones para ver que el resultado es \(K\times K\),
\[ \underbrace{\sigma_\epsilon^2}_{1\times 1}\ \underbrace{(X'X)^{-1}}_{K\times K}\ \underbrace{X'}_{K\times n}\ \underbrace{\Psi}_{n\times n}\ \underbrace{X}_{n\times K}\ \underbrace{(X'X)^{-1}}_{K\times K}. \]
El problema es que reg y x no usa esta fórmula. Reporta
\[ \widehat{\text{Var}}(\hat{\beta})=\hat{\sigma}_\epsilon^2(X'X)^{-1}, \]
que solo es correcta si \(\Psi=I_n\). Con heterocedasticidad, los errores estándar que reporta Stata por defecto están mal, y con ellos las pruebas \(t\), las \(F\) y los intervalos de confianza.
La heterocedasticidad no sesga a MCO si se mantiene la exogeneidad. El problema es de inferencia (errores estándar equivocados) y de eficiencia (MCO deja de ser el estimador lineal insesgado de menor varianza), no de sesgo.
19.5 Solución 1. Errores robustos de White
La primera solución deja el estimador como está y solo corrige su varianza. En Stata es
reg y x, robust
La idea es reemplazar la matriz desconocida \(\sigma_\epsilon^2\Psi\) por los residuos al cuadrado. La receta tiene cinco pasos.
| Paso | Qué se hace | En Stata |
|---|---|---|
| 1 | Estimar \(y=X\beta+\epsilon\) por MCO | reg y x |
| 2 | Calcular los residuos \(\hat{\epsilon}=y-X\hat{\beta}\) | predict res_hat, res |
| 3 | Elevarlos al cuadrado, \(\hat{\epsilon}_i^2=\hat{\epsilon}_i\times\hat{\epsilon}_i\) | gen res_hat2 = res_hat^2 |
| 4 | Armar \(\hat{\Psi}=\text{diag}(\hat{\epsilon}_1^2,\hat{\epsilon}_2^2,\dots,\hat{\epsilon}_n^2)\) | |
| 5 | Calcular el sándwich | reg y x, robust hace todo |
En el paso 5,
\[ \widehat{\text{Var}}_{White}(\hat{\beta})=(X'X)^{-1}X'\hat{\Psi}X(X'X)^{-1} =(X'X)^{-1}\left(\sum_{i=1}^{n}\hat{\epsilon}_i^2\,x_ix_i'\right)(X'X)^{-1}. \]
En la fórmula de White no va \(\sigma_\epsilon^2\) adelante. En la varianza poblacional, \(\sigma_\epsilon^2\) multiplica a \(\Psi\) porque la varianza de la observación \(i\) es \(\sigma_\epsilon^2z_i\). En la versión estimada, cada \(\hat{\epsilon}_i^2\) ya estima \(\sigma_\epsilon^2z_i\) completo. Si además multiplicáramos por \(\hat{\sigma}_\epsilon^2\), contaríamos \(\sigma_\epsilon^2\) dos veces.
Los errores robustos se justifican en muestras grandes, con la lógica del capítulo de normalidad asintótica. Los coeficientes no cambian; solo cambian los errores estándar, las \(t\), los valores \(p\) y los intervalos.
19.6 Solución 2. MCO ponderados
La segunda solución cambia el estimador. Si conocemos \(\Psi\), transformamos el modelo para que el error vuelva a ser esférico, y después aplicamos MCO al modelo transformado.
La matriz de transformación. Como \(\Psi\) es diagonal con elementos positivos, la podemos partir en dos,
\[ \Psi= \begin{bmatrix} z_1^{1/2}z_1^{1/2} & & 0\\ & \ddots & \\ 0 & & z_n^{1/2}z_n^{1/2} \end{bmatrix} =\Psi^{1/2}\,\Psi^{1/2}. \]
Definimos
\[ G= \begin{bmatrix} 1/\sqrt{z_1} & & & 0\\ & 1/\sqrt{z_2} & & \\ & & \ddots & \\ 0 & & & 1/\sqrt{z_n} \end{bmatrix}, \qquad G'G=\Psi^{-1}, \qquad (G'G)^{-1}=\Psi . \]
El modelo transformado. Premultiplicamos todo el modelo por \(G\),
\[ Gy=GX\beta+G\epsilon, \qquad\text{que escribimos como}\qquad \ddot{y}=\ddot{X}\beta+\ddot{\epsilon}. \]
Multiplicar por \(G\) divide cada observación por \(\sqrt{z_i}\),
\[ G\epsilon= \begin{bmatrix} \epsilon_1/\sqrt{z_1}\\ \epsilon_2/\sqrt{z_2}\\ \vdots\\ \epsilon_n/\sqrt{z_n} \end{bmatrix}_{n\times 1}. \]
El error transformado es esférico. Su media es \(\mathbb{E}[G\epsilon]=G\,\mathbb{E}[\epsilon]=0\). Su varianza, usando \(\text{Var}(AY)=A\,\text{Var}(Y)\,A'\) y \((AB)^{-1}=B^{-1}A^{-1}\), es
\[ \begin{aligned} \text{Var}[G\epsilon]&=G\,\text{Var}[\epsilon]\,G'=\sigma_\epsilon^2\,G\Psi G'\\ &=\sigma_\epsilon^2\,G(G'G)^{-1}G'\\ &=\sigma_\epsilon^2\,\underbrace{GG^{-1}}_{I_n}\,\underbrace{G'^{-1}G'}_{I_n}\\ &=\sigma_\epsilon^2I_n . \end{aligned} \]
Entonces \(\ddot{\epsilon}\sim(0,\sigma_\epsilon^2I_n)\), y en el modelo transformado vuelven a valer todos los supuestos clásicos.
El estimador. Aplicamos MCO al modelo transformado,
\[ \begin{aligned} \hat{\beta}_{MCP}&=(\ddot{X}'\ddot{X})^{-1}\ddot{X}'\ddot{y}\\ &=\big((GX)'(GX)\big)^{-1}(GX)'Gy\\ &=(X'G'GX)^{-1}X'G'Gy\\ &=(X'\Psi^{-1}X)^{-1}X'\Psi^{-1}y . \end{aligned} \]
Este estimador también se llama de mínimos cuadrados generalizados (MCG), que es el nombre que recibe cuando \(\Psi\) no es necesariamente diagonal. Es insesgado y consistente, \(\mathbb{E}[\hat{\beta}_{MCP}]=\beta\) y \(\text{plim}[\hat{\beta}_{MCP}]=\beta\).
Su varianza.
\[ \begin{aligned} \text{Var}[\hat{\beta}_{MCP}]&=\text{Var}\big[(\ddot{X}'\ddot{X})^{-1}\ddot{X}'(\ddot{X}\beta+\ddot{\epsilon})\big] =\text{Var}\big[\beta+(\ddot{X}'\ddot{X})^{-1}\ddot{X}'\ddot{\epsilon}\big]\\ &=(\ddot{X}'\ddot{X})^{-1}\ddot{X}'\,\underbrace{\text{Var}(\ddot{\epsilon})}_{\sigma_\epsilon^2I_n}\,\ddot{X}(\ddot{X}'\ddot{X})^{-1}\\ &=\sigma_\epsilon^2(\ddot{X}'\ddot{X})^{-1} =\sigma_\epsilon^2\big((GX)'(GX)\big)^{-1} =\sigma_\epsilon^2(X'G'GX)^{-1}\\ &=\sigma_\epsilon^2(X'\Psi^{-1}X)^{-1}. \end{aligned} \]
¿Por qué “ponderados”? Dividir la observación \(i\) por \(\sqrt{z_i}\) equivale a minimizar \(\sum_i w_i(y_i-x_i'\beta)^2\) con pesos \(w_i=1/z_i\). Las observaciones con mucha dispersión (los hogares de ingreso alto en el ejemplo) pesan menos, porque traen menos información sobre dónde está la recta. Por eso MCP gana eficiencia frente a MCO cuando \(\Psi\) es la correcta.
White frente a MCP. White deja \(\hat{\beta}\) igual y solo corrige su varianza; no hace falta conocer \(\Psi\). MCP cambia el estimador y gana eficiencia, pero necesita conocer \(\Psi\) (o estimarla, lo que se llama MCG factibles). Si \(\Psi\) está mal especificada, MCP pierde su ventaja.
19.7 Pruebas de heterocedasticidad
Las pruebas formales usan una idea común. Si hay heterocedasticidad, los residuos al cuadrado deberían estar relacionados con variables observables.
En la prueba de Breusch-Pagan se estima una regresión auxiliar,
\[ \hat{\epsilon}_i^2=\alpha_0+\alpha_1w_{1i}+\cdots+\alpha_mw_{mi}+v_i , \]
y se calcula \(LM=nR^2_{\text{aux}}\). Bajo la hipótesis nula de homocedasticidad, \(LM\overset{a}{\sim}\chi^2_m\).
La prueba de White es más general. En la regresión auxiliar usa los regresores, sus cuadrados y sus productos cruzados. Es flexible, pero puede consumir muchos grados de libertad en muestras pequeñas.
Si el modelo contiene \(x\) y \(x^2\), la regresión auxiliar de White no debe duplicar mecánicamente términos idénticos. La idea es incluir las combinaciones relevantes sin crear colinealidad perfecta.
Goldfeld-Quandt es útil cuando se sospecha que la varianza cambia con una variable específica. Ordena la muestra por esa variable, compara grupos extremos y usa una razón de varianzas.
19.8 Supuestos y propiedades
| Situación | Consecuencia |
|---|---|
| \(\mathbb{E}[\epsilon\mid X]=0\) y heterocedasticidad | MCO sigue siendo insesgado y consistente. |
| \(\Psi\neq I_n\) | MCO ya no es eficiente dentro de los estimadores lineales insesgados. |
reg y x bajo heterocedasticidad |
Errores estándar, pruebas \(t\), \(F\) e intervalos pueden ser inválidos. |
reg y x, robust (White) |
Corrige la inferencia en muestras grandes sin cambiar los coeficientes. |
| MCP/MCG con \(\Psi\) correcta | Cambia los coeficientes y gana eficiencia. |
La heterocedasticidad no destruye toda la regresión. Obliga a separar dos preguntas, si el coeficiente está centrado en el parámetro y si estamos midiendo bien su incertidumbre.
19.9 Errores comunes y cuidados
No digas que la heterocedasticidad sesga MCO si la exogeneidad se mantiene. El sesgo aparece por problemas como variables omitidas, simultaneidad o error de medición en los regresores.
No pongas \(\sigma_\epsilon^2\) adelante de la fórmula de White cuando \(\hat{\Psi}\) tiene los residuos al cuadrado. Ver la caja de la Solución 1.
No uses MCP solo porque una prueba rechaza homocedasticidad. Para ponderar necesitas una razón defendible para la forma de \(\Psi\).
Un gráfico de residuos no prueba formalmente heterocedasticidad, pero sí ayuda a detectar patrones que las pruebas pueden resumir.
19.10 Resumen
- Hay heterocedasticidad cuando \(\text{Var}(\epsilon)=\sigma_\epsilon^2\Psi\) con \(\Psi\neq I_n\).
- Con exogeneidad, MCO sigue siendo insesgado y consistente.
- La varianza correcta es \(\sigma_\epsilon^2(X'X)^{-1}X'\Psi X(X'X)^{-1}\);
reg y xreporta \(\hat{\sigma}_\epsilon^2(X'X)^{-1}\), que está mal. - White estima la varianza con \((X'X)^{-1}X'\hat{\Psi}X(X'X)^{-1}\), con \(\hat{\Psi}=\text{diag}(\hat{\epsilon}_i^2)\).
- MCP transforma el modelo con \(G\) y da \(\hat{\beta}_{MCP}=(X'\Psi^{-1}X)^{-1}X'\Psi^{-1}y\), con varianza \(\sigma_\epsilon^2(X'\Psi^{-1}X)^{-1}\).
19.11 Ejercicios conceptuales
- Explica por qué la heterocedasticidad invalida la varianza que reporta
reg y x. - Deriva \(\text{Var}(\hat{\beta})\) cuando \(\text{Var}(\epsilon)=\sigma_\epsilon^2\Psi\) y verifica que es \(K\times K\).
- Con datos agrupados por municipio, escribe \(\Psi\) y explica qué observaciones son más precisas.
- Muestra que \(\text{Var}(G\epsilon)=\sigma_\epsilon^2I_n\) y deriva \(\hat{\beta}_{MCP}\).
- Explica por qué en la fórmula de White no va \(\sigma_\epsilon^2\) adelante.
- Compara White y Breusch-Pagan: ¿cuándo preferirías cada prueba?
- Para practicar estos diagnósticos junto con multicolinealidad, resuelve las partes B, C y E del Problem Set 3: Multicolinealidad y heterocedasticidad.
19.12 Referencias
- White, Halbert. “A Heteroskedasticity-Consistent Covariance Matrix Estimator and a Direct Test for Heteroskedasticity”, Econometrica, 1980.
- Breusch, Trevor y Adrian Pagan. “A Simple Test for Heteroscedasticity and Random Coefficient Variation”, Econometrica, 1979.
- Wooldridge, Jeffrey. Introductory Econometrics: A Modern Approach, capítulo 8.
- Verbeek, Marno. A Guide to Modern Econometrics, capítulo 4.