Capítulo 8 Estimación de MCO: práctica

← Volver a la teoría

8.1 Objetivos de la práctica

Al finalizar esta práctica podrás:

  1. Estimar MCO con álgebra matricial en R.
  2. Comparar la estimación matricial con lm().
  3. Reproducir los mismos coeficientes en Stata/Mata y Python/NumPy.
  4. Interpretar coeficientes, residuos y errores estándar usando resultados calculados en R.

8.2 Pregunta aplicada

Queremos estudiar la asociación entre salario por hora, educación y experiencia en una base pequeña y reproducible.

La pregunta no es solo cuánto vale la pendiente, sino si podemos reconstruir todo el cálculo de MCO desde matrices: \(X'X\), \(X'y\), \(\hat{\beta}\), residuos y errores estándar.

Estimaremos:

\[ \text{salario\_hora}_i = \beta_0+\beta_1\text{educacion}_i+\beta_2\text{experiencia}_i+\epsilon_i. \]

8.3 Datos

Usaremos una base determinística para que R, Stata y Python trabajen exactamente con la misma muestra.

Tabla 8.1: Datos de práctica para estimar MCO con matrices
educacion experiencia ajuste salario_hora
10 2 -0.5 12.7
11 3 0.2 14.5
11 5 -0.1 14.9
12 4 0.4 15.8
12 6 -0.2 15.9
13 5 0.1 16.6
13 7 0.3 17.5
14 6 -0.3 17.3
14 8 0.2 18.5
15 7 0.5 19.2
15 9 -0.4 19.0
16 10 0.1 20.6
Relación entre educación y salario por hora en la práctica de estimación

Figura 8.1: Relación entre educación y salario por hora en la práctica de estimación

8.4 Estimación en R

Primero estimamos el modelo con álgebra matricial:

Verificamos que el resultado coincide con lm():

Tabla 8.2: Comparación entre MCO matricial y lm() en R
termino beta_matricial beta_lm error_estandar
(Intercept) 3.9083 3.9083 1.1716
educacion 0.8667 0.8667 0.1302
experiencia 0.2833 0.2833 0.1020

8.5 Interpretación

La pendiente de educación es 0.867. Manteniendo constante la experiencia, un año adicional de educación se asocia con 0.867 unidades más de salario por hora en esta muestra.

La pendiente de experiencia es 0.283. El \(R^2\) es 0.982 y la SRC es 1.034.

La igualdad entre el cálculo matricial y lm() no demuestra causalidad. Solo verifica que ambos implementan el mismo estimador de MCO sobre la misma base y especificación.

8.6 Estimación en Stata

El mismo ejercicio puede reproducirse en Stata y Mata:

clear
input educacion experiencia ajuste
10 2  -0.5
11 3   0.2
11 5  -0.1
12 4   0.4
12 6  -0.2
13 5   0.1
13 7   0.3
14 6  -0.3
14 8   0.2
15 7   0.5
15 9  -0.4
16 10  0.1
end

gen salario_hora = 5 + 0.75 * educacion + 0.35 * experiencia + ajuste
reg salario_hora educacion experiencia

gen constante = 1
mata:
st_view(Y=., ., "salario_hora")
st_view(X=., ., ("constante", "educacion", "experiencia"))
b = invsym(X'X) * X'Y
e = Y - X*b
s2 = (e'e) / (rows(X) - cols(X))
V = s2 * invsym(X'X)
se = sqrt(diagonal(V))
b
se
end

Los resultados esperados son los mismos coeficientes que Stata debe reproducir si usa la misma base y especificación:

Término Estimación aproximada Error estándar aproximado
Constante 3.908 1.172
Educación 0.867 0.130
Experiencia 0.283 0.102
\(R^2\) 0.982

8.7 Estimación en Python y Google Colab

Para correr esta práctica en Google Colab, abre un cuaderno nuevo y ejecuta:

!pip -q install pandas numpy statsmodels matplotlib seaborn

Luego reproduce el cálculo:

import numpy as np
import pandas as pd
import statsmodels.api as sm

datos_est = pd.DataFrame({
    "educacion": [10, 11, 11, 12, 12, 13, 13, 14, 14, 15, 15, 16],
    "experiencia": [2, 3, 5, 4, 6, 5, 7, 6, 8, 7, 9, 10],
    "ajuste": [-0.5, 0.2, -0.1, 0.4, -0.2, 0.1, 0.3, -0.3, 0.2, 0.5, -0.4, 0.1]
})

datos_est["salario_hora"] = (
    5 + 0.75 * datos_est["educacion"] +
    0.35 * datos_est["experiencia"] +
    datos_est["ajuste"]
)

X = np.column_stack([
    np.ones(len(datos_est)),
    datos_est["educacion"],
    datos_est["experiencia"]
])
Y = datos_est["salario_hora"].to_numpy().reshape(-1, 1)

beta = np.linalg.inv(X.T @ X) @ X.T @ Y
print(beta.ravel())

modelo = sm.OLS(datos_est["salario_hora"], sm.add_constant(datos_est[["educacion", "experiencia"]])).fit()
print(modelo.summary())

Los resultados esperados son los mismos coeficientes que Python debe reproducir si usa la misma base y especificación:

Término Estimación aproximada Error estándar aproximado
Constante 3.908 1.172
Educación 0.867 0.130
Experiencia 0.283 0.102
\(R^2\) 0.982

8.8 Comparación R, Stata y Python

R, Stata/Mata y Python/NumPy aplican la misma fórmula matricial. Si \(X\), \(y\) y la muestra son idénticas, los coeficientes y errores estándar coinciden salvo diferencias mínimas de redondeo.

Tarea R Stata/Mata Python
Crear \(X\) cbind(1, x1, x2) st_view(X=., ., vars) np.column_stack()
Estimar \(\hat{\beta}\) solve(t(X)%*%X)%*%t(X)%*%Y invsym(X'X)*X'Y np.linalg.inv(X.T @ X) @ X.T @ Y
Residuos Y - X %*% beta Y - X*b Y - X @ beta
Comparar con comando base lm() reg statsmodels.OLS()

8.9 Errores frecuentes en la práctica

  • Olvidar la constante. Si el modelo teórico tiene intercepto, la matriz \(X\) debe incluir una columna de unos.
  • Comparar modelos con muestras distintas. La fórmula matricial y lm() solo coinciden si usan exactamente las mismas observaciones.
  • Invertir una matriz singular. Si hay colinealidad perfecta, \(X'X\) no se puede invertir.
  • Confundir SRC con varianza del error. La SRC es \(\hat{\epsilon}'\hat{\epsilon}\); la varianza estimada divide por \(n-K\).

8.10 Ejercicios computacionales

  1. Elimina la constante de \(X\). ¿Cómo cambian los coeficientes?
  2. Agrega una variable que sea exactamente educacion + experiencia. ¿Qué ocurre con solve(t(X) %*% X)?
  3. Cambia la unidad de salario multiplicando salario_hora por 1000. ¿Qué coeficientes cambian?
  4. Repite el cálculo en Stata/Mata y Python. Verifica que los coeficientes coincidan con R.
  5. Calcula manualmente sum(resid_est^2) y compáralo con src_est.