Regresión y correlación

La correlación estudia si dos variables cuantitativas $X$ e $Y$ varían de forma relacionada; la regresión permite predecir el valor de una variable a partir de la otra mediante una recta.

Nube de puntos

Representando los pares $(x_i, y_i)$ en unos ejes se obtiene la nube de puntos (diagrama de dispersión). Su forma sugiere el tipo de relación: lineal creciente, lineal decreciente, no lineal o inexistente.

Covarianza

Mide cómo varían conjuntamente las dos variables:

$$ S_{xy} = \frac{\sum_{i=1}^{n} (x_i - \bar{x})(y_i - \bar{y})}{n} = \frac{\sum x_i y_i}{n} - \bar{x} \cdot \bar{y} $$

$S_{xy} > 0$: relación directa (al crecer $X$, crece $Y$).
$S_{xy} < 0$: relación inversa.
$S_{xy} \approx 0$: sin relación lineal aparente.

Coeficiente de correlación de Pearson

Se obtiene tipificando la covarianza:

$$ r = \frac{S_{xy}}{S_x \cdot S_y} $$

donde $S_x$ y $S_y$ son las desviaciones típicas de cada variable. Cumple $-1 \leq r \leq 1$:

Valor de $r$	Interpretación
$r = 1$	Correlación lineal positiva perfecta
$0 < r < 1$	Correlación positiva (más fuerte cuanto más cerca de 1)
$r = 0$	No hay relación lineal
$-1 < r < 0$	Correlación negativa (más fuerte cuanto más cerca de $-1$)
$r = -1$	Correlación lineal negativa perfecta

Rectas de regresión

La recta de regresión de $Y$ sobre $X$ minimiza la suma de los cuadrados de las distancias verticales:

$$ y - \bar{y} = \frac{S_{xy}}{S_x^2} \cdot (x - \bar{x}) $$

La pendiente $m = \frac{S_{xy}}{S_x^2}$ indica cuánto aumenta $Y$ por cada unidad de $X$. La recta de regresión de $X$ sobre $Y$ se obtiene intercambiando los papeles. El cuadrado del coeficiente de correlación, $r^2$ (coeficiente de determinación), indica el porcentaje de la variación de $Y$ explicado por la regresión.

resuelto: datos (1, 2), (2, 3), (3, 5), (4, 6)

$n = 4$; $\bar{x} = 2{,}5$; $\bar{y} = 4$; $\sum x_i y_i = 2+6+15+24 = 47$; $\sum x_i^2 = 30$; $\sum y_i^2 = 74$.

$$ S_{xy} = \frac{47}{4} - 2{,}5 \cdot 4 = 11{,}75 - 10 = 1{,}75 $$

$$ S_x^2 = \frac{30}{4} - 6{,}25 = 1{,}25; \quad S_y^2 = \frac{74}{4} - 16 = 2{,}5 $$

$$ r = \frac{1{,}75}{\sqrt{1{,}25} \cdot \sqrt{2{,}5}} = \frac{1{,}75}{\sqrt{3{,}125}} \approx 0{,}99 $$

La correlación es muy fuerte y positiva. Recta de regresión de $Y$ sobre $X$:

$$ y - 4 = \frac{1{,}75}{1{,}25}(x - 2{,}5) \;\Rightarrow\; y = 1{,}4x + 0{,}5 $$

Predicción para $x = 5$: $y = 1{,}4 \cdot 5 + 0{,}5 = 7{,}5$.

Advertencias

Una correlación alta no implica causalidad: puede haber una tercera variable explicando ambos fenómenos.
Las predicciones fuera del rango de los datos (extrapolación) no son fiables.
$r$ solo mide la relación lineal; dos variables pueden estar fuertemente relacionadas de forma no lineal con $r$ cercano a 0.