Regresión lineal y correlación
Los valores medidos no se sientan sobre una recta perfecta. Estatura y peso, horas de estudio y nota de un examen, temperatura y ventas de helado: los pares se dispersan en una nube, y aun así una tendencia inclinada se esconde dentro. Un coeficiente de correlación dice con un solo número cuán pegados quedan los puntos a una recta, y los mínimos cuadrados eligen la única recta que hace mínima la suma de los desvíos verticales al cuadrado. De esa recta lees la pendiente, preguntas con R² qué parte de la dispersión explica la recta, y luego preguntas si la pendiente es una tendencia real o solo ruido. El álgebra es la misma que proyecta un vector sobre el espacio columna en la matemática de ingeniería. La lente cambia: aquí ajustas una recta a datos con ruido y miras qué puede decir esa recta. Los puntos se dispersan, y la recta que se elige sigue siendo una. La nube sigue ahí.
Mueve un punto y la correlación r se calcula de nuevo al momento. Cuando los puntos suben juntos en una línea, r se sienta cerca de +1. Cuando un x mayor viene con un y menor, r se inclina hacia -1. Cuando la nube es redonda y no tiene dirección, r se queda cerca de 0. Mide solo una asociación recta, ignora las unidades y no sale del tramo de -1 a +1. Una curva doblada es algo que este número deja pasar.
Sobre una nube fija, coloca tú mismo una recta. Mover la pendiente y el intercepto hace girar la recta. El medidor es el SSE, la suma de los huecos verticales al cuadrado desde cada punto hasta la recta. Empuja la recta hacia un lado equivocado y esa suma crece. Solo una pendiente y un intercepto bajan la suma hasta el fondo. Ese fondo es la recta de mínimos cuadrados, y el control de ajuste salta directo allí. Un buen ajuste no quiere decir que el error sea 0. Quiere decir que el error al cuadrado es el más pequeño posible.
El residuo es el hueco vertical que queda. Eleva al cuadrado la longitud desde la y real hasta la predicción y súmalas, y sale SSres, la cantidad que la recta todavía falla. Ponlo junto al fallo de una línea media plana, SStot, y el cociente es R² = 1 - SSres / SStot. Esa es la parte del vaivén de arriba y abajo que se lleva la recta. Alterna la línea media y la recta ajustada y lo que sobra se encoge delante de ti. Lo que sobra es la parte que la recta no explica.
Parte de una recta limpia y vierte ruido encima. Cuanto más crece la dispersión, más se entierra la misma tendencia de fondo, y r se desliza desde cerca de 1 hacia 0. La relación en sí no cambió. Lo que cambió es lo nítido que el ojo todavía la ve. Una correlación fuerte no es una pendiente empinada. Es que los puntos se apartan solo un poco de la recta. Si el ojo se nubla, la tendencia también.
La pendiente leída de los datos es solo una estimación, así que un intervalo de confianza la envuelve. Con pocos puntos o mucho ruido el intervalo se ensancha y puede cruzar el 0, y entonces la tendencia podría ser un accidente. Junta más puntos y el intervalo se estrecha. Cuando el intervalo deja el 0 por completo, esa pendiente se llama estadísticamente significativa. Empuja la muestra y el intervalo se aprieta hacia la pendiente verdadera. Que el intervalo se estreche ya es la respuesta. Cuantos más puntos, más clara queda esa respuesta.