Análisis de componentes principales
Supón que esparces un puñado de mijo sobre una mesa. Si los granos no se reparten en una mancha redonda, sino que quedan tendidos en una franja alargada, cualquiera puede señalar de un vistazo la dirección en que más se dispersan. Eso es exactamente lo que pregunta el análisis de componentes principales (PCA): en una nube de datos, ¿qué dirección es la más dispersa? Esa dirección es la primera componente principal (PC1), y la dirección de segunda mayor dispersión, perpendicular a ella, es PC2. Sorprendentemente, estas dos direcciones son los vectores propios de la matriz de covarianza de los datos, y la dispersión a lo largo de cada una, su varianza, es exactamente el valor propio. La idea de lo propio de «Los vectores propios son las direcciones que no giran» se usa aquí, sin cambios, para la dispersión de los datos.
Arrastra el control para hacer girar la nube de puntos y toda la nube se inclina junto con el control. Sea cual sea el ángulo, la elipse dorada que envuelve los puntos (la covarianza dibujada a 1 sigma) gira con la nube. El eje más largo de esa elipse (verde) es PC1, y el eje corto perpendicular a él (naranja) es PC2. Las longitudes de los dos ejes son las raíces cuadradas de la varianza en cada dirección, es decir, las desviaciones típicas, y abajo aparecen las dos varianzas. Gires como gires la nube, PC1 siempre apunta exactamente a lo largo de la mayor dispersión. Estos ejes son precisamente los vectores propios de la matriz de covarianza calculada con los puntos.
Esta vez cambia solo el ángulo de la nube con el deslizador. Dos ejes, PC1 (verde) y PC2 (naranja), la siguen siempre. PC1 es la dirección de mayor varianza, y PC2 es la segunda dirección, exactamente perpendicular a ella. Pongas donde pongas el deslizador, los dos ejes mantienen 90 grados entre sí, porque los vectores propios de una matriz de covarianza simétrica son siempre ortogonales entre sí. Así, las componentes principales separan los datos limpiamente en direcciones que no se solapan. La información de un eje no se filtra al otro.
Puedes medir tú mismo por qué PC1 es especial. Gira con el deslizador una recta de dirección y cada punto se proyecta perpendicularmente sobre ella, dejando una huella. Lo dispersas que quedan esas huellas a lo largo de la recta es la varianza en esa dirección, y su valor aparece abajo como una barra y un número. Gira la recta de un lado a otro: la varianza alcanza su máximo cuando la recta va a lo largo de PC1 y cae a su mínimo cuando va a lo largo de PC2. Cerca del máximo, la recta, las huellas y la barra se vuelven verdes. Por eso PC1 también se define como la dirección que maximiza la varianza. La dirección más dispersa es la dirección donde sobrevive más información.
Ahora el uso de verdad: la reducción de dimensión. Conserva con el interruptor un solo eje, PC1 o PC2, y los puntos quedan aplastados sobre ese eje, mientras la dirección perpendicular descartada aparece como colas rojas punteadas, el error de reconstrucción. El valor mostrado es la varianza del eje descartado, la cantidad de información perdida. Si conservas solo PC1, las colas son las más cortas, porque desechaste la dirección menos dispersa y, por tanto, perdiste lo mínimo. Reducir 2D a 1D con la menor pérdida posible: así comprime los datos el PCA.
Por último, una herramienta para preguntar cuántas dimensiones necesitas de verdad. Estira la nube con el deslizador, de redonda a muy alargada, y las dos barras muestran los cocientes de los valores propios: arriba λ1/(λ1+λ2), abajo λ2/(λ1+λ2). Cuando la nube es redonda, las dos barras están casi a 50 y 50, así que conservar un solo eje pierde la mitad. A medida que se alarga, la barra de PC1 se acerca al 100 por ciento y la de PC2 cae casi a 0. Entonces, conservar un solo eje preserva casi toda la información. Este cociente de varianza explicada es la vara de medir para juzgar a cuántas dimensiones se pueden reducir los datos sin riesgo.