Qué es una función de pérdida
Antes trazamos una recta de predicción entre puntos. Pero ¿cómo se sabe si es una buena recta? Si sigue de cerca a los puntos, es buena; si se aleja mucho de ellos, es mala. En lugar de juzgarlo a ojo, se puede medir con un solo número y acordar que, cuanto menor sea ese número, mejor es la recta. Este número, que mide cuánto se equivoca un modelo, se llama pérdida.
¿Cuánto se desvía un punto?
Ya trazamos una recta de predicción. Los puntos son las respuestas reales, y la recta es la predicción del modelo. Si eliges un punto, en su posición horizontal la altura que predice la recta y la altura real del punto pueden ser distintas.
Cuanto más separadas estén, más se equivocó el modelo. Primero, veamos esa diferencia con nuestros propios ojos.
Toca un punto. Se muestra la diferencia vertical entre el punto (la respuesta) y la recta (la predicción).
Cada punto tenía una diferencia distinta. Algunos están casi pegados a la recta y otros, bien lejos. Un punto cercano a la recta fue bien predicho; uno lejano, muy errado.
Pero solo mirando es difícil saber cuánto se equivoca el conjunto. Hay que convertir las diferencias en números.
Medir la diferencia como una distancia
Convertir una diferencia en un número es sencillo: se mide tal cual la distancia vertical del punto a la recta. Es justamente la diferencia que antes llamamos residuo.
Una distancia larga significa un error grande, y una corta, un error pequeño. Esté el punto por encima o por debajo de la recta, el error es el mismo, así que la distancia siempre se mide como un número positivo.
Toca un punto. La distancia del punto a la recta se mide con una barra, y su largo aparece como número.
La distancia de cada punto apareció como un número: pequeño para un punto cercano, grande para uno lejano. Ahora se sabe con claridad cuánto se equivoca cada punto.
Pero no hay uno ni dos puntos. Con un número distinto para cada uno, es difícil ver de un vistazo cuánto se equivoca el conjunto. Juntemos esos números en uno solo.
Sumar todas las diferencias
Para saber cuánto se equivoca el conjunto, se suman las distancias medidas en todos los puntos, sin dejar ninguna afuera. Las diferencias pequeñas y las grandes van todas a un mismo montón. Así, los números dispersos se combinan en uno solo, y ese número es la pérdida.
En la práctica, a menudo se divide por la cantidad de puntos para sacar un promedio, de modo que se pueda comparar la pérdida de unos datos con diez puntos con la de otros con mil. En vez de sumar las distancias tal cual, también se usa mucho elevarlas al cuadrado antes de sumarlas. Eso se llama error cuadrático medio, y castiga con más peso a los puntos muy errados.
Toca los puntos por turno. Las diferencias se apilan una a una y se suman en un solo número llamado pérdida.
Las diferencias dispersas se juntaron en un solo número, la pérdida. Ahora es fácil evaluar el modelo: una pérdida grande significa que la recta está lejos de los puntos, y una pequeña, que se ajusta bien.
Los problemas que responden con un grupo, como la clasificación, usan otra pérdida, una que crece cuanto más baja es la probabilidad que se le dio al grupo correcto. Se mida lo que se mida, la tarea es clara: hacer pequeño ese número.
El objetivo es una pérdida pequeña
La pérdida no es un número fijo: cambia cuando se mueve la recta. Si la recta se acerca a los puntos, las diferencias se achican y la pérdida baja; si se aleja de ellos, la pérdida sube.
Así que se mueve la recta de un lado a otro hasta encontrar el lugar donde la pérdida es menor. La recta en ese lugar es la mejor.
Mueve la recta con los botones de subir y bajar. Las diferencias y la pérdida cambian juntas, y se te avisa cuando la recta llega al lugar donde la pérdida es menor.
Cada vez que la recta se movió, la pérdida subió y bajó. Cuanto mejor se ajustaba la recta a los puntos, menor era el número, y el lugar más bajo era la recta que mejor se ajusta.
Esto revela algo importante: encontrar un buen modelo es lo mismo que hacer pequeña la pérdida. Lo que el aprendizaje automático llama aprender es justamente este proceso de reducir la pérdida.
Resumen
En resumen: en cada punto hay una diferencia entre la predicción y la respuesta, es decir, una distancia vertical. El único número que se obtiene sumando o promediando esas distancias es la pérdida, que dice cuánto se equivoca el modelo.
Cuanto menor es la pérdida, mejor es el modelo. Mover la recta para reducir la pérdida es aprender.
Toca los puntos clave en orden para repasar. (una diferencia en cada punto → medirla como distancia → sumarlas todas en la pérdida → reducir la pérdida es aprender)
Ahora sabes qué es la pérdida y por qué se intenta reducirla. Capturar con un solo número cuánto se equivoca un modelo es el primer paso para enseñarle.
Pero para reducir la pérdida, ¿hacia dónde hay que mover la recta? Aquí solo la movimos arriba y abajo con dos botones, pero un modelo real tiene millones de números que ajustar. La próxima lección, sobre el descenso de gradiente, explica cómo encontrar la dirección en la que baja la pérdida y descender por ella de a poco.