Cómo aprende una neurona

Multiplicar las entradas por pesos y sumar

En la lección anterior vimos cómo reducir la pérdida girando perillas de a poco. Ahora toca ver dónde están esas perillas. Una neurona artificial es una pequeña unidad de cálculo que recibe varias entradas y produce un solo valor, una idea tomada de las células nerviosas del cerebro.
Una neurona no suma sus entradas sin más. Le fija una fuerza a cada entrada, la multiplica por esa fuerza y después suma. Esa fuerza se llama peso. Las entradas importantes reciben pesos grandes, y las menos importantes, pesos pequeños.

Toca las entradas para encenderlas y apagarlas. Solo las entradas encendidas se multiplican por su peso y se suman.

Cada vez que se encendió una entrada, la suma creció en el peso de esa entrada. Una entrada con un peso grande mueve mucho la suma, y una con un peso pequeño, apenas. La suma no refleja solo las entradas, sino las entradas y los pesos juntos.
Pero esta forma, multiplicar entradas por números y sumarlas, ¿no te resulta conocida?

El peso es la pendiente de la regresión

Recuerda cómo escribimos una recta como ax+b en la regresión lineal: multiplicábamos la entrada x por la pendiente a y sumábamos b. Cuanto mayor la pendiente, más cambiaba el resultado para la misma entrada.
El peso de una neurona es justamente esa pendiente. Multiplicar una entrada por un peso es lo mismo que multiplicarla por una pendiente, así que subir el peso hace que esa entrada influya más en el resultado, y bajarlo, que influya menos. Una neurona también tiene un valor que corresponde a la b de la regresión, llamado sesgo.

Sube o baja el peso. Como una pendiente, multiplica la entrada, y la salida cambia junto con él.

Al mover el peso, la salida lo siguió. Así como cambiar la pendiente inclina la recta, cambiar un peso cambia cómo responde la neurona. Por eso, para que una neurona acierte, la clave, al final, es fijar bien los pesos.
Pero ¿qué hace la neurona después de tener la suma? No la deja salir tal cual: toma una decisión más.

Se enciende cuando llega al umbral

Después de calcular la suma, la neurona la compara con un valor de referencia llamado umbral. Si la suma llega al umbral o lo supera, la neurona se enciende, y la respuesta que da es 1. Si la suma se queda corta, la neurona sigue apagada, y la respuesta es 0.
Así como una bombilla solo se enciende cuando hay suficiente brillo, la neurona solo se enciende cuando la suma es lo bastante grande. Comparar con el umbral también se puede reescribir como sumarle el sesgo a la suma y ver si el resultado es negativo o no.

Sube y baja la suma. Cuando llega al umbral, la neurona se enciende (1); cuando se queda corta, está apagada (0).

En el instante en que la suma tocó el umbral, la neurona se encendió de golpe. La respuesta es una de dos: encendida o apagada. Así, una neurona recibe entradas y decide si se enciende o se queda apagada.
Pero no acierta desde el principio. Con pesos torpes, se queda apagada cuando debería encenderse y se enciende cuando debería quedarse apagada. Eso es un error. Entonces, ¿cómo mejora una neurona cuando se equivoca?

Si se equivoca, corrige un poco los pesos

Recuerda el descenso de gradiente, el método de ver cuánto te equivocas y bajar de a poco en la dirección correcta. Una neurona aprende con la misma idea. Si debía encenderse y se quedó apagada, sube un poco sus pesos para que la suma crezca; si debía quedarse apagada y se encendió, los baja un poco.
No cambia todo de golpe: se mueve paso a paso. Repitiendo esto muchas veces, acierta cada vez más. Un dispositivo que aprende así con una sola neurona de encendido y apagado se llama perceptrón.

Mira la respuesta equivocada y toca ajustar un poco. El peso crece paso a paso hacia la respuesta correcta hasta que por fin acierta.

Cuanto más se ajustó, menos se equivocó. Si la dirección es la correcta, aunque sea paso a paso, termina cerca de la respuesta correcta. No es una persona la que fija los pesos uno por uno: la neurona mira sus errores y pule sus pesos por sí sola.
Las redes neuronales reales, sin embargo, usan funciones que cambian de forma suave en lugar de saltar entre encendido y apagado. Con un salto brusco, la pendiente es plana casi en todas partes, y al descenso de gradiente le cuesta encontrar hacia dónde corregir. A estas funciones se las llama funciones de activación.

Resumen

En resumen: una neurona multiplica cada entrada por un peso y las suma. Esto tiene la misma forma que ax+b en la regresión, y la pendiente a es el peso. Si la suma llega al umbral, se enciende (1); si se queda corta, sigue apagada (0).
Cuando se equivoca, corrige sus pesos de a poco, como en el descenso de gradiente, y repitiéndolo acierta cada vez más. Multiplicar y sumar, encenderse por un umbral y corregirse al equivocarse: eso es una neurona.

Toca los puntos clave en orden para repasar. (la suma de entradas × pesos → el peso es la pendiente → al pasar el umbral se enciende → ajustar cuando se equivoca)

Ahora conoces una pequeña unidad de cálculo inspirada en las células nerviosas del cerebro. Esta unidad sencilla, que multiplica y suma, se enciende y se apaga, y se corrige al equivocarse, es el punto de partida del aprendizaje.
Sin embargo, una sola neurona solo puede trazar una frontera recta. Por eso se conectan neuronas en capas para que aprendan cosas mucho más complicadas, y la próxima lección, sobre las redes neuronales, muestra cómo se ve eso.