Palabras en numeros: embeddings

Da a cada palabra una coordenada

Dentro de una computadora no hay letras.
Solo numeros.
Pero nosotros hablamos y pensamos con palabras.
Entonces, como metemos una palabra en la computadora?
La forma es dar a cada palabra una coordenada.
Piensalo como un solo punto en un mapa.
La palabra cat va aqui,
la palabra dog va alla,
asi cada palabra tiene su propio lugar.

Toca una palabra. La palabra que era solo letras aterriza como un punto en el espacio de significado, es decir, una coordenada numerica.

Tocaste una palabra y aparecio un punto.
La posicion de ese punto es la coordenada.
Una coordenada es un grupo de numeros, como x e y.
Ahora que la palabra es un numero,
la computadora por fin puede manejarla.
Pero si soltamos puntos en cualquier lado,
las coordenadas no significarian nada.
Asi que anadimos una promesa mas.
Las palabras de significado parecido quedan cerca.

Los significados parecidos se juntan

La promesa clave del embedding es simple.
Las palabras de significado parecido quedan cerca.
cat y dog, ambos animales, quedan cerca,
king y queen, ambos realeza, quedan cerca.
Pero cat y car,
aunque suenan parecido, significan cosas distintas, asi que quedan lejos.
Asi que en este espacio de significado
la distancia es el parecido del significado.
Cerca es parecido, lejos es distinto.

Toca el boton de ordenar. Las palabras dispersas se juntan por grupo de significado, cerca dentro del grupo y lejos de otros grupos.

Tocaste y las palabras se juntaron de golpe.
Animales con animales, realeza con realeza.
Cerca dentro de un grupo,
lejos de los otros grupos.
Lo llamativo es que la computadora no tiene idea,
por las letras, de que cat es un animal.
Solo mira la distancia entre coordenadas.
Pero si las coordenadas se fijan bien,
esa distancia sola revela el parecido.

Suma y resta coordenadas

Ahora que las palabras son coordenadas, surge algo divertido.
Las coordenadas son numeros, asi que puedes sumar y restar.
Y esa cuenta lleva significado.
De king, resta la direccion man.
Lo que queda es la sensacion de realeza.
Suma a eso la direccion woman,
y asombrosamente llegas cerca de queen.
De king quita man y suma woman, y obtienes queen,
navegar por coordenadas se vuelve navegar el significado.

Toca los botones de paso en orden. Sigue el camino de king menos man mas woman, y la flecha aterriza cerca de queen.

La flecha de verdad llego cerca de queen.
El calculo fue solo sumar y restar coordenadas.
Y aun asi el resultado encaja con el significado.
Eso es porque la diferencia entre king y queen
se parece a la diferencia entre man y woman.
Si las coordenadas se aprenden bien,
tales direcciones pasan a tener significado.
Claro que no siempre es perfectamente exacto.
Aun asi, solo aterrizar cerca es asombroso.

No solo las palabras se vuelven coordenadas

Quieres ver por que esta idea es tan potente?
Convertir cosas en coordenadas no es solo para palabras.
Una sola foto tambien puede volverse coordenada.
Las fotos parecidas se juntan cerca.
Una voz o una cancion tambien se vuelve coordenada.
Hasta el gusto de una persona puede ponerse como coordenada.
Entonces los gustos parecidos se acercan.
Convierte lo que sea en coordenadas y mide la cercania,
y una computadora puede manejar el parecido.

Toca para cambiar el tipo. Palabras, imagenes, sonidos o usuarios se vuelven puntos igual, y los parecidos se juntan cerca.

Aunque cambies de tipo, la imagen siguio igual.
Aparecen puntos, y los parecidos se juntan cerca.
Por eso una app de musica sugiere canciones parecidas,
y una app de fotos encuentra imagenes similares.
Por debajo, todo es medir distancia entre coordenadas.
Pon tipos distintos en el mismo espacio
y hasta puedes hallar una foto desde una palabra.
Con un solo lenguaje comun de coordenadas,
toda clase de cosas se maneja junta.

Resumamos

Reunido en una linea, es esto.
Como una computadora solo conoce numeros,
convierte una palabra en una coordenada, un grupo de numeros.
Eso es el embedding.
La promesa clave es colocar cerca los significados parecidos.
Asi la distancia se vuelve el parecido del significado.
Como son coordenadas, puedes sumar y restar,
y esa cuenta curiosamente lleva significado.
Y no solo las palabras, sino imagenes, sonidos y usuarios funcionan igual.

Toca los puntos clave en orden para repasar. (palabras en coordenadas -> los significados parecidos quedan cerca -> la cuenta de coordenadas lleva significado -> imagenes y sonidos igual)

Ahora sabes como una computadora empieza
a manejar el significado de una palabra.
Convertir letras en coordenadas
y juntar las parecidas, una idea simple,
de hecho nos lleva muy lejos.
Busqueda, traduccion, recomendacion, enlazar imagenes y texto,
mira por debajo y este embedding esta bajo todo ello.
Ese unico primer paso de convertir palabras en numeros
se volvio la base de las maquinas listas de hoy.