Embeddings: el significado como coordenadas
Más dimensiones = más matices; un embedding es una lista de coordenadas aprendida.
La misma flecha que llevó hombre a mujer. Suelta su cola en rey.
la idea Cada palabra es solo una lista de coordenadas, su posición en este mapa: esa lista es su embedding.
Mira las coordenadas
Números inventados para mostrar la idea, no mediciones de un modelo real.
Aquí cada palabra recibe 2 números, así que cabe en un mapa plano. Los modelos reales le dan a cada una 768 números en GPT-2 small , espacio para muchos más matices de significado que un mapa plano.
¿Cómo mide la máquina realmente la 'cercanía'?
1.3 Medir el significado con un númeroSe apoya en1.1Convertir palabras en números
Preguntas frecuentes
¿De qué trata "Embeddings: el significado como coordenadas"?
¿Qué pregunta responde esta lección?
¿Qué sabré hacer después de esta lección?
¿Qué viene después?
Qué muestra esta lección
Más dimensiones = más matices; un embedding es una lista de coordenadas aprendida.
La pregunta con la que abre
Las palabras necesitan más que un mapa plano: ¿cómo escribes 'rey es a reina como hombre es a mujer' en matemáticas?
El recorrido, en palabras de la propia lección
- El mismo movimiento, otra palabra. Ahora ponle nombre al lugar donde cae.
- Mueve la flecha copiada sobre rey: misma dirección, misma longitud.
- En lenguaje de mapa: empieza en rey, camina hacia atrás por la flecha de hombre (ese es el menos) y luego hacia adelante por la flecha de mujer (el más).
- Esa única flecha ES "− hombre + mujer": entonces, ¿qué es rey + ese movimiento?
- Exacto: el movimiento +mujer convierte al rey en la reina.
- Cada palabra es solo una lista de coordenadas, su posición en este mapa: esa lista es su
- Aquí cada palabra recibe 2 números, así que cabe en un mapa plano. Los modelos reales le dan a cada una
- «hombre → mujer» es un paso a lo largo del eje del género.
- Mismo eje, mismo desplazamiento: por eso también convierte rey en reina.
- Una palabra es una posición en este espacio. Esa posición es su embedding.
- Pregúntale a un chatbot "París es a Francia lo que ___ es a Japón" y responde Tokio. ¿Qué movimiento acaba de hacer?
- El mismo copiado de flechas que acabas de hacer. La flecha Francia → París significa 'ir de un país a su capital'; camina esa misma flecha desde Japón y caes en Tokio. Las relaciones entre palabras son direcciones en el mapa.
- En un modelo multilingüe, sí. Aprende un solo mapa compartido, así que 'dog' y 'perro' quedan cerca, y se cumple la misma geometría: rey − hombre + mujer ≈ reina. El significado, no la ortografía, fija la posición, por eso palabras relacionadas pueden quedar cerca incluso entre idiomas.
- Un mapa 2-D de hombre, mujer, rey y reina como puntos etiquetados.
- La flecha copiada ahora empieza en rey y su punta llega a reina.
- Arrastra la flecha punteada para que su cola quede sobre rey.
La idea clave
rey − hombre + mujer ≈ reina, visto como aritmética de vectores.
Qué puedes hacer después de esta lección
Puedes explicar qué es el embedding de una palabra y leer una analogía como matemáticas de vectores.
Ponte a prueba: Los embeddings pueden hacer 'rey − hombre + mujer ≈ reina'. ¿Qué revela eso?
- Las direcciones en el espacio llevan significado, como el género o la realeza(correcta)
- El modelo memorizó esa ecuación exacta
- Se sumaron y restaron las letras
- Es una coincidencia por la longitud de las palabras
El significado se vuelve geometría: direcciones consistentes codifican rasgos como el género, así que moverte por la dirección de 'género' convierte rey en reina. El modelo nunca memorizó la ecuación.
¿Prefieres leer primero? Esta lección tiene un explicador de compañía: EmbeddingsAnalogías de vectores
Adónde lleva: ¿Cómo mide la máquina realmente la 'cercanía'?
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.