Medir el significado con un número
El producto escalar / coseno como puntuación de alineación: multiplicar y sumar.
Llegaste al final de la muestra gratis. La siguiente lección necesita tu pase:
Pero esos eran solo dos números, un juguete. Un embedding real tiene cientos. ¿Qué guardan?
1.7 Un embedding real tiene 768 númerosPreguntas frecuentes
¿De qué trata "Medir el significado con un número"?
¿Qué pregunta responde esta lección?
¿Qué sabré hacer después de esta lección?
¿Qué viene después?
Qué muestra esta lección
El producto escalar / coseno como puntuación de alineación: multiplicar y sumar.
La pregunta con la que abre
¿Cómo mide la máquina lo cerca que están dos vectores?
El recorrido, en palabras de la propia lección
- ¿Qué palabra se parece más a gato? Toca tu respuesta en el mapa.
- Gira la flecha. ¿Cuándo llega el medidor a su máximo?
- Esa sombra que se encoge en el dial es el puntaje.
- Volverás a encontrar este mismo paso en atención y RAG.
- Aquí cada flecha tiene longitud 1, así que el puntaje mide pura dirección: llega a 1 solo cuando dos flechas apuntan exactamente igual.
- Casi 1: gato y perro apuntan casi en la misma dirección (a solo 8° de diferencia), el puntaje alto que muestra la sombra del dial.
- Un bot de soporte responde a partir de los documentos de tu empresa y trae justo el párrafo correcto de entre miles. ¿Cómo elige ese?
- Puntúa tu pregunta contra cada fragmento con un dot product, el mismo multiplicar-y-sumar que acabas de girar, y se queda con el más alto. Este es el paso de recuperación de RAG, y la misma puntuación mueve la attention dentro del modelo.
- Multiplica cada coordenada y suma: cada una es un pequeño coincide o discrepa.
La idea clave
La similitud es solo multiplicar y sumar, y reaparece en la atención y en RAG.
Qué puedes hacer después de esta lección
Puedes explicar cómo un modelo mide el significado con un producto escalar.
Ponte a prueba: ¿Qué te dice el producto escalar de dos vectores de palabras?
- Qué tan alineados (parecidos) están(correcta)
- Cuántas letras comparten
- Cuál palabra es más larga
- Qué tan común es cada palabra
El producto punto crece cuando dos vectores apuntan en la misma dirección, así que mide qué tan alineadas, y por tanto qué tan parecidas, están dos palabras.
Adónde lleva: Pero esos eran solo dos números, un juguete. Un embedding real tiene cientos. ¿Qué guardan?
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.