Embeddings: el significado como coordenadas
Más dimensiones = más matices; un embedding es una lista de coordenadas aprendida.
1Mueve la flecha copiada sobre rey: misma dirección, misma longitud.tu turno
La misma flecha que llevó hombre a mujer. Suelta su cola en rey.
la idea Cada palabra es solo una lista de coordenadas, su posición en este mapa: esa lista es su embedding.
Mira las coordenadas
hombre
0.28 0.26
mujer
0.62 0.26
rey
0.28 0.72
Números inventados para mostrar la idea, no mediciones de un modelo real.
Aquí cada palabra recibe 2 números, así que cabe en un mapa plano. Los modelos reales le dan a cada una 768 números en GPT-2 small , espacio para muchos más matices de significado que un mapa plano.
Paso 1 / 2
→ continuar← atrásR repetir
¿Cómo mide la máquina realmente la 'cercanía'?
1.3 Medir el significado con un númeroSe apoya en1.1Convertir palabras en números
Preguntas frecuentes
¿De qué trata "Embeddings: el significado como coordenadas"?
Más dimensiones = más matices; un embedding es una lista de coordenadas aprendida.
¿Qué problema resuelve?
Las palabras necesitan más que un mapa plano: ¿cómo escribes 'rey es a reina como hombre es a mujer' en matemáticas?
¿Qué sabré hacer después de esta lección?
Puedes explicar qué es el embedding de una palabra y leer una analogía como matemáticas de vectores.
¿Qué viene después?
¿Cómo mide la máquina realmente la 'cercanía'?