La dirección dominante de W_O no es identificable

Demo de "Same function, different pruning: the dominant direction of W_O under free, soft, and hard intervention". Una práctica habitual para podar o interpretar cabezas de atención lee el primer vector singular de la proyección de salida, v1(W_O), como la "dirección representativa" de cada cabeza. Este trabajo muestra que esa dirección no está determinada por la función: existe una libertad de gauge W_v → W_v R, W_O → R⁻¹ W_O que deja la salida —y el circuito W_v W_O— exactamente intactos, pero mueve v1(W_O) a voluntad.

Los ejemplos de abajo usan pesos reales de ViT-B/16 (semilla 42, la columna ancla del paper), precalculados para 12 capas × 3 fuerzas de gauge × 2 semillas aleatorias (72 combinaciones). Elige una combinación y compara cuánto se mueve la dirección de peso frente a cuánto se mueve la función.

Código (GitHub) Resultados (HF) Checkpoints (HF) DOI del código