Neues Verfahren für semantisches Matching von Sparse-Autoencoder-Features mit Optimal Transport
Forscher entwickeln einen distributionalen Ansatz, um semantisch ähnliche Features in Sparse Autoencodern (SAEs) schichtübergreifend zu vergleichen und große Feature-Schaltkreise zu komprimieren. Die Methode nutzt Wasserstein-Distanz zur Berechnung semantischer Abstände zwischen SAE-Features auf verschiedenen Aktivierungsmannigfaltigkeiten.
Einordnung
Diese Arbeit adressiert ein fundamentales Problem der SAE-basierten Interpretierbarkeitsforschung: Wie können Features verschiedener Schichten semantisch verglichen werden? Die vorgeschlagene Lösung ist theoretisch elegant und praktisch relevant, da sie zwei bisher getrennte Probleme - Feature-Matching und Circuit-Kompression - in einem einheitlichen Framework löst. Die mathematischen Garantien (Invarianz gegenüber Aktivierungsskalierung, Stabilität) und die automatische Kompression zu interpretierbaren Supernodes machen dies zu einem wertvollen Beitrag für die mechanistische Interpretierbarkeit von Sprachmodellen.