Interpretierbare nichtlineare Dimensionsreduktion mittels gaußgewichteter linearer Transformation

Interpretable non-linear dimensionality reduction using gaussian weighted linear transformation

April 24, 2025

Autoren: Erik Bergh

cs.AI

Zusammenfassung

Dimensionsreduktionstechniken sind grundlegend für die Analyse und Visualisierung hochdimensionaler Daten. Etablierte Methoden wie t-SNE und PCA bieten dabei einen Kompromiss zwischen Darstellungsfähigkeit und Interpretierbarkeit. Dieses Papier stellt einen neuartigen Ansatz vor, der diese Lücke schließt, indem er die Interpretierbarkeit linearer Methoden mit der Ausdrucksstärke nichtlinearer Transformationen kombiniert. Der vorgeschlagene Algorithmus konstruiert eine nichtlineare Abbildung zwischen hochdimensionalen und niedrigdimensionalen Räumen durch eine Kombination linearer Transformationen, die jeweils durch Gauß-Funktionen gewichtet werden. Diese Architektur ermöglicht komplexe nichtlineare Transformationen, während sie die Vorteile der Interpretierbarkeit linearer Methoden bewahrt, da jede Transformation unabhängig analysiert werden kann. Das resultierende Modell bietet sowohl leistungsstarke Dimensionsreduktion als auch transparente Einblicke in den transformierten Raum. Es werden Techniken zur Interpretation der gelernten Transformationen vorgestellt, einschließlich Methoden zur Identifizierung unterdrückter Dimensionen sowie zur Expansion und Kontraktion des Raums. Diese Werkzeuge ermöglichen es Praktikern zu verstehen, wie der Algorithmus geometrische Beziehungen während der Dimensionsreduktion bewahrt und modifiziert. Um die praktische Nutzbarkeit dieses Algorithmus zu gewährleisten, wird die Entwicklung benutzerfreundlicher Softwarepakete betont, die seine Anwendung sowohl in der Wissenschaft als auch in der Industrie erleichtern.

English

Dimensionality reduction techniques are fundamental for analyzing and visualizing high-dimensional data. With established methods like t-SNE and PCA presenting a trade-off between representational power and interpretability. This paper introduces a novel approach that bridges this gap by combining the interpretability of linear methods with the expressiveness of non-linear transformations. The proposed algorithm constructs a non-linear mapping between high-dimensional and low-dimensional spaces through a combination of linear transformations, each weighted by Gaussian functions. This architecture enables complex non-linear transformations while preserving the interpretability advantages of linear methods, as each transformation can be analyzed independently. The resulting model provides both powerful dimensionality reduction and transparent insights into the transformed space. Techniques for interpreting the learned transformations are presented, including methods for identifying suppressed dimensions and how space is expanded and contracted. These tools enable practitioners to understand how the algorithm preserves and modifies geometric relationships during dimensionality reduction. To ensure the practical utility of this algorithm, the creation of user-friendly software packages is emphasized, facilitating its adoption in both academia and industry.