Interpreteerbare niet-lineaire dimensionaliteitsreductie met behulp van gaussisch gewogen lineaire transformatie

Interpretable non-linear dimensionality reduction using gaussian weighted linear transformation

April 24, 2025

Auteurs: Erik Bergh

cs.AI

Samenvatting

Dimensionaliteitsreductietechnieken zijn fundamenteel voor het analyseren en visualiseren van hoogdimensionale data. Gevestigde methoden zoals t-SNE en PCA bieden een afweging tussen representatiekracht en interpreteerbaarheid. Dit artikel introduceert een nieuwe aanpak die deze kloof overbrugt door de interpreteerbaarheid van lineaire methoden te combineren met de expressiviteit van niet-lineaire transformaties. Het voorgestelde algoritme construeert een niet-lineaire afbeelding tussen hoogdimensionale en laagdimensionale ruimtes door een combinatie van lineaire transformaties, elk gewogen door Gaussische functies. Deze architectuur maakt complexe niet-lineaire transformaties mogelijk terwijl de voordelen van interpreteerbaarheid van lineaire methoden behouden blijven, aangezien elke transformatie onafhankelijk kan worden geanalyseerd. Het resulterende model biedt zowel krachtige dimensionaliteitsreductie als transparante inzichten in de getransformeerde ruimte. Technieken voor het interpreteren van de geleerde transformaties worden gepresenteerd, waaronder methoden voor het identificeren van onderdrukte dimensies en hoe ruimte wordt uitgebreid en samengedrukt. Deze tools stellen gebruikers in staat te begrijpen hoe het algoritme geometrische relaties behoudt en wijzigt tijdens dimensionaliteitsreductie. Om de praktische bruikbaarheid van dit algoritme te waarborgen, wordt de ontwikkeling van gebruiksvriendelijke softwarepakketten benadrukt, wat de adoptie ervan in zowel academische als industriële contexten vergemakkelijkt.

English

Dimensionality reduction techniques are fundamental for analyzing and visualizing high-dimensional data. With established methods like t-SNE and PCA presenting a trade-off between representational power and interpretability. This paper introduces a novel approach that bridges this gap by combining the interpretability of linear methods with the expressiveness of non-linear transformations. The proposed algorithm constructs a non-linear mapping between high-dimensional and low-dimensional spaces through a combination of linear transformations, each weighted by Gaussian functions. This architecture enables complex non-linear transformations while preserving the interpretability advantages of linear methods, as each transformation can be analyzed independently. The resulting model provides both powerful dimensionality reduction and transparent insights into the transformed space. Techniques for interpreting the learned transformations are presented, including methods for identifying suppressed dimensions and how space is expanded and contracted. These tools enable practitioners to understand how the algorithm preserves and modifies geometric relationships during dimensionality reduction. To ensure the practical utility of this algorithm, the creation of user-friendly software packages is emphasized, facilitating its adoption in both academia and industry.