Réduction de dimensionnalité non linéaire interprétable par transformation linéaire pondérée par des gaussiennes

Interpretable non-linear dimensionality reduction using gaussian weighted linear transformation

April 24, 2025

Auteurs: Erik Bergh

cs.AI

Résumé

Les techniques de réduction de dimensionnalité sont fondamentales pour l'analyse et la visualisation de données en haute dimension. Les méthodes établies comme t-SNE et PCA présentent un compromis entre puissance de représentation et interprétabilité. Cet article introduit une nouvelle approche qui comble cet écart en combinant l'interprétabilité des méthodes linéaires avec l'expressivité des transformations non linéaires. L'algorithme proposé construit une cartographie non linéaire entre les espaces de haute et de basse dimension à travers une combinaison de transformations linéaires, chacune pondérée par des fonctions gaussiennes. Cette architecture permet des transformations non linéaires complexes tout en préservant les avantages d'interprétabilité des méthodes linéaires, car chaque transformation peut être analysée indépendamment. Le modèle résultant offre à la fois une réduction de dimensionnalité puissante et des insights transparents sur l'espace transformé. Des techniques pour interpréter les transformations apprises sont présentées, incluant des méthodes pour identifier les dimensions supprimées et comment l'espace est dilaté et contracté. Ces outils permettent aux praticiens de comprendre comment l'algorithme préserve et modifie les relations géométriques lors de la réduction de dimensionnalité. Pour assurer l'utilité pratique de cet algorithme, la création de logiciels conviviaux est mise en avant, facilitant son adoption dans le milieu académique et industriel.

English

Dimensionality reduction techniques are fundamental for analyzing and visualizing high-dimensional data. With established methods like t-SNE and PCA presenting a trade-off between representational power and interpretability. This paper introduces a novel approach that bridges this gap by combining the interpretability of linear methods with the expressiveness of non-linear transformations. The proposed algorithm constructs a non-linear mapping between high-dimensional and low-dimensional spaces through a combination of linear transformations, each weighted by Gaussian functions. This architecture enables complex non-linear transformations while preserving the interpretability advantages of linear methods, as each transformation can be analyzed independently. The resulting model provides both powerful dimensionality reduction and transparent insights into the transformed space. Techniques for interpreting the learned transformations are presented, including methods for identifying suppressed dimensions and how space is expanded and contracted. These tools enable practitioners to understand how the algorithm preserves and modifies geometric relationships during dimensionality reduction. To ensure the practical utility of this algorithm, the creation of user-friendly software packages is emphasized, facilitating its adoption in both academia and industry.