Neural Experts : mélange d'experts pour des représentations neuronales implicites
Author
Venue
NeurIPs 2024
Abstract
Les représentations neuronales implicites (INR) se sont révélées efficaces dans diverses tâches, notamment la reconstruction d'images, de formes, d'audio et de vidéo. Ces INR apprennent généralement le champ implicite à partir de points d'entrée échantillonnés. Cela se fait souvent à l'aide d'un seul réseau pour l'ensemble du domaine, imposant de nombreuses contraintes globales à une seule fonction. Dans cet article, nous proposons une approche de représentation neuronale implicite de type « mixture of experts » (MoE) qui permet d'apprendre des fonctions locales continues par morceaux, apprenant simultanément à subdiviser le domaine et à s'ajuster localement. Nous montrons que l'intégration d'une architecture de mélange d'experts dans les formulations INR existantes permet d'améliorer la vitesse, la précision et les besoins en mémoire. De plus, nous introduisons de nouvelles méthodes de conditionnement et de pré-entraînement pour le réseau de gating qui améliorent la convergence vers la solution souhaitée. Nous évaluons l'efficacité de notre approche sur plusieurs tâches de reconstruction, notamment la reconstruction de surfaces, la reconstruction d'images et la reconstruction de signaux audio, et montrons des performances améliorées par rapport aux méthodes non-MoE.
