Neural Experts: Mixture of Experts für implizite neuronale Darstellungen
Author
Venue
NeurIPs 2024
Abstract
Implizite neuronale Darstellungen (INRs) haben sich bei verschiedenen Aufgaben wie der Rekonstruktion von Bildern, Formen, Audio- und Videodaten als effektiv erwiesen. Diese INRs lernen typischerweise das implizite Feld aus abgetasteten Eingabepunkten. Dies geschieht oft unter Verwendung eines einzigen Netzwerks für den gesamten Definitionsbereich, wodurch einer einzigen Funktion viele globale Einschränkungen auferlegt werden. In diesem Artikel schlagen wir einen Ansatz für implizite neuronale Repräsentationen vor, der auf einer Mischung von Experten (MoE) basiert und das Lernen lokaler, stückweise stetiger Funktionen ermöglicht, die gleichzeitig die Domäne unterteilen und lokal anpassen. Wir zeigen, dass die Einbindung einer „Mixture of Experts“-Architektur in bestehende INR-Formulierungen zu einer Steigerung der Geschwindigkeit, Genauigkeit und einer Verringerung des Speicherbedarfs führt. Darüber hinaus führen wir neuartige Konditionierungs- und Vortrainingsmethoden für das Gating-Netzwerk ein, die die Konvergenz zur gewünschten Lösung verbessern. Wir bewerten die Wirksamkeit unseres Ansatzes bei verschiedenen Rekonstruktionsaufgaben, darunter Oberflächenrekonstruktion, Bildrekonstruktion und Audiosignalrekonstruktion, und zeigen eine verbesserte Leistung im Vergleich zu Nicht-MoE-Methoden.
