3D
Artificial Intelligence
Computer Vision
神经专家：用于隐式神经表征的专家混合模型
Author
Venue
NeurIPs 2024
Abstract
隐式神经表示（INR）已在图像、形状、音频和视频重建等多种任务中证明了其有效性。这些INR通常通过采样输入点来学习隐式场。这通常是通过一个单一网络处理整个域来实现的，从而对单一函数施加了许多全局约束。 本文提出一种基于专家混合（MoE）的隐式神经表示方法，该方法能够学习局部分段连续函数，从而同时实现域的细分与局部拟合。 我们证明，将专家混合架构融入现有的INR框架中，可显著提升速度、精度并降低内存需求。此外，我们为门控网络引入了创新的条件约束和预训练方法，从而加速了向目标解的收敛。我们在多个重建任务（包括曲面重建、图像重建和音频信号重建）上评估了该方法的有效性，并证明其性能优于非MoE方法。
