3D
Artificial Intelligence
Computer Vision
神經專家：用於隱式神經表徵的專家混合模型
Author
Venue
NeurIPs 2024
Abstract
隱式神經表徵（INR）已在圖像、形狀、音訊及影片重建等多種任務中展現出卓越效能。此類 INR 通常透過採樣輸入點來學習隱式場。此過程通常採用單一神經網路處理整個定義域，並對單一函數施加大量全局約束。 本文提出一種基於專家混合（MoE）的隱式神經表徵方法，該方法能學習局部分段連續函數，同時實現域的細分與局部擬合。 我們證明，將專家混合架構整合至現有的INR框架中，能顯著提升運算速度、精準度並降低記憶體需求。此外，我們針對閘控網路引入了創新的條件設定與預訓練方法，以加速收斂至目標解。我們透過多項重建任務（包括表面重建、影像重建及音訊訊號重建）來評估本方法的有效性，並顯示其相較於非MoE方法具有更優異的表現。
