3D
Artificial Intelligence
Computer Vision
신경망 전문가: 암시적 신경망 표현을 위한 전문가 혼합 모델
Author
Venue
NeurIPs 2024
Abstract
암시적 신경 표현(INR)은 이미지, 형상, 오디오, 비디오 재구성 등 다양한 작업에서 그 효과가 입증되었습니다. 이러한 INR은 일반적으로 샘플링된 입력 점으로부터 암시적 필드를 학습합니다. 이는 종종 전체 영역에 대해 단일 네트워크를 사용하여 수행되며, 단일 함수에 많은 전역적 제약을 가하게 됩니다. 본 논문에서는 도메인을 세분화하고 국소적으로 적합시키는 것을 동시에 학습하는 국소적 단편 연속 함수를 학습할 수 있는 전문가 혼합(MoE) 암시적 신경 표현 접근법을 제안한다. 우리는 전문가 혼합 아키텍처를 기존 INR 공식에 통합함으로써 속도, 정확도 및 메모리 요구 사항이 향상됨을 보여준다. 또한, 원하는 해에 대한 수렴성을 개선하는 게이트 네트워크를 위한 새로운 조건부 학습 및 사전 학습 방법을 소개한다. 우리는 표면 재구성, 이미지 재구성, 오디오 신호 재구성을 포함한 여러 재구성 작업에서 본 접근법의 효과성을 평가하며, 비-MoE 방식에 비해 향상된 성능을 보여준다.
