Especialistas Neurais: Mistura de Especialistas para Representações Neurais Implícitas
Author
Venue
NeurIPs 2024
Abstract
As representações neurais implícitas (INRs) têm se mostrado eficazes em várias tarefas, incluindo reconstrução de imagens, formas, áudio e vídeo. Essas INRs normalmente aprendem o campo implícito a partir de pontos de entrada amostrados. Isso geralmente é feito usando uma única rede para todo o domínio, impondo muitas restrições globais a uma única função. Neste artigo, propomos uma abordagem de representação neural implícita do tipo “mistura de especialistas” (MoE) que permite o aprendizado de funções locais contínuas por partes, que simultaneamente aprendem a subdividir o domínio e se ajustar localmente. Mostramos que a incorporação de uma arquitetura de mistura de especialistas nas formulações de INR existentes proporciona um aumento na velocidade, precisão e requisitos de memória. Além disso, introduzimos novos métodos de condicionamento e pré-treinamento para a rede de gating que melhoram a convergência para a solução desejada. Avaliamos a eficácia de nossa abordagem em múltiplas tarefas de reconstrução, incluindo reconstrução de superfícies, reconstrução de imagens e reconstrução de sinais de áudio, e demonstramos um desempenho aprimorado em comparação com métodos não-MoE.
