LLM nativo de catálogo: falando o dialeto do ID do item com menos confusão para recomendação
Author
Venue
ICLR 2026
Abstract
Embora a filtragem colaborativa ofereça precisão preditiva e eficiência, e os Modelos de Linguagem de Grande Escala (LLMs) permitam um raciocínio expressivo e generalizável, os sistemas de recomendação modernos devem reunir esses pontos fortes. As crescentes expectativas dos usuários, como consultas em linguagem natural e explicações transparentes, destacam ainda mais a necessidade de uma abordagem unificada. No entanto, fazer isso não é tarefa trivial. Sinais colaborativos costumam ser eficientes em termos de tokens, mas semanticamente opacos, enquanto os LLMs são semanticamente ricos, mas têm dificuldade em modelar preferências implícitas dos usuários quando treinados apenas com entradas textuais. Este artigo apresenta o Item-ID + Natural-language Mixture-of-Experts Language Model (IDIOMoE), que trata os históricos de interação com itens como um dialeto nativo dentro do espaço da linguagem, permitindo que os sinais colaborativos sejam compreendidos da mesma forma que a linguagem natural. Ao dividir a Rede Feed Forward de cada bloco de um LLM pré-treinado em um especialista em texto e um especialista em itens separados, com gating de tipo de token, nosso método evita a interferência destrutiva entre as modalidades de texto e catálogo. O IDIOMoE demonstra forte desempenho de recomendação em conjuntos de dados públicos e proprietários, ao mesmo tempo em que preserva a compreensão de texto do modelo pré-treinado.
