Artificial Intelligence
카탈로그 기반 LLM: 추천을 위한 얽힘을 줄인 아이템 ID 방언 사용
Author
Venue
ICLR 2026
Abstract
협업 필터링은 예측 정확도와 효율성을 제공하며, 대규모 언어 모델(LLM)은 표현력이 풍부하고 일반화 가능한 추론을 가능하게 하지만, 현대적인 추천 시스템은 이러한 강점들을 통합해야 합니다. 자연어 쿼리 및 투명한 설명과 같은 사용자의 기대가 높아짐에 따라 통합된 접근 방식의 필요성이 더욱 부각되고 있습니다. 그러나 이를 실현하는 것은 결코 쉬운 일이 아닙니다. 협업 신호는 종종 토큰 효율적이지만 의미론적으로 불투명한 반면, LLM은 의미론적으로 풍부하지만 텍스트 입력만으로 훈련될 경우 암묵적인 사용자 선호도를 모델링하는 데 어려움을 겪습니다. 본 논문은 아이템 상호작용 이력을 언어 공간 내의 고유한 방언으로 취급하여, 협업 신호를 자연어와 동일한 방식으로 이해할 수 있게 하는 '아이템-ID + 자연어 전문가 혼합 언어 모델(IDIOMoE)'을 소개합니다. 사전 훈련된 LLM의 각 블록에 대한 피드포워드 네트워크를 토큰 단위 게이트링을 적용한 별도의 텍스트 전문가와 아이템 전문가로 분할함으로써, 본 방법은 텍스트와 카탈로그 모달리티 간의 파괴적 간섭을 방지한다. IDIOMoE는 사전 훈련된 모델의 텍스트 이해 능력을 유지하면서도 공개 및 독점 데이터셋 모두에서 강력한 추천 성능을 보여준다.
