Artificial Intelligence
目錄原生大型語言模型：採用項目 ID 方言進行推薦，以降低干擾
Author
Venue
ICLR 2026
Abstract
儘管協同過濾能提供預測準確度與效率，而大型語言模型（LLMs）則能實現富有表現力且具泛化能力的推理，但現代推薦系統必須將這些優勢結合起來。隨著使用者期望不斷提升，例如自然語言查詢與透明的解釋，進一步凸顯了統一方法的必要性。然而，要實現這一點絕非易事。 協同信號通常在標記效率上表現優異，但在語義上卻不透明；反之，LLM 雖具備豐富的語義能力，但若僅以文本輸入進行訓練，則難以建模隱含的用戶偏好。本文提出「項目 ID + 自然語言專家混合語言模型」（IDIOMoE），該模型將項目互動歷史視為語言空間中的原生方言，使協同信號能以與自然語言相同的方式被理解。 透過將預訓練大型語言模型中每個區塊的前饋網路，拆分為具備字元級閘控的獨立文字專家與項目專家，本方法成功避免了文字與商品目錄模態間的破壞性干擾。IDIOMoE 在公開與專有資料集上均展現出強大的推薦效能，同時保留了預訓練模型對文字的理解能力。
