LLM Asli Katalog: Menggunakan Dialek ID Item dengan Keterikatan yang Lebih Sedikit untuk Rekomendasi
Author
Venue
ICLR 2026
Abstract
Meskipun filtrasi kolaboratif memberikan akurasi prediksi dan efisiensi, dan Model Bahasa Besar (LLM) memungkinkan penalaran yang ekspresif dan dapat digeneralisasikan, sistem rekomendasi modern harus menggabungkan kedua kekuatan ini. Meningkatnya ekspektasi pengguna, seperti kueri bahasa alami dan penjelasan yang transparan, semakin menyoroti perlunya pendekatan terpadu. Namun, hal ini tidaklah mudah. Sinyal kolaboratif seringkali efisien dalam hal token tetapi secara semantik tidak transparan, sementara LLMs kaya secara semantik tetapi kesulitan memodelkan preferensi pengguna yang implisit saat dilatih hanya pada masukan teks. Makalah ini memperkenalkan Item-ID + Natural-language Mixture-of-Experts Language Model (IDIOMoE), yang memperlakukan riwayat interaksi item sebagai dialek asli dalam ruang bahasa, memungkinkan sinyal kolaboratif dipahami dengan cara yang sama seperti bahasa alami. Dengan memisahkan Jaringan Feed Forward dari setiap blok LLM yang telah dilatih sebelumnya menjadi ahli teks dan ahli item terpisah dengan gating tipe token, metode kami menghindari interferensi destruktif antara modalitas teks dan katalog. IDIOMoE menunjukkan kinerja rekomendasi yang kuat di seluruh dataset publik dan eksklusif, sekaligus mempertahankan pemahaman teks dari model yang telah dilatih sebelumnya.
