कॅटलॉग-नेटिव्ह एलएलएम: शिफारसीसाठी कमी गुंतागुंतीसह आयटम-आयडी बोली बोलणे
Author
Venue
आयसीएलआर २०२६
Abstract
जरी सहकार्य फिल्टरिंग पूर्वानुमानात्मक अचूकता आणि कार्यक्षमता प्रदान करते, आणि मोठ्या भाषा मॉडेल्स (LLMs) अभिव्यक्त आणि सामान्यीकरणक्षम तर्कशक्ती सक्षम करतात, तरी आधुनिक शिफारस प्रणालींनी या सामर्थ्यांना एकत्र आणणे आवश्यक आहे. नैसर्गिक-भाषेतील क्वेरीज आणि पारदर्शक स्पष्टीकरणे यांसारख्या वाढत्या वापरकर्त्यांच्या अपेक्षांनी एकत्रित दृष्टिकोनाची गरज अधिक अधोरेखित केली आहे. तथापि, हे करणे सोपे नाही. सहकार्य संकेत (collaborative signals) अनेकदा टोकन-कार्यक्षम असतात परंतु अर्थदृष्ट्या अस्पष्ट असतात, तर एलएलएम (LLMs) अर्थदृष्ट्या समृद्ध असतात परंतु केवळ मजकूर इनपुटवर प्रशिक्षित केल्यावर अंतर्निहित वापरकर्ता पसंतींचे मॉडेल तयार करण्यात अडचण अनुभवतात. हा पेपर आयटम-आयडी + नैसर्गिक-भाषा मिश्र-तज्ज्ञ भाषा मॉडेल (IDIOMoE) सादर करतो, जे आयटमच्या परस्परसंवाद इतिहासाला भाषा क्षेत्रातील एक स्थानिक बोलीभाषा मानते, ज्यामुळे सहकार्य संकेतांना नैसर्गिक भाषेप्रमाणेच समजून घेता येते. पूर्वप्रशिक्षित LLM च्या प्रत्येक ब्लॉकच्या फीड फॉरवर्ड नेटवर्कला टोकन-प्रकार गेटिंगसह स्वतंत्र टेक्स्ट एक्सपर्ट आणि आयटम एक्सपर्टमध्ये विभाजित करून, आमची पद्धत टेक्स्ट आणि कॅटलॉग मोडॅलिटीजमधील विनाशकारी हस्तक्षेप टाळते. IDIOMoE सार्वजनिक आणि मालकीच्या दोन्ही डेटासेट्सवर मजबूत शिफारस कार्यक्षमता दर्शवते, तर पूर्वप्रशिक्षित मॉडेलची टेक्स्ट समजणूक जपून ठेवते.
