ক্যাটালগ-নেটিভ এলএলএম: পরামর্শদানের জন্য আইটেম-আইডি উপভাষায় কম জটিলতা সহ কথা বলা
Author
Venue
আইসিএলআর ২০২৬
Abstract
যখন সহযোগিতামূলক ফিল্টারিং পূর্বাভাসমূলক সঠিকতা এবং দক্ষতা প্রদান করে, এবং বৃহৎ ভাষামূলক মডেল (LLMs) প্রকাশভঙ্গি এবং সাধারণীকৃত যুক্তি সক্ষম করে, তখন আধুনিক সুপারিশ ব্যবস্থাগুলোকে এই শক্তিগুলোকে একত্রিত করতে হবে। প্রাকৃতিক-ভাষার অনুসন্ধান এবং স্বচ্ছ ব্যাখ্যার মতো ক্রমবর্ধমান ব্যবহারকারীর প্রত্যাশাগুলো একীভূত পদ্ধতির প্রয়োজনীয়তাকে আরও জোরদার করে। তবে, এটি করা সহজ নয়। সহযোগিতামূলক সংকেতগুলো প্রায়ই টোকেন-দক্ষ কিন্তু অর্থগতভাবে অস্পষ্ট, অন্যদিকে এলএলএমগুলো অর্থগতভাবে সমৃদ্ধ হলেও শুধুমাত্র পাঠ্য ইনপুটে প্রশিক্ষিত হলে অন্তর্নিহিত ব্যবহারকারীর পছন্দ মডেল করতে সমস্যায় পড়ে। এই গবেষণাপত্রটি আইটেম-আইডি + প্রাকৃতিক-ভাষা মিশ্র-বিশেষজ্ঞ ভাষা মডেল (IDIOMoE) উপস্থাপন করে, যা আইটেমের মিথস্ক্রিয়া ইতিহাসকে ভাষা ক্ষেত্রের একটি নেটিভ উপভাষা হিসেবে বিবেচনা করে, ফলে সহযোগিতামূলক সংকেতগুলোকে প্রাকৃতিক ভাষার মতোই বোঝা যায়। প্রি-ট্রেন করা এলএলএম-এর প্রতিটি ব্লকের ফিড-ফরওয়ার্ড নেটওয়ার্ককে আলাদা একটি টেক্সট এক্সপার্ট এবং টোকেন-টাইপ গেটিং সহ একটি আইটেম এক্সপার্টে ভাগ করে, আমাদের পদ্ধতি টেক্সট এবং ক্যাটালগ মোডালিটির মধ্যে ধ্বংসাত্মক হস্তক্ষেপ এড়িয়ে চলে। IDIOMoE পাবলিক এবং প্রপ্রাইটরি উভয় ডেটাসেটেই শক্তিশালী সুপারিশ কর্মক্ষমতা প্রদর্শন করে, একই সাথে প্রি-ট্রেন করা মডেলের টেক্সট বোঝাপড়া অক্ষুণ্ণ রাখে।
