VI3NR: অন্তর্নিহিত নিউরাল উপস্থাপনার জন্য বৈচিত্র্য-তথ্যভিত্তিক প্রাথমিকীকরণ
Author
Venue
CVPR 2025
Abstract
ইমপ্লিisit নিউরাল রিপ্রেজেন্টেশনস (INRs) হল একটি বহুমুখী ও শক্তিশালী হাতিয়ার যা চিত্র, ভিডিও, শব্দ এবং ত্রিমাত্রিক আকৃতি সহ বিভিন্ন ধরনের ডেটা এনকোড করতে ব্যবহৃত হয়। INRs-এর সফলতার একটি গুরুত্বপূর্ণ উপাদান হল নেটওয়ার্কের প্রাথমিকীকরণ, যা শেখানো মডেলের সংকোচন এবং সঠিকতায় উল্লেখযোগ্য প্রভাব ফেলে। দুর্ভাগ্যবশত, সাধারণভাবে ব্যবহৃত নিউরাল নেটওয়ার্ক প্রাথমিকীকরণগুলি অনেক অ্যাক্টিভেশন ফাংশনের জন্য, বিশেষ করে INRs-এ ব্যবহৃত ফাংশনগুলির জন্য, ব্যাপকভাবে প্রযোজ্য নয়। এই প্রবন্ধে, আমরা স্তর জুড়ে স্থিতিশীল বৈচিত্র্য (stable variance) বজায় রাখে এমন একটি প্রাথমিকীকরণ উদ্ভাবন করে পূর্ববর্তী প্রাথমিকীকরণ পদ্ধতিগুলিকে উন্নত করেছি, যা যেকোনো অ্যাক্টিভেশন ফাংশনের জন্য প্রযোজ্য। আমরা দেখাই যে এটি অনেক পূর্ববর্তী প্রাথমিকীকরণ পদ্ধতির সাধারণীকরণ করে, এবং ভালোভাবে অধ্যয়নকৃত অ্যাক্টিভেশনগুলির জন্য আরও উন্নত স্থিতিশীলতা প্রদান করে। আমরা আরও দেখাই যে আমাদের প্রাথমিকীকরণ একাধিক সংকেত মোডালিটিতে INR সক্রিয়করণ ফাংশনের সাথে উন্নত ফলাফল প্রদান করে। আমাদের পদ্ধতি বিশেষভাবে গাউসিয়ান INR-এর জন্য কার্যকর, যেখানে আমরা প্রদর্শন করি যে আমাদের প্রাথমিকীকরণের তত্ত্ব একাধিক পরীক্ষায় টাস্ক কর্মক্ষমতার সাথে মেলে, যা আমাদেরকে চিত্র, অডিও এবং 3D পৃষ্ঠ পুনর্গঠন ক্ষেত্রে উন্নতি অর্জন করতে সক্ষম করে।
