Gemma 4-এর উপর ভিত্তি করে এবং Apache 2.0 লাইসেন্সের অধীনে প্রকাশিত, Google-এর EmbeddingGemma 2 হল একটি কমপ্যাক্ট, ওপেন-ওয়েট, মাল্টিমডাল এম্বেডিং মডেল যা ডিভাইসে স্থাপনের জন্য পারফরম্যান্সকে অপ্টিমাইজ করার সময় শব্দার্থক অনুসন্ধান এবং পুনরুদ্ধার-অগমেন্টেড জেনারেশন (RAG) কে আরও দক্ষ করে তুলতে ডিজাইন করা হয়েছে।
মোবাইল ডিভাইস এবং ল্যাপটপের মতো ভোক্তা হার্ডওয়্যারগুলিতে চালানোর জন্য ডিজাইন করা হয়েছে, এমবেডিংজেমা 2 অন-ডিভাইস অ্যাপ্লিকেশনগুলির জন্য নিম্ন-বিলম্বিত শব্দার্থক উপস্থাপনা প্রদান করে, যেমন অনুসন্ধান, পুনরুদ্ধার-অগমেন্টেড জেনারেশন (RAG), শ্রেণিবিন্যাস এবং ক্লাস্টারিং।
এর মাল্টিমোডাল ক্ষমতার জন্য ধন্যবাদ, EmbeddingGemma 2 একটি প্রশ্নের উত্তরে প্রাসঙ্গিক নথি, স্ক্রিনশট এবং রেকর্ডিং খোঁজা, প্রাকৃতিক ভাষা ব্যবহার করে সোর্স কোড অনুসন্ধান করা এবং পাঠ্য বর্ণনার উপর ভিত্তি করে ভিডিও সামগ্রী পুনরুদ্ধার সহ বিস্তৃত পুনরুদ্ধারের কাজগুলিকে সমর্থন করে৷
EmbeddingGemma 2 এর মূল বৈশিষ্ট্য, Google বলে, এটি একটি ইউনিফাইড 768-ডাইমেনশনাল এম্বেডিং স্পেসে টেক্সট, কোড, ছবি, ভিডিও এবং অডিও উপস্থাপন করার ক্ষমতা। এটি বিকাশকারীদেরকে পুনরুদ্ধার সিস্টেম তৈরি করতে সক্ষম করে যা বিভিন্ন মিডিয়া প্রকারের জন্য পৃথক, বেমানান এম্বেডিং স্পেস বজায় না রেখে বিভিন্ন মিডিয়া প্রকার জুড়ে অনুসন্ধান করে।
বিভিন্ন পদ্ধতি থেকে আসা সত্ত্বেও, EmbeddingGemma 2 দ্বারা উত্পন্ন এমবেডিংগুলি একই মাত্রিক স্থান দখল করে এবং তাদের শব্দার্থগত মিলের সাথে তুলনা করা যেতে পারে।
মডেলটি ডেভেলপারদের শুধুমাত্র তাদের অ্যাপ্লিকেশনের জন্য প্রয়োজনীয় এনকোডার লোড করতে দেয়, টেক্সট এবং কোডের জন্য 270 মিলিয়ন প্যারামিটার থেকে সম্পূর্ণ মাল্টিমডাল সমর্থনের জন্য 740 মিলিয়নে স্কেল করে। গুগলের মতে, মডেলটি “উল্লেখযোগ্যভাবে কোড অনুসন্ধান এবং প্রযুক্তিগত পুনরুদ্ধারের ক্ষেত্রে এমবেডিংগেমমা 1-কে ছাড়িয়ে গেছে, এটি স্থানীয় কোডবেস ইনডেক্সিং এবং এজেন্টিক কোড অনুসন্ধানের জন্য আদর্শ”।
EmbeddingGemma 2 ম্যাট্রিওশকা রিপ্রেজেন্টেশন লার্নিং (MRL) সমর্থন করে, যা এম্বেডিংগুলিকে ছোট, ইউনিট-দৈর্ঘ্য ভেক্টরে ছেঁটে ফেলার অনুমতি দেয়, স্টোরেজ প্রয়োজনীয়তা হ্রাস করে। উদাহরণস্বরূপ, bfloat16 নির্ভুলতায় এক মিলিয়ন 768-ডাইমেনশনাল ভেক্টর সংরক্ষণ করতে প্রায় 1.5 GB মেমরি লাগে, যখন সেগুলিকে 128 ডাইমেনশনে ছেঁটে ফেলার জন্য মাত্র 250 MB প্রয়োজন, যা ছয়গুণ কমিয়ে আনে। যাইহোক, এটি একটি পুনরুদ্ধারের মানের ট্রেড-অফ বোঝায়। Google তাই ট্রাঙ্কেশন ব্যবহার করার পরামর্শ দেয় শুধুমাত্র যখন স্টোরেজ বা সার্চের গতির প্রয়োজন হয়। 128 মাত্রায়, মডেলটি পাঠ্য সহ প্রায় 90% গুণমান বজায় রাখে, কিন্তু চিত্র, ভিডিও এবং বক্তৃতা পুনরুদ্ধারের জন্য কার্যক্ষমতা প্রায় 75% এ নেমে আসে।
ঘোষণার উপর মন্তব্য করে, Reddit ব্যবহারকারী Distinct-Target7503 মডেলের মাল্টিমোডাল ক্ষমতাগুলি হাইলাইট করেছেন যখন শুধুমাত্র পাঠ্য-কার্যগুলির জন্য এর উন্নতির পরিমাণ নিয়ে প্রশ্ন তোলেন:
এটি সম্পর্কে চিত্তাকর্ষক বিষয় হল এটি একটি ভাগ করা শব্দার্থিক স্থানে ছবি এবং অডিও এম্বেড করতে পারে, তবে শুধুমাত্র পাঠ্যের জন্য এটি একটি বিশাল উন্নতি নয়।
ইতিমধ্যে, Reddit ব্যবহারকারী Open-Adhesiveness-86 ডেভেলপারদের সঠিকভাবে মডেল ব্যবহারের গুরুত্ব সম্পর্কে সতর্ক করেছেন:
দুটি জিনিস যা আমাকে প্রথম এম্বেডিংজেমাতে কামড় দিয়েছিল এবং সম্ভবত এখনও প্রযোজ্য: টাস্ক উপসর্গগুলি ঐচ্ছিক নয়, “শিরোনাম: কিছুই নয় | পাঠ্য: ” এর পরিবর্তে কোয়েরি উপসর্গ সহ ডক্সগুলিকে সূচীকরণ করা লক্ষণীয়ভাবে স্মরণে আঘাত করে৷ এবং যদি আপনি MRL-এর জন্য ছাঁটাই করেন, প্রথমে স্লাইস করুন তারপর L2-খাটো ভেক্টরটিকে স্বাভাবিক করুন, 768-এ স্বাভাবিক করুন এবং তারপর কাটলে আপনাকে অফ-নর্ম ভেক্টর দেয়।
EmbeddingGemma গত বছর “অফলাইন এবং গোপনীয়তা-সংবেদনশীল পরিস্থিতিতে, যেমন ব্যক্তিগত ফাইলগুলি স্থানীয়ভাবে অনুসন্ধান করা, Gemma 3n এর সাথে মোবাইল RAG পাইপলাইন চালানো, বা ডোমেন-নির্দিষ্ট চ্যাটবট তৈরি করা” এর উপর ফোকাস দিয়ে চালু করা হয়েছিল। Hugging Face এ এমবেডিংগেমা 2 উপলব্ধ।
