EmbeddingGemma 2 آپریشن میں

EmbeddingGemma 2 گوگل کا اوپن سورس مقامی ملٹی موڈل Embedding ماڈل ہے، جو Gemma 4 آرکیٹیکچر پر مبنی ہے۔ یہ متن، کوڈ، تصاویر، ویڈیوز اور آڈیو کو ایک متحدہ ویکٹر اسپیس میں میپ کرتا ہے، جس سے کراس موڈل معنوی تلاش ممکن ہوتی ہے۔ EmbeddingGemma 2 ماڈیولر ڈیزائن رکھتا ہے؛ تمام موڈلز کے ساتھ اس میں صرف 740M پیرامیٹرز ہیں، سیاق و سباق 8K ٹوکنز ہے، اور کوانٹائزیشن کے بعد فون پر تقریباً 567MB میموری استعمال ہوتی ہے۔ EmbeddingGemma 2، 1B سے کم پیرامیٹرز والا طاقتور ترین ملٹی موڈل ویکٹر ماڈل ہے۔ کوڈ سرچ میں پچھلی نسل کے مقابلے میں تقریباً 10 پوائنٹس بہتری آئی ہے، اور یہ آن ڈیوائس RAG، معنوی تلاش اور فوٹو البم سرچ جیسے منظرناموں کے لیے موزوں ہے۔

کراس موڈل معنوی تلاش: متن، کوڈ، تصاویر، ویڈیوز اور آڈیو کو ایک ہی ویکٹر اسپیس میں میپ کرتا ہے، جس سے کسی بھی موڈل کے ذریعے دوسرے موڈلز میں تلاش ممکن ہوتی ہے۔
آن ڈیوائس مقامی رن ٹائم: تمام موڈلز کے ساتھ صرف 740M پیرامیٹرز ہیں۔ کوانٹائزیشن کے بعد Pixel 11 Pro پر تقریباً 567MB میموری استعمال ہوتی ہے، اور انٹرنیٹ کے بغیر فون یا لیپ ٹاپ پر inference مکمل کیا جا سکتا ہے۔
مقامی RAG پائپ لائن: Gemma 4 کے ساتھ tokenizer اور آڈیو encoder شیئر کرتا ہے۔ دونوں کو ملا کر مقامی ملٹی موڈل retrieval-augmented generation سسٹم بنایا جا سکتا ہے، جس سے ڈیٹا کی رازداری برقرار رہتی ہے۔
معنوی فوٹو البم/میڈیا سرچ: Google AI Edge Gallery کے Instant Media Search میں متن درج کر کے فون کے فوٹو البم میں تصاویر تلاش کی جا سکتی ہیں، یا کیمرے سے لی گئی کسی چیز کے ذریعے ملتی جلتی تصاویر تلاش کی جا سکتی ہیں۔
ویڈیو کے لمحات کی تلاش: Video Moments Finder متن یا آڈیو کے ذریعے استفسار قبول کرتا ہے اور ویڈیو میں معنوی طور پر مماثل مناظر کو خودکار طور پر نشان زد کرتا ہے۔
ریئل ٹائم فیصلہ سازی انجن: MediaPipe Decision Task API کے ذریعے ریئل ٹائم درجہ بندی، روٹنگ اور پیش گوئی کی جا سکتی ہے۔ ڈیمو میں ایک فیصلہ صرف 43 ملی سیکنڈ لیتا ہے، جو LLM کے 640 ملی سیکنڈ سے کہیں زیادہ تیز ہے۔

WeChat پر فالو کریں اور “开源” کا جواب دے کر AI اوپن سورس پروجیکٹ گروپ میں شامل ہوں
متحدہ ملٹی موڈل embedding اسپیس: یہ ماڈل Gemini Embedding سیریز کی تکنیکی سمت برقرار رکھتے ہوئے مختلف موڈلز کے input کو ایک ہی اعلیٰ جہتی ویکٹر اسپیس میں encode کرتا ہے۔ اس طرح معنوی طور پر قریب مواد ویکٹر اسپیس میں ایک دوسرے کے قریب اور غیر متعلق مواد دور ہوتا ہے۔ کراس موڈل retrieval کو متحدہ ویکٹر nearest-neighbor search کے مسئلے میں تبدیل کیا جا سکتا ہے، اور ہر موڈل کے لیے الگ ماڈل برقرار رکھنے کی ضرورت نہیں رہتی۔
ماڈیولر encoder-decoder آرکیٹیکچر: ماڈل Gemma 4 آرکیٹیکچر پر مبنی ہے اور تین حصوں سے تشکیل پاتا ہے: 270M پیرامیٹرز والا ٹیکسٹ backbone، 170M پیرامیٹرز والا visual encoder، اور 300M پیرامیٹرز والا audio encoder۔ visual اور audio ماڈیولز ضرورت کے مطابق لوڈ کیے جا سکتے ہیں، اس لیے عملی تعیناتی میں خالص متن، متن+تصویر (440M)، متن+آڈیو اور تمام موڈلز سمیت چار اقسام دستیاب ہیں۔ ٹیکسٹ ٹاسکس میں visual اور audio ماڈیولز کی میموری لاگت برداشت نہیں کرنی پڑتی۔
Gemma 4 کے ساتھ مشترکہ اجزا: EmbeddingGemma 2 اور generative model Gemma 4 ایک ہی ٹیکسٹ tokenizer اور audio encoder استعمال کرتے ہیں۔ دونوں کو ایک متحدہ آن ڈیوائس RAG پائپ لائن میں جوڑا جا سکتا ہے؛ EmbeddingGemma 2 مقامی ملٹی موڈل فائلوں کو encode کر کے index کرتا ہے، جبکہ Gemma 4 retrieval کے بعد سیاق و سباق پر inference کرتا ہے۔ مشترکہ اجزا مجموعی میموری استعمال بھی کم کرتے ہیں۔
Matryoshka representation learning اور dynamic truncation: ماڈل MRL training استعمال کرتا ہے، 768 جہتی ویکٹر output کرتا ہے، اور inference کے دوران اسے متحرک طور پر 512، 256 یا 128 dimensions تک محدود کیا جا سکتا ہے۔ 256 dimensions تک محدود کرنے پر کارکردگی تقریباً برقرار رہتی ہے، جبکہ ویکٹر اسٹوریج زیادہ سے زیادہ اصل مقدار کے چھٹے حصے تک کم ہو سکتی ہے۔
5. طویل سیاق و سباق اور طویل input کی تقسیم: ماڈل 8K ٹوکنز کی context window سپورٹ کرتا ہے، جو پچھلی نسل سے 4 گنا ہے۔ ایک بار میں تقریباً 5.5 منٹ کی آڈیو، 29 تصاویر، 58 ویڈیو فریمز یا ان کا باہم ملا ہوا مجموعہ process کیا جا سکتا ہے۔ ٹیکسٹ input میں task prefix بھی سپورٹ ہوتا ہے، جس سے ایک ہی متن کے لیے مختلف ٹاسکس کے مطابق مختلف ویکٹر representations بنائی جا سکتی ہیں۔

ماڈل weights ڈاؤن لوڈ کریں: Hugging Face یا Kaggle سے google/embeddinggemma-2 کی ماڈل فائلیں حاصل کریں۔ آن ڈیوائس optimized ورژن کے لیے LiteRT Community صفحہ دیکھیں۔
رن ٹائم framework منتخب کریں: transformers، sentence-transformers، MLX، vLLM، llama.cpp، SGLang، Ollama، LM Studio اور دیگر معروف ٹولز کے ذریعے ماڈل براہِ راست لوڈ کیا جا سکتا ہے۔
inference کوڈ لکھیں: sentence-transformers کی مثال میں ماڈل لوڈ کرنے کے بعد query اور document کو بالترتیب prompt_name="SearchQuery" اور "Document" کے ذریعے encode کریں، پھر similarity() کال کر کے ویکٹر similarity کا حساب لگائیں۔
retrieval سسٹم بنائیں: تیار کردہ embedding کو ویکٹر database، مثلاً Qdrant، میں محفوظ کر کے معنوی تلاش، codebase indexing یا ملٹی موڈل retrieval نافذ کیا جا سکتا ہے۔
آن ڈیوائس deployment: موبائل پر Google AI Edge MediaPipe کے ذریعے embedding، retrieval اور decision tasks براہِ راست شامل کیے جا سکتے ہیں، یا LiteRT کے ذریعے custom integration کی جا سکتی ہے؛ browser پر transformers.js / WebGPU کے ذریعے چلایا جا سکتا ہے۔
مقامی RAG بنائیں: Gemma 4 کے ساتھ استعمال میں EmbeddingGemma 2 مقامی فائل retrieval سنبھالتا ہے، Gemma 4 سیاق و سباق پر inference کرتا ہے، اور مشترکہ اجزا مجموعی میموری استعمال کم کرتے ہیں۔

مقامی طور پر متحدہ تمام موڈلز: ایک ہی ماڈل بیک وقت متن، کوڈ، تصاویر، ویڈیوز اور آڈیو سمیت پانچ موڈلز کو سپورٹ کرتا ہے اور انہیں ایک ہی ویکٹر اسپیس میں میپ کرتا ہے، یوں ”ہر موڈل کے لیے ایک ماڈل“ والی سابقہ ترکیبی اسکیم کی جگہ لیتا ہے۔
انتہائی ہلکا اور آن ڈیوائس قابلِ استعمال: تمام موڈلز کے ساتھ صرف 740M پیرامیٹرز ہیں۔ کوانٹائزیشن کے بعد Pixel 11 Pro پر تقریباً 567MB میموری استعمال ہوتی ہے، اور فون پر آف لائن ملٹی موڈل inference مکمل کیا جا سکتا ہے۔
ہم حجم کے ماڈلز میں بہترین کارکردگی: یہ 1B سے کم پیرامیٹرز والا طاقتور ترین ملٹی موڈل Embedding ماڈل ہے، اور بعض ٹاسکس میں اس سے دگنے سے زیادہ حجم والے خصوصی ماڈلز سے بھی بہتر کارکردگی دکھاتا ہے۔
کوڈ کی صلاحیت میں نمایاں اضافہ: کوڈ retrieval اسکور پچھلی نسل کے مقابلے میں تقریباً 10 پوائنٹس بہتر ہے، اس لیے مقامی codebase indexing اور coding agent retrieval کے لیے نہایت موزوں ہے۔
ماڈیولر، ضرورت کے مطابق لوڈنگ: visual اور audio encoders الگ کیے جا سکتے ہیں۔ ٹیکسٹ ٹاسکس کے لیے صرف 270M پیرامیٹرز درکار ہیں، لہٰذا غیر ضروری موڈلز کی میموری لاگت نہیں دینی پڑتی۔
کم اسٹوریج لاگت: Matryoshka representation learning کی بنیاد پر 768 جہتی ویکٹر کو 128 dimensions تک محدود کیا جا سکتا ہے، جس سے ویکٹر اسٹوریج زیادہ سے زیادہ اصل مقدار کے چھٹے حصے تک کم ہو جاتی ہے۔
طویل سیاق و سباق کی سپورٹ: 8K ٹوکنز کی context window پچھلی نسل سے 4 گنا ہے، اور ایک بار میں تقریباً 5.5 منٹ کی آڈیو یا 29 تصاویر process کی جا سکتی ہیں۔
Gemma 4 کے ساتھ فطری ہم آہنگی: tokenizer اور audio encoder شیئر کرنے کی وجہ سے دونوں کو ملا کر مقامی RAG بناتے وقت مجموعی میموری استعمال کم رہتا ہے۔

پروجیکٹ کی آفیشل ویب سائٹ：https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2/
HuggingFace ماڈل ریپوزٹری：https://huggingface.co/google/embeddinggemma-2
تکنیکی مقالہ：https://ai.google.dev/gemma/docs/embeddinggemma/model_card_2

آن ڈیوائس ملٹی موڈل معنوی تلاش: فون کے فوٹو البم میں متن یا لی گئی تصاویر کے ذریعے مقامی media library تلاش کریں؛ پورا عمل آف لائن ہوتا ہے اور نجی ڈیٹا upload نہیں کیا جاتا۔
ویڈیو مواد کی تلاش اور لمحات کی نشاندہی: نگرانی کی ویڈیوز، آن لائن کلاسز یا میٹنگ recordings میں متن یا آڈیو کے ذریعے مطلوبہ حصے تیزی سے تلاش کریں، مثلاً ”سمندری کچھوے کا کھانا“ والا منظر، جس سے فریم بہ فریم دستی تلاش ختم ہو جاتی ہے۔
مقامی RAG knowledge base: Gemma 4 کے ساتھ آف لائن RAG سسٹم بنائیں اور مقامی دستاویزات، تصاویر اور آڈیو کو متحدہ طور پر index کریں۔ یہ enterprise intranets، حساس ماحول اور ایسے دیگر منظرناموں کے لیے موزوں ہے جہاں cloud استعمال نہیں کیا جا سکتا۔
Codebase semantic indexing اور Agent retrieval: مقامی codebase کے لیے ویکٹر index بنائیں تاکہ coding agent کی semantic code search کو سپورٹ کیا جا سکے۔ کوڈ retrieval اسکور پچھلی نسل کے مقابلے میں تقریباً 10 پوائنٹس بہتر ہے۔