DMAD خدام

DMAD ‏(Distribution Matching as Adversarial Distillation) هو إطار مفتوح المصدر للتقطير بعدد قليل من الخطوات، طوّراتو ByteDance وجامعة Texas A&M بشكل مشترك، باش يسرّع توليد نماذج الانتشار. DMAD كيدرّب مصنّف ثنائي باش يتعلّم مباشرة الفرق بين التوزيع الهدف وتوزيع النموذج الطالب، وكيستغنى على نموذج انتشار مساعد، وكيحوّل نموذج أستاذ من 50 خطوة لنموذج طالب من 4 خطوات. كيدعم دابا ImageNet وSDXL وWan2.1 وMiniMax-H3-33B، وكارت شاشة بذاكرة 8GB تقدر تولّد فيديو بصوت مدتو تقريباً 5 ثواني وبمقاس 1344×768.

توليد الصور بعدد قليل من الخطوات: كيحوّل نموذج EDM ديال ImageNet-64 لتوليد فخطوة وحدة، وبـ FID كيوصل حتى لـ 1.04، وSDXL كيحتاج غير 4 خطوات باش يولّد صورة من النص.
توليد الفيديو من النص بعدد قليل من الخطوات: كيحوّل Wan2.1-T2V-14B لنموذج طالب من 4 خطوات، وكيحقق VBench قدره 85.15.
توليد الصوت والفيديو بشكل مشترك: كيحوّل نموذج الأستاذ MiniMax-H3-33B اللي فيه 50 خطوة لنموذج من 4 خطوات، وكيخرج فيديو بمقاس 1344×768 وصوت ستيريو أصلي بتردد 32kHz.
دعم العتاد الاستهلاكي: كيوفّر سير عمل ComfyUI بذاكرة فيديو 8GB واستدلال عبر سطر الأوامر بذاكرة قليلة؛ كارت 8GB تقدر تولّد فيديو بصوت مدتو تقريباً 5 ثواني، وكارت 12GB تقريباً 15 ثانية.
المصدر مفتوح فالتدريب والاستدلال: كينشر طريقة التقطير، وكود التدريب، وسكريبتات الاستدلال، وأوزان LoRA لعدة نماذج، مع دعم الاستعمال عبر سطر الأوامر وComfyUI.

تابع WeChat وردّ بـ “开源” باش تدخل لمجموعة مشاريع الذكاء الاصطناعي مفتوحة المصدر
مطابقة التوزيع كتقطير عدائي: DMAD كيدرّب مصنّف ثنائي باش يفرّق بين عينات الهدف وعينات الطالب. الـ logit ديال المصنّف الأمثل كيساوي النسبة بين كثافتي التوزيعين باللوغاريتم، وملي كنحسبو gradient ديال المدخل ديالو كنحصلو على الفرق بين score، وهادشي كيعطي مباشرة اتجاه تصحيح النموذج الطالب وكيحيد الحاجة لنموذج مساعد لملاءمة score.
عمود فقري مشترك ومصنّف برأسين: المصنّف كيستعمل عموداً فقرياً واحداً للخصائص مشتركاً بين جوج رؤوس تصنيف؛ رأس الأستاذ كيفرّق بين عينات الأستاذ وعينات الطالب، ورأس البيانات الحقيقية كيفرّق بين العينات الحقيقية وعينات الطالب، وكيتدرّبو بجوج بخسارة الانتروبيا المتقاطعة الثنائية. النموذج الطالب كيتحدّث بخسارة خطية موزونة للـ logit ديال الرأسين، ومع التحديث كتتجمّد معاملات المصنّف ولكن كيبقى تمرير gradient مفعّلاً.
الترجيح الديناميكي حسب نطاق الضجيج: الفرق بين توزيع عينات الأستاذ والبيانات الحقيقية كيتبدّل مع مستوى الضجيج. DMAD كيستعمل الفرق المتوسط بين الـ logit ديال رأس البيانات الحقيقية على الصنفين كإشارة تجريبية، وكيستعمل متوسطاً متحركاً أُسّياً بتضاؤل 0.99 لتتبّع كل نطاقات الضجيج. النطاقات اللي فيها الفرق صغير كتحصل على وزن أكبر للأستاذ، ومن بعد التطبيع كتدخل فخسارة الطالب.
تسريع التدريب بعينات الأستاذ غير المتصلة: الأستاذ كيوفّر غير عينات مولّدة مسبقاً ومخزّنة مؤقتاً، وبالتالي ما كايناش حاجة لاستدعائه أثناء التدريب. فإعداد 4 بطاقات H200 وLoRA من rank-128 ديال MiniMax-H3، نقص الوقت ديال كل تحديث للطالب وتحديث المصنّف المرتابط من 818.1 ثانية لـ 233.3 ثانية، محققاً تسريعاً فالتدريب بحوالي 3.51 مرات.

استنساخ المستودع: نفّذ git clone https://github.com/Yzmblog/DMAD.git ومن بعد دخل لمجلد المشروع.
إنشاء البيئة: استعمل conda باش تنشئ بيئة Python 3.12 وفعّلها.
تثبيت الاعتماديات: ثبّت PyTorch 2.11.0 ‏(cu126) وtorchvision وtorchaudio بالإصدارات الرسمية المثبتة، ومن بعد نفّذ pip install -r requirements.txt وpip install -U modelscope-hub.
تحضير العتاد: تأكد من وجود بطاقة NVIDIA كتدعم CUDA، ووفّر تقريباً 64GB من ذاكرة النظام و170GB من مساحة القرص.
تحميل النموذج الأساسي: حمّل نموذج MiniMax-H3 الأساسي عبر modelscope download MiniMax/MiniMax-H3.
تحميل أوزان التقطير: حمّل LoRA ديال DMAD ذي 4 خطوات من ModelScope.
الاستدلال عبر سطر الأوامر: شغّل inference.py، وحدّد مسار النموذج وLoRA وملف التعليمات، واستعمل --steps 4 و--height 768 --width 1344، واختار --low-vram 8 أو --low-vram 12 حسب ذاكرة الفيديو.
مشاهدة المخرجات: مجلد المخرجات فيه 0000.mp4 وملف txt ديال التعليمات وsettings.json؛ ومن بعد ما يخدم كلشي، تقدر تبدّل الملف بملف التعليمات ديالك.

تسريع كبير فالاستدلال: كيحوّل نموذج الأستاذ من 50 خطوة لنموذج طالب من 4 خطوات، وكيقلّل تكرارات إزالة الضجيج بأكثر من 92%، مع الحفاظ على جودة توليد قريبة من الأستاذ.
كفاءة أكبر فالتدريب: المصنّف كيتعلّم مباشرة الفرق بين التوزيعات، وكيستغنى على نموذج انتشار مساعد؛ وعلى 4 بطاقات H200 كيتسرّع تحديث التدريب بحوالي 3.51 مرات.
جودة توليد متقدمة: التوليد فخطوة وحدة على ImageNet-64 حقق FID قدره 1.04، أحسن من طرق بحال DMD2 وSiDA؛ وفالتقييم البشري، وصل معدل التفضيل العام ضد DMD2 لـ 79.1%، وضد rCM لـ 84.6%.
تغطية شاملة للوسائط المتعددة: نفس الإطار كيدعم الصور، والفيديو من النص، والتوليد المشترك للصوت والفيديو.

الموقع الرسمي للمشروع: https://yzmblog.github.io/projects/DMAD/
مستودع GitHub: https://github.com/Yzmblog/DMAD
مستودع النماذج على HuggingFace: https://huggingface.co/ZhengmingYu/DMAD
البحث التقني على arXiv: https://arxiv.org/pdf/2610.02188

صناعة محتوى الفيديوهات القصيرة: توليد فيديوهات من 5–15 ثانية بصوت أصلي فـ 4 خطوات، بحيث يقدر المبدعون يخرجو بسرعة محتوى لوسائل التواصل باستعمال بطاقات استهلاكية بذاكرة 8GB، وكيهبطو تكلفة الإنتاج بشكل كبير.
توليد مواد الإعلانات والتسويق: تقدر العلامات التجارية تولّد بالجملة فيديوهات لعرض المنتجات ومشاهد مختلفة انطلاقاً من التعليمات، مع إخراج صوت عالي الجودة، وبهذا كتقصّر المدة من الفكرة حتى للمادة الإعلانية الجاهزة.
المعاينة السينمائية والتصميم المفاهيمي (Previs): المخرجون وفرق التصميم الفني كيستعملو التقطير بعدد قليل من الخطوات باش يولّدو معاينات للمشاهد، ومراجع للأجواء، ومسودات للـ storyboard، وكيُسرّعو تكرار الأفكار فالمراحل الأولى.
إنتاج أصول الألعاب والرسوم المتحركة: توليد حركات للشخصيات، وصور مفاهيمية للمشاهد، وخلفيات متحركة، ومساعدة استوديوهات الألعاب المستقلة وفرق الرسوم المتحركة الصغيرة على تخفيض تكلفة إنتاج الأصول.