Index-Translate চালু আছে

Index-Translate হলো Bilibili-এর Index LLM দলের ওপেন-সোর্স করা বহুভাষিক অনুবাদ মডেল পরিবার, যা Qwen3.5-এর ভিত্তিতে তৈরি এবং Apache-2.0 লাইসেন্সের অধীনে প্রকাশিত। টেক্সট মডেল ১৫০টি ভাষা সমর্থন করে এবং 2B/9B/35B-A3B—এই তিনটি আকারে উপলভ্য। এটি পরিভাষা, ফরম্যাট, সংরক্ষণযোগ্য বিষয়বস্তু ইত্যাদি সম্পর্কিত অনুবাদ নির্দেশনা সমর্থন করে। Index-Translate পরিবারে আরও রয়েছে Index-Echo ভয়েস অনুবাদ, Index-Homura সিলেবল-নিয়ন্ত্রিত অনুবাদ এবং Index-NativeLong দীর্ঘ নথি অনুবাদ।

Index-Translate টেক্সট অনুবাদ: ১৫০টি ভাষায় টেক্সট ও কাঠামোবদ্ধ বিষয়বস্তু অনুবাদ করে এবং একই সঙ্গে পরিভাষার একরূপতা, ফরম্যাট সংরক্ষণ ও নির্দিষ্ট ক্ষেত্র অনুবাদের মতো নির্দেশনা পালন করতে পারে।
Index-Echo ভয়েস অনুবাদ: স্পিচ-টু-স্পিচ (S2ST ডাবিং) এবং স্পিচ-টু-টেক্সট (S2TT সাবটাইটেল) সমর্থন করে। ডাবিং তৈরি করার সময় উৎস অডিওর বক্তার কণ্ঠস্বরের বৈশিষ্ট্য বিবেচনা করে।
Index-Homura সিলেবল-নিয়ন্ত্রিত অনুবাদ: ইনপুট হিসেবে লক্ষ্যমাত্রার সিলেবল সংখ্যা গ্রহণ করে এবং অনুবাদের শব্দচয়ন ও দৈর্ঘ্য স্বয়ংক্রিয়ভাবে সামঞ্জস্য করে, যাতে ভিডিও ডাবিংয়ের জন্য উপযুক্ত দৈর্ঘ্যের টেক্সট তৈরি হয়।
Index-NativeLong দীর্ঘ নথি অনুবাদ: একবারে সম্পূর্ণ নথি ইনপুট নিয়ে ধারাবাহিকভাবে অনুবাদ তৈরি করে এবং দীর্ঘ প্রসঙ্গ ব্যবহার করে ব্যক্তিনাম, পরিভাষা ও ধারণার স্তরের সামঞ্জস্য বজায় রাখে।

WeChat-এ ফলো করে “开源” লিখে উত্তর পাঠান, AI ওপেন-সোর্স প্রকল্পের আলোচনাগোষ্ঠীতে যোগ দিন
ভিত্তি ও অভিন্ন স্থাপত্য: পুরো পরিবারটি Qwen3.5-এর ওপর নির্মিত। বহুভাষিক করপাস ও অনুবাদ নির্দেশনা-সংক্রান্ত ডেটা দিয়ে ফাইন-টিউন করা হয়েছে, যাতে একই স্থাপত্যের মধ্যে টেক্সট মডেল অনুবাদ দক্ষতা এবং সীমাবদ্ধতা অনুসরণের ক্ষমতা অর্জন করে। ইনফারেন্সের জন্য vLLM ব্যবহার করা হয়; টেক্সট মডেলে ডিফল্টভাবে greedy decoding চালু থাকে, ফলে আউটপুট স্থিতিশীল ও পুনরুৎপাদনযোগ্য হয়।
Index-Echo ভয়েস অনুবাদ: “সনাক্তকরণ→অনুবাদ→সংশ্লেষণ” ক্যাসকেড পাইপলাইন ব্যবহার করে। অনুবাদের পর S2ST-তে CosyVoice স্পিচ সিন্থেসিস যুক্ত হয় এবং উৎস অডিওর বক্তার embedding বের করে সংশ্লেষণ মডিউলে প্রবেশ করানো হয়, যার মাধ্যমে কণ্ঠস্বর ক্লোন করা যায়। অডিও ৬০ সেকেন্ডের উইন্ডোতে ভাগ করে প্রক্রিয়া করা হয় এবং ধারাবাহিকতা বজায় রাখতে প্রথম ৫টি উইন্ডোর পূর্ববর্তী প্রসঙ্গ সংরক্ষণ করা হয়।
Index-Homura সিলেবল নিয়ন্ত্রণ: লক্ষ্যমাত্রার সিলেবল সংখ্যা স্পষ্ট শর্ত হিসেবে প্রম্পটে যুক্ত করা হয়। স্যাম্পলিং ডিকোডিংয়ের সহায়তায় মডেল অনুবাদের সময় একই সঙ্গে শব্দচয়ন ও দৈর্ঘ্য পরিকল্পনা করে এবং সিলেবল বাজেট পূরণ করতে বাক্যের কাঠামো পুনর্গঠন করে। SandGlass-এ ৮১.৯২% আউটপুটের সিলেবল বিচ্যুতি ১০%-এর বেশি নয়।
Index-NativeLong দীর্ঘ নথি অনুবাদ: সম্পূর্ণ নথি একবারে ইনপুট নিয়ে আগে পুরো নথি পড়ে, পরে ধারাবাহিকভাবে অনুবাদ তৈরি করে। অত্যন্ত দীর্ঘ প্রসঙ্গ উইন্ডোর সাহায্যে প্রজন্মের সময় পূর্ববর্তী অংশের ব্যক্তিনাম ও পরিভাষার ব্যবহার “মনে রাখে”; বাহ্যিক শব্দতালিকা ছাড়াই সামঞ্জস্য বজায় রাখে। এটি প্রচলিত খণ্ডভিত্তিক অনুবাদ পদ্ধতি থেকে আলাদা, যেখানে পার্শ্ববর্তী প্রসঙ্গ ও স্বয়ংক্রিয় শব্দতালিকার ওপর নির্ভর করতে হয়।
মূল্যায়ন পদ্ধতি: FLORES, WMT26-এর মতো সাধারণ বেঞ্চমার্কের পাশাপাশি দলটি instTrans, MEME, SandGlass এবং দীর্ঘ নথির বিভিন্ন দৈর্ঘ্যের মূল্যায়ন—এই চার ধরনের নিজস্ব টাস্ক সেট তৈরি করেছে। এতে অনুবাদের মান ও নির্দেশনা অনুসরণ আলাদাভাবে স্কোর করা হয়, যা বাস্তব ব্যবহারের পরিস্থিতির সঙ্গে বেশি সামঞ্জস্যপূর্ণ।

রিপোজিটরি ক্লোন করুন: git clone https://github.com/bilibili/Index-Translate.git চালিয়ে প্রকল্প ডিরেক্টরিতে প্রবেশ করুন।
নির্ভরতা ইনস্টল করুন: pip install -U vllm এবং pip install -r inference/llm/requirements.txt চালিয়ে Qwen3.5 সমর্থনযুক্ত vLLM পরিবেশ প্রস্তুত করুন।
সেবা চালু করুন: vllm serve IndexTeam/Index-Translate-2B --host 127.0.0.1 --port 8000 --max-model-len 4096 চালিয়ে স্থানীয় 8000 পোর্টে মডেল সেবা চালু করুন।
অনুবাদ চালান: নতুন টার্মিনালে python inference/llm/translate.py "你好，世界" --target en --model IndexTeam/Index-Translate-2B চালালে অনুবাদ পাওয়া যাবে।
নিজস্ব সংযোগ: ক্লায়েন্ট ডিফল্টভাবে http://127.0.0.1:8000/v1-এ অনুরোধ পাঠায়। --base-url/--api-key অথবা OPENAI_BASE_URL/OPENAI_API_KEY পরিবেশ ভেরিয়েবলের মাধ্যমে নিজের সেবায় সংযোগ করা যায়।
সিলেবল-নিয়ন্ত্রিত অনুবাদ: inference/llm/syllable_translate.py কল করে --syllables-এর মাধ্যমে লক্ষ্যমাত্রার সিলেবল সংখ্যা দিন।
দীর্ঘ নথি অনুবাদ: doc_translate.py কল করে --direction-এর মাধ্যমে zh-en / zh-ja ইত্যাদি নির্দিষ্ট টেমপ্লেট দিক নির্বাচন করুন।
ভয়েস অনুবাদ: রিপোজিটরির S2TT সাবটাইটেল নির্দেশিকা অথবা S2ST ডাবিং নির্দেশিকা অনুসরণ করে s2tt.py বা dub.py দিয়ে অডিও ও ভিডিও প্রক্রিয়া করুন।
অনলাইন Demo: https://index-translate.bilibili.com/ সরাসরি访问 করে টেক্সট, ভয়েস, সিলেবল ও দীর্ঘ নথি—এই চার ধরনের অনুবাদ ব্যবহার করে দেখুন।
ব্রাউজার প্লাগইন: মডেল স্থানীয়ভাবে স্থাপন করার পর Chrome/Edge/Firefox প্লাগইনের মাধ্যমে ওয়েবপেজ অনুবাদ করা যায়।

বিস্তৃত ভাষা সমর্থন: টেক্সট মডেল ১৫০টি ভাষার পারস্পরিক অনুবাদ সমর্থন করে এবং স্বল্প-সম্পদ ভাষায়ও ভালো ফল দেয়। 35B-A3B-এর FLORES_minor_pair-এ off-target হার মাত্র ২.৪%।
শক্তিশালী নির্দেশনা অনুসরণ: অনুবাদের সময় পরিভাষার একরূপতা, ফরম্যাট সংরক্ষণ ও নির্দিষ্ট ক্ষেত্র অনুবাদের মতো প্রয়োজনীয়তা একই সঙ্গে পালন করে। instTrans_minor-এর নির্দেশনা অনুসরণ স্কোরে 9B-এর স্কোর ০.৭৭২৫, যা তুলনাধীন সব মডেলের মধ্যে সর্বোচ্চ।
কমিউনিটি-ভিত্তিক জনপ্রিয় রসিকতা বোঝে: MEME মূল্যায়ন সমোচ্চারিত শব্দ, সংক্ষিপ্ত রূপ ও ঠাট্টার মতো কমিউনিটি-ভিত্তিক প্রকাশভঙ্গির জন্য অপ্টিমাইজ করা। “结芬”, “狒瘾”-এর মতো রসিকতাও সঠিক ও স্বাভাবিকভাবে অনুবাদ করতে পারে।
ভয়েস অনুবাদে কণ্ঠস্বর সংরক্ষণ: Index-Echo লক্ষ্য ভাষায় ডাবিং তৈরি করার সময় উৎস অডিওর বক্তার বৈশিষ্ট্য বিবেচনা করে, ফলে মূল কণ্ঠস্বরের ধরন বজায় রেখে আন্তঃভাষিক ডাবিং সম্ভব হয়।
ডাবিংয়ের জন্য সিলেবল নিয়ন্ত্রণ: Index-Homura লক্ষ্যমাত্রার সিলেবল সংখ্যা গ্রহণ করে এবং বাজেট অনুযায়ী বাক্য পুনর্গঠন করে। ৮১.৯২% আউটপুটের সিলেবল বিচ্যুতি ১০%-এর বেশি নয়, তাই এটি সরাসরি ভিডিও ডাবিংয়ের কাজে ব্যবহারযোগ্য।
দীর্ঘ নথিতে ধারাবাহিকতা: Index-NativeLong সম্পূর্ণ নথি একবারে অনুবাদ করে। বাহ্যিক শব্দতালিকা ছাড়াই দীর্ঘ নথিতে ব্যক্তিনাম ও পরিভাষার সামঞ্জস্য বজায় রাখে এবং ধারণার স্তর সঠিকভাবে পৃথক করে।

GitHub রিপোজিটরি: https://github.com/bilibili/Index-Translate
HuggingFace মডেল সংগ্রহ: https://huggingface.co/collections/IndexTeam/index-translate
প্রযুক্তিগত প্রতিবেদন: https://github.com/bilibili/Index-Translate/blob/main/docs/Index_Translate_Series_Technical_Report.pdf

ভিডিও লোকালাইজেশন ডাবিং: Index-Echo ব্যবহার করে ভিডিওকে লক্ষ্য ভাষার ডাবিংয়ে অনুবাদ করুন এবং মূল বক্তার কণ্ঠস্বর বজায় রাখুন। Index-Homura-এর সিলেবল নিয়ন্ত্রণের সঙ্গে ব্যবহার করলে সংলাপের দৈর্ঘ্য দৃশ্যের সময়ের সঙ্গে মেলানো যায়। চলচ্চিত্র, সিরিজ, কোর্স ও Vlog আন্তর্জাতিকভাবে প্রকাশে এটি উপযোগী।
বহুভাষিক সাবটাইটেল তৈরি: S2TT স্পিচ-টু-টেক্সট ক্ষমতার মাধ্যমে বক্তৃতা, লাইভস্ট্রিম ও শর্ট ভিডিওর জন্য চীনা/জাপানি/ইংরেজি/স্প্যানিশসহ বিভিন্ন ভাষায় স্বয়ংক্রিয় সাবটাইটেল তৈরি করুন, যা আন্তঃভাষিক কনটেন্ট বিতরণে সহায়ক।
কমিউনিটি কনটেন্ট আন্তর্জাতিকভাবে প্রকাশ: ব্যারেজ কমেন্ট, আপডেট ও পোস্ট অনুবাদ করার সময় জনপ্রিয় রসিকতার মূল অর্থ, যেমন “狒瘾”→“FFXIV itch”, হ্যাশট্যাগ ও ইমোজির কাঠামো বজায় রাখুন, যাতে গেম ও অ্যানিমে-সংস্কৃতির কনটেন্ট বিদেশি বাজারে প্রাসঙ্গিকতা না হারায়।
দীর্ঘ নথি ও অনলাইন উপন্যাস অনুবাদ: Index-NativeLong ব্যবহার করে সম্পূর্ণ উপন্যাস, glacier史 ইত্যাদি দীর্ঘ লেখা অনুবাদ করুন। হাতে শব্দতালিকা রক্ষণাবেক্ষণ না করেও ব্যক্তিনাম, পরিভাষা ও ধারণার স্তরের সামঞ্জস্য বজায় রাখা যায়, যা অনলাইন সাহিত্য ও প্রকাশনা আন্তর্জাতিকভাবে বিতরণের জন্য উপযোগী।
ই-কমার্স ও পণ্যসংক্রান্ত তথ্য লোকালাইজেশন: নির্দেশনা অনুযায়ী পণ্যের CSV-এর নির্দিষ্ট কলামই অনুবাদ করুন এবং শিরোনাম ও নম্বর সংরক্ষণ করুন। অথবা ঘোষণা-সংক্রান্ত JSON কাঠামোবদ্ধভাবে অনুবাদ করুন, যাতে অনুবাদ সরাসরি পরবর্তী ব্যবসায়িক ব্যবস্থায় যুক্ত করা যায় এবং লোকালাইজেশন প্রক্রিয়ার খরচ কমে।