iFlytek-এর Ciyuan Xinghuo আজ Xinghuo X2.5-4B এবং Xinghuo X2.5-1.7B নামে দুটি এজ-ডিভাইসের জন্য সাধারণ উদ্দেশ্যের বড় মডেল প্রকাশ ও ওপেন সোর্স করার ঘোষণা দিয়েছে।
জানা গেছে, দুটি মডেলই সর্বোচ্চ ১০ লক্ষ Token-এর কনটেক্সট উইন্ডো নেটিভভাবে সমর্থন করে। বর্তমানে এজ-ডিভাইসের মডেলগুলোর মধ্যে এই মাত্রার কনটেক্সট সমর্থনকারী একমাত্র পণ্য এগুলোই।
দুটি মডেলই হাইব্রিড অ্যাটেনশন আর্কিটেকচার ব্যবহার করে এবং এজেন্ট, কোড, গণিত ও নির্দেশনা অনুসরণসহ মূল সক্ষমতাগুলোকে কেন্দ্র করে অপ্টিমাইজ করা হয়েছে। সম্পূর্ণ দেশীয় কম্পিউটিং শক্তির প্ল্যাটফর্মে পুরো প্রশিক্ষণপ্রক্রিয়া সম্পন্ন করা হয়েছে এবং প্রি-ট্রেনিংয়ের জন্য প্রায় ২০ ট্রিলিয়ন Token-এর বৈচিত্র্যময় ডেটা ব্যবহার করা হয়েছে।
পণ্য বিক্রয়োত্তর সেবার পরিস্থিতি উদাহরণ হিসেবে নেওয়া যাক। ব্যবহারকারী সম্পূর্ণ বিক্রয়োত্তর নির্দেশিকা মডেলে আমদানি করতে পারেন। “কেনার ১০ দিন পর ডিভাইসে ত্রুটি দেখা দিয়েছে এবং তৃতীয় পক্ষের ভোগ্যপণ্য ব্যবহার করা হয়েছে”—এ ধরনের জটিল সমস্যায় মডেলটি বিভিন্ন অধ্যায়ের নিয়মের মধ্যে সম্পর্ক স্থাপন করে সমন্বিত সিদ্ধান্ত দিতে পারে এবং নতুন শর্ত যুক্ত হলেও আগের পরিস্থিতি বজায় রেখে পরামর্শ দিতে পারে।
ব্যক্তিগত অফিস ব্যবহারের ক্ষেত্রে Xinghuo X2.5-4B কাঁচা ডেটা বিশ্লেষণ থেকে দ্বিভাষিক প্রতিবেদন সরবরাহ পর্যন্ত পুরো প্রক্রিয়া সম্পন্ন করতে পারে। Domux স্মার্ট-হোম টেস্ট সেটে Xinghuo X2.5-1.7B-এর নিয়ন্ত্রণ নির্দেশনা প্রান্ত-থেকে-প্রান্তে সঠিকভাবে সম্পাদনের হার ৯০.৩%, আর গড় প্রতিক্রিয়া সময় ০.৮৫ সেকেন্ড। মডেলটি রোবট পরিচালনা ও নিয়ন্ত্রণ, লক্ষ্য অনুসরণ, নেভিগেশন সিদ্ধান্তসহ বিভিন্ন পরিস্থিতিতেও ব্যবহার করা যায় এবং রোবটের মূল ইউনিট বা এজ ডিভাইসে স্থাপন করা সম্ভব।
Xinghuo X2.5-4B এবং 1.7B NVIDIA, Huawei, Hygon ও Moore Threads-এর হার্ডওয়্যার প্ল্যাটফর্ম সমর্থন করে এবং vLLM, SGLang, llama.cpp-এর মতো জনপ্রিয় ইনফারেন্স ফ্রেমওয়ার্কের সঙ্গে সামঞ্জস্যপূর্ণ। Ollama, LM Studio-এর মতো টুল ব্যবহার করে দ্রুত স্থাপন করা যায়। আজ থেকে মডেলের ওজন Hugging Face, GitHubসহ বিভিন্ন প্ল্যাটফর্মে উন্মুক্ত করা হয়েছে। সংশ্লিষ্ট API-ও iFlytek Xingchen MaaS প্ল্যাটফর্মে চালু হয়েছে এবং সীমিত সময়ের জন্য বিনামূল্যে দেওয়া হচ্ছে।
৭ সেপ্টেম্বর iFlytek আনুষ্ঠানিকভাবে Xinghuo X2.5-293B সাধারণ উদ্দেশ্যের বড় মডেল প্রকাশ করবে, যা কোড ও এজেন্টসহ মূল সক্ষমতাগুলোকে আরও উন্নত করবে। IT之家 তখন এ বিষয়ে বিস্তারিত প্রতিবেদন প্রকাশ করবে।
তথ্যসূত্র:
Hugging Face ঠিকানা: https://huggingface.co/collections/XHToken/spark-x25
Github ঠিকানা: https://github.com/XHToken/Spark-X2.5
iFlytek Xingchen MaaS প্ল্যাটফর্মে সংযুক্তি: https://maas.xfyun.cn/modelSquare