FlashAlign কী?
FlashAlign হলো Aevonix Research-এর একটি ওপেন-সোর্স সিস্টেম, যা সমর্থিত ভাষা মডেলে প্রয়োজন অনুযায়ী অ্যালাইনমেন্ট প্রোফাইল প্রয়োগ করে। প্রতি অনুরোধের জন্য আলাদাভাবে প্রোফাইল নির্বাচন করা যায়, অথবা FlashAlign-এর মাধ্যমে পাঠানো প্রতিটি অনুরোধে তা সক্রিয় রাখা যায়। প্রোফাইলগুলো সমর্থিত বেস ও কোয়ান্টাইজড ওজনের সঙ্গে কাজ করে, তবে সেগুলো স্থায়ীভাবে পরিবর্তন করে না।
অন্তর্ভুক্ত V1 স্টার্টার প্রোফাইলগুলো মূলত প্রত্যাখ্যান কমানোর ওপর গুরুত্ব দেয়। FlashAlign সরাসরি চালানো যায়, Hermes বা OpenClaw-এর সঙ্গে একীভূত করা যায়, অথবা কাস্টম হারনেসে সংযুক্ত করা যায়। পরিচালিত ইনফারেন্সের জন্য Linux এবং একটি NVIDIA GPU প্রয়োজন।
FlashAlign কেবল তার কনফিগার করা রুট বা গেটওয়ে URL-এর মাধ্যমে পাঠানো মডেল কল পরিবর্তন করে। কে বার্তা পাঠাতে পারবে এবং কোন টুল চলতে পারবে, তা নির্ধারণের দায়িত্ব আপনার হারনেসের।
প্রধান বৈশিষ্ট্য
- চাহিদা অনুযায়ী প্রোফাইল: ইনফারেন্স ইঞ্জিনে ইতিমধ্যে লোড থাকা প্রোফাইলগুলোর মধ্যে প্রতি অনুরোধে পরিবর্তন করুন।
- ফেরতযোগ্য কার্যপ্রণালি: সমর্থিত মডেলের ওজন স্থায়ীভাবে পরিবর্তন না করেই প্রোফাইল প্রয়োগ করুন।
- দুটি সক্রিয়করণ মোড: প্রোফাইলকে যাচাইকৃত পরিচিতির মধ্যে সীমাবদ্ধ রাখুন, অথবা Always On মোডে প্রতিটি রাউট করা অনুরোধে প্রোফাইল প্রয়োগ করুন।
- টুল উত্তরাধিকার নিয়ন্ত্রণ: Verified contacts মোডে কোন টুল সক্রিয় প্রোফাইলটি অর্পিত কাজে প্রয়োগ করতে পারবে, তা বেছে নিন।
- হারনেস ইন্টিগ্রেশন: Hermes, OpenClaw, সরাসরি ক্লায়েন্ট, অথবা কাস্টম হারনেসের সঙ্গে FlashAlign ব্যবহার করুন।
- মেসেজিং অ্যাডাপ্টার: বিল্ট-ইন অ্যাডাপ্টারগুলো WhatsApp ও RCS সরাসরি বার্তা সমর্থন করে; SMS ও Telegram-এর জন্য অপ্ট-ইন সমর্থন রয়েছে।
- সেটআপ সুরক্ষা: ইনস্টলার স্থানীয় মডেল ও হারনেস শনাক্ত করে, মিলে যাওয়া প্রোফাইল নির্বাচন করে, সক্রিয়করণ যাচাই করে, একটি ডিপ্লয়মেন্ট সাইনিং কী তৈরি করে এবং পরিবর্তিত কনফিগারেশনের ব্যাকআপ রাখে।
- প্রোফাইল পরিদর্শন: সেটআপের আগে প্রোফাইলের মডেল পিন, অপারেটর, সাইট, র্যাঙ্ক ও হ্যাশ পর্যালোচনা করুন।
সমর্থিত মডেল ও ইঞ্জিন
FlashAlign 1.1.1-এ নিম্নলিখিত ইঞ্জিন সমর্থনসহ পাঁচটি স্টার্টার মডেল প্রোফাইল রয়েছে:
- DeepSeek V4.1 Flash 1017: vLLM অথবা TensorFold।
- GLM 5.3 Full: TensorFold।
- GLM 5.3 Flash: TensorFold অথবা SGLang।
- Qwen3.8-27B: TensorFold, vLLM, SGLang অথবা llama.cpp।
- Gemma 4 26B A4B: TensorFold, vLLM, SGLang অথবা llama.cpp।
রিপোজিটরিতে চারটি কমপ্যাক্ট প্রোফাইল অন্তর্ভুক্ত রয়েছে। DeepSeek প্রোফাইলে 1.09 GB-এর একটি নেটিভ টেনসর পেলোড রয়েছে, যা সেটআপ একটি পাবলিক রিলিজ থেকে ডাউনলোড করে এবং চেকসাম দিয়ে যাচাই করে। কোনো প্রাইভেট রিপোজিটরি বা লগইন প্রয়োজন নেই।
প্রয়োজনীয়তা
FlashAlign ইনস্টল করার আগে আপনার পরিবেশ প্রাসঙ্গিক প্রয়োজনীয়তা পূরণ করে কি না যাচাই করুন:
- NVIDIA GPU-সহ একটি Linux ইনফারেন্স হোস্ট।
- সেটআপ ও অ্যাডাপ্টারের জন্য Python 3.10 বা পরবর্তী সংস্করণ।
- TensorFold বান্ডেল ব্যবহারের সময় সামঞ্জস্যপূর্ণ CPU ও GPU আর্কিটেকচার।
- একটি সমর্থিত মডেল চেকপয়েন্ট এবং মিলে যাওয়া প্রোফাইল।
- FlashAlign ইঞ্জিন কনট্র্যাক্ট বাস্তবায়ন করে এমন একটি ইঞ্জিন।
- OpenAI-সামঞ্জস্যপূর্ণ ক্লায়েন্টের জন্য Chat Completions সমর্থন।
- OpenClaw-এর জন্য একটি সামঞ্জস্যপূর্ণ নেটিভ প্লাগইন API এবং 24.x লাইনে Node 24.22.1 বা পরবর্তী সংস্করণ, অথবা 26.x লাইনে 26.12.1 বা পরবর্তী সংস্করণ।
হার্ডওয়্যার প্রয়োজনীয়তা, নির্দিষ্ট চেকপয়েন্ট, ইঞ্জিনের সীমাবদ্ধতা, চ্যানেল এবং ডেলিগেশন সমর্থনের জন্য প্রকল্পের সামঞ্জস্যতা নির্দেশিকা দেখুন।
FlashAlign ইনস্টল করুন
1. একটি সমর্থিত মডেল ডাউনলোড করুন
স্বয়ংক্রিয় সেটআপ চালানোর আগে একটি সমর্থিত চেকপয়েন্ট ডাউনলোড করুন। রিপোজিটরির মডেল ডাউনলোড নির্দেশিকা পাঁচটি স্টার্টার প্রোফাইল ও তাদের সমর্থিত ফরম্যাটের জন্য নির্দিষ্ট কমান্ড সরবরাহ করে।
2. রিপোজিটরি ক্লোন করে উইজার্ড চালান
git clone https://github.com/Aevonix/FlashAlign.git
cd FlashAlign
bash ./install.sh --autoউইজার্ড স্থানীয় মডেল ও সমর্থিত হারনেস খুঁজে, মিলে যাওয়া প্রোফাইল নির্বাচন করে, ইঞ্জিন প্রস্তুত করে এবং একটি ডিপ্লয়মেন্ট সাইনিং কী তৈরি করে। সেটআপের সময় Verified contacts অথবা Always On নির্বাচন করুন। Verified contacts নির্বাচন করলে টুলগুলো প্রোফাইলটি উত্তরাধিকার সূত্রে পাবে কি না, সেটিও নির্ধারণ করুন।
কনফিগারেশনের পর চ্যাট ইন্টিগ্রেশনগুলো নির্বাচিত গেটওয়ে পুনরায় চালু করে। স্থানীয় টার্মিনাল সেটআপ চালু করার জন্য প্রয়োজনীয় কমান্ড দেখায়।
3. সক্রিয়করণ নিশ্চিত করুন
সেটআপ সক্রিয়করণ যাচাই করে এবং পরিবর্তিত কনফিগারেশন ফাইলগুলোর ব্যাকআপ রাখে। ইঞ্জিনের কার্যকর-প্রোফাইল প্রতিক্রিয়া নির্বাচিত প্রোফাইল সক্রিয় আছে বলে নিশ্চিত করে।
নির্দিষ্ট মডেল ও ইঞ্জিন দিয়ে ইনস্টল করুন
নির্দিষ্ট কোনো স্থানীয় চেকপয়েন্ট নির্বাচন করতে --model-path ব্যবহার করুন। উদাহরণস্বরূপ, নিচের কমান্ডটি vLLM-এর মাধ্যমে একটি স্থানীয় Qwen চেকপয়েন্টের জন্য স্বতন্ত্র ইঞ্জিন ডিপ্লয়মেন্ট তৈরি করে:
bash ./install.sh --engine-only --backend vllm --model-path /models/qwen38-27b --yesমডেল ও ইঞ্জিনের সামঞ্জস্যতা ম্যাট্রিক্সে সমর্থিত সমন্বয়গুলোই ব্যবহার করুন। নতুন মডেল বা প্রোফাইল লোড করা অনুরোধের সময় পরিবর্তনের আগে ঘটে এবং ইঞ্জিন পুনরায় চালু করার প্রয়োজন হতে পারে।
বিদ্যমান ইঞ্জিনে সংযুক্ত করুন
যদি কোনো সামঞ্জস্যপূর্ণ ইনফারেন্স ইঞ্জিন ইতিমধ্যে চালু থাকে, --auto ছাড়া ইন্টার্যাক্টিভ ইনস্টলার চালু করুন:
bash ./install.shসেটআপ নির্দেশিকা সংযোগ ও সক্রিয়করণ ব্যাখ্যা করে, আর ইঞ্জিন নির্বাচন নির্দেশিকা সমর্থিত মডেল ও ব্যাকএন্ডের সমন্বয় ব্যাখ্যা করে।
একটি সক্রিয়করণ মোড বেছে নিন
Verified contacts
যাচাইকৃত পরিচিতি ডিফল্ট মোড। এটি নির্বাচিত প্রোফাইলটি কেবল অনুমোদিত চ্যানেল, অ্যাকাউন্ট ও পরিচিতির সঙ্গে সম্পর্কিত বার্তায় প্রয়োগ করে। প্রতিটি নতুন টার্ন অবশ্যই যাচাইকৃত চ্যানেলের মাধ্যমে আসতে হবে। বার্তার টেক্সটের মধ্যে শুধু কোনো প্রেরক আইডি রাখলেই প্রবেশাধিকার পাওয়া যায় না।
এই মোডটি অনুমোদিত ব্যবহারকারী ও চ্যানেলগুলোর মধ্যে abliteration সীমাবদ্ধ রাখে, ফলে কোনো অননুমোদিত ব্যবহারকারী ক্ষতিকর prompt injection-এর মাধ্যমে এটি সক্রিয় করার ঝুঁকি কমে। তবে টুলের আউটপুট ও সম্পাদন এখনও harness-এ বাস্তবায়িত সুরক্ষা ও অনুমতির ওপর নির্ভর করে।
সর্বদা চালু
সর্বদা চালু মোডটি FlashAlign-এর মাধ্যমে রাউট করা প্রতিটি অনুরোধে, টুল ও subagent-এর অনুরোধসহ, কনফিগার করা প্রোফাইল প্রয়োগ করে। নির্বাচিত মোডটি পুনরারম্ভের পরও বহাল থাকে, প্রতি-টুল alignment সেটিংসকে অগ্রাহ্য করে এবং কলারদের যাচাইকৃত হিসেবে চিহ্নিত করে না। কনফিগার করা প্রোফাইল প্রয়োগ করা না গেলে অনুরোধ ব্যর্থ হয়।
Always On মোডে সরাসরি ইনস্টল করতে চালান:
bash ./install.sh --auto --mode always_onকাস্টম harness এবং OpenAI-সামঞ্জস্যপূর্ণ ক্লায়েন্টগুলো প্রকল্পের Always On gateway ব্যবহার করতে পারে। মনে রাখবেন, FlashAlign-এর রুট বা gateway এড়িয়ে যাওয়া অনুরোধ FlashAlign নিয়ন্ত্রণ করে না।
পরিচিতি অনুমোদন ও প্রত্যাহার
Verified contacts মোডে কোনো প্রেরককে অনুমোদন করতে ব্যবস্থাপনা স্ক্রিপ্ট ব্যবহার করুন। আপনার harness-এ স্বীকৃত পরিচয় দিয়ে নমুনা ফোন নম্বর ও অ্যাকাউন্টটি প্রতিস্থাপন করুন:
python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json approve whatsapp +15550000011 --account defaultপ্রত্যাহার না করা পর্যন্ত অনুমোদনগুলো পুনরারম্ভের পরও বহাল থাকে। সমর্থিত মেসেজিং পরিবহনে ছবি, ভয়েস নোট, সংযুক্তি, ফরওয়ার্ড করা বা উদ্ধৃত কনটেন্ট এবং সারিবদ্ধ বার্তার গ্রুপগুলো harness-এর মাধ্যমে প্রেরক যাচাইকরণ বজায় রাখে।
এই পরিচিতির অনুমোদন প্রত্যাহার করতে চালান:
python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json revoke whatsapp +15550000011 --account defaultপ্রত্যাহার পরবর্তী মডেল অনুরোধগুলোতে, অর্পিত কাজসহ, প্রভাব ফেলে। এটি Always On মোড নিষ্ক্রিয় করে না।
টুলগুলো প্রোফাইল উত্তরাধিকার করবে কি না নিয়ন্ত্রণ
Verified contacts মোডে আপনি ইনস্টলের সময় একটি ডিফল্ট সেট করতে এবং নামের মাধ্যমে পৃথক টুলের সেটিংস ওভাররাইড করতে পারেন। উদাহরণ:
python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json tool delegate_task off
python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json tool sessions_spawn onসক্রিয় টুলটি সক্রিয় প্রোফাইলটি যাচাইকৃত child work-এ পাঠাতে পারে। নিষ্ক্রিয় টুলটি standard model ব্যবহার করে এবং তার child-দের কোনো প্রোফাইল পাঠায় না। টুলটি সম্পাদনের অনুমতি পাবে কি না, তা এখনও আপনার harness নিয়ন্ত্রণ করে।
Always On প্রতি-টুল ফ্ল্যাগগুলো উপেক্ষা করে এবং রাউট করা প্রতিটি টুল ও subagent অনুরোধে প্রোফাইল প্রয়োগ করে। আপনি পরে Verified contacts মোডে ফিরে গেলে ব্যবহারের জন্য FlashAlign ফ্ল্যাগগুলো সংরক্ষণ করে।
পুনরারম্ভ ছাড়াই মোড পরিবর্তন
বিদ্যমান harness deployment পুনরারম্ভ ছাড়াই Always On-এ পরিবর্তন করা যায়:
python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json mode always_onপরিচিতিভিত্তিক প্রবেশাধিকারে ফিরতে চালান:
python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json mode verifiedমোড নির্বাচন পুনরারম্ভের পরও বহাল থাকে, তবে মোড পরিবর্তন করে ইতিমধ্যে নিষ্ক্রিয় করা কোনো deployment পুনরায় সক্রিয় হয় না। কেবল engine-ভিত্তিক ইনস্টলের ক্ষেত্রে setup wizard-এর activation ধাপের মাধ্যমে মোড পরিবর্তন করুন।
উন্নত সেটআপ ও পরিদর্শন টিপস
পরিবর্তনের আগে পরিবেশ শনাক্ত করুন
প্রথমে উপলব্ধ মডেল, harness এবং সেটআপের বিকল্পগুলো দেখতে detection mode চালান:
bash ./install.sh --detectঅন্য ডিরেক্টরি থেকে প্রোফাইল লোড করুন
নিচের কমান্ড দিয়ে ইনস্টলারকে একটি কাস্টম প্রোফাইল ফোল্ডারের নির্দেশ দিন:
bash ./install.sh --profiles /path/to/profilesপ্রোফাইলগুলোকে এখনও নির্বাচিত মডেল ও engine-এর সঙ্গে সামঞ্জস্যপূর্ণ হতে হবে। কোনো প্রোফাইল checkpoint-গুলোর মধ্যে বিনিময়যোগ্য ধরে নেওয়ার পরিবর্তে সক্রিয় করার আগে এর metadata পর্যালোচনা করুন।
প্রোফাইলের বিষয়বস্তু পরিদর্শন
স্থানীয় কোনো প্রোফাইলের model pin, operators, sites, ranks এবং hashes যাচাই করতে repository-এর profile inspector guide ব্যবহার করুন। ডাউনলোড করা বা আলাদাভাবে সংরক্ষিত কোনো প্রোফাইল deployment-এর আগে এটি বিশেষভাবে কার্যকর।
লোড ও পরিবর্তনের পরিকল্পনা করুন
FlashAlign প্রতি অনুরোধে কেবল engine-এ ইতিমধ্যে লোড থাকা প্রোফাইলগুলোর মধ্যে পরিবর্তন করতে পারে। অন্য কোনো মডেল বা প্রোফাইল লোড করা আলাদা প্রস্তুতির ধাপ এবং এতে engine পুনরারম্ভ হতে পারে। কম-বিলম্বিত রাউটিংয়ের জন্য অনুরোধ পরিবেশন করার আগে আপনার অ্যাপ্লিকেশনের প্রয়োজনীয় প্রোফাইলগুলো লোড করুন।
কাস্টম ক্লায়েন্ট বা harness সংযুক্ত করুন
সরাসরি প্রোগ্রামেটিক প্রবেশাধিকারের জন্য direct engine and Python client guide অনুসরণ করুন। Harness ডেভেলপাররা custom harness documentation-এ বর্ণিত hooks ব্যবহার করতে পারেন। অন্যান্য মেসেজ পরিবহন ব্যবস্থা নথিভুক্ত adapter interface বাস্তবায়ন করতে পারে।
নিরাপত্তা ও পরিচালনাগত বিবেচনা
- প্রোফাইলের ব্যবহার পরিচিত চ্যানেল, অ্যাকাউন্ট ও প্রেরকদের মধ্যে সীমাবদ্ধ রাখা উচিত হলে Verified contacts পছন্দ করুন।
- কনফিগার করা রুটের মাধ্যমে পাঠানো প্রতিটি অনুরোধে প্রোফাইল প্রয়োগ করা উচিত হলেই কেবল Always On ব্যবহার করুন।
- বার্তার লেখায় লেখা কোনো শনাক্তকারীকে প্রেরকের পরিচয়ের প্রমাণ হিসেবে বিবেচনা করবেন না।
- হরনেস অনুমোদন এবং টুল-এক্সিকিউশন নিয়ন্ত্রণ সক্রিয় রাখুন; FlashAlign এগুলোর বিকল্প নয়।
- সেটআপ বা কনফিগারেশন পরিবর্তনের পর কার্যকর প্রোফাইলের প্রতিক্রিয়া পরীক্ষা করুন।
- প্রোডাকশনে ডিপ্লয় করার আগে প্রকল্পের নিরাপত্তা মডেল, সামঞ্জস্যের সীমাবদ্ধতা এবং যাচাইয়ের ফলাফল পর্যালোচনা করুন।
উপসংহার
FlashAlign মডেলের ওজন স্থায়ীভাবে পরিবর্তন না করেই সমর্থিত অ্যালাইনমেন্ট প্রোফাইল প্রয়োগের একটি প্রত্যাবর্তনযোগ্য উপায় প্রদান করে। পিন করা একটি মডেল এবং সামঞ্জস্যপূর্ণ ইঞ্জিন দিয়ে শুরু করুন, ইনস্টলার ব্যবহার করে ডিপ্লয়মেন্ট প্রস্তুত ও যাচাই করুন, এবং আপনার অ্যাক্সেসের প্রয়োজন অনুযায়ী Verified contacts অথবা Always On বেছে নিন। আরও জটিল ডিপ্লয়মেন্টের জন্য প্রোফাইল পরিদর্শন, প্রতি-টুল ইনহেরিট্যান্স, সরাসরি ইঞ্জিন অ্যাক্সেস এবং কাস্টম হরনেস হুক অতিরিক্ত নিয়ন্ত্রণ প্রদান করে।
FlashAlign AGPL-3.0-only লাইসেন্সের অধীনে উপলভ্য; ক্লোজড-সোর্স পণ্য ও হোস্টেড সার্ভিসের জন্য বাণিজ্যিক লাইসেন্সও দেওয়া হয়। মডেল, প্রোফাইল এবং নির্ভরতার শর্তগুলো পৃথক থাকে।