Dot Reflex 14B দিয়ে আরও নিরাপদ এজেন্ট রিকভারি লুপ তৈরি করুন

Dot Reflex 14B যা করে

Dot Reflex 14B হলো কোডিং ও টুল-ব্যবহারকারী এজেন্টের জন্য একটি এক্সিকিউশন-রিকভারি কন্ট্রোলার। এটি ওয়ার্কার এজেন্টকে প্রতিস্থাপন করে না। বরং, এটি এজেন্টের ট্রাজেক্টরির একটি সংক্ষিপ্ত JSON সারাংশ পর্যালোচনা করে এবং এক্সিকিউশনের পরবর্তী ধাপ কীভাবে নিয়ন্ত্রণ করা উচিত সে বিষয়ে চারপাশের হারনেসকে সুপারিশ দেয়।

কন্ট্রোলারটি GPT, Claude, Gemini, Qwen, Llama বা অন্য কোনো মডেল দ্বারা চালিত এজেন্ট তদারক করতে পারে, কারণ এটি ওয়ার্কার মডেলের অভ্যন্তরীণ আর্কিটেকচারের বদলে নরমালাইজ করা এক্সিকিউশন ইভেন্টের ওপর কাজ করে। এই রিলিজটি Qwen3-14B-Base-এর জন্য র‍্যাঙ্ক-64 QLoRA অ্যাডাপ্টার।

Dot Reflex দশটির মধ্যে একটি অ্যাকশন ফেরত দেয়:

• continue: সঠিক পরিকল্পনাকে এগিয়ে যেতে দেওয়া।
• verify: কোনো দাবি বা ঝুঁকিপূর্ণ অনুমানের পক্ষে প্রমাণ চাওয়া।
• retry_differently: ভিন্ন কমান্ড, প্যারামিটার বা পদ্ধতি ব্যবহার করে তাৎক্ষণিক প্রচেষ্টাটি পুনরায় করা।
• replan: যার মূল অনুমান ব্যর্থ হয়েছে, এমন পদ্ধতি প্রতিস্থাপন করা।
• rollback: ক্ষতিকর পরিবর্তনের পর পরিচিত ভালো অবস্থায় ফিরিয়ে নেওয়া।
• branch: একাধিক সম্ভাব্য পদ্ধতিকে পৃথক পরিবেশে বিচ্ছিন্ন রাখা।
• switch_model: সক্ষমতা বা প্রোভাইডারের স্থায়ী ব্যর্থতার পর পরবর্তী প্রচেষ্টাটি অন্য একটি মডেলে পাঠানো।
• ask_human: কর্তৃত্ব, গোপন তথ্য, ব্যাখ্যা বা বাহ্যিক সিদ্ধান্তের প্রয়োজন হলে বিরতি দেওয়া।
• stop_successfully: পর্যাপ্ত প্রমাণে কাজ সম্পন্ন হওয়া সমর্থিত হলে শেষ করা।
• stop_failure: নিরাপদ ও অনুমোদিত কোনো পুনরুদ্ধার ব্যবস্থা অবশিষ্ট না থাকলে থামা।

আউটপুট একটি সুপারিশ, অনুমোদন নয়। অনুমতি, নীতি প্রয়োগ, টুল এক্সিকিউশন, রোলব্যাকের কার্যপ্রণালি এবং থামার চূড়ান্ত সিদ্ধান্তের দায়িত্ব আপনার হারনেসেরই।

মূল বৈশিষ্ট্য

• ফ্রেমওয়ার্ক-নিরপেক্ষ ইনপুট: কন্ট্রোলারটি কোনো এজেন্ট ফ্রেমওয়ার্কের রেকর্ড করা এক্সিকিউশন ইভেন্ট থেকে তৈরি সাধারণ JSON গ্রহণ করে।
• মেশিন-পাঠযোগ্য আউটপুট: প্রতিটি বৈধ প্রতিক্রিয়ায় একটি অ্যাকশন, যুক্তি, আত্মবিশ্বাসের মান, পুনরুদ্ধারের নির্দেশনা এবং পার্স স্ট্যাটাস থাকে।
• নির্ধারক জেনারেশন: রেফারেন্স রানটাইম গ্রিডি জেনারেশন ব্যবহার করে।
• ফেইল-ক্লোজড আচরণ: ইনপুট স্কিমা বা জেনারেট করা অ্যাকশন অবৈধ হলে CLI নন-জিরো স্ট্যাটাসে বের হয়।
• একাধিক ইন্টারফেস: কমান্ড লাইন থেকে একটি সিদ্ধান্ত চালান, স্ট্যান্ডার্ড ইনপুটের মাধ্যমে JSON পাইপ করুন, অথবা একটি স্থানীয় HTTP এন্ডপয়েন্ট হোস্ট করুন।
• ক্রস-মডেল তদারকি: ওয়ার্কার এজেন্টকে Qwen ব্যবহার করতে বা কন্ট্রোলারের আর্কিটেকচারের সঙ্গে মিল রাখতে হবে না।

প্রয়োজনীয়তা ও ইনস্টলেশন

রেফারেন্স 4-bit রানটাইমের জন্য Linux এবং একটি NVIDIA GPU প্রয়োজন। একসঙ্গে একটি অনুরোধের জন্য 24 GB GPU বাস্তবিক ন্যূনতম, আর 40–48 GB অতিরিক্ত সুবিধা দেয়। এই রিলিজে GGUF, Ollama, MLX, CPU বা মার্জড-ওয়েট বিল্ড অন্তর্ভুক্ত নেই।

রিপোজিটরি ক্লোন করুন, একটি Python ভার্চুয়াল এনভায়রনমেন্ট তৈরি করুন এবং রানটাইমের নির্ভরতাগুলো ইনস্টল করুন:

git clone https://github.com/usedotai/dot-reflex.git
cd dot-reflex
python3 -m venv .venv
source .venv/bin/activate
python3 -m pip install --upgrade pip
python3 -m pip install -r requirements.txt

GitHub রিপোজিটরিতে রানটাইম, টেস্ট, উদাহরণ, ডকুমেন্টেশন এবং মূল্যায়নের রসিদ রয়েছে। আনুমানিক 1.03 GB অ্যাডাপ্টারটি Hugging Face-এ হোস্ট করা আছে এবং প্রথমবার ব্যবহারের সময় স্বয়ংক্রিয়ভাবে ডাউনলোড হয়। নির্দিষ্ট Qwen3 বেস ওজনও Hugging Face ডাউনলোড করে ক্যাশ করে।

রিলিজ যাচাই করুন

রিপোজিটরির রুট থেকে Linux-এ সোর্স পেলোড যাচাই করুন:

sha256sum --check SHA256SUMS

macOS-এ নিচের সমতুল্য কমান্ডটি ব্যবহার করুন। মনে রাখবেন, রেফারেন্স GPU রানটাইমের সমর্থিত প্ল্যাটফর্মের তালিকায় macOS নেই।

shasum -a 256 -c SHA256SUMS

মডেল লোড না করেই সোর্স ম্যানিফেস্ট, নির্দিষ্ট বেস আইডেন্টিটি, JSON উদাহরণ, স্কিমা এবং চার্টের রসিদ যাচাই করতে পারেন:

python3 scripts/validate_release.py

এজেন্ট ট্রাজেক্টরি প্রস্তুত করুন

Dot Reflex একটি কাঁচা ট্রান্সক্রিপ্টের বদলে একটি সংক্ষিপ্ত স্ন্যাপশট প্রত্যাশা করে। সঠিক ইনপুট কনট্রাক্ট trajectory.schema.json-এ সংজ্ঞায়িত। অধিকাংশ এজেন্ট সিস্টেমের একটি ছোট অ্যাডাপ্টার প্রয়োজন, যা ফ্রেমওয়ার্ক-নির্দিষ্ট ইভেন্টগুলোকে এই কাঠামোয় ম্যাপ করে।

উদাহরণস্বরূপ, ধরুন কোনো এজেন্ট পাসওয়ার্ড-রিসেট কোড সম্পাদনা করেছে এবং টেস্ট না চালিয়েই কাজ সম্পন্ন হয়েছে বলে দাবি করেছে। একটি ট্রাজেক্টরি এমন হতে পারে:

{
  "task_summary": "পাসওয়ার্ড-রিসেট টোকেন যাচাই যোগ করুন",
  "execution_history": [
    {
      "step": 1,
      "actor": "agent",
      "action": "auth/reset.py পরিবর্তন করা হয়েছে এবং কাজ সম্পন্ন ঘোষণা করা হয়েছে।",
      "result": "প্যাচ প্রয়োগ করা হয়েছে; কোনো যাচাই চালানো হয়নি।"
    }
  ],
  "tool_results": [
    {
      "tool": "pytest",
      "status": "not_run",
      "summary": "টেস্ট কখনো চালানো হয়নি।"
    }
  ],
  "current_state": "কোড পরিবর্তন করা হয়েছে, কিন্তু এটি কাজ করে এমন কোনো প্রমাণ নেই।",
  "detected_failure_signals": ["false_completion_risk"]
}

এরপর কন্ট্রোলারটি অনুপস্থিত প্রমাণ শনাক্ত করে এমন একটি কাঠামোবদ্ধ সিদ্ধান্ত দিতে পারে:

{
  "action": "verify",
  "rationale": "এজেন্ট টেস্টের প্রমাণ ছাড়াই কাজ সম্পন্ন হওয়ার দাবি করেছে।",
  "confidence": 0.98,
  "recovery_instructions": "লক্ষ্যভিত্তিক রিসেট-টোকেন টেস্ট চালান, তারপর প্রাসঙ্গিক auth স্যুট চালান।",
  "parse_valid": true
}

আপনার হারনেস নির্ভুলভাবে সমর্থন করতে পারে, শুধু সেই প্রমাণই অন্তর্ভুক্ত করুন। অনুপস্থিত, পুরোনো বা বিভ্রান্তিকর ইভেন্ট ভুল সুপারিশের কারণ হতে পারে।

একটি সাধারণ সিদ্ধান্ত চালান

রিপোজিটরিতে একটি ভুল-সম্পূর্ণতা পরিস্থিতির উদাহরণ ট্রাজেক্টরি রয়েছে। এটি ওয়ান-শট CLI-তে জমা দিন:

python3 inference.py examples/trajectory_false_completion.json \
  --adapter usedot/Dot-Reflex-14B

ইনপুট পাথ হিসেবে - ব্যবহার করে স্ট্যান্ডার্ড ইনপুটের মাধ্যমেও একটি ট্রাজেক্টরি পাইপ করতে পারেন:

python3 inference.py - --adapter usedot/Dot-Reflex-14B \
  < examples/trajectory_false_completion.json

একটি অর্কেস্ট্রেটরে প্রসেসের এক্সিট স্ট্যাটাস এবং ফেরত দেওয়া parse_valid ফিল্ড দুটিই পরীক্ষা করুন। শূন্য নয় এমন এক্সিট স্ট্যাটাস অবৈধ ইনপুট স্কিমা বা জেনারেট করা অ্যাকশন নির্দেশ করে এবং এর ফলে স্বয়ংক্রিয়ভাবে কাজ চালিয়ে যাওয়া বন্ধ করা উচিত।

Dot Reflex-কে স্থানীয় HTTP সার্ভিস হিসেবে চালান

অতিরিক্ত সার্ভার নির্ভরতাগুলো ইনস্টল করুন এবং Uvicorn দিয়ে FastAPI অ্যাপ্লিকেশন চালু করুন:

python3 -m pip install -r requirements-server.txt
uvicorn serve:app --host 127.0.0.1 --port 8080

একই ট্রাজেক্টরিটি ডিসিশন এন্ডপয়েন্টে জমা দিন:

curl --fail-with-body \
  -H 'content-type: application/json' \
  --data @examples/trajectory_false_completion.json \
  http://127.0.0.1:8080/v1/decision

উদাহরণটি লোকালহোস্টে আবদ্ধ। সার্ভিসটি কোনো নেটওয়ার্কে উন্মুক্ত করার আগে প্রমাণীকরণ, TLS, রেট সীমা, অনুরোধের আকারের সীমা এবং অডিট লগিং যোগ করুন।

একটি এজেন্ট লুপে কন্ট্রোলার একীভূত করুন

প্রতিটি জেনারেট করা টোকেনের পর নয়, বরং অর্থপূর্ণ প্রমাণ-গেটে Dot Reflex কল করুন। কার্যকর চেকপয়েন্টের মধ্যে রয়েছে ব্যর্থ টুল কল, পুনরাবৃত্ত অ্যাকশন, কোড সম্পাদনা, টেস্ট বা বিল্ডের ফলাফল, পরিবেশের পরিবর্তন, অথবা কাজ সম্পন্ন হওয়ার দাবি।

trajectory = harness.snapshot_for_supervisor()
decision = reflex.predict(trajectory)

if decision["action"] == "continue":
    harness.resume()
elif decision["action"] == "verify":
    harness.require_verification(
        decision["recovery_instructions"]
    )
elif decision["action"] == "ask_human":
    harness.pause_for_user(decision["rationale"])
elif decision["action"].startswith("stop_"):
    harness.stop(decision)
else:
    harness.apply_recovery_control(decision)

এই প্যাটার্নটি দায়িত্বগুলো আলাদা রাখে। Dot Reflex পুনরুদ্ধারের প্রয়োজন শ্রেণিবদ্ধ করে, আর হারনেস প্রকৃত কার্যক্রম বাস্তবায়ন করে। উদাহরণস্বরূপ, rollback সুপারিশটি কেবল হারনেসে আগে থেকে সংজ্ঞায়িত ও অনুমোদিত কোনো রোলব্যাক প্রিমিটিভ চালু করা উচিত।

ইভেন্টগুলো স্বাভাবিকীকরণের মাধ্যমে কন্ট্রোলারটিকে LangGraph, OpenAI Agents SDK, OpenHands, AutoGen, CrewAI, Google ADK, অথবা কাস্টম টুল লুপের সঙ্গে সংযুক্ত করা যায়। তবে কোনো র‍্যাপার বা হুক তাদের ইভেন্ট স্ট্রিম ধারণ না করলে এটি Cursor, Claude Code, Codex CLI, অথবা Aider-এর জন্য সরাসরি ব্যবহারযোগ্য মিডলওয়্যার নয়। ম্যাপিংয়ের উদাহরণ ও সামঞ্জস্য-সংক্রান্ত নোটের জন্য INTEGRATION.md দেখুন।

উন্নত একীভূতকরণ টিপস

সবচেয়ে ছোট নির্ণায়ক যাচাইকরণ ব্যবহার করুন

অ্যাকশনটি verify হলে দাবি নিশ্চিত বা প্রত্যাখ্যান করার জন্য সক্ষম সবচেয়ে সংকীর্ণ পরীক্ষা বেছে নিন। কোডিং ওয়ার্কফ্লোতে এর অর্থ হতে পারে বড় স্যুট চালানোর আগে লক্ষ্যভিত্তিক টেস্ট চালানো। ফলাফল রেকর্ড করুন এবং পরবর্তী প্রমাণ-গেটে নতুন ট্রাজেক্টরি জমা দিন।

প্রতিটি অ্যাকশন স্পষ্টভাবে ম্যাপ করুন

অজানা বা অসমর্থিত অ্যাকশনকে continue হিসেবে বিবেচনা করবেন না। দশটি অ্যাকশনের সবগুলোর জন্য হারনেসের আচরণ নির্ধারণ করুন, জেনারেট করা অ্যাকশন যাচাই করুন এবং পার্সিং বা নীতি-সংক্রান্ত পরীক্ষা ব্যর্থ হলে নিরাপদে থামুন।

বাস্তব পুনরুদ্ধার প্রিমিটিভ সরবরাহ করুন

হারনেস সেগুলো প্রয়োগ করতে পারলেই সুপারিশ কার্যকর। branch সমর্থনকারী সিস্টেমের বিচ্ছিন্ন ওয়ার্কট্রি বা স্যান্ডবক্স তৈরি করা উচিত। rollback সমর্থনকারী সিস্টেমের পরিচিত-ভালো পুনরুদ্ধারযোগ্য অবস্থা বজায় রাখা উচিত। একটি মাল্টি-মডেল রাউটারের switch_model বাস্তবায়নের জন্য প্রকৃত রাউটিং ব্যবস্থা প্রয়োজন।

সংবেদনশীল সিদ্ধান্তে মানুষের নিয়ন্ত্রণ বজায় রাখুন

এজেন্টের অনুমোদন, গোপন তথ্য, ব্যাখ্যা, অথবা কোনো বাহ্যিক সিদ্ধান্তের প্রয়োজন হলে ask_human ব্যবহার করুন। ধ্বংসাত্মক, আর্থিক, চিকিৎসা, আইনি, নিরাপত্তা-সংবেদনশীল বা অন্য কোনো উচ্চ-প্রভাবসম্পন্ন কার্যক্রমের অনুমোদন কখনোই শুধু মডেলের আউটপুটের ওপর ছেড়ে দেবেন না।

স্থানীয়ভাবে আত্মবিশ্বাসের মান নির্ধারণ করুন

ফেরত দেওয়া confidence মানটি জেনারেট করা টেক্সট, নিরাপত্তার নিশ্চয়তা নয়। থ্রেশহোল্ড বা অটোমেশন নীতি প্রয়োগের আগে আপনার নিজস্ব পরিবেশের প্রতিনিধিত্বকারী ট্রাজেক্টরি ব্যবহার করে এটি পরিমাপ ও পুনঃনির্ধারণ করুন।

প্রমাণ ও অডিট ট্রেইল সংরক্ষণ করুন

ইনপুট ট্রাজেক্টরি, কন্ট্রোলারের প্রতিক্রিয়া, সম্পাদিত পুনরুদ্ধার অ্যাকশন এবং পরবর্তী ফলাফল সংরক্ষণ করুন। এই রসিদগুলো ব্যর্থতা তদন্ত সহজ করে এবং কন্ট্রোলারটি আপনার ওয়ার্কলোডে কার্যকরভাবে স্থানান্তরিত হয় কি না তা মূল্যায়নে সহায়তা করে।

মূল্যায়নের সীমা বুঝুন

Dot Reflex 6,000টি সিন্থেটিক ট্রাজেক্টরিতে প্রশিক্ষিত এবং 600টি সিন্থেটিক ট্রাজেক্টরিতে যাচাই করা হয়েছে। প্রকাশিত Agent Recovery Bench v0 মূল্যায়নে 1,000টি ভারসাম্যপূর্ণ, সংরক্ষিত সিন্থেটিক ট্রাজেক্টরি এবং 200টি পৃথক স্টেটফুল সিন্থেটিক পুনরুদ্ধার পর্ব রয়েছে।

সেই সিন্থেটিক বেঞ্চমার্কে অ্যাডাপ্টারটি 1.000 পুনরুদ্ধার নির্ভুলতা, 1.000 ম্যাক্রো F1 এবং 1.000 সিমুলেটেড পুনরুদ্ধার অর্জন করেছে। NVIDIA H200-এ এর প্রতিবেদিত গড় লেটেন্সি ছিল 6.13 সেকেন্ড, তবে এটি সার্বজনীন সার্ভিং-সংক্রান্ত দাবি নয়, বরং নির্দিষ্ট একটি রান থেকে পাওয়া পরিমাপ।

সিন্থেটিকে 100% ফলাফল সর্বজনীন নির্ভরযোগ্যতা প্রমাণ করে না। বেঞ্চমার্কটি SWE-bench, এন্ড-টু-এন্ড রিপোজিটরি ইস্যু-সমাধান পরীক্ষা, অথবা কোনো প্রোডাকশন ট্রায়াল নয়।

প্রকাশিত ডেটা বেঞ্চমার্কের বিতরণের সঙ্গে সামঞ্জস্য প্রদর্শন করে, তবে স্বাধীনভাবে রচিত বা প্রোডাকশন ব্যর্থতার ক্ষেত্রে নির্ভরযোগ্য স্থানান্তর প্রদর্শন করে না। ফলাফল উদ্ধৃত করার বা ডিপ্লয়মেন্ট নীতি নকশা করার আগে EVALUATION.md পর্যালোচনা করুন।

মডেল ও রানটাইমের বিবরণ

• বেস মডেল: Qwen/Qwen3-14B-Base।
• পদ্ধতি: BF16 কম্পিউটসহ 4-bit NF4 QLoRA।
• LoRA কনফিগারেশন: র‍্যাঙ্ক 64, আলফা 128 এবং ড্রপআউট 0.05।
• লক্ষ্য মডিউল: অ্যাটেনশন ও MLP প্রজেকশন লেয়ার।
• প্রশিক্ষণ কনটেক্সট: 2,048 টোকেন।
• প্রশিক্ষণযোগ্য প্যারামিটার: 256,901,120, বা বেস মডেলের 1.710%।
• লাইসেন্স: রিপোজিটরি ও অ্যাডাপ্টার ফাইলের জন্য Apache-2.0।

Qwen বেস মডেলটি একটি পৃথক আপস্ট্রিম নির্ভরতা। সম্মিলিত সিস্টেম বিতরণ বা ডিপ্লয় করার আগে এর মডেল কার্ড ও লাইসেন্স পর্যালোচনা করুন।

উপসংহার

Dot Reflex 14B এজেন্ট এক্সিকিউশন লুপে একটি কাঠামোবদ্ধ পুনরুদ্ধার স্তর যোগ করে। GPU রানটাইম ইনস্টল করে, বিদ্যমান ইভেন্টগুলোকে ট্র্যাজেক্টরি স্কিমায় রূপান্তর করে এবং CLI-এর মাধ্যমে একটি সিদ্ধান্ত পরীক্ষা করে শুরু করুন। এরপর HTTP সার্ভিস যোগ করতে পারেন, অথবা কাস্টম হার্নেসে এভিডেন্স গেটে কন্ট্রোলারটি কল করতে পারেন। এক্সিকিউশনের কর্তৃত্ব হার্নেসের মধ্যে রাখুন, প্রতিটি প্রতিক্রিয়া যাচাই করুন, অডিটের প্রমাণ সংরক্ষণ করুন এবং অটোমেশন চালু করার আগে নিজের ওয়ার্কলোডে পারফরম্যান্স মূল্যায়ন করুন।