Kev চালু আছে

Kev হলো Cognition-এর ইঞ্জিনিয়ারিং VP Jared Palmer-এর ওপেন-সোর্স করা সিদ্ধান্ত মডেলের পরিবার, যা Qwen3.5/Qwen3.8-এর ওপর ভিত্তি করে তৈরি এবং 0.8B থেকে 27B পর্যন্ত বিভিন্ন আকারের মডেল সরবরাহ করে। Kev লেখা তৈরি করে না; ইনপুট হিসেবে স্টেট টেক্সট ও কাঠামোবদ্ধ প্রশ্ন নিয়ে একবারের ফরোয়ার্ড পাসেই ক্যালিব্রেটেড সম্ভাবনা সরাসরি আউটপুট করে। এটি হ্যাঁ/না, অপশন রাউটিং এবং স্তরভিত্তিক স্কোরিংসহ তিন ধরনের সিদ্ধান্ত সমর্থন করে এবং TypeSafe System One-এর সঙ্গে API-সামঞ্জস্যপূর্ণ।

কাঠামোবদ্ধ সিদ্ধান্ত: এক অংশ স্টেট টেক্সট ও কয়েকটি কাঠামোবদ্ধ প্রশ্ন ইনপুট দিলে একবারের অনুরোধেই প্রতিটি অপশনের ক্যালিব্রেটেড সম্ভাবনা সরাসরি আউটপুট হয়; কখনো ব্যাখ্যামূলক লেখা তৈরি করে না।
তিন ধরনের সিদ্ধান্ত প্রিমিটিভ: noul, choice এবং score সমর্থন করে।
ব্যাচ প্রশ্ন বিচ্ছিন্নতা: একাধিক প্রশ্ন একই ইনপুট স্টেট শেয়ার করে, কিন্তু অ্যাটেনশন মাস্কের মাধ্যমে পরস্পর থেকে বিচ্ছিন্ন থাকে। এক ফরোয়ার্ড পাসে সব প্রশ্নের উত্তর দেওয়া হয় এবং কোনো প্রশ্নের তথ্য অন্যটিকে দূষিত করে না।
লোকাল ডিপ্লয়মেন্ট: kev.serve দিয়ে এক লাইনের কমান্ডে সার্ভিস চালু করা যায়। এটি POST /v1/systemone এন্ডপয়েন্ট প্রকাশ করে এবং CUDA, ROCm ও Apple Silicon (MLX) সমর্থন করে।
কম খরচে ফাইন-টিউনিং: নিজস্ব লেবেলযুক্ত ডেটা ব্যবহার করে অফিসিয়াল checkpoint-এর ওপর আরও প্রশিক্ষণ দেওয়া যায়। kev-finetune skill-এর সাহায্যে coding agent স্বয়ংক্রিয়ভাবে ডেটা প্রস্তুতি, প্রশিক্ষণ, মূল্যায়ন ও ডিপ্লয়মেন্টের পুরো প্রক্রিয়া সম্পন্ন করে।
অন্তর্নির্মিত মূল্যায়ন ব্যবস্থা: এতে একটি স্থির মূল্যায়ন সেট রয়েছে, যা নির্ভুলতা, Brier স্কোর, ক্যালিব্রেশন ত্রুটি এবং স্বয়ংক্রিয় সিদ্ধান্তের অনুপাত রিপোর্ট করে। CI স্বয়ংক্রিয়ভাবে প্রকাশিত সংখ্যাগুলো যাচাই করে।

WeChat-এ ফলো করে “开源” লিখে রিপ্লাই দিন, AI ওপেন-সোর্স প্রকল্পের গ্রুপে যোগ দিন
পয়েন্টার হেড জেনারেশনকে শ্রেণিবিভাজনে রূপান্তর করে: Kev Qwen-এর বেস ওজন ফ্রিজ করে এবং একটি rank-16 LoRA অ্যাডাপ্টার ও পয়েন্টার হেড যুক্ত করে। প্রতিটি প্রার্থীর হিডেন স্টেট এবং প্রশ্নের হিডেন স্টেট স্কোর করা হয়, তারপর softmax-এর মাধ্যমে সম্ভাবনা পাওয়া যায়। মূলত বড় মডেলের “লেখার প্রশ্নকে” “বহুনির্বাচনী প্রশ্নে” রূপান্তর করা হয়, ফলে token ধরে ধরে জেনারেশন এড়ানো যায়।
ব্লক-কজাল অ্যাটেনশন প্রশ্নগুলোকে বিচ্ছিন্ন করে: ইনপুট সিকোয়েন্সকে “স্টেট + একাধিক প্রশ্ন ব্লক” হিসেবে সাজানো হয়। অ্যাটেনশন মাস্কের কারণে প্রতিটি token কেবল স্টেট এবং নিজের প্রশ্নের ভেতরের অংশ পড়তে পারে। প্রতিটি প্রশ্নে পজিশন ID আবার গণনা শুরু হয়। তাই এক ফরোয়ার্ড পাসে একাধিক সম্পর্কহীন প্রশ্নের উত্তর একসঙ্গে দেওয়া যায়; স্টেটের গণনা শেয়ার হয়, কিন্তু প্রশ্নগুলো পরস্পরের তথ্য ফাঁস করে না। Qwen3.5/3.8-এর মতো মিশ্র Gated DeltaNet মডেলে প্রতিটি প্রশ্নকে আলাদা সারিতে রাখা হয় এবং স্টেট KV ক্যাশ পুনর্ব্যবহার করা হয়, ফলে বিচ্ছিন্নতা আরও কঠোর হয়।
প্রশিক্ষণ ও ক্যালিব্রেশন: সঠিক লেবেলের ওপর cross-entropy ব্যবহার করে adapter এবং পয়েন্টার হেড প্রশিক্ষণ দেওয়া হয়; পুরো সময় বেস মডেল ফ্রিজ থাকে। প্রতিটি checkpoint-এর জন্য ধরে রাখা ডেটায় একটি temperature parameter ফিট করা হয়। ইনফারেন্সের সময় সরাসরি ক্যালিব্রেটেড সম্ভাবনা আউটপুট হয়। Temperature র‌্যাঙ্কিং পরিবর্তন করে না, কেবল confidence-এর সংখ্যাগত মান ক্যালিব্রেট করে।

পরিবেশ প্রস্তুতি: Python 3.12/3.13 এবং uv ইনস্টল করুন। রিপোজিটরি ক্লোন করার পর uv sync --extra serve চালিয়ে নির্ভরতা ইনস্টল করুন।
লোকাল সার্ভিস চালু করা: KEV_DTYPE=bf16 uv run --extra serve python -m kev.serve --run jaredpalmer/kev-4b --port 8009 চালিয়ে মডেল চালু করুন। প্রথমবার চালানোর সময় ওজন স্বয়ংক্রিয়ভাবে ডাউনলোড হবে।
সিদ্ধান্তের অনুরোধ পাঠানো: POST /v1/systemone-এ state টেক্সট ও questions পাঠালে প্রতিটি অপশনের ক্যালিব্রেটেড সম্ভাবনা ফেরত পাওয়া যায়।
Python SDK ব্যবহার: TypeSafe-এর অফিসিয়াল SDK-তে base_url স্থানীয় সার্ভিসের দিকে নির্দেশ করুন; বিদ্যমান Jev অ্যাপ কোনো পরিবর্তন ছাড়াই বদলে নেওয়া যাবে।
ব্রাউজারে ব্যবহার: Hugging Face Space-এ যান অথবা স্থানীয়ভাবে playground চালান; ইনস্টলেশন ছাড়াই ব্যবহার করা যাবে।
নিজস্ব ডেটা ফাইন-টিউন করা: JSONL ফরম্যাটে লেবেলযুক্ত ডেটা প্রস্তুত করুন এবং uv run python -m kev.train --init_from jaredpalmer/kev-4b ... ব্যবহার করে অফিসিয়াল checkpoint-এর ওপর আরও প্রশিক্ষণ দিন।
Agent-এর সম্পূর্ণ স্বয়ংক্রিয় ফাইন-টিউনিং: npx skills add jaredpalmer/kev@kev-finetune চালিয়ে coding agent-কে সমস্যা খোঁজা, ডেটা তৈরি, প্রশিক্ষণ, মূল্যায়ন ও ডিপ্লয়মেন্টের পুরো প্রক্রিয়া সম্পন্ন করতে দিন; স্থানীয় GPU প্রয়োজন নেই।
ক্লাউড ডিপ্লয়মেন্ট: pip install modal && modal deploy kev_serve.py চালিয়ে এক কমান্ডে HTTPS এন্ডপয়েন্ট ডিপ্লয় করুন। নিষ্ক্রিয় অবস্থায় স্বয়ংক্রিয়ভাবে শূন্যে স্কেল ডাউন হওয়ায় কোনো চার্জ লাগে না।
মূল্যায়ন যাচাই: uv run python -m kev.benchmark --run <মডেল> --suite evals/v4/transfer-v4 ব্যবহার করে স্থির মূল্যায়ন সেটে কার্যকারিতা যাচাই করুন; আগে মূল্যায়ন, পরে প্রকাশ।

অত্যন্ত কম খরচ: এক ফরোয়ার্ড পাসেই সরাসরি সম্ভাবনা আউটপুট হয়, token ধরে ধরে জেনারেশনের প্রয়োজন হয় না। H100-এ 6টি প্রশ্নের উত্তর দিতে মাত্র 18ms লাগে; নিজে পরিচালনা করলে কোনো কল-ফি নেই।
সস্তা ও পুনরুৎপাদনযোগ্য প্রশিক্ষণ: অফিসিয়াল তিনটি মডেল স্থানান্তর করে প্রশিক্ষণে প্রায় 95 ডলার খরচ হয়েছে, আর ব্যক্তিগত ফাইন-টিউনিংয়ে একবারে প্রায় 1 ডলার লাগে। সম্পূর্ণ বিল প্রকাশ্য ও স্বচ্ছ।
ওপেন-সোর্স ও নিয়ন্ত্রণযোগ্য: Apache-2.0 লাইসেন্সের অধীনে ওজন, প্রশিক্ষণ কোড এবং স্থির মূল্যায়ন সেট সম্পূর্ণ প্রকাশ্য। নিজে প্রশিক্ষণ, অডিট এবং সরবরাহকারী-নির্ভরতা ছাড়া ব্যবহার করা যায়।
API সরাসরি ব্যবহারযোগ্য: TypeSafe System One-এর সঙ্গে সম্পূর্ণ সামঞ্জস্যপূর্ণ। বিদ্যমান Jev অ্যাপে শুধু base_url পরিবর্তন করলেই কোনো কোড পরিবর্তন ছাড়াই স্থানান্তর করা যায়।
একসঙ্গে একাধিক প্রশ্ন: ইনপুট স্টেট শেয়ার করে এবং ব্লক-কজাল অ্যাটেনশনের মাধ্যমে বিচ্ছিন্ন থাকে। এক ফরোয়ার্ড পাসে যেকোনো সংখ্যক প্রশ্নের উত্তর দেওয়া যায়, পরস্পরের তথ্য দূষিত হয় না।

GitHub রিপোজিটরি: https://github.com/jaredpalmer/kev

কাস্টমার সার্ভিস টিকিট রাউটিং: এক ফরোয়ার্ড পাসে একই সঙ্গে নির্ধারণ করা যায় “কোন বিভাগে পাঠাতে হবে, মানব সহায়তায় উন্নীত করতে হবে কি না, গ্রাহকের রাগের মাত্রা কত”। সম্ভাবনার সীমা অনুযায়ী স্বয়ংক্রিয়ভাবে বণ্টন করা যায় এবং কম confidence-এর ক্ষেত্রে মানব এজেন্টের কাছে পাঠানো যায়।
কনটেন্ট সেফটি পর্যালোচনা: UGC টেক্সটে সমান্তরালভাবে “noul লঙ্ঘন কি না + choice লঙ্ঘনের ধরন + score গুরুতরতা” নির্ধারণ করা যায়; উচ্চ confidence হলে স্বয়ংক্রিয় ব্যবস্থা নেওয়া যায়।
অর্থ ও ঋণের প্রাথমিক যাচাই: অভিযোগের ধরন, মানব হস্তক্ষেপ প্রয়োজন কি না এবং ঝুঁকির স্তর নির্ধারণ করা যায়। সম্ভাবনার বণ্টন কমপ্লায়েন্স রেকর্ড রাখা ও মানব পর্যালোচনার অগ্রাধিকার নির্ধারণে সহায়তা করে।
ই-কমার্স পণ্য ও অভিপ্রায় শ্রেণিবিভাগ: ব্যবহারকারীর অনুসন্ধানকে সার্চ, সুপারিশ বা বিক্রয়োত্তর সেবার মতো ডাউনস্ট্রিম সিস্টেমে রাউট করা যায়। “একটি শব্দ একাধিক শ্রেণিতে পড়ে” এমন মাল্টি-লেবেল বণ্টন সমস্যাও সামলানো যায়।