SemIf চালু আছে

SemIf (পূর্বনাম OpenJev) একটি ওপেন-সোর্স AI সিদ্ধান্ত মডেল, যা ওপেন-সোর্স মডেল ব্যবহার করে TypeSafe-এর ক্লোজড-সোর্স Jev-এর সেমান্টিক সিদ্ধান্ত ইন্টারফেস প্যাটার্ন পুনর্নির্মাণ করে। SemIf একবারের ফরোয়ার্ড পাসে সরাসরি প্রার্থী বিকল্পগুলোর সংশ্লিষ্ট logits পড়ে স্কোর করে, আর সার্ভার কাঠামোবদ্ধ ফলাফল তৈরি করে; একাধিক প্রশ্ন একই অবস্থা শেয়ার করলে প্রিফিক্সও পুনর্ব্যবহার করা যায়, ফলে গতি প্রায় এক ক্রম বৃদ্ধি পায়। SemIf RTX 3090-এ চালানো যায় এবং এতে ব্রাউজার ডেমো, লাইন-বাই-লাইন পুনরুৎপাদনযোগ্য বেঞ্চমার্ক, তাপমাত্রা ক্যালিব্রেশন ও 27B মডেল ব্রিজিং অন্তর্ভুক্ত রয়েছে।

WeChat-এ ফলো করে “开源” লিখে রিপ্লাই দিন, AI ওপেন-সোর্স প্রকল্পের গ্রুপে যোগ দিন
সরাসরি logit স্কোরিং: একবারের ফরোয়ার্ড পাসে প্রার্থী বিকল্পগুলোর logits পড়ে সম্ভাবনা নির্ধারণ করা হয়; উত্তর টেক্সট তৈরি করে পার্স করার প্রয়োজন নেই, তাই অটোরিগ্রেসিভ জেনারেশনের তুলনায় প্রায় 5 গুণ দ্রুত।
শেয়ার করা অবস্থা পুনর্ব্যবহার: একাধিক সিদ্ধান্ত একই কনটেক্সট শেয়ার করলে একবার প্রিফিল করা প্রিফিক্সের পর প্রতিটি মানদণ্ড সিরিয়াল বা সমান্তরালভাবে মূল্যায়ন করা যায়, ফলে থ্রুপুট প্রায় এক ক্রম বৃদ্ধি পেতে পারে।
রানটাইমে সংজ্ঞায়িত সিদ্ধান্ত: মানদণ্ড ও বিকল্পের বিবরণ অনুরোধের সঙ্গে পাঠানো হয়; ফাইন-টিউনিং বা পূর্বনির্ধারিত কাজের প্রয়োজন নেই। রাউটিং, রিট্রাই সিদ্ধান্ত ইত্যাদি ছোট আকারের agent সিদ্ধান্তে উপযোগী।
সম্পূর্ণ অডিটযোগ্য: নির্দিষ্ট prompt, মডেল সংস্করণ, prompt হ্যাশ, লাইন-বাই-লাইন আউটপুট ও পরিচিত ব্যর্থতাগুলো রিপোজিটরিতে জমা থাকে, ফলে নির্ভুলভাবে পুনরুৎপাদন করা যায়।
তাপমাত্রা ক্যালিব্রেশন: কাজের ধরন অনুযায়ী ফিট করা তাপমাত্রা স্কেলিং বিল্ট-ইন রয়েছে, যা সম্ভাব্যতার আত্মবিশ্বাস ও প্রকৃত নির্ভুলতার সামঞ্জস্য উন্নত করে।
একাধিক ব্যাকএন্ড সমর্থন: CUDA GPU, Apple Silicon (MPS/MLX), CPU এবং ব্রাউজার WebGPU ডেমো সমর্থিত।

পরিবেশ প্রস্তুতি: Python 3.10+, CUDA এবং 4B BF16 মডেল ধারণ করতে সক্ষম একটি GPU ইনস্টল করুন।
প্রকল্প ইনস্টল: ভার্চুয়াল এনভায়রনমেন্ট তৈরি করে pip install -e '.[test]' চালান।
ইনপুট প্রস্তুত: JSONL ফরম্যাটে সিদ্ধান্ত ফাইল লিখুন; প্রতিটি লাইনে id, state, question এবং options প্রার্থী তালিকা থাকবে।
স্কোর চালান: semif-score --mode direct --model Qwen/Qwen3.5-4B --revision <স্থির সংস্করণ> --input examples/decisions.jsonl --output results.jsonl চালালে প্রতিটি লাইনের বিকল্প সম্ভাবনা, সময় এবং prompt হ্যাশ পাওয়া যাবে।
শেয়ার করা অবস্থা মোড: সব লাইনের state সম্পূর্ণ একই হলে --mode shared ব্যবহার করুন; এতে একবার প্রিফিক্স প্রিফিল করে সব মানদণ্ড সমান্তরালভাবে মূল্যায়ন করা হবে।
ক্যালিব্রেশন প্রয়োগ: প্রকল্পের দেওয়া স্ক্রিপ্ট দিয়ে লক্ষ্য কাজের ওপর তাপমাত্রা স্কেলিং ফিট করুন, যাতে আউটপুট আত্মবিশ্বাস প্রকৃত নির্ভুলতার সঙ্গে সামঞ্জস্যপূর্ণ হয়।

দ্রুত সিদ্ধান্ত: সরাসরি বিকল্পগুলোর logits পড়ে জেনারেশন-পার্সিং ধাপ বাদ দেওয়া হয়; 21টি বাইনারি সিদ্ধান্তে প্রায় 1 সেকেন্ড লাগে, যা JSON জেনারেশনের চেয়ে 5.2 গুণ দ্রুত।
শেয়ার করা প্রিফিক্স পুনর্ব্যবহার: একবার প্রিফিল, বহুবার শাখা মূল্যায়ন; শেয়ার করা অবস্থার ক্ষেত্রে থ্রুপুট 2.33 থেকে সর্বোচ্চ 20.03 সিদ্ধান্ত/সেকেন্ডে উন্নীত হয়।
শূন্য জেনারেটেড token: উত্তর টেক্সট স্যাম্পল করা হয় না, ফলে JSON ফরম্যাট ত্রুটি, ডিকোডিং লুপ ও আউটপুট পার্সিং ব্যর্থতার সমস্যা দূর হয়।
কম হার্ডওয়্যার চাহিদা: স্থির 4B মডেল একটি RTX 3090-এই চালানো যায়; CPU, Apple Silicon এবং ব্রাউজার WebGPU-ও সমর্থিত।
সম্পূর্ণ ওপেন-সোর্স ও পুনরুৎপাদনযোগ্য: সব prompt, মডেল সংস্করণ, লাইন-বাই-লাইন ফলাফল ও পরিচিত ব্যর্থতা রিপোজিটরিতে জমা থাকে, তাই প্রতিটি ধাপ অডিট ও যাচাই করা যায়।
ক্যালিব্রেটযোগ্য আত্মবিশ্বাস: কাজের ধরন অনুযায়ী তাপমাত্রা স্কেলিং বিল্ট-ইন রয়েছে, যা সম্ভাব্যতার আত্মবিশ্বাসকে প্রকৃত নির্ভুলতার সঙ্গে সামঞ্জস্যপূর্ণ করে; আউটপুট সরাসরি স্বয়ংক্রিয় সিদ্ধান্তে ব্যবহার করা যায়।

প্রকল্পের অফিসিয়াল ওয়েবসাইট：https://openjev.com/
GitHub রিপোজিটরি：https://github.com/TheoLeeCJ/SemIf-OpenJev

গ্রাহকসেবা টিকিট রাউটিং: গ্রাহকের প্রশ্নের বিবরণ ও অ্যাকাউন্টের অবস্থা অনুযায়ী ”অ্যাকাউন্ট সহায়তা / বিলিং সহায়তা” ইত্যাদি কিউ বিকল্পে সরাসরি স্কোর করে মিলিসেকেন্ডে স্বয়ংক্রিয় বণ্টন।
Agent অ্যাকশন ফায়ারওয়াল: Agent উচ্চ-ঝুঁকির কাজ করার আগে প্রার্থী অ্যাকশনগুলোর বাইনারি মূল্যায়ন করে; 0.700 যৌগিক নির্ভুলতা প্রথম স্তরের প্রতিরক্ষা হিসেবে ব্যবহারযোগ্য।
প্রমাণ অনুসন্ধান ও র‌্যাঙ্কিং: কোড রিপোজিটরি অনুসন্ধান এবং এন্টারপ্রাইজ জ্ঞানভাণ্ডার প্রশ্নোত্তরে (0.929) প্রচলিত reranker-এর পরিবর্তে একবারের ফরোয়ার্ড পাসে প্রার্থী নথির স্কোর প্রদান করে।
যুক্তির উপসংহার যাচাই: NLI ধরনের কাজে “প্রমাণ কি উপসংহারকে সমর্থন করে” তা নির্ধারণে ব্যবহার করা যায়; ক্যালিব্রেশনের পর আত্মবিশ্বাস সরাসরি পরবর্তী স্বয়ংক্রিয় কাজ চালাতে পারে।