Agent2API শুরু করার টিউটোরিয়াল: ডেস্কটপ AI লগইন অবস্থা OpenAI-সামঞ্জস্যপূর্ণ গেটওয়েতে সংযুক্ত করুন

Agent2API কী

Agent2API হলো একটি লোকাল AI API গেটওয়ে, যা একাধিক AI ডেস্কটপ ক্লায়েন্টে ইতিমধ্যে লগইন করা অ্যাকাউন্ট একত্রিত করে এবং একটি统一 OpenAI-সামঞ্জস্যপূর্ণ ইন্টারফেসের মাধ্যমে মডেল ব্যবহারের সুবিধা দেয়। ক্লায়েন্টে কাস্টম base_url সমর্থিত হলে সেটিকে http://127.0.0.1:3065/v1-এর সঙ্গে সংযুক্ত করা যায়। সাধারণত আপস্ট্রিম API Key বা ক্লায়েন্টে কোনো পরিবর্তনের প্রয়োজন হয় না।

প্রকল্পটি Chat, Responses এবং Messages—এই তিনটি প্রোটোকল সমর্থন করে এবং /v1/models মডেল তালিকা API প্রদান করে। গেটওয়ে আপনার কম্পিউটার বা স্থাপন করা সার্ভারে চলে, আর অ্যাকাউন্টের কোটা সংশ্লিষ্ট অ্যাকাউন্ট থেকেই আসে।

প্রধান ফিচারগুলোর সংক্ষিপ্তসার

• OpenAI-সামঞ্জস্যপূর্ণ API: /v1/chat/completions, /v1/responses, /v1/messages সমর্থন করে; Messages-এ count_tokens-ও সমর্থিত।
• একাধিক প্রদানকারী: WorkBuddy, 小浣熊, CatPaw, Qoder, Trae-সহ একাধিক প্রদানকারী বিল্ট-ইন রয়েছে। কাস্টম প্রদানকারীও কনফিগার করা যায়।
• অ্যাকাউন্ট রোটেশন: অগ্রাধিকারের ভিত্তিতে অ্যাকাউন্টগুলো সারিবদ্ধ থাকে। 429 দেখা দিলে অ্যাকাউন্ট পরিবর্তন করা যায় এবং সীমা-সংক্রান্ত কুলডাউন অবস্থায় থাকা অ্যাকাউন্ট আর ব্যবহার করা হয় না।
• ক্রেডেনশিয়াল রক্ষণাবেক্ষণ: কিছু প্রদানকারী Token স্বয়ংক্রিয় নবায়ন, মেয়াদ শেষের কাছাকাছি ক্রেডেনশিয়াল একসঙ্গে রিফ্রেশ এবং মডেল ক্যাটালগ রিফ্রেশ সমর্থন করে।
• নেটওয়ার্ক ও নিরাপত্তা: প্রতিটি অ্যাকাউন্টের জন্য আলাদা আউটবাউন্ড প্রক্সি এবং একাধিক গেটওয়ে Key-এর মাধ্যমে অনুমতি বণ্টন করা যায়।
• পরিচালনা: অনুরোধের পরিমাণ, সাফল্যের হার, Token ব্যবহার, ক্যাশ হিটের হার এবং দীর্ঘমেয়াদি হিটম্যাপসহ বিভিন্ন প্রতিবেদন পাওয়া যায়।
• নির্ধারিত কাজ: স্বয়ংক্রিয় চেক-ইন, ক্রেডেনশিয়াল রক্ষণাবেক্ষণ এবং মডেল ক্যাটালগ রিফ্রেশের কাজ পরিচালনা করা যায়।

ডেপ্লয়মেন্ট পদ্ধতি নির্বাচন

Agent2API তিন ধরনের ব্যবহারের পদ্ধতি প্রদান করে। ডেস্কটপ সংস্করণ ব্যক্তিগত কম্পিউটারের জন্য উপযোগী এবং Windows, macOS ও Linux সমর্থন করে; এটি সিস্টেম ট্রেতে চালু রাখা যায়। সার্ভার সংস্করণ গ্রাফিক্যাল ইন্টারফেসবিহীন Windows Server বা Linux পরিবেশের জন্য উপযোগী। Docker বিদ্যমান কনটেইনার পরিবেশের ব্যবহারকারীদের জন্য উপযোগী। তিনটি পদ্ধতির কোনোটিতেই রানটাইমে Node.js ইনস্টল করার প্রয়োজন নেই।

• ডেস্কটপ: ইনস্টলেশন প্যাকেজ দিয়ে অ্যাপ্লিকেশন চালু হয় এবং গেটওয়ে অ্যাপ্লিকেশন প্রসেসের মধ্যে চলে।
• সার্ভার: সিস্টেম সার্ভিস হিসেবে ইনস্টল হয়, ব্রাউজারের মাধ্যমে ব্যবস্থাপনা প্যানেল খোলা যায় এবং সিস্টেম চালুর সময় স্বয়ংক্রিয়ভাবে শুরু করা যায়।
• Docker: aimodcc/agent2api:latest ইমেজ ব্যবহার করে এবং amd64 ও arm64 সমর্থন করে।

ইনস্টলেশন ও প্রাথমিক কনফিগারেশন

পদ্ধতি এক: ডেস্কটপ

প্রকল্পের Latest Releases থেকে আপনার সিস্টেমের উপযোগী ইনস্টলেশন প্যাকেজ ডাউনলোড করুন। চালু করার পর “অ্যাকাউন্ট” পৃষ্ঠায় গিয়ে এক বা একাধিক প্রদানকারীর অ্যাকাউন্ট যোগ করুন। ডেস্কটপ গেটওয়ে ডিফল্টভাবে লোকাল 3065 পোর্টে শুনবে।

পদ্ধতি দুই: Linux সার্ভার

tar -xzf agent2api-server-linux-amd64.tar.gz && cd agent2api-server-linux-amd64 && sudo bash install.sh

ইনস্টলেশন শেষ হলে ব্রাউজারে http://127.0.0.1:3065/ খুলুন। সার্ভিসটি দূরবর্তী হোস্টে চললে ঠিকানার হোস্টনামটি সার্ভারের IP বা ডোমেইন দিয়ে প্রতিস্থাপন করুন।

পদ্ধতি তিন: Windows Server

Expand-Archive agent2api-server-windows-amd64.zip -DestinationPath C:\agent2api-pkg
cd C:\agent2api-pkg
.\install-service.ps1

উপরের কমান্ডগুলো Administrator PowerShell-এ চালান। ইনস্টলেশন স্ক্রিপ্টটি সিস্টেমে সার্ভিস নিবন্ধন করবে।

পদ্ধতি চার: Docker

docker run -d --name agent2api --restart unless-stopped -p 3065:3065 -v ./data:/data aimodcc/agent2api:latest

এখানে ./data:/data কনফিগারেশন ও অ্যাকাউন্টের তথ্য স্থায়ীভাবে সংরক্ষণ করতে ব্যবহৃত হয়। কনটেইনার চালু হলে http://127.0.0.1:3065/ খুলে প্রাথমিক সেটআপ সম্পন্ন করুন।

অ্যাডমিন ও গেটওয়ে Key প্রাথমিকভাবে কনফিগার করা

1. ব্যবস্থাপনা প্যানেল খুলে অ্যাডমিন অ্যাকাউন্ট নিবন্ধন করুন।
2. “গেটওয়ে Key” পৃষ্ঠায় গিয়ে ক্লায়েন্ট কলের জন্য একটি Key তৈরি করুন।
3. “অ্যাকাউন্ট” পৃষ্ঠায় গিয়ে প্রদানকারী ও সংস্করণ নির্বাচন করুন, তারপর পৃষ্ঠার নির্দেশনা অনুসরণ করে ওয়েব লগইন বা লগইন সেশন আমদানি সম্পন্ন করুন।
4. অ্যাকাউন্টের অবস্থা, মেয়াদ ও ব্যালেন্স স্বাভাবিক আছে কি না নিশ্চিত করুন।
5. “মডেল ব্যবস্থাপনা” পৃষ্ঠায় গিয়ে উপলভ্য মডেল ও মডেল ম্যাপিং পরীক্ষা করুন।

গেটওয়ে Key কনফিগার না থাকলে প্রকল্পটি ডিফল্টভাবে API অনুরোধ প্রত্যাখ্যান করে। গেটওয়ে Key প্রকাশ্য কোড, লগ বা অবিশ্বস্ত ক্লায়েন্টে প্রকাশ করবেন না।

অ্যাকাউন্ট ও মডেল কনফিগার করা

অ্যাকাউন্ট ব্যবস্থাপনা পৃষ্ঠায় অ্যাকাউন্টের মেয়াদ, ব্যালেন্স, গ্লোবাল কিউ এবং মডেলভিত্তিক সীমা-কুলডাউন অবস্থা দেখা যায়। একাধিক অ্যাকাউন্ট যোগ করার পর সিস্টেম অগ্রাধিকারের ভিত্তিতে সেগুলো পরিচালনা করে। কোনো অ্যাকাউন্টে 429 দেখা দিলে বা সেটি কুলডাউন অবস্থায় গেলে অন্য উপলভ্য অ্যাকাউন্টে পরিবর্তন করা যায়।

মডেল ব্যবস্থাপনা পৃষ্ঠায় প্রদানকারী অনুযায়ী মডেল তালিকা, মাল্টিপ্লায়ার, কনটেক্সট তথ্য ও ম্যাপিং দেখা যায়। অনলাইন স্বয়ংক্রিয়ভাবে মডেল তালিকা সংগ্রহ সমর্থনকারী প্রদানকারীদের তালিকা নিয়মিত রিফ্রেশ হয়। কিছু প্ল্যাটফর্মে ব্যাকআপ হিসেবে বিল্ট-ইন স্থির তালিকাও রয়েছে।

প্রথম API কল

কাস্টম API ঠিকানা সমর্থনকারী ক্লায়েন্টে Base URL হিসেবে সেট করুন:

http://127.0.0.1:3065/v1

API Key হিসেবে সদ্য তৈরি করা গেটওয়ে Key দিন। উদাহরণ হিসেবে sk-local ব্যবহার করা যেতে পারে, তবে প্রকৃত কলের সময় প্যানেলে তৈরি করা Key ব্যবহার করতে হবে।

প্রথমে গেটওয়ের স্বাস্থ্য পরীক্ষা করুন:

curl http://127.0.0.1:3065/health

এরপর মডেল তালিকা দেখুন:

curl http://127.0.0.1:3065/v1/models \
  -H "Authorization: Bearer YOUR_GATEWAY_KEY"

Chat Completions API কলের উদাহরণ:

curl http://127.0.0.1:3065/v1/chat/completions \
  -H "Authorization: Bearer YOUR_GATEWAY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL_ID",
    "messages": [
      {"role": "user", "content": "হ্যালো, নিজের সম্পর্কে বলুন।"}
    ]
  }'

YOUR_GATEWAY_KEY-এর স্থানে গেটওয়ে Key এবং YOUR_MODEL_ID-এর স্থানে /v1/models থেকে পাওয়া মডেল ID বসান। Responses ও Messages প্রোটোকলেও একই গেটওয়ে ঠিকানা ব্যবহার করা হয়। নির্দিষ্ট অনুরোধের ফিল্ড সংশ্লিষ্ট ক্লায়েন্ট বা প্রোটোকলের ফরম্যাট অনুসরণ করবে।

একাধিক অ্যাকাউন্ট, প্রক্সি ও নির্ধারিত কাজ

একাধিক অ্যাকাউন্ট রোটেশন

একই প্রদানকারীর জন্য একাধিক অ্যাকাউন্ট যোগ করলে গ্লোবাল অগ্রাধিকার কিউ এবং 429 ডাউনগ্রেড প্রক্রিয়ার মাধ্যমে উপলভ্যতা বাড়ানো যায়। অ্যাকাউন্টের কোটা, মেয়াদ ও ব্যবহারের ক্ষেত্র অনুযায়ী উপযুক্ত অগ্রাধিকার নির্ধারণ এবং কুলডাউনে থাকা অ্যাকাউন্ট নিয়মিত পরীক্ষা করার পরামর্শ দেওয়া হয়।

আউটবাউন্ড প্রক্সি

প্রকল্পটি প্রতিটি অ্যাকাউন্টের জন্য আলাদা আউটবাউন্ড কনফিগারেশন সমর্থন করে। বিভিন্ন অ্যাকাউন্টের বহির্গামী নেটওয়ার্ক আলাদাভাবে পরিচালনার প্রয়োজন হলে এই ফিচারটি উপযোগী। তবে প্রক্সির উপলভ্যতা, সম্মতি এবং অ্যাকাউন্টের ঝুঁকি ব্যবহারকারীকে নিজেই মূল্যায়ন করতে হবে।

নির্ধারিত কাজ

কাজ ব্যবস্থাপনা পৃষ্ঠায় স্বয়ংক্রিয় চেক-ইন, ক্রেডেনশিয়াল রক্ষণাবেক্ষণ এবং মডেল ক্যাটালগ রিফ্রেশ কেন্দ্রীয়ভাবে পরিচালনা করা যায়। কাজের টগল ও চালানোর ব্যবধানও নির্ধারণ করা যায়। মনে রাখবেন, বিভিন্ন প্রদানকারীর সমর্থিত সক্ষমতা ভিন্ন; যেমন কিছু প্ল্যাটফর্ম Token নবায়ন, চেক-ইন বা ব্যালেন্স查询 সমর্থন করে না।

প্রতিবেদন ও ব্যবহার দেখা

প্রতিবেদন পৃষ্ঠায় অনুরোধের সংখ্যা, সাফল্যের হার, মোট Token, জনপ্রিয় মডেল ও অ্যাকাউন্টের র‍্যাঙ্কিং দেখা যায়। প্রদানকারীদের ব্যবহার বণ্টনও দেখা যায়। প্রবণতা পৃষ্ঠায় 24 ঘণ্টার ক্যাশ হিটের হার, Token ব্যবহার এবং দৈনিক পরিসংখ্যান প্রদর্শিত হয়।

প্রদানকারী ব্যালেন্স বা ব্যবহার查询 সমর্থন করলে অ্যাকাউন্ট পৃষ্ঠা থেকেই সংশ্লিষ্ট তথ্য দেখা যায়। চেক-ইন কেন্দ্র চেক-ইন সারসংক্ষেপ ও দৈনিক চেক-ইন গোষ্ঠী দেখার জন্য ব্যবহৃত হয়।

ডেভেলপমেন্ট ও বিল্ড সংক্রান্ত তথ্য

সোর্স কোড থেকে ডেস্কটপ সংস্করণ বিল্ড করতে Rust 1.77 বা পরবর্তী সংস্করণ, Tauri 2 টুলচেইন এবং Node.js 18.17 বা পরবর্তী সংস্করণ প্রয়োজন। Node.js শুধু ফ্রন্টএন্ড বিল্ড ও Tauri স্ক্রিপ্টের জন্য ব্যবহৃত হয়; প্যাকেজ করা ডেস্কটপ সংস্করণের রানটাইমে Node.js-এর ওপর নির্ভরতা নেই।

npm run tauri:install
npm run tauri:dev
npm run tauri:build
npm run build:icon

এর মধ্যে, tauri:dev ডেভেলপমেন্ট মোড ও হট রিলোডের জন্য, আর tauri:build ডেস্কটপ ইনস্টলেশন প্যাকেজ তৈরির জন্য ব্যবহৃত হয়। macOS-এর DMG শুধুমাত্র macOS-এ তৈরি করা যায়, Windows থেকে ক্রস-কম্পাইল করা যায় না; চূড়ান্ত বিল্ড প্রকল্পের CI ওয়ার্কফ্লো দ্বারা তৈরি হয়।

ক্রেডেনশিয়ালের নিরাপত্তা ও ব্যবহারের সীমা

Agent2API শুধুমাত্র শেখা ও মতবিনিময়ের জন্য। এটি অনানুষ্ঠানিক ক্লায়েন্ট হিসেবে আপনার নিজের অ্যাকাউন্টের লগইন অবস্থা পুনর্ব্যবহার করে, যা আপস্ট্রিম পরিষেবার ব্যবহারের শর্তের সঙ্গে সামঞ্জস্যপূর্ণ নাও হতে পারে। অ্যাকাউন্টে রেট লিমিট, ঝুঁকি নিয়ন্ত্রণ, স্থগিত বা নিষিদ্ধ হওয়ার মতো ঝুঁকির দায় ব্যবহারকারীর নিজস্ব।

প্রকল্পটি accessToken, refreshToken ইত্যাদি অ্যাকাউন্ট ক্রেডেনশিয়াল স্থানীয় কনফিগারেশন ডিরেক্টরিতে, ডিফল্টভাবে ~/.agent2api/-তে, প্লেইনটেক্সট হিসেবে সংরক্ষণ করবে। এক্সপোর্ট করা ফাইলেও প্লেইনটেক্সট ক্রেডেনশিয়াল থাকতে পারে। তাই কনফিগারেশন কোনো পাবলিক রিপোজিটরিতে কমিট করবেন না, ক্লাউড ড্রাইভে আপলোড করবেন না বা অন্যদের সঙ্গে শেয়ার করবেন না।

README-তে প্রকল্পটি বাণিজ্যিক কাজে ব্যবহার, পুনর্বিতরণের মাধ্যমে মুনাফা অর্জন, একাধিক অ্যাকাউন্ট পরিচালনা, আপস্ট্রিমের বিলিং বা কোটা সীমা এড়িয়ে চলা এবং আইন ও বিধি লঙ্ঘনকারী অন্যান্য কার্যকলাপে ব্যবহার স্পষ্টভাবে নিষিদ্ধ করা হয়েছে। উৎপাদন বা বাণিজ্যিক ক্ষেত্রে আপস্ট্রিমের অফিসিয়াল চ্যানেল ও অফিসিয়াল API ব্যবহার করা উচিত। ব্যবহারের আগে প্রকল্পের LICENSE ও ব্যবহারের ঘোষণা পড়ুন।

উপসংহার

Agent2API একাধিক ডেস্কটপ ক্লায়েন্টের অ্যাকাউন্টকে একটি স্থানীয় OpenAI-সামঞ্জস্যপূর্ণ গেটওয়ের মধ্যে একীভূত করে। ডিপ্লয়মেন্ট সম্পন্ন করে, অ্যাকাউন্ট যোগ করে এবং গেটওয়ে Key তৈরি করার পর, আপনি একটি অভিন্ন base_url ব্যবহার করে কাস্টম API ঠিকানা সমর্থনকারী টুলে সংযোগ করতে পারবেন। একাধিক অ্যাকাউন্ট ঘুরিয়ে ব্যবহার, মডেল ব্যবস্থাপনা, প্রক্সি, নির্ধারিত কাজ ও প্রতিবেদন আরও উন্নত স্থানীয় ব্যবস্থাপনার প্রয়োজনের জন্য উপযোগী। ব্যবহারের সময় ক্রেডেনশিয়াল যথাযথভাবে সুরক্ষিত রাখুন এবং আপস্ট্রিম পরিষেবার শর্তাবলি ও প্রকল্পের অতিরিক্ত ব্যবহারের ঘোষণা কঠোরভাবে মেনে চলুন।