منصوبے کا تعارف
مقامی مقالہ مطالعہ و ترمیم معاون Linux کے لیے بنایا گیا ایک ہلکا پھلکا مقالہ معاون CLI Agent ہے۔ صارف کے سوال درج کرنے کے بعد ماڈل مقامی ٹولز اور مقالہ تلاشنے کی صلاحیت استعمال کر کے مقامی مقالوں کے مواد کو پڑھنے، خلاصہ کرنے اور اس کا تجزیہ کرنے میں مدد دے سکتا ہے۔
منصوبہ بطور ڈیفالٹ Qwen3-14B-AWQ استعمال کرتا ہے، جس کے ماڈل وزن تقریباً 9.4 GB ہیں۔ یہ ان صارفین کے لیے موزوں ہے جن کے پاس NVIDIA GPU ہے، جو ماڈل کو مقامی طور پر چلانا اور مقالوں و سوالات کی رازداری برقرار رکھنا چاہتے ہیں۔ بطور ڈیفالٹ منصوبہ آن لائن تلاش فعال نہیں کرتا؛ جوابات بنیادی طور پر ماڈل کی اپنی صلاحیت اور صارف کے بنائے ہوئے مقامی علم کے ذخیرے سے حاصل ہوتے ہیں۔
منصوبہ MCP پروٹوکول کو سپورٹ کرتا ہے اور ٹول رجسٹریشن کے ذریعے MCP سروسز سے منسلک ہو سکتا ہے۔ چونکہ ان پٹ بجٹ، سسٹم پرامپٹ اور ٹول آؤٹ پٹ کی لمبائی سب قابلِ ترتیب ہیں، اس لیے اس کا استعمال صرف مقالہ معاونت تک محدود نہیں۔
اہم خصوصیات
- Linux ماحول میں مقامی مقالہ معاون Agent چلائیں۔
- بطور ڈیفالٹ مقامی Qwen3-14B-AWQ ماڈل استعمال کریں۔
- متنی PDF، Markdown اور TXT فائلوں کو مقامی تلاش کے علم کے ذخیرے میں شامل کریں۔
- تعاملی سوالات اور کمانڈ لائن کے ذریعے یک وقتی سوالات دونوں سپورٹ کریں۔
- سوالات اور جوابات کے ریکارڈ Markdown فارمیٹ میں محفوظ کریں۔
- MCP پروٹوکول اور ٹول رجسٹریشن میکانزم سپورٹ کریں۔
- اختیاری LangGraph سیشن چیک پوائنٹس کے ذریعے مختلف ونڈوز میں سیشن جاری رکھیں۔
- ماحول، GPU اور ماڈل کی ترتیب جانچنے کے لیے اسکرپٹس فراہم کریں۔
انسٹالیشن سے پہلے تیاری
یہ منصوبہ Linux کے لیے ہے اور NVIDIA GPU والی مشین استعمال کرنے کی تجویز دیتا ہے۔ ماڈل کے وزن تقریباً 9.4 GB ہیں، جبکہ حقیقی استعمال کے دوران ماڈل کی inference کے لیے کافی ویڈیو میموری بھی درکار ہوگی۔ ماڈل، ان پٹ بجٹ یا آؤٹ پٹ کی لمبائی تبدیل کرتے وقت GPU میموری کی گنجائش کو بھی مدِنظر رکھیں۔
اسکین شدہ PDF فی الحال OCR کو سپورٹ نہیں کرتی۔ اگر اسکین شدہ مقالوں میں تلاش کرنی ہو تو پہلے مواد کو متن میں تبدیل کریں، یا منصوبے کی جانب سے سپورٹ کردہ متنی PDF، Markdown یا TXT فائلیں استعمال کریں۔
منصوبہ ڈاؤن لوڈ اور انسٹال کریں
سب سے پہلے GitHub ریپوزٹری کلون کریں اور منصوبے کی ڈائریکٹری کا نام local-agent رکھیں:
git clone https://github.com/Ayi914/paperchecker.git local-agent
cd local-agentاگر Git استعمال نہیں کرنا چاہتے تو GitHub صفحے پر Code → Download ZIP منتخب کر سکتے ہیں، پھر اسے extract کر کے منصوبے کی ڈائریکٹری میں ٹرمینل کھولیں۔
منصوبے کی ڈائریکٹری میں داخل ہونے کے بعد انسٹالیشن اسکرپٹ چلائیں:
bash scripts/install.shانسٹالیشن مکمل ہونے کے بعد اسٹارٹ اپ اسکرپٹ چلائیں:
bash scripts/start.shپہلی بار شروع کرتے وقت ماڈل لوڈ ہونے کا انتظار کرنا ہوگا۔ جب ٹرمینل میں >>> پرامپٹ ظاہر ہو جائے تو سوال درج کیا جا سکتا ہے۔ مثال کے طور پر:
>>> وضاحت کریں کہ residual connection نے کون سا مسئلہ حل کیابعد میں منصوبے کی ڈائریکٹری میں داخل ہونے کے بعد عموماً صرف bash scripts/start.sh چلا کر اسے شروع کیا جا سکتا ہے۔
پہلی بار چلانا اور ماڈل کی ترتیب
اگر ماڈل کی ڈائریکٹری نامکمل ہو یا نیا ماڈل منتخب کرنا ہو تو یہ کمانڈ چلائیں:
bash scripts/setup.shماڈل ڈاؤن لوڈ ناکام ہونے کی صورت میں پہلے نیٹ ورک چیک کریں۔ ایسی مشین پر جہاں نیٹ ورک دستیاب ہو، مکمل ماڈل ڈائریکٹری ڈاؤن لوڈ کر کے ہدف مشین پر نقل بھی کی جا سکتی ہے، پھر ترتیب کے دوران موجودہ ماڈل منتخب کریں۔
اگر ماڈل شروع نہ ہو تو ٹرمینل میں دکھائی دینے والی لاگ فائل دیکھیں۔ لاگ عموماً یہاں موجود ہوتی ہے:
logs/cli-vllm-*.logساتھ ہی یہ بھی یقینی بنائیں کہ GPU میموری کسی دوسرے پروگرام کے استعمال میں نہیں۔
اپنے مقالے درآمد کر کے اشاریہ بنائیں
Agent کو اپنے مقالوں کی بنیاد پر جواب دینے کے قابل بنانے کے لیے متنی PDF، Markdown یا TXT فائلیں data/knowledge/ ڈائریکٹری میں رکھیں۔ مثال کے طور پر اس ڈائریکٹری میں متعدد مقالے اور متعلقہ نوٹس شامل ہو سکتے ہیں۔
فائلیں تیار ہونے کے بعد علم کے ذخیرے کی اشاریہ سازی کریں:
bash scripts/start.sh rag-indexپہلی بار اشاریہ بناتے وقت ایک الگ retrieval ماڈل ڈاؤن لوڈ ہوگا، اس لیے نیٹ ورک کنکشن درکار ہے۔ اشاریہ سازی مکمل ہونے کے بعد تعاملی Agent دوبارہ شروع کریں:
bash scripts/start.shاب مقامی مقالوں پر مبنی سوالات پوچھے جا سکتے ہیں، مثلاً:
مقامی مقالوں کی بنیاد پر YOLOv1 کی بنیادی جدت کا خلاصہ کریں اور ماخذ درج کریں۔اگر مقالے شامل نہ کیے گئے ہوں یا اشاریہ نہ بنایا گیا ہو تو جواب بنیادی طور پر ماڈل کے اپنے علم سے آئے گا، مقامی مقالوں کے مواد سے نہیں۔ منصوبہ بطور ڈیفالٹ آن لائن تلاش فعال نہیں کرتا۔
تعاملی استعمال
شروع ہونے کے بعد >>> پرامپٹ کے بعد سوال درج کریں اور Enter دبائیں۔ یہ مسلسل سوالات، مقالوں کے خیالات کا موازنہ یا ایک ہی موضوع کا مرحلہ وار تجزیہ کرنے کے لیے موزوں ہے۔
تعاملی عمل کو منظم کرنے کے لیے درج ذیل بلٹ اِن کمانڈز استعمال کی جا سکتی ہیں:
/help：گفتگو کی کمانڈز دیکھیں۔/new：نیا سیشن شروع کریں۔/exit،/quitیاCtrl+D：پروگرام سے باہر نکلیں۔
ہر دور کا سوال اور جواب بطور ڈیفالٹ Markdown فائل میں محفوظ ہوتا ہے، جس کا راستہ یہ ہوتا ہے:
output/مہینہ/دن/وقت_مائیکرو سیکنڈ.mdکمانڈ لائن سے یک وقتی کام چلائیں
اگر تعاملی انٹرفیس میں داخل نہیں ہونا چاہتے تو سوال براہِ راست اسٹارٹ اپ اسکرپٹ کے پیرامیٹر کے طور پر دیں:
bash scripts/start.sh "توجہ کے طریقۂ کار کا خلاصہ کریں"--quiet استعمال کرنے سے صرف جواب دکھایا جائے گا:
bash scripts/start.sh "توجہ کے طریقۂ کار کا خلاصہ کریں" --quietجواب کی فائل محفوظ نہ کرنی ہو تو --no-save شامل کریں:
bash scripts/start.sh "سوال" --no-saveان پٹ بجٹ، آؤٹ پٹ کی لمبائی اور پرامپٹ ترتیب دیں
Agent کا ان پٹ بجٹ اور سسٹم پرامپٹ config/agent.yaml میں تبدیل کیا جا سکتا ہے، اس لیے یہ منصوبہ دیگر مقامی Agent کے منظرناموں میں بھی استعمال ہو سکتا ہے۔
دو پیرامیٹرز میں فرق سمجھنا ضروری ہے: ترتیب کی فائل میں tool_output_max_chars: 4000 ٹول کے نتائج کو حروف کی بنیاد پر مختصر کرنے کی حد ہے، یہ ماڈل کے جواب کے token کی حد نہیں۔ ماڈل کی زیادہ سے زیادہ آؤٹ پٹ لمبائی ماحول کی فائل میں موجود LOCAL_AGENT_MAX_TOKENS سے کنٹرول ہوتی ہے، جبکہ .env.example میں بطور ڈیفالٹ 2048 token مقرر ہیں۔
Agent کا ڈیفالٹ ان پٹ بجٹ 4096 token ہے۔ ان پٹ بجٹ، سسٹم پرامپٹ، ٹول آؤٹ پٹ کی لمبائی یا زیادہ سے زیادہ آؤٹ پٹ token تبدیل کرتے وقت سیاق و سباق کی لمبائی اور دستیاب GPU میموری کو مجموعی طور پر مدِنظر رکھیں، تاکہ ترتیب بہت زیادہ ہونے کے باعث ماڈل معمول کے مطابق چلنے سے قاصر نہ ہو۔
مختلف ونڈوز میں سیشن محفوظ اور بحال کریں
بطور ڈیفالٹ سیشن کا سیاق صرف موجودہ process میں محفوظ رہتا ہے۔ CLI بند کرنے کے بعد پروگرام سیاق کو خودکار طور پر بحال نہیں کرتا، اور پہلے سے تیار کردہ Markdown جواب کی فائلیں بھی خودکار طور پر دوبارہ نہیں پڑھی جاتیں۔
اگر مختلف ونڈوز میں ایک ہی سیشن جاری رکھنا ہو تو config/agent.yaml میں run.checkpoint_enabled کو true کریں، اور ہمیشہ ایک ہی سیشن ID استعمال کریں:
bash scripts/start.sh -i --thread-id my-paperسیشن کی حالت یہاں محفوظ ہوگی:
data/checkpoints/langgraph.sqlite/new درج کرنے یا نئی تعاملی ونڈو شروع کرتے وقت سیشن ID نہ دینے سے نیا سیشن بنے گا۔ ہر ماڈل کال بطور ڈیفالٹ آخری 4 گفتگو کے ادوار استعمال کرتی ہے، اور اس پر 4096 token کے ان پٹ بجٹ کی پابندی بھی برقرار رہتی ہے۔
ماحول کی جانچ اور خرابیوں کا ازالہ
مسئلہ پیش آنے پر پہلے ماحول کی جانچ کا اسکرپٹ چلانے کی تجویز ہے:
bash scripts/doctor.shیہ اسکرپٹ ماحول، GPU اور ماڈل کی ترتیب جانچتا ہے، لیکن بڑا ماڈل لوڈ نہیں کرتا اور inference شروع نہیں کرتا، اس لیے اسے باقاعدہ آغاز سے پہلے یا خرابیوں کے ازالے کے دوران استعمال کیا جا سکتا ہے۔
- GPU موجود نہیں: NVIDIA GPU والی Linux مشین استعمال کرنے کی تجویز ہے۔
- ماڈل کی ڈائریکٹری نامکمل ہے:
bash scripts/setup.shچلائیں، ماڈل دوبارہ منتخب کریں یا ڈاؤن لوڈ جاری رکھیں۔ - ماڈل ڈاؤن لوڈ ناکام ہے: نیٹ ورک چیک کریں، یا نیٹ ورک والی مشین پر مکمل ماڈل ڈائریکٹری ڈاؤن لوڈ کر کے ہدف ماحول میں نقل کریں۔
- ماڈل شروع نہیں ہوتا:
logs/cli-vllm-*.logدیکھیں اور تصدیق کریں کہ GPU میموری کسی دوسرے پروگرام کے استعمال میں نہیں۔ - مقامی مقالے استعمال نہیں ہو رہے: تصدیق کریں کہ فائلیں
data/knowledge/میں موجود ہیں اورbash scripts/start.sh rag-indexپہلے چلایا جا چکا ہے۔
عملی استعمال کی تجاویز
- پہلی بار استعمال سے پہلے
bash scripts/doctor.shچلائیں، تاکہ GPU، ماڈل ڈائریکٹری یا ترتیب کے مسائل جلد سامنے آ جائیں۔ - جن مقالوں کا حوالہ یا تجزیہ درکار ہے انہیں
data/knowledge/میں جمع کریں، پھر اشاریہ سازی مکمل ہونے کے بعد سوال پوچھیں۔ - سوال پوچھتے وقت خلاصے کی حد، آؤٹ پٹ فارمیٹ یا ماخذ درج کرنے کی ہدایت واضح کریں، تاکہ مقامی مقالوں کے مواد کی جانچ آسان ہو۔
- اگر GPU میموری کم ہو تو ان پٹ بجٹ، ٹول آؤٹ پٹ کی حد یا زیادہ سے زیادہ آؤٹ پٹ token میں بلاوجہ اضافہ نہ کریں۔
- ایک ہی تحقیقی موضوع پر مسلسل کام کرنا ہو تو چیک پوائنٹ فعال کریں اور
--thread-idمقرر رکھیں۔ - اسکین شدہ PDF کے لیے موجودہ منصوبے پر براہِ راست OCR کے لیے انحصار نہیں کیا جا سکتا؛ پہلے قابلِ تلاش متنی مواد تیار کریں۔
خلاصہ
paperchecker مقامی ماڈل شروع کرنے، مقالہ اشاریہ سازی اور CLI سوال و جواب تک ایک مکمل طریقۂ کار فراہم کرتا ہے۔ منصوبہ انسٹال کرنے کے بعد عام سوالات کے تجزیے کے لیے ڈیفالٹ ماڈل استعمال کیا جا سکتا ہے، یا اپنے متنی مقالے علم کے ذخیرے میں رکھ کر اشاریہ بنایا جا سکتا ہے، تاکہ Agent مقامی مواد کی بنیاد پر جواب دے۔ agent.yaml، ماحول کے متغیرات اور سیشن چیک پوائنٹس کے ذریعے سیاق، آؤٹ پٹ اور سیشن کے انتظام کو مزید ترتیب دیا جا سکتا ہے۔
منصوبے کا کوڈ MIT لائسنس کے تحت ہے۔ استعمال کے دوران آغاز یا ماڈل سے متعلق مسئلہ پیش آئے تو پہلے تشخیصی اسکرپٹ چلائیں اور لاگ چیک کریں۔