مرکزی مواد پر جائیں
اے آئی ٹیوٹوریلز

خود میزبانی والے AI کے لیے Open WebUI انسٹال اور استعمال کریں

pip یا Docker کے ذریعے Open WebUI انسٹال کرنے، Ollama یا OpenAI کے موافق API سے منسلک ہونے اور ماڈلز کے ساتھ چیٹ شروع کرنے کا طریقہ سیکھیں۔ اس ٹیوٹوریل میں دستاویزات سے معلومات حاصل کرنا، ویب مواد، متعدد ماڈلز کے ساتھ گفتگو، آف لائن آپریشن، GPU ایکسیلریشن، خرابیوں کا ازالہ اور پروڈکشن کے لیے تیار خصوصیات بھی شامل ہیں۔

تقریباً 21 منٹ کا مطالعہ
خود میزبانی والے AI کے لیے Open WebUI انسٹال اور استعمال کریں

Open WebUI کیا ہے؟

Open WebUI ایک قابلِ توسیع، خود میزبان AI پلیٹ فارم ہے جسے مقامی وسائل کے ساتھ ترتیب دینے پر مکمل طور پر آف لائن چلانے کے لیے بنایا گیا ہے۔ یہ مقامی Ollama ماڈلز، OpenAI سے مطابقت رکھنے والی APIs، اور بازیافت سے تقویت یافتہ تخلیق کے لیے بلٹ اِن inference engine کا براؤزر پر مبنی انٹرفیس فراہم کرتا ہے، جسے عام طور پر RAG کہا جاتا ہے۔

آپ اسے ذاتی AI ورک اسپیس کے طور پر استعمال کر سکتے ہیں یا کسی ٹیم کے لیے تعینات کر سکتے ہیں۔ گفتگو کے علاوہ، اس پلیٹ فارم میں نوٹس، مشترکہ چینلز، مستقل میموری، کیلنڈرز، طے شدہ خودکار کام، امیج جنریشن انٹیگریشنز، صوتی اور ویڈیو کالز، تجزیات، ماڈل کی جانچ، اور باریک سطح پر رسائی کا کنٹرول شامل ہے۔

Open WebUI کا ڈیمو

اہم خصوصیات

  • لچک دار ماڈل کنکشنز: مقامی Ollama ماڈلز کے ساتھ LMStudio، GroqCloud، Mistral، OpenRouter، اور vLLM جیسی OpenAI سے مطابقت رکھنے والی سروسز استعمال کریں۔
  • مقامی RAG: دستاویزات کو چیٹس میں شامل کریں یا # کمانڈ کے ذریعے نالج لائبریری سے فائلیں حاصل کریں۔ یہ پلیٹ فارم ہائبرڈ سرچ، دوبارہ درجہ بندی، متعدد extraction engines، اور نو ویکٹر ڈیٹا بیسز کو سپورٹ کرتا ہے۔
  • ماڈلز اور ایجنٹس: بنیادی ماڈل کو حسبِ ضرورت ہدایات، نالج، ٹولز، متحرک متغیرات، اور صارف یا گروپ کی رسائی کے قواعد کے ساتھ ترتیب دیں۔
  • توسیع پذیری: Filters، Actions، Pipes، Tools، اور Skills شامل کریں، یا MCP، MCPO، اور OpenAPI ٹول سرورز سے منسلک ہوں۔
  • تعاون: نوٹس، حقیقی وقت کے چینلز، تھریڈز، ردِعمل، پنز، مشترکہ کیلنڈرز، اور AI کی مدد سے شیڈولنگ استعمال کریں۔
  • متعدد ذرائع: اسپیچ ٹو ٹیکسٹ، ٹیکسٹ ٹو اسپیچ، صوتی اور ویڈیو کالز، اور امیج جنریشن یا ایڈیٹنگ انجن ترتیب دیں۔
  • انتظامیہ: کردار، گروپس، اجازتیں، توثیق، استعمال کے تجزیات، ماڈل کی جانچ، اسٹوریج، اور آبزرویبلٹی کا انتظام کریں۔
  • تعیناتی میں لچک: pip، uv، Docker، Docker Compose، Kubernetes، Kustomize، یا Helm کے ذریعے انسٹال کریں۔
  • موزوں انٹرفیس: Open WebUI کو ڈیسک ٹاپ اور موبائل پر استعمال کریں، یا اسے Progressive Web App کے طور پر انسٹال کریں۔

انسٹالیشن کا طریقہ منتخب کریں

فوری مقامی ٹیسٹ کے لیے pip یا Docker استعمال کریں۔ Pip Open WebUI کو براہِ راست Python سے چلاتا ہے، جبکہ Docker الگ تھلگ تعیناتی فراہم کرتا ہے اور معیاری، CUDA-enabled، یا Ollama-bundled امیجز منتخب کرنا آسان بناتا ہے۔

اہم: ہر Docker کمانڈ میں open-webui:/app/backend/data کو mount کرنا چاہیے۔ یہ مستقل volume کنٹینر تبدیل یا حذف ہونے پر ڈیٹا بیس اور دیگر ایپلیکیشن ڈیٹا کو محفوظ رکھتا ہے۔

آپشن 1: Python pip کے ساتھ انسٹال کریں

پروجیکٹ کے بیان کردہ pip انسٹالیشن کے لیے Open WebUI کو Python 3.11 درکار ہے۔ آگے بڑھنے سے پہلے تصدیق کریں کہ آپ کا ماحول درست Python ورژن استعمال کر رہا ہے۔

  1. پیکیج انسٹال کریں:

    pip install open-webui

  2. سرور شروع کریں:

    open-webui serve

  3. اپنے براؤزر میں http://localhost:8080 کھولیں۔

آپشن 2: Docker کے ساتھ Open WebUI چلائیں

میزبان کمپیوٹر پر موجود Ollama سے منسلک ہوں

اگر Ollama پہلے ہی Docker والے اسی کمپیوٹر پر چل رہا ہے تو معیاری Open WebUI image شروع کریں اور host mapping شامل کریں تاکہ کنٹینر میزبان تک پہنچ سکے:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

کنٹینر شروع ہونے کے بعد http://localhost:3000 کھولیں۔

کسی دوسرے سرور پر موجود Ollama سے منسلک ہوں

دور دراز Ollama سروس کے پتے پر OLLAMA_BASE_URL سیٹ کریں:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

https://example.com کو اصل Ollama سرور URL سے تبدیل کریں۔

Nvidia GPU سپورٹ فعال کریں

Open WebUI CUDA-tagged image فراہم کرتا ہے۔ اسے چلانے سے پہلے Linux یا WSL پر Nvidia CUDA container toolkit انسٹال کریں:

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

صرف OpenAI API استعمال کریں

اگر آپ کو Ollama کی ضرورت نہیں ہے تو اپنی OpenAI API key معیاری image کو فراہم کریں:

docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

your_secret_key کو مناسب credential سے تبدیل کریں۔ Open WebUI دیگر OpenAI-compatible APIs سے بھی منسلک ہو سکتا ہے، جن کی provider-specific configuration پروجیکٹ میں دستاویز کی گئی ہے۔

Open WebUI اور Ollama کو ایک کنٹینر میں چلائیں

:ollama image میں Open WebUI اور Ollama شامل ہیں۔ یہ Ollama ماڈلز کے لیے ایک volume اور Open WebUI ایپلیکیشن ڈیٹا کے لیے دوسرا volume استعمال کرتا ہے۔

GPU کے ساتھ Bundled Ollama

docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

صرف CPU کے ساتھ Bundled Ollama

docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

کنٹینر شروع ہونے کے بعد http://localhost:3000 کھولیں۔

بنیادی استعمال

  1. انٹرفیس کھولیں: pip سیٹ اپ کے لیے پورٹ 8080 یا اوپر دیے گئے معیاری Docker کمانڈز کے لیے پورٹ 3000 استعمال کریں۔

  2. دستیاب ماڈل استعمال کریں: اپنے کنفیگر کردہ Ollama یا OpenAI-compatible کنکشن کے ذریعے دستیاب ماڈل کے ساتھ گفتگو شروع کریں۔

  3. زیادہ جامع پرامپٹس لکھیں: جوابات Markdown اور LaTeX کو سپورٹ کرتے ہیں، اس لیے یہ انٹرفیس منظم وضاحتوں، کوڈ، جدولوں اور ریاضیاتی علامات کے لیے موزوں ہے۔

  4. مختلف ڈیوائسز پر جاری رکھیں: ریسپانسیو انٹرفیس ڈیسک ٹاپ اور موبائل پر کام کرتا ہے، جبکہ Progressive Web App سپورٹ ایپ جیسا تجربہ فراہم کرتی ہے۔

RAG کے ساتھ دستاویزات استعمال کریں

دستاویزات براہِ راست گفتگو میں شامل کریں یا # کمانڈ کے ذریعے اپنی لائبریری سے حاصل کریں۔ Open WebUI مواد نکال کر اسے انڈیکس کر سکتا ہے، متعلقہ اقتباسات حاصل کر سکتا ہے اور انہیں ماڈل کے سیاق و سباق میں شامل کر سکتا ہے۔ اس کا RAG اسٹیک BM25 اور ویکٹر ہائبرڈ سرچ، دوبارہ درجہ بندی، اور مکمل سیاق و سباق موڈ کو سپورٹ کرتا ہے۔

بڑی تعیناتیوں کے لیے معاون ویکٹر ڈیٹابیس اختیارات میں ChromaDB، PGVector، Qdrant، Milvus، Elasticsearch، OpenSearch، Pinecone، S3Vector، اور Oracle 23ai شامل ہیں۔

ویب سائٹ کو چیٹ میں شامل کریں

ویب سائٹ کا مواد گفتگو میں لانے کے لیے # کمانڈ کے بعد URL درج کریں۔ Open WebUI کو اس طرح بھی کنفیگر کیا جا سکتا ہے کہ ضرورت پڑنے پر ماڈلز ویب مواد حاصل کر سکیں۔

متعدد ماڈلز کا موازنہ کریں

ملٹی ماڈل گفتگو آپ کو بیک وقت متعدد ماڈلز کے ساتھ بات چیت کرنے دیتی ہے۔ یہ اس وقت مفید ہے جب آپ استدلال، تحریری انداز یا فراہم کنندہ کے رویے کا موازنہ کرنا چاہیں۔ منتظمین ماڈل کی جانچ کے لیے بلٹ اِن ایرینا، A/B ٹیسٹنگ اور ELO پر مبنی لیڈر بورڈز بھی استعمال کر سکتے ہیں۔

اعلیٰ درجے کی کنفیگریشن تجاویز

خصوصی ماڈلز اور ایجنٹس بنائیں

خصوصی ایجنٹ بنانے کے لیے بنیادی ماڈل کو حسبِ ضرورت ہدایات، ٹولز اور معلومات کے ساتھ یکجا کریں۔ متحرک متغیرات اور فی صارف یا فی گروپ رسائی کنٹرولز کسی ایجنٹ کو مختلف ٹیموں کے مطابق ڈھالنا ممکن بناتے ہیں۔ کمیونٹی پری سیٹس بھی Open WebUI Community سے درآمد کیے جا سکتے ہیں۔

پلیٹ فارم کو وسعت دیں

Open WebUI Filters، Actions، Pipes، Tools اور Skills کو سپورٹ کرتا ہے۔ بیرونی سروسز کو MCP، MCPO اور OpenAPI ٹول سرورز کے ذریعے منسلک کیا جا سکتا ہے۔ یہ ایکسٹینشن پوائنٹس حسبِ ضرورت انضمامات، منظوری کے مراحل، شرح کی حدود اور اضافی ڈیٹا کنکشنز کو سپورٹ کر سکتے ہیں۔

ٹیم اور انٹرپرائز تعیناتیوں کی منصوبہ بندی کریں

متعدد صارفین والے ماحول میں رسائی کو کنٹرول کرنے کے لیے کردار، گروپس اور اجازتیں استعمال کریں۔ Open WebUI LDAP اور Active Directory انضمام، trusted-header اور OAuth پر مبنی سنگل سائن آن، اور Okta، Azure AD اور Google Workspace جیسے شناختی فراہم کنندگان کے لیے SCIM 2.0 پروویژننگ کو سپورٹ کرتا ہے۔

اسٹوریج کے لیے SQLite، اختیاری انکرپشن کے ساتھ، یا PostgreSQL استعمال کیا جا سکتا ہے۔ فائلیں مقامی طور پر یا S3، Google Cloud Storage یا Azure Blob Storage میں محفوظ کی جا سکتی ہیں۔ Redis پر مبنی سیشنز اور WebSocket سپورٹ لوڈ بیلنسرز کے پیچھے متعدد ورکرز اور نوڈز والی تعیناتیوں کو ممکن بناتے ہیں، جبکہ OpenTelemetry ٹریسز، میٹرکس اور لاگز فراہم کرتا ہے۔

مکمل طور پر آف لائن کام کریں

Open WebUI کو آف لائن ماحول میں چلاتے وقت HF_HUB_OFFLINE کو 1 پر سیٹ کریں تاکہ انٹرنیٹ سے ماڈلز ڈاؤن لوڈ کرنے کی کوششیں روکی جا سکیں:

export HF_HUB_OFFLINE=1

آف لائن تعیناتی کے لیے بھی ماحول میں تمام ضروری ماڈلز، انحصارات اور مقامی سروسز کا دستیاب ہونا ضروری ہے۔

ڈیولپمنٹ امیج احتیاط سے آزمائیں

:dev امیج میں غیر مستحکم اور جدید ترین تبدیلیاں شامل ہوتی ہیں، جن میں بگز یا نامکمل فیچرز ہو سکتے ہیں۔ اسے صرف اسی صورت استعمال کریں جب آپ یہ خطرہ قبول کرتے ہوں:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --add-host=host.docker.internal:host-gateway --restart always ghcr.io/open-webui/open-webui:dev

Ollama کنکشن کی خرابیوں کی تشخیص

Docker کا ایک عام مسئلہ اس وقت پیش آتا ہے جب Open WebUI کنٹینر کے اندر سے Ollama تک 127.0.0.1:11434 یا host.docker.internal:11434 کے ذریعے رسائی حاصل نہ کر سکے۔ معاون سسٹمز پر دستاویزی حل یہ ہے کہ ہوسٹ نیٹ ورکنگ استعمال کی جائے:

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

اس کمانڈ کے ساتھ Open WebUI تک پورٹ 3000 کے بجائے http://localhost:8080 پر رسائی حاصل کریں۔

اگر کنکشن اب بھی ناکام ہو تو تصدیق کریں کہ Ollama چل رہا ہے، اس کا پتا درست ہے، اور Open WebUI troubleshooting documentation سے رجوع کریں۔ Docker ماحول میں نیٹ ورکنگ کی اضافی کنفیگریشن درکار ہو سکتی ہے۔

دیکھ بھال اور سیکیورٹی

  • تعیناتی کو تبدیل یا اپ گریڈ کرتے وقت سرکاری updating guide کی پیروی کریں۔

  • اپ گریڈ کے دوران مستقل Docker والیوم منسلک رکھیں تاکہ ایپلیکیشن کا ڈیٹا ضائع نہ ہو۔

  • پروجیکٹ لائسنس اور لائسنس کی تاریخ کا جائزہ لیں، کیونکہ کوڈ بیس میں متعدد لائسنسز کے تحت اجزا شامل ہیں، جن میں موجودہ Open WebUI لائسنس یافتہ کوڈ کے لیے برانڈنگ کے تقاضے بھی شامل ہیں۔

  • مشتبہ کمزوریوں کی خفیہ اطلاع عوامی کمیونٹی چینلز کے بجائے پروجیکٹ کے GitHub responsible disclosure program کے ذریعے دیں۔

نتیجہ

Open WebUI آپ کے زیرِ کنٹرول انفراسٹرکچر کے ذریعے مقامی اور ہوسٹ کیے گئے AI ماڈلز چلانے کے لیے ایک لچکدار انٹرفیس فراہم کرتا ہے۔ Python 3.11 یا مستقل Docker تعیناتی سے آغاز کریں، Ollama یا OpenAI سے ہم آہنگ API سے جڑیں، اور پھر RAG، ایجنٹس، پلگ اِنز، تعاون، تجزیات اور قابلِ توسیع پروڈکشن سروسز تک وسعت دیں۔ تعیناتی کے مزید اختیارات کے لیے آغاز سے متعلق سرکاری دستاویزات ملاحظہ کریں۔