O‘zingiz joylashtiradigan AI uchun Open WebUI’ni o‘rnatish va undan foydalanish

Open WebUI nima?

Open WebUI mahalliy resurslar bilan sozlanganda to‘liq oflayn ishlashga mo‘ljallangan, kengaytiriladigan va o‘z serveringizda joylashtiriladigan AI platformasidir. U mahalliy Ollama modellari, OpenAI bilan mos API’lar va odatda RAG deb ataladigan, qidiruv bilan boyitilgan generatsiya uchun o‘rnatilgan inferensiya mexanizmi bilan ishlashga imkon beruvchi brauzer interfeysini taqdim etadi.

Undan shaxsiy AI ish muhiti sifatida foydalanishingiz yoki jamoa uchun joylashtirishingiz mumkin. Suhbatlardan tashqari, platforma qaydlar, umumiy kanallar, doimiy xotira, taqvimlar, rejalashtirilgan avtomatlashtirishlar, tasvir yaratish integratsiyalari, ovozli va videoqo‘ng‘iroqlar, tahlil, modellarni baholash hamda kirishni batafsil boshqarish imkoniyatlarini o‘z ichiga oladi.

Asosiy imkoniyatlar

• Moslashuvchan model ulanishlari: Mahalliy Ollama modellaridan LMStudio, GroqCloud, Mistral, OpenRouter va vLLM kabi OpenAI bilan mos xizmatlar bilan birga foydalaning.
• Mahalliy RAG: Hujjatlarni suhbatlarga qo‘shing yoki # buyrug‘i yordamida bilimlar kutubxonasidan fayllarni oling. Platforma gibrid qidiruv, qayta tartiblash, bir nechta ajratib olish mexanizmlari va to‘qqizta vektor ma’lumotlar bazasini qo‘llab-quvvatlaydi.
• Modellar va agentlar: Asosiy modelni maxsus ko‘rsatmalar, bilimlar, vositalar, dinamik o‘zgaruvchilar hamda foydalanuvchi yoki guruhga kirish qoidalari bilan moslang.
• Kengaytirish imkoniyati: Filtrlar, amallar, quvurlar, vositalar va ko‘nikmalarni qo‘shing yoki MCP, MCPO va OpenAPI vosita serverlariga ulang.
• Hamkorlik: Qaydlar, real vaqt kanallari, mavzular, reaksiyalar, mahkamlangan yozuvlar, umumiy taqvimlar va AI yordamidagi rejalashtirishdan foydalaning.
• Bir nechta modal imkoniyatlar: Nutqni matnga, matnni nutqqa aylantirish, ovozli va videoqo‘ng‘iroqlar, shuningdek tasvir yaratish yoki tahrirlash mexanizmlarini sozlang.
• Boshqaruv: Rollar, guruhlar, ruxsatlar, autentifikatsiya, foydalanish tahlili, modellarni baholash, saqlash va kuzatuvni boshqaring.
• Joylashtirish moslashuvchanligi: pip, uv, Docker, Docker Compose, Kubernetes, Kustomize yoki Helm orqali o‘rnating.
• Moslashuvchan interfeys: Open WebUI’dan kompyuter va mobil qurilmalarda foydalaning yoki uni Progressive Web App sifatida o‘rnating.

O‘rnatish usulini tanlang

Tezkor mahalliy sinov uchun pip yoki Docker’dan foydalaning. Pip Open WebUI’ni to‘g‘ridan-to‘g‘ri Python orqali ishga tushiradi, Docker esa izolyatsiyalangan joylashtirishni ta’minlaydi va standart, CUDA yoqilgan yoki Ollama biriktirilgan tasvirlarni tanlashni osonlashtiradi.

Muhim: Har bir Docker buyrug‘ida open-webui:/app/backend/data ulanishi kerak. Ushbu doimiy tom konteyner almashtirilganda yoki o‘chirilganda ma’lumotlar bazasi va boshqa ilova ma’lumotlarini himoya qiladi.

1-usul: Python pip orqali o‘rnatish

Open WebUI loyiha ko‘rsatmalaridagi pip o‘rnatishi uchun Python 3.11 versiyasini talab qiladi. Davom etishdan oldin muhitda Python’ning to‘g‘ri versiyasi ishlayotganini tasdiqlang.

1. Paketni o‘rnating:

   pip install open-webui

2. Serverni ishga tushiring:

   open-webui serve

3. Brauzeringizda http://localhost:8080 manzilini oching.

2-usul: Open WebUI’ni Docker bilan ishga tushirish

Asosiy kompyuterdagi Ollama’ga ulanish

Agar Ollama Docker bilan bir kompyuterda allaqachon ishlayotgan bo‘lsa, standart Open WebUI tasvirini ishga tushiring va konteyner asosiy kompyuterga ulanishi uchun host mosligini qo‘shing:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Konteyner ishga tushgach, http://localhost:3000 manziliga kiring.

Boshqa serverdagi Ollama’ga ulanish

OLLAMA_BASE_URL o‘zgaruvchisini masofaviy Ollama xizmatining manziliga o‘rnating:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

https://example.com manzilini haqiqiy Ollama server URL manziliga almashtiring.

Nvidia GPU qo‘llab-quvvatlashini yoqish

Open WebUI CUDA belgili tasvirni taqdim etadi. Uni ishga tushirishdan oldin Linux yoki WSL’da Nvidia CUDA konteyner vositalar to‘plamini o‘rnating:

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

Faqat OpenAI API’dan foydalanish

Agar Ollama kerak bo‘lmasa, OpenAI API kalitingizni standart tasvirga uzating:

docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

your_secret_key qiymatini tegishli hisob ma’lumotlari bilan almashtiring. Open WebUI boshqa OpenAI bilan mos API’larga ham ulanishi mumkin; provayderga xos sozlamalar loyiha hujjatlarida keltirilgan.

Open WebUI va Ollama’ni bitta konteynerda ishga tushirish

:ollama tasviri Open WebUI va Ollama’ni birlashtiradi. Unda Ollama modellari uchun bitta tom, Open WebUI ilova ma’lumotlari uchun esa boshqa tom ishlatiladi.

GPU bilan biriktirilgan Ollama

docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

Faqat CPU bilan biriktirilgan Ollama

docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

Konteyner ishga tushgach, http://localhost:3000 manzilini oching.

Asosiy foydalanish

1. Interfeysni oching: pip orqali sozlash uchun 8080 portidan, yuqoridagi standart Docker buyruqlari uchun esa 3000 portidan foydalaning.

2. Mavjud modeldan foydalaning: Sozlangan Ollama yoki OpenAI-ga mos ulanish orqali taqdim etilgan model bilan suhbatni boshlang.

3. Batafsilroq promptlar yozing: Javoblar Markdown va LaTeX-ni qo‘llab-quvvatlaydi, shu sababli interfeys tizimli tushuntirishlar, kod, jadvallar va matematik yozuvlar uchun mos keladi.

4. Qurilmalar o‘rtasida davom eting: Moslashuvchan interfeys kompyuter va mobil qurilmalarda ishlaydi, Progressive Web App qo‘llab-quvvatlashi esa ilovaga o‘xshash tajribani taqdim etadi.

RAG bilan hujjatlardan foydalaning

Hujjatlarni to‘g‘ridan-to‘g‘ri suhbatga qo‘shing yoki ularni # buyrug‘i yordamida kutubxonangizdan oling. Open WebUI tarkibni ajratib olishi va indekslashi, tegishli parchalarni topishi hamda ularni model kontekstiga qo‘shishi mumkin. Uning RAG steki BM25 va vektorli gibrid qidiruv, qayta tartiblash hamda to‘liq kontekst rejimini qo‘llab-quvvatlaydi.

Kattaroq joylashtirishlar uchun qo‘llab-quvvatlanadigan vektor ma’lumotlar bazasi variantlariga ChromaDB, PGVector, Qdrant, Milvus, Elasticsearch, OpenSearch, Pinecone, S3Vector va Oracle 23ai kiradi.

Veb-saytni suhbatga olib keling

Veb-sayt tarkibini suhbatga yuklash uchun # buyrug‘idan keyin URL manzilini kiriting. Open WebUI shuningdek, zarur bo‘lganda modellarga veb-tarkibni olish imkonini beradigan tarzda sozlanishi mumkin.

Bir nechta modelni solishtiring

Ko‘p modelli suhbatlar bir nechta model bilan parallel ishlash imkonini beradi. Bu fikrlash, yozish uslubi yoki provayder xatti-harakatlarini solishtirmoqchi bo‘lganingizda foydalidir. Administratorlar modelni baholash uchun o‘rnatilgan arena, A/B testlari va ELO asosidagi reyting jadvallaridan ham foydalanishi mumkin.

Kengaytirilgan sozlash bo‘yicha maslahatlar

Ixtisoslashgan modellar va agentlar yarating

Ixtisoslashgan agent yaratish uchun asosiy modelni maxsus ko‘rsatmalar, vositalar va bilimlar bilan birlashtiring. Dinamik o‘zgaruvchilar hamda foydalanuvchi yoki guruh bo‘yicha kirish nazorati agentni turli jamoalarga moslashtirish imkonini beradi. Hamjamiyat presetlarini Open WebUI Community manzilidan ham import qilish mumkin.

Platformani kengaytiring

Open WebUI Filters, Actions, Pipes, Tools va Skills funksiyalarini qo‘llab-quvvatlaydi. Tashqi xizmatlarni MCP, MCPO va OpenAPI vosita serverlari orqali ulash mumkin. Ushbu kengaytirish nuqtalari maxsus integratsiyalar, tasdiqlash jarayonlari, tezlik cheklovlari va qo‘shimcha ma’lumotlar ulanishlarini ta’minlaydi.

Jamoaviy va korporativ joylashtirishni rejalashtiring

Ko‘p foydalanuvchili muhitlarda kirishni boshqarish uchun rollar, guruhlar va ruxsatlardan foydalaning. Open WebUI LDAP va Active Directory integratsiyasini, ishonchli sarlavha va OAuth asosidagi yagona kirishni hamda Okta, Azure AD va Google Workspace kabi identifikatsiya provayderlari uchun SCIM 2.0 ta’minotini qo‘llab-quvvatlaydi.

Saqlash uchun SQLite-dan, ixtiyoriy shifrlash bilan, yoki PostgreSQL-dan foydalanish mumkin. Fayllar mahalliy ravishda yoki S3, Google Cloud Storage yoxud Azure Blob Storage’da saqlanishi mumkin. Redis bilan ta’minlangan sessiyalar va WebSocket qo‘llab-quvvatlashi yuklamani taqsimlovchi vositalar ortida ko‘p ishchi va ko‘p tugunli joylashtirishlarni, OpenTelemetry esa kuzatuvlar, metrikalar va jurnallarni ta’minlaydi.

To‘liq oflayn ishlating

Open WebUI-ni oflayn muhitda ishga tushirganda, modellarni internetdan yuklab olishga urinishlarning oldini olish uchun HF_HUB_OFFLINE qiymatini 1 ga o‘rnating:

export HF_HUB_OFFLINE=1

Oflayn joylashtirishda ham barcha zarur modellar, bog‘liqliklar va mahalliy xizmatlar muhitda mavjud bo‘lishi kerak.

Ishlab chiqish imidjini ehtiyotkorlik bilan sinab ko‘ring

:dev imidji beqaror, eng yangi o‘zgarishlarni o‘z ichiga oladi va xatolar yoki to‘liq bo‘lmagan funksiyalarga ega bo‘lishi mumkin. Undan faqat bu xavfni qabul qilganingizda foydalaning:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --add-host=host.docker.internal:host-gateway --restart always ghcr.io/open-webui/open-webui:dev

Ollama ulanish xatolarini bartaraf etish

Docker’da Open WebUI konteyner ichidan Ollama’ga 127.0.0.1:11434 yoki host.docker.internal:11434 manzili orqali ulana olmaganda keng tarqalgan muammo yuzaga keladi. Qo‘llab-quvvatlanadigan tizimlarda hujjatlashtirilgan yechimlardan biri host tarmog‘idan foydalanishdir:

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Ushbu buyruq bilan Open WebUI’ga 3000 porti o‘rniga http://localhost:8080 manzili orqali kiring.

Agar ulanish hali ham ishlamasa, Ollama ishga tushirilganini tasdiqlang, uning manzilini tekshiring va Open WebUI muammolarni bartaraf etish hujjatlari bilan tanishing. Docker muhitlarida qo‘shimcha tarmoq sozlamalari talab qilinishi mumkin.

Texnik xizmat va xavfsizlik

• Joylashtirishni almashtirish yoki yangilashda rasmiy yangilash qo‘llanmasiga amal qiling.

• Ilova ma’lumotlarini yo‘qotmaslik uchun yangilash vaqtida doimiy Docker hajmini ulangan holda saqlang.

• Loyiha litsenziyasi va litsenziya tarixini ko‘rib chiqing, chunki kod bazasida bir nechta litsenziyalar ostidagi komponentlar, jumladan joriy Open WebUI litsenziyasidagi kod uchun brending talablari mavjud.

• Taxmin qilinayotgan zaifliklar haqida umumiy hamjamiyat kanallari orqali emas, loyihaning GitHub mas’uliyatli oshkor qilish dasturi orqali maxfiy ravishda xabar bering.

Xulosa

Open WebUI siz nazorat qiladigan infratuzilma orqali mahalliy va joylashtirilgan AI modellarini ishga tushirish uchun moslashuvchan interfeysni taqdim etadi. Python 3.11 yoki doimiy Docker joylashtiruvidan boshlang, Ollama yoki OpenAI bilan mos API'ni ulang, so‘ng RAG, agentlar, plaginlar, hamkorlik, tahliliy vositalar va kengaytiriladigan ishlab chiqarish xizmatlaridan foydalaning. Joylashtirishning boshqa variantlari uchun ishga kirishish bo‘yicha rasmiy hujjatlar bilan tanishing.