Kecha Ant Group’ning Bailing jamoasi yangi avloddagi, tabiiy gibrid inferensiya modeli Ling-3.0-flash’ni rasman ochiq kodli qildi. Model maksimal intellekt zichligi, butun zanjir bo‘ylab Agent yopiq sikli va past xarajat bilan keng ko‘lamda joriy etishga yo‘naltirilgan.
Huawei bugun rasman Ascend platformasi Bailing Ling-3.0-flash modeliga 0 Day moslashtirishni bir vaqtning o‘zida yakunlaganini e’lon qildi. Moslashtirish jarayonida ilk bor CANN PyPTO operator dasturlash freymvorki joriy etildi. Bu murakkab birlashtirilgan operatorlarni yetkazib berish davrini qisqartirib, operatorlarni samarali ulash, inferensiya freymvorki unumdorligini sozlash va to‘liq joylashtirish loyihasini bir vaqtda taqdim etish imkonini beradi.
Mazkur moslashtirish Ascend A2 va A3 seriyali mahsulotlar bilan to‘liq mos keladi hamda rasmiy standartlashtirilgan joylashtirish yechimi bilan ta’minlangan. Dasturchilar rasmiy imij orqali inferensiya xizmatini tezda ishga tushirishlari mumkin (apparat talablari: Ascend A2 seriyali mahsulotlari: 8 ta karta; Ascend A3 seriyali mahsulotlari: 4 ta karta).
CANN PyPTO dasturlash freymvorki PTO ISA (virtual buyruqlar to‘plami arxitekturasi) asosida Tile dasturlash paradigmasini yaratadi. Dasturchilar Tensor darajasidagi API orqali hisoblash mantiqini aniq belgilaydi, freymvork esa bo‘laklarni rejalashtirish, ma’lumotlarni ko‘chirish va kod generatsiyasining barcha jarayonlarini avtomatik bajaradi.
Bundan tashqari, CANNBot PyPTO Agent ko‘p agentli freymvorkni yaratib, butun operator ishlab chiqish jarayonini 7 bosqichga (Stage) ajratadi va uni avtomatik ravishda ilgari suradi. Har bir bosqichda vazifalari aniq belgilangan quyi agentlar hamkorlikda ishlaydi. Barcha rejalashtirish uchun yagona orkestrator pypto-op-orchestrator mas’ul bo‘ladi. Quyi agentlar xotira mexanizmi va mashina o‘qiy oladigan holat orqali axborot almashadi, bu esa kontekstning uzluksiz uzatilishini ta’minlaydi.
Butun jarayon operatorga qo‘yiladigan talablarni tabiiy tilda kiritishdan boshlanadi, avtomatlashtirilgan generatsiya, tekshirish va optimallashtirish bosqichlaridan o‘tib, aniqlik talablariga javob beradigan va unumdorligi optimallashtirilgan, plataga o‘rnatish mumkin bo‘lgan operatorni yaratish bilan yakunlanadi. Jarayonning barcha bosqichlari o‘rtasidagi topshirishlarda inson aralashuvi talab etilmaydi. Ushbu ish jarayoni operator dasturlash tajribasini har tomonlama yaxshilabgina qolmay, operatorlarni yetkazib berish davrini ham sezilarli qisqartiradi. Bosqichlar mantiqi quyidagicha:
