AQShning sun’iy intellekt sohasidagi startapi Anthropic kecha e’lon qilgan blog postida Claude Fable 5 modelining biologik xavfsizlik himoyasi mexanizmini yangilayotganini va noto‘g‘ri bloklash holatlarini sezilarli darajada kamaytirayotganini ma’lum qildi. Endilikda Fable 5 foydalanuvchilari biologiyaga oid savollar berganida, tizim tomonidan so‘rovni cheklash holatlari kamroq kuzatiladi.
Anthropic rasmiy test ma’lumotlariga ko‘ra, ushbu yangilanish biologiyaga oid savol-javoblarda so‘rovlarni cheklash holatlarini 85% ga kamaytirdi. Endi Fable 5 biologiyaga oid kengroq vazifalarni bajara oladi.
Anthropic ma’lum qilishicha, ayrim zararli niyatdagi foydalanuvchilar Fable 5 modelidan biologik qurollarni tadqiq qilish kabi yuqori xavfli faoliyatlarda foydalanadi. Shu sababli kompaniya bunday holatlarning oldini olish uchun Claude’ga foydalanuvchi Fable 5’dan himoyalangan biologik vazifani bajarishni yoki zararli kontent yaratishni so‘rayotganini aniqlashga mo‘ljallangan xavfsizlik klassifikatorlarini o‘rnatgan.
Endilikda Anthropic xavfsizlik klassifikatorlarining ishlash mexanizmini o‘zgartirdi. Natijada ular zararsiz va yuqori xavfli savollarni aniqroq ajrata oladi.
Biroq davom etayotgan AI xavflarining oldini olish maqsadida Fable 5 professional biologik tadqiqotlar va dori vositalarini ishlab chiqishga oid so‘rovlarni cheklashda davom etadi.