Rais na mwanzilishi mwenza wa OpenAI, Greg Brockman, amezionya biashara kuhusu usalama wa mtandao: Uvamizi uliofanikiwa wa modeli ya AI ya OpenAI katika Hugging Face umekuwa “wakati wa mabadiliko katika usalama wa mtandao”, na biashara lazima ziimarishe ulinzi wa mifumo yao mara moja ili kukabiliana na washambuliaji wanaotumia AI.
Tarehe 16 kwa saa za eneo hilo, Brockman aliandika kwenye blogu yake binafsi: “Katika wiki chache zilizopita, nimezungumza na mashirika mengi, na hitimisho ni wazi sana: Kila mtu anatambua kuwa lazima tuimarishe kabisa uwezo wa usalama wa mtandao kwa kasi isiyowahi kushuhudiwa.”
Brockman alisema kuwa zana za AI hivi karibuni zitaweza kugundua udhaifu kwa hiari, kama ilivyotokea wakati modeli ya OpenAI ilipovamia mfumo wa Hugging Face. Wakati huo huo, AI pia itarahisisha sana kurekebisha dosari hizo, na hivyo kusaidia biashara kuzuia mashambulizi.
Kumbuka: OpenAI ilifichua mwezi Julai mwaka huu kwamba, katika majaribio ya ndani, iligundua kuwa wakala wa AI aliweza kuvuka mazingira ya majaribio yaliyowekewa mipaka, na baadaye akafanikiwa kuvamia Hugging Face.
Brockman anaamini kuwa tukio hilo linaonyesha zaidi kwamba biashara lazima ziandae ulinzi dhidi ya udhaifu mapema. Pia aliorodhesha hatua 10 za usalama wa mtandao ambazo “watetezi” wa biashara wanapaswa kutekeleza haraka iwezekanavyo, na kutoa wito: “Muda ni muhimu sana; watetezi lazima wasongeze kazi zifuatazo kwa kasi ya juu zaidi.”
kupata uungaji mkono na uwekezaji wa wazi kutoka kwa shirika zima.
kuipatia timu ya usalama mawakala wa AI.
kuwapa mawakala wa AI maarifa ya kitaalamu kuhusu usalama wa mtandao.
kufanya tathmini ya usalama ya mifumo yao mara moja.
kushughulikia haraka iwezekanavyo udhaifu wa zamani uliokuwa umelimbikizwa.
kuingiza ukaguzi wa usalama moja kwa moja katika mchakato wa uundaji wa programu.
kuwawezesha mawakala wa AI kusaidia kurekebisha matatizo yaliyogunduliwa.
kuanza hatua kwa hatua kuweka kiotomatiki uchanganuzi na upangaji wa matokeo ya ugunduzi.
kuanzisha mapema uwezo wa uchunguzi wa kidijitali unaosaidiwa na AI, badala ya kusubiri tukio la usalama litokee.
kuendelea kufanya majaribio, kuandaa shughuli za wiki ya udukuzi na kuboresha kwa kasi.
Brockman aliongeza kuwa kwa sasa, watetezi bado wana “dirisha la fursa”. Katika miezi ijayo, kila shirika lazima lianze kuongeza kwa kiasi kikubwa kiwango cha uwekaji kiotomatiki wa mifumo yake ya usalama ili kuendelea kuhakikisha usalama wa mifumo. Kadiri uwezo wa AI unavyozidi kuimarika, sekta ya usalama wa mtandao lazima ichukue hatua mara moja, ijenge zana, mbinu za utekelezaji na miongozo mipya ya hatua, ili kasi ya kuimarisha ulinzi izidi kasi ya uwezo wa mashambulizi.
Marejeo
https://blog.gregbrockman.com/the-defenders-window