Kulingana na ripoti ya Axios ya leo, muungano unaojumuisha mashirika zaidi ya 120, yakiwemo Nvidia, Cisco na CrowdStrike, unapendekeza mfumo mpya wa kuripoti matukio kwa mawakala wa AI, ambao utazitaka kampuni zinazoshiriki kufichua baadhi ya matukio ya mawakala na kuhifadhi rekodi za kina za matukio hayo.
Wakati mawakala wa AI wanapopata mamlaka zaidi ya kujitegemea katika mifumo ya kompyuta, sekta hiyo haina mbinu sanifu ya kuripoti hitilafu za usalama na kujifunza kutokana nazo.
The Open Secure AI Alliance (Muungano wa AI Salama na Wazi) inaandaa miongozo ya kile inachokiita “Shared AI Findings Exchange” (SAFE; Mabadilishano ya Matokeo ya Pamoja ya AI), mfumo unaopendekezwa wa jinsi ya kuripoti matukio ya usalama wa mtandao yanayohusisha mawakala wa AI.
Rasimu hiyo inatoa wito kwa waendesha mifumo ya modeli, watengenezaji wa AI, watoa huduma za wingu na zana, watafiti huru, waendeshaji wa miundombinu muhimu na makundi mengine kushiriki; mashirika ya serikali pia yataalikwa kushiriki kama “waangalizi wasio na udhibiti”.
Wanachama wa SAFE watakubali kuripoti matukio yafuatayo: mifumo ya AI kufikia au kutumia mifumo ya wahusika wengine bila idhini, kufichua taarifa za siri, au kuendelea kuchunguza malengo ya uzalishaji baada ya waendeshaji kushuku kuwa shughuli hizo hazijaidhinishwa.
Wanachama pia wataripoti baadhi ya matukio yaliyokaribia kutokea na kuhifadhi ushahidi wa matukio, ukiwemo maelekezo, ufuatiliaji wa mawakala, miito ya zana, utambulisho, ruhusa na vitambulisho vya kuingia.
Kulingana na ratiba inayopendekezwa, wanachama wanapaswa kuziarifu kampuni zilizoathiriwa haraka iwezekanavyo baada ya tukio, kuwasilisha ripoti ya awali ya siri kwa SAFE ndani ya siku nne za kazi, kuchapisha ripoti ya awali ya mambo ya msingi ndani ya siku 30 inapofaa, na kutoa taarifa ya hatua za kurekebisha ndani ya siku 90.
SAFE itachanganua matukio, kubaini hitilafu zinazojirudia na kupendekeza vidhibiti vya usalama vya pamoja.
Justin Boitano, makamu wa rais na meneja mkuu wa kompyuta za biashara wa Nvidia, aliiambia Axios katika mkutano wa Black Hat kwamba mpango huo umeigwa kutoka kwa mfumo wa NASA wa kuripoti usalama wa anga, ambao unaweza kutumia data iliyonaswa na kinasa safari cha ndege kuchunguza ajali.
Muungano huo unaamini kuwa utamaduni uliopo wa kushirikiana taarifa za vitisho katika uwanja wa usalama wa mtandao utazifanya kampuni zitake kushiriki hata hivyo. Julien Soriano, naibu afisa mkuu wa usalama wa habari na makamu wa rais wa Nvidia, alisema: “Karibu hatukukutana na upinzani wowote. Tunaona watu wako tayari kushiriki, na wana hamu ya kubadilishana taarifa.”
Open Secure AI Alliance inaomba maoni ya jamii kuhusu pendekezo hilo kupitia mchakato wa kuomba maoni unaosimamiwa na Linux Foundation.