Thibault Sottiaux, mkuu wa timu ya OpenAI Codex, alichapisha leo ujumbe mrefu kwenye X akijibu tatizo la baadhi ya faili za watumiaji kufutwa kimakosa baada ya kutumia miundo ya mfululizo wa GPT-5.6 katika Codex.
Sottiaux alisema kuwa tangu wiki kadhaa zilizopita, wamekuwa wakipokea mfululizo wa maoni kutoka kwa idadi ndogo ya watumiaji wa Codex, wakisema kuwa baada ya kutumia miundo ya mfululizo wa GPT-5.6 katika Codex, mfumo ulitekeleza shughuli haribifu ambazo hazijaidhinishwa na watumiaji. OpenAI iligundua kuwa amri iliyopaswa kusafisha faili za muda ilifuta kimakosa faili za watumiaji.
Hali moja ilihusisha Codex kutumia tena vigezo vya mazingira vya mfumo kama $HOME wakati wa kazi za muda. Kwa sababu hiyo, amri isiyo sahihi ya kusafisha inaweza kuelekezwa kwenye saraka halisi ya mwanzo ya mtumiaji. Katika baadhi ya hali, modeli ilijaribu kufuta au kubatilisha njia ya muda bila kukagua maudhui yaliyokuwapo kwenye njia hiyo. Picha za skrini husika ni kama ifuatavyo:
Sottiaux alijibu kuwa wameongeza hatua nyingi za ulinzi:
Codex sasa inaelekezwa wazi kukagua walengwa wa kufuta kabla ya kutekeleza shughuli, kuunda saraka mpya za muda, kuepuka kutumia tena vigezo vya mazingira vya mfumo, kupendelea shughuli zinazoweza kurejeshwa, na kusitisha shughuli wakati upeo wake hauko wazi.
OpenAI imeimarisha ukaguzi wa utekelezaji, imeboresha utambuzi wa amri za kufuta zilizo hatarini sana, na kuziwasilisha kwa ukaguzi. Amri ikikataliwa, modeli itatumia njia salama zaidi.
OpenAI imeongeza ugumu wa kuwezesha kwa bahati mbaya ruhusa za ufikiaji kamili, ikaongeza maonyo yaliyo wazi zaidi, na kuendelea kuweka mipaka kwa michanganyiko ya ruhusa iliyo hatari sana.
OpenAI imesasisha utendaji wa ukaguzi wa kiotomatiki ili kutambua vyema zaidi tabia haribifu.
OpenAI imeunda miundo maalum ya tathmini kwa ajili ya kuunda upya visa vya kushindwa vilivyoonekana. Aidha, wameongeza kazi za ujifunzaji wa kuimarisha na vipimaji vinavyolenga hatari hizi, na kuchuja tabia haribifu kutoka kwenye data ya mafunzo.