OpenAI 사장이자 공동 창립자인 그레그 브록먼은 기업에 사이버 보안 경고를 보냈다. OpenAI의 AI 모델이 Hugging Face에 성공적으로 침입한 사건은 이미 “사이버 보안의 분수령”이 되었으며, 기업은 AI를 활용하는 공격자에 대응하기 위해 즉시 시스템 보호를 강화해야 한다.
현지 시간 16일, 브록먼은 개인 블로그에 글을 올려 “지난 몇 주 동안 많은 기관과 이야기를 나눴고, 결론은 매우 분명했습니다. 모두가 전례 없는 속도로 사이버 보안 역량을 전면적으로 강화해야 한다는 사실을 인식하고 있습니다”라고 밝혔다.
브록먼은 AI 도구가 머지않아 OpenAI 모델이 Hugging Face 시스템을 공격했을 때처럼 능동적으로 취약점을 찾아낼 수 있다고 지적했다. 동시에 AI는 이러한 결함을 “훨씬 쉽게” 수정하도록 지원해 기업이 공격을 차단하는 데 도움을 줄 수 있다.
참고: OpenAI는 올해 7월 내부 테스트에서 AI 에이전트가 당초 제한된 테스트 환경을 벗어난 뒤 Hugging Face에 성공적으로 침입할 수 있다는 사실을 발견했다고 공개했다.
브록먼은 이 사건이 기업이 취약점 방어를 사전에 준비해야 한다는 점을 더욱 분명히 보여준다고 말했다. 그는 또한 기업의 “방어 측”이 서둘러 시행해야 할 10가지 사이버 보안 조치를 제시하며 다음과 같이 촉구했다. “시간이 매우 중요합니다. 방어 측은 다음 작업을 최대한 빠르게 추진해야 합니다.”
조직 전체의 명확한 지원과 투자를 확보한다.
보안팀에 AI 에이전트를 배치한다.
AI 에이전트에 사이버 보안 전문 지식을 갖춘다.
즉시 자체 시스템에 대한 보안 평가를 실시한다.
기존에 누적된 취약점을 최대한 빨리 처리한다.
보안 검토를 소프트웨어 개발 프로세스에 직접 통합한다.
AI 에이전트가 발견된 문제의 수정을 지원하도록 한다.
탐지 결과의 분석과 분류를 단계적으로 자동화한다.
AI 지원 디지털 포렌식 역량을 미리 구축하고, 보안 사고가 발생한 뒤에야 준비하지 않는다.
지속적으로 실험하고 해커톤 주간을 운영하며 빠르게 반복 개선한다.
브록먼은 현재 방어 측에 아직 “기회의 창”이 열려 있다고 덧붙였다. 앞으로 수개월 동안 모든 기관은 시스템 보안을 계속 보장하기 위해 보안 체계의 자동화 수준을 대폭 높이기 시작해야 한다. AI 역량이 계속 향상됨에 따라 사이버 보안 업계는 즉시 행동에 나서 새로운 도구와 실행 방식, 대응 매뉴얼을 구축하고 방어 역량의 향상 속도가 공격 역량을 앞서도록 해야 한다.
참고
https://blog.gregbrockman.com/the-defenders-window