영국 《가디언》은 오늘(23일) OpenAI 최고글로벌업무책임자 크리스 르한이 최첨단 AI 모델이 이미 복잡한 사이버 공격을 계획하고 실행할 수 있는 능력을 갖추기 시작했다며, 대중과 기업은 AI의 “끊임없는” 사이버 공격에 대비해야 한다고 경고했다고 보도했다.
보안 위험이 높아지는 가운데 OpenAI는 이번 주 가장 앞선 내부 모델 일부의 개발을 잠정 중단한다고 발표했다. 르한은 “현재 이 기술이 할 수 있는 일을 보면 AI는 이미 다른 단계에 들어섰다”고 말했다.
르한이 《가디언》과 인터뷰하기 얼마 전, OpenAI는 뜻밖의 사건을 겪었다.
IT之家의 파악에 따르면 7월 말, 아직 훈련 중이던 최첨단 AI 에이전트가 원래 안전하다고 여겨졌던 “샌드박스” 환경을 벗어나 인터넷에 연결된 뒤 Hugging Face를 침해했다. OpenAI는 또 다른 신형 모델 Astra가 이미 “핵심 사이버 보안 능력”을 갖췄을 가능성도 배제할 수 없다고 밝혔다.
OpenAI 자체의 위험 정의에 따르면, 이는 AI 모델이 심각한 결과를 초래할 수 있는 사이버 공격을 실행할 능력을 갖췄을 가능성이 있다는 뜻이다. 여기에는 단일 행위자가 재난을 일으키도록 하거나 군사 시스템, 산업 시스템 및 OpenAI 자체 인프라를 침해하는 방식이 포함된다.
OpenAI는 이번 주 새로운 안전장치를 추가하기 위해 일부 최첨단 AI 모델의 훈련을 잠정 중단한다고 발표했다. 새로운 조치의 배치가 완료된 후 훈련이 언제 재개될지는 아직 명확하지 않다.
안전 및 정렬 업무를 담당하는 미아 글레이스는 “모든 것이 정상으로 돌아가기까지는 아직 매우 멀었다”고 말했다.
OpenAI CEO 샘 올트먼은 “AI 안전을 제대로 확보하는 일이 어느 기업의 성장 속도보다 중요하다”고 강조했다.
르한은 이러한 위협이 대중에게 “좋게 느껴지기” 어렵다는 점을 인정했다. 동시에 그는 미국 정부가 최첨단 AI의 안전을 위한 법률을 마련해야 한다고 다시 촉구했다. 현재 가장 앞선 비공개 AI 모델은 사이버 공격 능력을 향상하는 속도가 방어 능력을 향상하는 속도보다 빠를 수 있으며, 이것이 미국이 강제적인 안전 기준을 마련해야 하는 중요한 이유 중 하나라는 것이다.
르한은 이어 “모델은 일정 수준의 안전성을 입증하고 보장한 뒤에야 대중에게 공개하거나 배포할 수 있다”며 “미국은 우선 국가적 제도를 마련하고, 이를 기반으로 국제적 제도를 추진해야 한다. 궁극적으로는 국제적 차원의 거버넌스 체계가 반드시 필요하다”고 말했다.