《와이어드》의 어제 보도에 따르면, 미국 사이버 보안 스타트업 Frontier Security는 문쉐도우의 Kimi K3 모델의 사이버 보안 역량을 테스트하던 중 모델이 자신을 제한하던 샌드박스 환경을 벗어났다고 밝혔다.
보도에 따르면 이번 AI 탈출 사건은 OpenAI와 Anthropic의 사례와 마찬가지로, 모델을 격리하는 샌드박스 설정 오류가 직접적인 원인이었다. Frontier Security는 Kimi가 다른 최첨단 AI 모델에 비해 네트워크 보호 메커니즘이 부족해, 명시적인 승인 없이도 인터넷에 접속할 수 있었다고 봤다.
Frontier Security의 최고경영자 Yaron Singer는 이에 대해 “샌드박스에 취약점이 있다는 사실을 발견했지만, Kimi도 이 취약점을 이용했다. 이는 Kimi에 다른 동급 모델과 같은 내부 보안 메커니즘이 없을 가능성을 보여준다”고 말했다.
그러나 Kimi K3는 샌드박스를 돌파해 인터넷 접속 권한을 얻은 뒤에도 공격을 수행하지 않았으며, GitHub에서 문제의 답을 찾았을 뿐이다.
최근 AI 탈출 사건이 점점 더 빈번해지는 것은 AI의 능력이 강해질수록 인간이 이를 통제하기 어려워진다는 점을 보여준다. OpenAI는 지난달 회사 내부의 비공개 모델이 테스트 과정에서 격리 환경을 돌파한 뒤 Hugging Face 플랫폼을 공격했다고 공개한 바 있다. 이후 Anthropic도 자사의 여러 모델이 보안 테스트 중 인터넷 접속 권한을 얻어 외부 시스템을 공격한 적이 있다고 밝혔다.
일부 사이버 보안 전문가들은 이번 발견이 인간이 최첨단 AI 모델을 위해 샌드박스 환경을 다시 구성해야 한다는 점을 보여준다고 말했다. 또한 OpenClaw(주: 속칭 ‘랍스터’)와 같은 에이전트를 사용하는 이용자들은 AI가 경계를 넘지 않도록 환경을 신중하게 설정해야 한다.