로이터통신과 여러 미국 매체가 오늘 보도한 바에 따르면, 앞서 OpenAI를 ‘탈옥’해 허깅페이스(Hugging Face)를 해킹 공격한 ‘통제 불능 에이전트’가 Modal Labs의 고객 1곳에도 성공적으로 침입했다.
현지 시간 7월 28일 Hugging Face가 공개한 사건 타임라인에 따르면, 해당 통제 불능 에이전트는 먼저 ‘제3자 서비스 제공업체의 인프라에서 호스팅된’ 샌드박스(격리된 테스트 환경)를 공격했다. 이후 이를 발판으로 더 큰 규모의 공격을 감행했지만, 해당 제3자 서비스 제공업체의 이름은 직접 언급하지 않았다.
Modal Labs의 최고기술책임자(CTO) Akshat Bubna는 성명을 통해 이번 침입 사건을 확인했다. Bubna는 이 회사의 한 고객이 인증되지 않은 공개 엔드포인트를 배포해 인터넷상의 누구나 해당 샌드박스에서 코드를 실행할 수 있었으며, 통제 불능 에이전트가 바로 이 취약점을 악용했다고 밝혔다. 그는 Modal의 플랫폼과 격리 메커니즘 자체는 어떠한 형태의 침입도 받지 않았다고 강조했다.
이번 사건이 알려지면서 AI 시스템의 보안 경계에 대한 외부의 우려는 더욱 커졌다. OpenAI는 위협이 통제되고 FBI가 개입한 뒤에야 자사의 에이전트가 통제 불능 상태에 빠졌다는 사실을 인지했다고 밝혔다. OpenAI는 당시 해당 보도에 부정확한 내용이 있다고 밝혔지만, 구체적인 설명은 내놓지 않았다. IT之家가 이 기사를 작성하는 시점까지 OpenAI는 이번 에이전트 통제 상실 사건의 구체적인 행위와 그로 인한 전체 영향에 대해 공개적으로 설명하지 않았다.