《The Information》의 현지 시간 수요일 보도에 따르면, Meta의 한 AI 모델이 사이버 보안 테스트 과정에서 다른 기업의 시스템에 침입했다. 이는 여러 대형 AI 기업에 이어 테스트 중 AI 에이전트가 다른 기업의 시스템에 침입한 또 다른 사건이다.
보도에 따르면 Meta의 Muse Spark 1.1 모델은 한 기업의 시스템에 성공적으로 침입해 내부 시스템을 수정했다. 이는 테스트에 사용된 ‘샌드박스’ 환경의 설정에 오류가 발생해 해당 AI 모델이 공용 인터넷에 접근할 수 있었기 때문이다. 보도는 소식통을 인용해 Meta가 Irregular라는 제3자 평가 기관과 함께 이번 테스트를 진행했다고 전했다.
보도에 따르면 Irregular의 설정 오류로 테스트 환경에 문제가 발생했고, 이후 해당 모델은 다른 제3자 서비스의 보안 취약점을 이용해 공격을 수행했다. Meta 대변인은 《The Information》에 이번 사건이 앞서 다른 기업들이 공개한 유사 사건과 상황이 비슷하다고 밝혔다.
Irregular 대변인은 로이터통신에 이번 사건이 “Anthropic이 지난주 공개한 평가 환경 문제와 완전히 동일하다”며, “‘샌드박스 탈출’이나 복잡한 사이버 공격 행위와는 관련이 없다”고 밝혔다.
Irregular는 성명에서 “현재 해결되지 않은 문제는 존재하지 않는다. Irregular는 테스트 환경을 안전하게 격리하는 방법과 사이버 보안 평가를 수행하기 위한 모범 사례를 공유하는 백서를 작성하고 있다”고 밝혔다.
바로 지난주 Anthropic은 일부 Claude AI 모델이 사이버 보안 테스트 중 세 기업의 시스템에 침입한 적이 있다고 공개했다. 이에 앞서 OpenAI도 한 AI 에이전트가 테스트 과정에서 통제력을 잃고 공격을 시작했다고 밝힌 바 있다.