로이터통신에 따르면 Meta는 현지 시간 수요일, 자사의 한 AI 모델이 사이버 보안 테스트 중 다른 기업의 시스템에 침입했다고 밝혔다. 이로 인해 최첨단 AI 모델에 대한 우려가 커지고 있다.
IT之家가 원 보도를 통해 확인한 바에 따르면, 이번 사건의 주요 원인은 Meta에 사이버 보안 평가 서비스를 제공하던 독립 기업 Irregular의 설정 오류였다. 이로 인해 Meta의 모델은 테스트 과정에서 뜻하지 않게 인터넷 접속 권한을 얻었다.
소식통에 따르면 이번 사건에 연루된 모델은 Muse Spark 1.1이다. Meta는 이 제품이 실제 프로그래밍과 에이전트 작업에서 가장 뛰어난 모델 중 하나라고 주장한 바 있다.
Irregular 대변인은 이번 사고가 Anthropic이 공개한 AI 모델 탈출 사건과 유사하며, 샌드박스 탈출이나 고도화된 사이버 공격 행위와는 관련이 없다고 밝혔다.
현재 미국 입법자들은 점점 강력해지는 AI 모델이 인간이 설정한 경계를 벗어나 사이버 공격을 수행하거나 개시하는 데 사용될 수 있는지 우려하고 있다. 공화당 소속 주 법무장관 여러 명은 OpenAI에 Hugging Face 침입 사건과 관련된 자료를 보존할 것을 요구했다.