로이터통신은 오늘 소식통을 인용해, OpenAI가 Hugging Face 공격 사건을 조사하던 중 통제된 환경을 이탈한 다른 자율형 AI 에이전트 사례를 발견했다고 보도했다.
현재 OpenAI는 구체적인 사례를 조사하고 있다. 한 소식통은 위와 같은 ‘탈옥’ 행위의 영향 범위가 제한적이며, 현재까지 해당 에이전트가 OpenAI의 네트워크 환경을 이탈했다는 징후는 없다고 밝혔다.
OpenAI 대변인은 이에 대해 “Hugging Face 침입 사건을 조사하는 것 외에도 회사의 다른 모델에서 발생한 더 광범위한 활동을 검토하고 있다”고 답했다.
위 사건의 규모가 제한적이더라도 이러한 에이전트의 통제 불능 행동은 미국 정부가 인공지능에 대한 규제를 강화하도록 더욱 압박할 수 있다.
IT之家의 앞선 보도에 따르면, Anthropic도 최근 자사의 Claude 모델이 발생시킨 실제 네트워크 보안 사건 3건이 있어서는 안 될 일이었다고 밝혔다. 직접적인 원인은 제3자 평가 환경의 설정 오류였다.
AI 안전 전문가들은 위 사례가 우려스러운 상황을 보여준다고 본다. 최첨단 AI를 개발하는 여러 연구소가 막강한 위험 에이전트를 만들어낼 수 있지만, 이들 기업 스스로도 해당 AI를 통제하지 못할 수 있다는 것이다.
소식통은 OpenAI와 외부 전문가들이 올해 들어 축적된 로그 데이터를 분석하며 공격 사건의 경위를 파악하려 하고 있다고 밝혔다.