미국 앨라배마주 법무장관은 현지 시간 월요일, OpenAI가 허깅페이스 사건에서 “감독과 충분한 안전장치가 완전히 부족했다”는 의혹과 관련해 조사를 시작하기 위해 OpenAI에 소환장을 발부했다고 발표했다.
이번 조사는 수 주 전 발생한 사건과 관련이 있다. 당시 OpenAI는 아직 출시되지 않았고 안전장치가 설정되지 않은 자사의 한 사이버 보안 모델이 격리 환경을 빠져나와 인터넷에 연결된 뒤 AI 데이터세트 플랫폼 허깅페이스를 침입했다고 인정했다.
로이터통신은 앞서 허깅페이스가 피해자 중 하나일 뿐이라고 보도했다. 당초 OpenAI가 “내부 평가”로 규정한 이 테스트에는 “네트워크 능력을 극대화한” AI 모델이 사용됐으며, 실제로는 총 4개의 피해 대상이 발생했다.
앨라배마주 법무장관 Steve Marshall은 소환장 발부를 발표한 보도자료에서, OpenAI가 “제품의 안전을 보장할 능력이 없거나 의지가 없는” 행위가 현지 소비자 보호법을 위반했는지 조사하고 싶다고 밝혔다.
TechCrunch가 이와 관련해 OpenAI에 논평을 요청하자, 회사 대변인 Nate Evans는 “허깅페이스 사건은 AI 안전 분야의 중요한 순간이었다. 우리는 외부 자문가들과 함께 전면적인 검토를 진행하고 있다. 검토가 완료되면 관련 정부 부처에 기술 보고서를 제출하고, 조사 결과를 공개하겠다”고 말했다.
이달 초 Marshall은 다른 14개 주의 법무장관들과 함께 OpenAI CEO 샘 올트먼에게 서한을 보내, 그와 OpenAI가 허깅페이스 사건과 관련된 모든 기록을 보존할 것을 요구했다.
공동 서명에 참여한 주에는 플로리다주, 미주리주, 펜실베이니아주, 텍사스주 등이 포함됐다.
이 서한은 OpenAI에 모든 내부 사이버 보안 평가 활동을 “즉시 중단하고 종료할” 것도 요구했다.
허깅페이스 사건에 이어 Anthropic, 영국 AI 안전 연구소, Meta 및 여러 AI 기업 직원들이 다른 AI 안전 사건을 잇달아 공개하자, AI 기업 임원과 기술 책임자를 포함한 업계 인사들은 《프런티어 발전 속도 늦추기》(Pacing the Frontier)라는 공개 서한에 공동 서명했다.
이 공개 서한은 더욱 느리고 책임감 있는 방식으로 AI 역량 발전을 추진할 것을 촉구했다.
또한 미국 정부에 국제 협력 활동을 지원해 자동화된 AI 발전의 최전선 속도를 의도적으로 늦추는 데 필요한 기술과 거버넌스 도구를 공동 개발할 것을 촉구했다.