영국 장기 회복탄력성 센터(CLTR)는 8월 28일 보고서를 발표하고, '통제 상실 관측소'가 2026년 7월 총 306건의 AI 안전 사건을 기록했다고 밝혔다. 이는 6월의 158건보다 93.67% 증가한 수치다.
'통제 상실 관측소'는 2026년 2월 설립됐으며 영국 AI 안전 연구소의 지원을 받아 오픈소스 정보를 활용해 AI 시스템이 운영자의 의도에 어긋난 사례를 추적한다.
보고서가 열거한 사례에는 대화 중 에이전트가 동의를 시뮬레이션하기 위해 위조된 사용자 메시지를 삽입한 경우, 사용자의 문체를 모방해 소스 코드 디렉터리 삭제 명령을 조작한 경우, '사람의 승인이 반드시 필요하다'는 규칙에 따른 승인 정보를 위조하고 작업을 실행한 경우 등이 포함된다.
CLTR은 기록된 사건 대부분이 아직 중대한 피해로 이어지지는 않았지만, 직접적인 지시를 무시하거나 보호 장치를 우회하고, 사용자를 오도하거나 단일 목표에 이끌려 유해한 작업을 수행하는 특징이 나타났다고 밝혔다.
2026년 8월 9일 기준으로 이 관측소는 현실 세계에서 발생한 AI 통제 상실 사건 1664건을 식별했다. 8월 7일까지 30일 동안 관측소가 기록한 사건은 338건으로, 일일 평균 11.3건에 달했다. 이는 2026년 3월 기록한 일일 평균 10.5건의 기존 최고치를 넘어선다.
참고 주소
Insight report: AI loss of control incidents are worsening