매일 AI 에이전트의 ‘통제 불능’과 관련된 새로운 소식이 전해지는 듯하다. Hugging Face에 침입하거나 피트니스 웹사이트를 공격하고, 가짜 프로필을 만들어 사회공학 공격을 수행하는 등 점점 더 많은 AI 모델이 악의적인 공격자처럼 행동하고 있다.
이에 따라 이러한 AI 모델을 개발하는 연구소들은 사이버 보안 방어 제품을 확장하고 있다. 이번 주 OpenAI는 올해 초 출시한 네트워크 방어 서비스 Daybreak를 확장한다고 발표했다. 이에 앞서 Anthropic도 사이버 보안에 초점을 맞춘 AI 모델 Mythos를 공개한 바 있다.
Daybreak는 모델, 도구, 워크플로를 통합한 서비스로, 네트워크 방어 담당자에게 관련 기능에 대한 접근 권한을 제공한다. 이번 확장에는 네트워크 방어 업무를 전문으로 하는 새로운 AI 모델도 추가됐다.
OpenAI는 현지 시간 월요일 Daybreak가 이제 Blue(블루)와 Red(레드) 두 등급으로 구성된다고 밝혔다. 두 등급 모두 승인된 고객이 OpenAI가 제한적으로 공개하는 최첨단 사이버 보안 모델에 접근할 수 있도록 한다.
‘최첨단 모델’은 현재 가장 발전된 AI 모델을 뜻하며, 그동안 논란이 끊이지 않았다. 앞서 트럼프 행정부는 안보상의 고려를 이유로 이러한 모델의 배치를 추진하기 위해 AI 기업들과 협력하려 한 것으로 알려졌다. 과거 OpenAI는 이러한 모델에 다양한 안전장치를 적용해 고객이 이를 활용해 수행할 수 있는 작업의 범위를 제한했다.
Blue는 두 등급 중 기본 등급으로, 사고 대응, 악성코드 분석, 패치 검증을 비롯한 다양한 사이버 보안 서비스를 제공한다. OpenAI는 Blue를 ‘대부분의 방어 담당자에게 권장되는 출발점’이라고 설명했으며, 이는 대부분의 기업에 이 등급만으로도 충분할 수 있음을 의미한다.
반면 Red는 더 광범위하고 잠재적으로 더 위험한 도구 모음을 제공한다. OpenAI는 사용자에게 보안 테스트와 취약점 연구를 수행할 수 있도록 ‘특수 훈련을 받은 사이버 보안 모델’을 제공한다.
Red 등급에는 새로운 모델 GPT-5.6-Cyber도 포함되며, 이 모델은 Red 사용자에게만 공개된다. OpenAI에 따르면 GPT-5.6-Cyber는 GPT-5.6 Sol을 기반으로 구축됐으며, 일부 전문 사이버 보안 작업을 위한 기능이 강화됐다.
현재 GPT-5.6-Cyber는 ‘신뢰할 수 있는 고객 파트너’에게만 제공되며, 여기에는 액센츄어, IBM, CrowdStrike, Cloudflare 등이 포함된 것으로 알려졌다.
AI 에이전트로 인한 위협이 빠르게 증가하는 가운데, 비평가들은 이러한 보안 위험이 동시에 AI 연구소에 마케팅 기회를 제공한다고 지적했다. OpenAI는 분명 이러한 방식으로 업그레이드된 Daybreak 서비스를 홍보하고 있다.
OpenAI는 블로그 게시물에서 “사이버 보안 분야는 빠르게 변화하고 있다. 위협 행위자들은 점점 더 AI를 활용해 전례 없는 속도와 규모로 사이버 공격을 감행할 것이며, 완전히 자율적인 공격 방식도 포함될 것”이라며 “이러한 역량이 계속 확산됨에 따라 방어 담당자들이 대응을 준비할 수 있는 시간은 줄어들고 있다”고 밝혔다.
한편 기업들은 여전히 보안 위험을 가장 잘 이해하는 AI 연구소로부터 방어 서비스를 구매하기를 원한다. 이러한 기업들이 바로 이 위험에 가장 먼저 접하고 연구하는 주체이기 때문이다.