미국 인공지능 스타트업 Anthropic은 어제 블로그를 통해 Claude Fable 5 모델의 생물안전 보호 메커니즘을 업데이트해 오탐 차단을 크게 줄였다고 밝혔다. 이제 Fable 5 사용자가 생물학 관련 질문을 제시해도 시스템의 성능 저하가 발생하는 경우가 줄어든다.
Anthropic의 공식 테스트 데이터에 따르면 이번 업데이트로 생물학 관련 질의응답의 성능 저하 현상이 85% 줄었으며, Fable 5는 이제 더 폭넓은 생물학 작업을 처리할 수 있다.
Anthropic은 일부 악의적인 사용자가 Fable 5 모델을 생물무기 연구와 같은 고위험 활동에 사용할 수 있다고 설명했다. 이에 회사는 이러한 현상을 방지하기 위해 Claude에 안전 분류기(safety classifiers)를 별도로 적용했다. 이 분류기는 사용자가 Fable 5에 보호 대상 생물학 작업을 수행하도록 요구하는지 또는 유해한 콘텐츠를 생성하도록 요청하는지를 감지한다.
Anthropic은 이제 안전 분류기의 작동 방식을 조정해 무해한 질문과 고위험 질문을 더 정확하게 구분할 수 있도록 했다.
다만 지속적인 AI 위험을 방지하기 위해 Fable 5는 여전히 전문적인 생물학 연구와 의약품 개발 관련 요청을 제한한다.