Báo cáo an toàn mới nhất do Anthropic công bố vào ngày 14 tháng 8 theo giờ địa phương cho thấy một số bộ phân loại an toàn được công ty sử dụng để chặn các yêu cầu nguy hiểm liên quan đến vũ khí hóa học và sinh học đã ngừng hoạt động trong thời gian dài.
Điều này trực tiếp khiến một lượng lớn yêu cầu phát sinh trong quá trình các nhà thầu bên ngoài cung cấp phản hồi thủ công từ tháng 5 năm 2025 đến tháng 4 năm 2026 không được lọc. Anthropic cho biết cuộc điều tra nội bộ hiện chưa phát hiện bằng chứng cho thấy các yêu cầu liên quan đã bị sử dụng để lạm dụng trên thực tế.
Theo mô tả công khai của Anthropic về cơ chế an toàn, các bộ phân loại lời nhắc và đầu ra theo thời gian thực sẽ phân tích nội dung người dùng nhập vào cũng như nội dung do mô hình tạo ra, đồng thời ngăn mô hình cung cấp thông tin có thể được sử dụng để thực hiện hành vi nguy hiểm khi phát hiện rủi ro liên quan. Theo thông tin IT之家 nắm được, cơ chế này là một trong nhiều lớp biện pháp an toàn mà Anthropic thiết lập để ứng phó với rủi ro liên quan đến vũ khí hóa học, sinh học, phóng xạ và hạt nhân (CBRN).
Vấn đề lần này liên quan đến các nhà thầu bên ngoài của Anthropic. Báo cáo cho thấy khoảng 50.000 nhà thầu đã tạo ra khoảng 133 triệu cuộc trò chuyện với mô hình trong giai đoạn liên quan, và lưu lượng này không được bộ phân loại an toàn sinh học liên quan chặn trong gần một năm.
Anthropic cho biết các nhà thầu này chủ yếu do các nhà cung cấp bên ngoài phụ trách kiểm duyệt, nhưng quy trình sàng lọc còn thiếu sót. Sau đó, công ty đã tiến hành điều tra nội bộ và cho biết chưa phát hiện bằng chứng cho thấy các yêu cầu này được sử dụng để lạm dụng trên thực tế. Vì vậy, Anthropic đã nâng cao các yêu cầu liên quan đối với nhà thầu bên ngoài.
Trước đó, Anthropic đã đưa biện pháp bảo vệ an toàn sinh học vào hệ thống an toàn AI của mình. Vào tháng 5 năm 2025, khi phát hành Claude Opus 4, công ty đã kích hoạt các biện pháp bảo vệ Cấp độ an toàn AI 3 (ASL-3), bao gồm các hạn chế triển khai nhằm giảm rủi ro phát triển hoặc thu thập vũ khí hóa học, sinh học, phóng xạ và hạt nhân.
Theo chính sách mở rộng có trách nhiệm hiện hành của Anthropic, các bộ phân loại lời nhắc và đầu ra theo thời gian thực sẽ liên tục giám sát đầu vào và đầu ra của mô hình, đồng thời được cập nhật dựa trên các mô hình gây hại, phương thức vượt rào và kỹ thuật ngụy trang không ngừng được phát hiện. Công ty cũng sử dụng kiểm thử đội đỏ, chương trình săn tiền thưởng lỗ hổng và giám sát ngoại tuyến làm các biện pháp an toàn bổ sung.
Vào tháng 7 năm 2026, khi công bố các biện pháp an toàn liên quan đến Claude Fable 5, Anthropic cũng một lần nữa nhấn mạnh những rủi ro trong lĩnh vực sinh học và hóa học. Công ty cho biết khi năng lực nền tảng của Fable 5 đạt đến một mức nhất định, mô hình có thể cung cấp thêm hỗ trợ cho các đối tượng có ý đồ xấu, do đó cần sử dụng bộ phân loại để hạn chế các yêu cầu liên quan.
Anthropic đồng thời thừa nhận rằng các bộ phân loại an toàn quá nghiêm ngặt có thể gây ảnh hưởng nhầm đến hoạt động nghiên cứu khoa học bình thường. Đối với Fable 5, hiện một lượng lớn yêu cầu liên quan đến lĩnh vực sinh học và hóa học sẽ được chuyển cho Claude Opus 4.8 xử lý. Công ty dự định từng bước thu hẹp phạm vi hạn chế khi cơ chế an toàn được cải thiện.
Hiện Anthropic cho biết đã tăng cường các yêu cầu về sàng lọc và quản lý nhà thầu bên ngoài dựa trên kết quả điều tra. Chính sách mở rộng có trách nhiệm được công ty công khai cũng cho thấy Anthropic đang liên tục điều chỉnh các tiêu chuẩn bảo vệ an toàn đối với những lĩnh vực rủi ro cao như vũ khí hóa học và sinh học.