Chủ tịch kiêm đồng sáng lập OpenAI Greg Brockman đã gióng lên hồi chuông cảnh báo an ninh mạng đối với các doanh nghiệp: Việc mô hình AI của OpenAI xâm nhập thành công Hugging Face đã trở thành “thời khắc bước ngoặt của an ninh mạng”, và doanh nghiệp phải ngay lập tức tăng cường bảo vệ hệ thống để ứng phó với những kẻ tấn công được AI hỗ trợ.
Ngày 16 theo giờ địa phương, Brockman đăng bài trên blog cá nhân: “Trong vài tuần qua, tôi đã trao đổi với nhiều tổ chức và đi đến một kết luận rất rõ ràng: Mọi người đều nhận ra rằng cần nâng cao toàn diện năng lực an ninh mạng với tốc độ chưa từng có.”
Brockman chỉ ra rằng các công cụ AI sẽ sớm có thể chủ động phát hiện lỗ hổng, giống như khi mô hình OpenAI xâm nhập hệ thống Hugging Face. Đồng thời, AI cũng sẽ khiến việc khắc phục những lỗ hổng này trở nên “dễ dàng hơn nhiều”, qua đó giúp doanh nghiệp ngăn chặn các cuộc tấn công.
Lưu ý: Vào tháng 7 năm nay, OpenAI tiết lộ rằng trong quá trình thử nghiệm nội bộ, các tác nhân AI có thể thoát khỏi môi trường thử nghiệm vốn bị giới hạn, sau đó xâm nhập thành công Hugging Face.
Brockman cho rằng sự việc này càng cho thấy doanh nghiệp phải chủ động chuẩn bị để bảo vệ khỏi các lỗ hổng. Ông cũng liệt kê 10 biện pháp an ninh mạng mà “phía phòng thủ” cần sớm triển khai, đồng thời kêu gọi: “Thời gian là yếu tố then chốt, phía phòng thủ phải thúc đẩy những công việc dưới đây với tốc độ nhanh nhất.”
Đạt được sự ủng hộ và đầu tư rõ ràng từ toàn bộ tổ chức.
Trang bị tác nhân AI cho đội ngũ an ninh.
Trang bị cho tác nhân AI kiến thức chuyên môn về an ninh mạng.
Ngay lập tức đánh giá an ninh đối với hệ thống của chính mình.
Sớm xử lý các lỗ hổng tồn đọng từ trước.
Đưa việc đánh giá an ninh trực tiếp vào quy trình phát triển phần mềm.
Để tác nhân AI hỗ trợ khắc phục các vấn đề được phát hiện.
Từng bước tự động hóa việc phân tích và phân loại kết quả phát hiện.
Thiết lập trước năng lực điều tra số có AI hỗ trợ, không chờ đến khi xảy ra sự cố an ninh mới chuẩn bị.
Liên tục thử nghiệm, tổ chức các hoạt động hackathon và nhanh chóng lặp lại.
Brockman tiếp tục chỉ ra rằng hiện tại, phía phòng thủ vẫn còn “một khoảng thời gian thuận lợi”. Trong những tháng tới, mọi tổ chức phải bắt đầu tăng đáng kể mức độ tự động hóa của hệ thống an ninh để tiếp tục bảo đảm an toàn cho hệ thống. Khi năng lực AI không ngừng nâng cao, ngành an ninh mạng phải hành động ngay lập tức, xây dựng các công cụ, phương pháp thực hành và cẩm nang hành động mới, để tốc độ nâng cao năng lực phòng thủ vượt qua tốc độ phát triển năng lực tấn công.
Tham khảo
https://blog.gregbrockman.com/the-defenders-window