Theo báo cáo của Axios hôm nay, một liên minh gồm hơn 120 tổ chức, trong đó có Nvidia, Cisco và CrowdStrike, đang đề xuất một khung báo cáo sự cố mới dành cho tác nhân AI. Khung này sẽ yêu cầu các công ty tham gia công bố một số sự cố của tác nhân AI và lưu giữ hồ sơ chi tiết về sự cố.
Khi các tác nhân AI ngày càng được trao nhiều quyền tự chủ hơn trong hệ thống máy tính, ngành công nghiệp vẫn thiếu một phương thức tiêu chuẩn để báo cáo các lỗi bảo mật và rút kinh nghiệm từ đó.
Open Secure AI Alliance (Liên minh Trí tuệ nhân tạo Mở và An toàn) đang xây dựng hướng dẫn mang tên “Shared AI Findings Exchange” (Trao đổi Phát hiện AI Chung, SAFE), một khung đề xuất về cách báo cáo các sự cố an ninh mạng liên quan đến tác nhân AI.
Dự thảo kêu gọi các đơn vị triển khai mô hình, nhà phát triển AI, nhà cung cấp đám mây và công cụ, nhà nghiên cứu độc lập, đơn vị vận hành cơ sở hạ tầng quan trọng cùng các nhóm khác tham gia. Các cơ quan chính phủ cũng sẽ được mời tham gia với tư cách “quan sát viên không có quyền kiểm soát”.
Các thành viên SAFE đồng ý báo cáo những sự cố sau: hệ thống AI truy cập hoặc khai thác trái phép hệ thống của bên thứ ba, làm lộ thông tin mật, hoặc tiếp tục dò quét các mục tiêu trong môi trường vận hành sau khi người vận hành nghi ngờ hoạt động đó là trái phép.
Các thành viên cũng sẽ báo cáo một số sự cố suýt xảy ra và lưu giữ bằng chứng sự cố, bao gồm lời nhắc, nhật ký theo dõi tác nhân, lệnh gọi công cụ, danh tính, quyền hạn và thông tin xác thực.
Theo tiến độ được đề xuất, các thành viên phải thông báo cho tổ chức bị ảnh hưởng sớm nhất có thể sau khi sự cố xảy ra, gửi báo cáo bảo mật ban đầu cho SAFE trong vòng bốn ngày làm việc, công bố báo cáo thực tế ban đầu trong vòng 30 ngày khi phù hợp, và cung cấp thông tin cập nhật về biện pháp khắc phục trong vòng 90 ngày.
SAFE sẽ phân tích các sự cố, xác định những lỗi lặp lại và đề xuất các biện pháp kiểm soát bảo mật chung.
Justin Boitano, Phó Chủ tịch kiêm Tổng Giám đốc bộ phận Điện toán Doanh nghiệp của Nvidia, nói với Axios tại hội nghị Black Hat rằng chương trình này được xây dựng theo mô hình Hệ thống Báo cáo An toàn Hàng không của NASA, vốn có thể sử dụng dữ liệu thu thập từ hộp đen máy bay để điều tra tai nạn.
Liên minh cho rằng văn hóa chia sẻ thông tin tình báo về mối đe dọa hiện có trong lĩnh vực an ninh mạng sẽ khiến các công ty sẵn sàng tham gia. Julien Soriano, Phó Giám đốc An ninh Thông tin kiêm Phó Chủ tịch của Nvidia, cho biết: “Hầu như không gặp bất kỳ sự phản đối nào. Chúng tôi nhận thấy mọi người đều sẵn sàng tham gia và háo hức chia sẻ.”
Open Secure AI Alliance đang lấy ý kiến cộng đồng về đề xuất này thông qua quy trình kêu gọi đóng góp ý kiến do Linux Foundation tổ chức.