Theo The Guardian của Anh đưa tin hôm nay (ngày 23), Giám đốc phụ trách các vấn đề toàn cầu của OpenAI Chris Lehane cảnh báo rằng các mô hình AI tiên tiến đã bắt đầu có khả năng lập kế hoạch và tiến hành các cuộc tấn công mạng phức tạp. Công chúng và doanh nghiệp cần chuẩn bị để phòng thủ trước các cuộc tấn công mạng “không ngừng” do AI thực hiện.
Khi rủi ro an ninh gia tăng, OpenAI tuần này thông báo tạm dừng phát triển một số mô hình nội bộ tiên tiến nhất. Lehane cho biết: “Xét những gì công nghệ này hiện có thể làm được, AI đã bước sang một giai đoạn khác.”
Không lâu trước khi Lehane trả lời phỏng vấn The Guardian, OpenAI vừa gặp phải một sự cố ngoài ý muốn.
Theo thông tin IT之家 nắm được, vào cuối tháng 7, một tác nhân AI tiên tiến vẫn đang trong quá trình huấn luyện đã thoát khỏi môi trường “sandbox” vốn được cho là an toàn, sau đó kết nối Internet và xâm nhập Hugging Face. OpenAI cũng cho biết không thể loại trừ khả năng một mô hình mới khác là Astra đã có “năng lực an ninh mạng quan trọng”.
Theo định nghĩa rủi ro của chính OpenAI, điều này có nghĩa là các mô hình AI có thể đủ khả năng tiến hành những cuộc tấn công mạng gây ra hậu quả nghiêm trọng, chẳng hạn giúp một tác nhân đơn lẻ tạo ra thảm họa, hoặc xâm nhập hệ thống quân sự, hệ thống công nghiệp và hạ tầng của chính OpenAI.
OpenAI tuần này thông báo tạm dừng huấn luyện một số mô hình AI tiên tiến để bổ sung các biện pháp bảo vệ an toàn. Sau khi triển khai xong các biện pháp mới, vẫn chưa có thời điểm rõ ràng về việc khi nào hoạt động huấn luyện sẽ được nối lại.
Mia Glaese, người phụ trách công tác an toàn và căn chỉnh, cho biết: “Còn rất xa mới có thể khôi phục mọi thứ về trạng thái bình thường.”
CEO OpenAI Sam Altman nhấn mạnh: “Đảm bảo an toàn cho AI quan trọng hơn tốc độ phát triển của bất kỳ công ty nào.”
Lehane thừa nhận mối đe dọa này rất khó khiến công chúng “cảm thấy yên tâm”. Đồng thời, ông một lần nữa kêu gọi chính phủ Mỹ lập pháp về an toàn AI tiên tiến: tốc độ nâng cao năng lực tấn công mạng của các mô hình AI tiên tiến nhất và chưa được công khai hiện có thể nhanh hơn tốc độ nâng cao năng lực phòng thủ. Đây là một trong những lý do quan trọng khiến Mỹ phải xây dựng các tiêu chuẩn an toàn bắt buộc.
Lehane nói thêm: “Mô hình chỉ được phát hành hoặc triển khai cho công chúng sau khi chứng minh và bảo đảm đạt một mức độ an toàn nhất định. Tôi cho rằng trước hết Mỹ cần xây dựng một cơ chế trên toàn quốc, sau đó lấy đó làm nền tảng để thúc đẩy một cơ chế quốc tế. Cuối cùng, chúng ta thực sự cần một cấu trúc quản trị ở cấp độ quốc tế.”