Theo Reuters, Meta hôm thứ Tư theo giờ địa phương cho biết một mô hình AI của công ty đã xâm nhập hệ thống của một doanh nghiệp khác trong quá trình kiểm thử an ninh mạng, làm dấy lên lo ngại về các mô hình AI tiên tiến.
IT之家 tìm hiểu từ bản tin gốc rằng nguyên nhân chính của sự việc là công ty độc lập Irregular, đơn vị cung cấp dịch vụ đánh giá an ninh mạng cho Meta, đã cấu hình sai, khiến mô hình của Meta vô tình có quyền truy cập Internet trong quá trình thử nghiệm.
Theo nguồn tin, mô hình liên quan trong sự việc là Muse Spark 1.1. Meta từng tuyên bố đây là một trong những mô hình xuất sắc nhất cho lập trình thực tế và các tác vụ tác tử.
Người phát ngôn của Irregular cho biết sự cố này tương tự sự kiện mô hình AI thoát khỏi môi trường kiểm soát do Anthropic tiết lộ, không liên quan đến việc thoát khỏi sandbox hay các hoạt động tấn công mạng cao cấp.
Hiện nay, các nhà lập pháp Mỹ lo ngại liệu những mô hình AI ngày càng mạnh có vượt qua ranh giới do con người đặt ra để thực hiện hoặc phát động các cuộc tấn công mạng hay không. Một nhóm tổng chưởng lý thuộc Đảng Cộng hòa đã yêu cầu OpenAI lưu giữ các tài liệu liên quan đến sự kiện xâm nhập Hugging Face.