Theo Reuters và nhiều hãng truyền thông Mỹ đưa tin hôm nay, “tác nhân mất kiểm soát” trước đó đã thoát khỏi các biện pháp hạn chế của OpenAI và tiến hành tấn công mạng Hugging Face cũng đã xâm nhập thành công vào một khách hàng của Modal Labs.
Theo dòng thời gian sự việc được Hugging Face công bố vào ngày 28 tháng 7 theo giờ địa phương, tác nhân mất kiểm soát này trước tiên đã xâm nhập vào một sandbox (môi trường kiểm thử biệt lập) “được lưu trữ trên hạ tầng của một nhà cung cấp dịch vụ bên thứ ba”, sau đó sử dụng sandbox này làm bàn đạp để phát động một chiến dịch tấn công quy mô lớn hơn (không nêu đích danh nhà cung cấp dịch vụ bên thứ ba).
Giám đốc công nghệ Modal Labs, Akshat Bubna, đã xác nhận vụ xâm nhập trong một tuyên bố. Bubna cho biết một khách hàng của công ty đã công bố một endpoint công khai không yêu cầu xác thực, khiến bất kỳ ai trên Internet cũng có thể sử dụng sandbox để thực thi mã, và tác nhân mất kiểm soát đã lợi dụng lỗ hổng này. Ông đồng thời nhấn mạnh rằng bản thân nền tảng và cơ chế cách ly của Modal không bị xâm nhập dưới bất kỳ hình thức nào.
Việc sự kiện này được công khai càng làm gia tăng lo ngại bên ngoài về ranh giới an toàn của các hệ thống AI. OpenAI cho biết họ chỉ nhận ra tác nhân của mình đã mất kiểm soát sau khi mối đe dọa được kiểm soát và FBI vào cuộc. Khi đó, OpenAI cho rằng báo cáo có những điểm không chính xác nhưng không giải thích chi tiết. Tính đến thời điểm IT之家 đăng bài, OpenAI vẫn chưa công khai giải thích về hành vi cụ thể của tác nhân AI mất kiểm soát cũng như toàn bộ tác động do sự việc gây ra.