Hôm nay (20/8), OpenAI đăng bài viết, công bố mở rộng dịch vụ “Zero Data Retention” (không lưu dữ liệu) dành cho khách hàng API mô hình frontier đủ điều kiện; hệ thống tự động có thể nhận diện các mẫu rủi ro xuyên tương tác.
IT之家 dẫn bài viết cho biết, OpenAI nhấn mạnh sau khi xử lý xong yêu cầu sẽ không lưu prompt hay phản hồi mô hình, nhân viên không thể xem nội dung khách hàng, và dữ liệu doanh nghiệp cũng không được dùng để huấn luyện mô hình (trừ khi khách hàng chủ động chọn tham gia).
OpenAI chỉ ra rằng khi mô hình đảm nhận các tác vụ dài hơn, phức tạp hơn, một số rủi ro an toàn nghiêm trọng có thể chỉ lộ diện sau nhiều lượt tương tác. Các hệ thống bảo mật tương thích ZDR hiện nay thường đánh giá từng tương tác riêng lẻ, nên khó nhận diện các mẫu hành vi xuyên cuộc hội thoại, xuyên tài khoản hoặc liên tục thử phá cơ chế bảo mật.
Để giải quyết vấn đề này, OpenAI ra mắt bản xem trước Private Safety Processing (xử lý an toàn riêng tư); cơ chế này dùng hệ thống tự động phân tích các mẫu rủi ro trong các tương tác liên quan, mà không để nhân viên OpenAI tiếp cận nội dung gốc.
Hệ thống này áp dụng cho nội dung trên hạ tầng do khách hàng tự kiểm soát, cũng như cho bộ lưu trữ do OpenAI cung cấp. Trong trường hợp sau, nội dung khách hàng được mã hóa bằng khóa do khách hàng kiểm soát; nhân viên OpenAI không nắm các khóa này nên không thể truy cập prompt và phản hồi gốc.
Khi hệ thống nhận diện rủi ro, OpenAI chỉ nhận tín hiệu an toàn phạm vi hạn chế, dùng để mô tả loại hoạt động liên quan và quyết định có cần biện pháp xử lý hay không.
Dù nội dung bị gắn cờ, nhân viên vẫn không thể xem nội dung khách hàng. Khách hàng có thể dùng thông tin trong hệ thống của mình để điều tra cảnh báo và quyết định xử lý; nếu cần khiếu nại, giải thích hoạt động hợp pháp, hoặc hỗ trợ xác minh hành vi lạm dụng đã được xác nhận, khách hàng có thể tự chọn cung cấp thông tin liên quan cho OpenAI.
OpenAI cho biết Private Safety Processing hiện đang được thử nghiệm với khách hàng sớm. Công ty dự kiến bắt đầu triển khai năng lực này vào tháng 9 và phát hành sách trắng kỹ thuật. OpenAI nêu rằng sau này sẽ thông báo trước cho khách hàng về nội dung cập nhật, tác động tới các cam kết hiện có, cũng như thời gian và hỗ trợ cần thiết để khách hàng lập kế hoạch.