Tuần này, OpenAI đã ra mắt phiên bản ChatGPT dành cho thanh thiếu niên, hướng đến người dùng trẻ và hạn chế một số tính năng thông qua cơ chế nhận diện độ tuổi.
Về vấn đề này, hãng truyền thông Engadget đã phỏng vấn nhiều chuyên gia an toàn trẻ em. Đánh giá của họ về phiên bản ChatGPT dành cho thanh thiếu niên không hoàn toàn giống nhau. Tuy nhiên, tất cả đều cho rằng hệ thống này cần trải qua nhiều cuộc kiểm thử độc lập trước khi được giới thiệu cho phụ huynh và người trẻ, đồng thời OpenAI phải minh bạch hơn về cách thức vận hành của các cơ chế an toàn.
Robbie Torney, người phụ trách AI và đánh giá kỹ thuật số tại Common Sense Media, công ty cung cấp khuyến nghị về sản phẩm giải trí và công nghệ cho gia đình, nhận định: “OpenAI đã đưa ra một số cam kết rất quan trọng lần này, nhưng phải đưa ra bằng chứng để chứng minh những cam kết và tính năng an toàn đó thực sự hiệu quả.”
Josh Golin, giám đốc điều hành tổ chức Sáng kiến An toàn Trẻ em trên Internet Fairplay, có thái độ cứng rắn hơn: “Trên giấy tờ, một số biện pháp được OpenAI công bố quả thực có vẻ đang đi đúng hướng, nhưng khi tìm hiểu sâu hơn, vẫn còn rất nhiều điều đáng lo ngại, trong đó có việc không có cơ chế chịu trách nhiệm. Mạng xã hội đã cho thấy rằng chỉ tin tưởng doanh nghiệp là không đủ để bảo vệ trẻ em, và OpenAI cũng từng gặp vấn đề tương tự. Trước đó, OpenAI vốn đã có các hạn chế nội dung liên quan đến tự sát, bạo lực và sử dụng ma túy, nhưng những hạn chế này либо không có tác dụng, либо dần mất hiệu lực theo thời gian.”
Cả hai đều nghi ngờ liệu hệ thống nhận diện độ tuổi tự động của OpenAI có thể ổn định nhận diện thanh thiếu niên và chuyển sang phiên bản ChatGPT dành cho thanh thiếu niên hay không. Torney chỉ ra: “OpenAI chưa công bố dữ liệu hiệu quả của hệ thống này; tỷ lệ báo nhầm và bỏ sót đều chưa được biết. Hệ thống tự động chắc chắn không thể nhận diện tất cả thanh thiếu niên trên ChatGPT. Nhìn lại kế hoạch trước đây của OpenAI về việc ra mắt một số tính năng nội dung khiêu dâm, từng có thông tin cho rằng một trong những lý do cuối cùng tính năng này không được triển khai là công nghệ ước tính độ tuổi không thể nhận diện chính xác đủ số lượng thanh thiếu niên.”
Torney cũng cho rằng thanh thiếu niên gần như chắc chắn sẽ tìm cách vượt qua cơ chế nhận diện độ tuổi và tìm ra những phương pháp né tránh khó lường hơn.
Cam kết cụ thể nhất của OpenAI lại chính là điều mà các chuyên gia nghi ngờ nhất về khả năng thực hiện. Lauren Jonas, người phụ trách các vấn đề về thanh thiếu niên và gia đình tại OpenAI, từng phản hồi: “Tất cả nội dung bị đánh dấu sẽ trước tiên được nhân viên toàn thời gian của OpenAI xem xét, sau đó phụ huynh mới được thông báo. Mục tiêu của chúng tôi là thông báo cho phụ huynh trong vòng một giờ kể từ khi người dùng gửi lời nhắc.”
Bà cũng khẳng định rõ rằng OpenAI thực sự có đủ nhân lực và năng lực xử lý để bảo đảm mọi nội dung bị đánh dấu đều được con người xem xét và phụ huynh được thông báo trong vòng một giờ.
Torney đặt câu hỏi: “Quy trình này vẫn phụ thuộc vào quyết định tự động. Vậy câu hỏi đặt ra là: bộ phân loại tự động chịu trách nhiệm sàng lọc nội dung rồi chuyển nội dung cho nhân viên kiểm duyệt, liệu có thực sự đáng tin cậy hay không?”
Golin cũng cho biết: “Tôi muốn thấy những dữ liệu cụ thể, chẳng hạn mỗi ngày có bao nhiêu cuộc trò chuyện bị đánh dấu và được xem xét, có bao nhiêu người phụ trách kiểm duyệt, và trung bình mỗi lần xem xét mất bao lâu. Thật khó tưởng tượng OpenAI đã tuyển đủ người và có thể nghiêm túc kiểm tra từng cuộc trò chuyện có khả năng nguy hiểm.”
Ba chuyên gia cũng nhất trí rằng cơ chế yêu cầu phụ huynh và trẻ em chủ động liên kết tài khoản ChatGPT làm suy giảm hiệu quả thực tế của tính năng này. Golin chỉ ra: “Phần lớn phụ huynh hoàn toàn sẽ không sử dụng công cụ giám sát của phụ huynh. Một trong những lý do là các công cụ này thường được thiết kế để khó tìm thấy và khó thao tác.”
Ông cho rằng cách hiệu quả hơn là bật mặc định và tích hợp cơ chế bảo vệ ngay từ giai đoạn thiết kế sản phẩm: “Ngay từ đầu hãy áp dụng các cài đặt bảo vệ nghiêm ngặt nhất, chẳng hạn mặc định đặt giới hạn thời gian sử dụng, sau đó để phụ huynh quyết định có sửa đổi hay không, thay vì giao trách nhiệm cho phụ huynh và yêu cầu họ tự thiết lập các giới hạn.”