Theo The Guardian, tác giả của một báo cáo về việc thử nghiệm công nghệ liên quan đến lệnh cấm mạng xã hội tại Úc đã thừa nhận sử dụng ChatGPT trong quá trình biên tập, nhưng phủ nhận nhiều lỗi trích dẫn trong báo cáo là do “ảo giác” của trí tuệ nhân tạo gây ra.
Cuộc thử nghiệm công nghệ xác minh độ tuổi trị giá 3,48 triệu AUD (lưu ý: theo tỷ giá hiện tại tương đương khoảng 16,629 triệu nhân dân tệ) được Age Check Certification Scheme (ACCS), có trụ sở tại Anh, thực hiện vào năm ngoái. Mục tiêu chính là thử nghiệm nhiều công nghệ có thể được các nền tảng mạng xã hội sử dụng để thực thi lệnh cấm người dùng dưới 16 tuổi sử dụng mạng xã hội tại Úc.
Bộ trưởng Truyền thông Úc Anika Wells từng đánh giá cao báo cáo này, cho rằng báo cáo đưa ra “nhiều lựa chọn hiệu quả” và mở đường cho lệnh cấm mạng xã hội chính thức có hiệu lực vào tháng 12 năm ngoái.
Phần lớn nội dung báo cáo đến từ các thử nghiệm thực tế của tác giả đối với nhiều công nghệ xác minh độ tuổi hiện có. Tuy nhiên, một chương riêng thảo luận về “công nghệ mới nổi” và trích dẫn nhiều bài nghiên cứu học thuật để giới thiệu một số phương pháp mới có thể được dùng trong tương lai nhằm xác minh độ tuổi.
Thượng viện Úc hiện đang tiến hành một cuộc điều tra nhằm tiếp tục tăng cường luật liên quan đến lệnh cấm mạng xã hội. Trong quá trình điều tra, có người đã nộp tài liệu chỉ ra rằng báo cáo này có ít nhất hai lỗi trích dẫn. Tài liệu cho rằng những trích dẫn này “dường như do ảo giác của AI tạo ra, thay vì dựa trên nguồn có thật”.
Trong tháng này, khi The Guardian Australia hỏi ACCS về vấn đề trên, người phát ngôn của tổ chức ban đầu phủ nhận việc báo cáo sử dụng trí tuệ nhân tạo, nhưng sau đó thừa nhận nhóm đã dùng AI để viết lại một số đoạn văn nhằm diễn đạt ngắn gọn hơn.
Người phát ngôn cho biết: “Chúng tôi không sử dụng AI để tạo ra báo cáo hoặc các tài liệu được trích dẫn trong đó… Mọi tài liệu đều đã được kiểm tra để xác nhận rằng các liên kết và báo cáo thực sự tồn tại, đồng thời liên quan đến vấn đề cụ thể được trích dẫn.”
Tuy nhiên, sau khi tự phân tích báo cáo, The Guardian Australia phát hiện chỉ trong cùng một chương đã có 6 tài liệu tham khảo bị lỗi.
Những lỗi này bao gồm: một số liên kết mã định danh đối tượng số (DOI, tức một chuỗi chữ cái và chữ số duy nhất tương ứng với một bài nghiên cứu học thuật cụ thể) dẫn đến các bài nghiên cứu hoàn toàn không tồn tại; một số DOI trỏ đến bài nghiên cứu sai; tổ hợp tên tác giả, tên tạp chí và năm xuất bản không tương ứng với bất kỳ tài liệu nào được biết đến; ngoài ra, một số liên kết DOI dẫn đến các bài nghiên cứu không đưa ra kết luận như báo cáo nêu.
Sau đó, người phát ngôn này giải thích thêm về các nghiên cứu mà ACCS dựa vào và cung cấp những tài liệu tham khảo mới, nhưng câu trả lời lần này cũng có lỗi.
Trong danh sách các bài nghiên cứu học thuật do ACCS cung cấp để sửa các trích dẫn ban đầu của báo cáo, năm xuất bản, tác giả và tên tạp chí của một số bài không trùng khớp với các trích dẫn được liệt kê trong báo cáo ban đầu.
Một bài nghiên cứu được ACCS trích dẫn được cho là đã được truy cập vào tháng 3 năm 2025. Tuy nhiên, một tác giả chính của nghiên cứu xác nhận với The Guardian rằng bài này chỉ được công khai sau khi chính thức xuất bản vào tháng 6 năm 2025. Người này cũng xác nhận “Jamil”, được ACCS ban đầu liệt kê là tác giả chính của bài nghiên cứu, chưa từng tham gia nghiên cứu, đồng thời báo cáo của ACCS đã tóm tắt sai nội dung bài viết.
Đối với tài liệu tham khảo “Weber et al. 2011” không thể tìm thấy trong tạp chí được trích dẫn, người phát ngôn giải thích thêm rằng tài liệu này từng được một nghiên cứu của Đại học Monash trích dẫn và cung cấp nghiên cứu đó cho The Guardian. Tuy nhiên, trong bài nghiên cứu của Đại học Monash do ACCS cung cấp không có tài liệu tham khảo nào mang tên Weber.
Chỉ sau khi The Guardian phát hiện 4 liên kết trong phần E và phần K của báo cáo chứa siêu dữ liệu cho thấy nguồn của các liên kết là ChatGPT, người phát ngôn mới thừa nhận báo cáo thực sự đã sử dụng AI.
Người phát ngôn này vẫn cho rằng do các liên kết còn giữ siêu dữ liệu của ChatGPT nên tổ chức thực tế đã công khai việc sử dụng AI, hơn nữa bản thân các liên kết đều chính xác, vì vậy họ không cho rằng đây là vấn đề.
Ông cho biết AI chỉ được sử dụng để giúp một số đoạn văn diễn đạt ngắn gọn hơn, không được dùng để tiến hành nghiên cứu ban đầu và cũng không được dùng để tạo ra báo cáo.
“Tất cả liên kết đều đã được kiểm tra và xác minh. Nếu trong đó có lỗi ngoài ý muốn, tôi xin lỗi, nhưng toàn bộ quy trình xác minh đều do con người thực hiện.”
Trước đây, Chính phủ Liên bang Úc từng có thái độ tiêu cực trước việc các nhà thầu sử dụng AI khi viết báo cáo cho chính phủ. Năm ngoái, Deloitte đã phải hoàn trả một phần khoản tiền 440.000 AUD trong hợp đồng (theo tỷ giá hiện tại tương đương khoảng 2,103 triệu nhân dân tệ) do báo cáo xuất hiện lỗi; công ty tư vấn này cũng thừa nhận từng sử dụng AI.
Những câu hỏi mà The Guardian gửi đến văn phòng của Wells sau đó được chuyển đến bộ phận phụ trách. Một người phát ngôn của bộ phận này cho biết vào thứ Sáu tuần trước: “Bộ đang xem xét các vấn đề nêu trên và sẽ trao đổi với ACCS khi thích hợp.”
Tại phiên điều trần của cuộc điều tra Thượng viện diễn ra vào thứ Sáu tuần trước theo giờ địa phương, các quan chức bộ phận liên quan cho biết họ đã gặp ACCS. ACCS tuyên bố các lỗi trong báo cáo là do một số liên kết vốn có thể truy cập bình thường sau đó đã bị hỏng. Tuy nhiên, các quan chức liên quan chưa độc lập xác minh tuyên bố này và cho biết việc quay lại kiểm tra các liên kết đó là “rất khó”.
Các quan chức cho biết trong một báo cáo dài 1000 trang, phần nội dung liên quan đến trích dẫn chỉ có 26 trang và chỉ xuất hiện “một số ít lỗi”.
Trợ lý thứ nhất của Bộ trưởng, Sarah Vandenbroek, cho biết: “ACCS đảm bảo với chúng tôi rằng khi tài liệu được công bố, tất cả liên kết đều đã được kiểm tra và có thể truy cập bình thường. Vì vậy, có thể đã có một số thay đổi trong thời gian đó. Họ cũng đảm bảo với chúng tôi rằng ngay cả khi một số liên kết đã hỏng, các tài liệu gốc liên quan vẫn tồn tại và những trích dẫn này vẫn có hiệu lực.”
Christian Downie, giáo sư tại Trường Quản lý và Quản trị Toàn cầu thuộc Đại học Quốc gia Úc, trước đây từng nghiên cứu các tài liệu đệ trình có nội dung ảo giác AI mà chính phủ nhận được. Ông cho rằng nếu các báo cáo hoặc tài liệu đệ trình mà chính phủ nhận được bị phát hiện có trích dẫn giả, bất kể những lỗi này có phải do AI gây ra hay không, chúng đều có thể khiến chính phủ đưa ra quyết định sai lầm và “làm suy yếu niềm tin cũng như sự tín nhiệm của công chúng đối với các cơ quan chính phủ”.
Ông nói: “Mọi người nên cho rằng chính phủ đã xem xét vấn đề này. Trong tương lai, có thể cần ngăn chặn những hành vi tương tự thông qua các điều khoản hợp đồng và biện pháp xử phạt tương ứng.”
Thượng nghị sĩ độc lập Fatima Payman cho biết: “Lùm xùm do báo cáo đầy rác AI của Deloitte gây ra năm ngoái đáng lẽ phải chấm dứt hoàn toàn việc các nhà thầu chính phủ tùy tiện trích dẫn tài liệu trong báo cáo.” Bà nói: “Chính phủ phải yêu cầu nhà thầu chịu trách nhiệm về báo cáo này xin lỗi và hoàn tiền.”