Về sau, muốn để Claude đóng vai “người viết thuê” từ tiểu thuyết đến bài tập e rằng sẽ khó hơn nhiều.
Vào thứ Hai theo giờ địa phương, Anthropic công bố rằng các mô hình Claude phiên bản mới sẽ nhúng trực tiếp một loại “watermark không thể nhận thấy” vào văn bản do AI tạo ra. Anthropic cho biết watermark này sẽ không thay đổi ý nghĩa hay khả năng đọc của văn bản; ngay cả khi người dùng sao chép, dán văn bản, watermark vẫn được giữ lại và “vẫn có thể tồn tại sau khi chỉnh sửa một phần”.
Cái gọi là watermark là họa tiết hoặc chữ màu nhạt được nhúng vào ảnh hoặc tài liệu số, thường dùng để chứng minh nguồn gốc tác phẩm và ngăn nội dung bị sao chép hay chiếm đoạt.
Anthropic cho biết động thái này là một phần trong cam kết tăng cường tính minh bạch theo Đạo luật Trí tuệ nhân tạo của Liên minh châu Âu. Các mô hình Claude mới phát hành vào ngày 2 tháng 8 hoặc sau đó sẽ hỗ trợ chức năng đánh dấu này ngay từ khi ra mắt, và Anthropic hiện cũng đang nỗ lực bổ sung tính năng này cho các mô hình cũ. Watermark sẽ áp dụng cho nội dung do Claude tạo ra trên toàn cầu, bao gồm cả nội dung phát sinh khi sử dụng Claude qua các nhà cung cấp dịch vụ đám mây. Anthropic còn có kế hoạch cung cấp cho bên thứ ba các công cụ phát hiện những watermark này.
Công nghệ watermark văn bản AI có thể trở thành một bước ngoặt quan trọng đối với ngành xuất bản. Trong những năm gần đây, ngành xuất bản luôn nỗ lực ứng phó với những thách thức do nội dung do AI tạo ra.
Tháng trước, một đại lý sách đã rút lại sự hỗ trợ đại diện cho cuốn tiểu thuyết tội phạm ăn khách “Call Me, I'll Hide the Body” sau khi có người đặt nghi vấn rằng tác giả có thể đã dùng AI. Cuốn sách trước đó từng thu hút 14 nhà xuất bản đấu giá bản quyền và giao dịch đã hoàn tất, sau đó đại lý mới xin lỗi về sự việc. Tác giả Jerry Falade phủ nhận đã dùng AI để sáng tác cuốn tiểu thuyết này.
Đầu năm nay, nhà xuất bản Hachette cũng đã gỡ bỏ tiểu thuyết kinh dị “Shy Girl” của nhà văn Mia Ballard vì bị cáo buộc chứa nội dung do AI tạo ra. Ballard nói với The New York Times rằng cô không dùng AI để sáng tác cuốn sách này, và cho biết một biên tập viên tự do đã thêm nội dung do AI tạo ra mà không thông báo trực tiếp cho cô.
Tính năng watermark mới của Claude có thể cung cấp thêm một phương tiện để nhà xuất bản, trường học và đại học điều tra các sự việc tương tự, đồng thời khiến việc giả mạo văn bản do AI tạo ra thành tác phẩm của chính mình trở nên khó hơn.
Tuy nhiên, công nghệ này vẫn còn một số lỗ hổng. Anthropic cho biết việc sửa đổi, viết lại, dịch nội dung do Claude tạo ra ở mức độ lớn, hoặc trộn lẫn với văn bản khác, đều có thể khiến watermark không bị phát hiện. Ngoài ra, ngay cả khi phát hiện được watermark, cũng không chứng minh được Claude ban đầu chính là tác giả của đoạn văn đó, vì chỉ cần dùng Claude để hiệu đính hoặc dịch cũng có thể để lại dấu vết watermark.
Anthropic là phòng thí nghiệm AI lớn thứ hai đưa ra công nghệ watermark văn bản. Năm 2024, Google DeepMind thuộc Google công bố sẽ dùng công nghệ SynthID để gắn watermark cho văn bản và video do ứng dụng Gemini và phiên bản web tạo ra. Công ty này trước đó đã ra mắt tính năng watermark cho ảnh do AI tạo ra vào năm 2023.