Anthropic muốn giúp văn bản do AI tạo ra dễ được nhận diện hơn, nhưng một số nhà phát triển phần mềm đã bắt đầu xây dựng các công cụ chuyên dụng để xóa những dấu hiệu này.
Công ty AI này cho biết vào tuần trước rằng văn bản do một số mô hình Claude tạo ra sẽ chứa một loại “watermark không thể nhận biết”. Vì watermark được hình thành thông qua một mô hình thống kê trong cách Claude lựa chọn từ ngữ, nên ngay cả khi người dùng sao chép và dán văn bản, watermark vẫn được giữ lại.
Một số người cho rằng watermark AI có thể nâng cao tính minh bạch của nội dung và là một sáng kiến đáng hoan nghênh. Tuy nhiên, cách làm này cũng khiến những người trong ngành công nghệ lo ngại: ngay cả khi người dùng chỉ sử dụng Claude để hiệu đính, dịch hoặc tóm tắt văn bản, các dấu hiệu liên quan vẫn có thể lan truyền cùng nội dung cuối cùng. Trước đó, một số người dùng nói với Business Insider rằng họ đã hủy đăng ký Claude vì lý do này.
Phản ứng này cũng thúc đẩy một số người tìm cách vượt qua watermark. Tại Mỹ, lượt tìm kiếm “AI watermark remover” (công cụ gỡ watermark AI) trên Google Trends đã tăng 60% so với tháng trước. Một số nhà phát triển và doanh nhân thậm chí bắt đầu tự xây dựng công cụ để xóa watermark AI khỏi văn bản và tệp.
Anthropic cho biết việc đưa vào watermark nhằm thực hiện các cam kết liên quan theo Đạo luật Trí tuệ nhân tạo của Liên minh châu Âu (AI Act).
Guillaume Meyer, một doanh nhân công nghệ đến từ Paris và là nhà sáng lập công cụ thương mại điện tử AI Memo, đã phát hành một dự án mã nguồn mở có tên “Watermarks Remover” chỉ vài ngày sau khi Anthropic công bố kế hoạch này.
Meyer cho biết công cụ này sẽ xóa các ký tự ẩn và siêu dữ liệu, sau đó viết lại văn bản trong khi vẫn giữ nguyên ý nghĩa ban đầu, qua đó phá vỡ mô hình lựa chọn từ ngữ mang tính thống kê có thể chứa watermark.
Ông tiết lộ phiên bản đầu tiên của công cụ mất khoảng 5 giờ để hoàn thành. Hiện dự án đã nhận được hơn 1,4 vạn lượt Star trên GitHub, một chỉ số đo mức độ phổ biến của các dự án trong cộng đồng nhà phát triển, tương tự “lượt thích” trên mạng xã hội. Tuy nhiên, công cụ này không thể đảm bảo sẽ gỡ watermark hoàn toàn.
Meyer nói với Business Insider: “Tôi hoàn toàn ủng hộ việc ghi rõ nguồn gốc nội dung, nhưng phản đối công nghệ watermark này. Đây là hai chuyện rất khác nhau.”
Meyer cho rằng vấn đề nằm ở chỗ công nghệ watermark “coi danh tính tác giả là một vấn đề trắng đen”. Nếu AI được dùng để tạo hoàn toàn một đoạn văn bản, hệ thống có thể để lại watermark, nhưng ngay cả khi người dùng chỉ sử dụng AI để chỉnh sửa nhẹ, watermark vẫn có thể xuất hiện.
Anthropic lại cho biết trong một bài đăng trên blog rằng watermark của họ không nhằm xác định tác giả nội dung.
Về việc thêm watermark vào văn bản do AI tạo ra, Meyer nhận xét: “Tôi cho rằng đây là giải pháp sai cho một vấn đề có thật.”
Meyer không phải là người duy nhất tìm cách giải quyết vấn đề watermark AI.
Trong tuần này, Sabrina Ramonov, người cung cấp dịch vụ giáo dục AI cho các doanh nhân, cho biết trên X rằng cô đã phát triển một công cụ “Watermark Remover” miễn phí chạy trên trình duyệt. Công cụ này tuyên bố có thể “xóa các dấu hiệu AI ẩn” khỏi văn bản, PDF, tài liệu Word, trang web, hình ảnh và tệp dữ liệu.
Trong khi đó, nhà phát triển phần mềm sống tại Tokyo Ansh Aneja cho biết ông đã phát triển một công cụ gỡ watermark dành riêng cho Claude ngay trong ngày Anthropic công bố tính năng này. Sau đó, ông tiếp tục phát hành phiên bản mã nguồn mở chạy cục bộ có tên MarkScrub.
Aneja cho biết trên X vào tuần trước rằng chỉ trong một ngày, công cụ đã tăng từ 0 lên 8500 người dùng. Tuy nhiên, Business Insider không thể độc lập xác minh con số này.
Các dự án này hiện vẫn đang ở giai đoạn đầu và Business Insider cũng không thể độc lập đánh giá hiệu quả thực tế của chúng. Những công ty khác, trong đó có Google và OpenAI, cũng sử dụng watermark trong các nội dung như hình ảnh, đồng thời hiện đã có rất nhiều công cụ tuyên bố có thể xóa các watermark này.
Tuy nhiên, Thibaud Gloaguen, nhà nghiên cứu tại Phòng thí nghiệm Hệ thống An toàn, Đáng tin cậy và Thông minh của ETH Zurich, cho rằng những công cụ này một lần nữa cho thấy các hạn chế tồn tại từ lâu của công nghệ watermark.
Ông nói với Business Insider: “Luôn có cách để xóa watermark.” Ông lấy ví dụ rằng người dùng có thể diễn đạt lại toàn bộ văn bản, qua đó phá vỡ mô hình watermark ban đầu.
Các công cụ gỡ watermark AI hiện nằm trong vùng xám về pháp lý. Liên minh châu Âu yêu cầu các công ty AI thêm dấu hiệu lâu bền vào nội dung được tạo ra, nhưng chưa quy định rõ liệu bên thứ ba có được chủ động xóa các dấu hiệu này hay không.
Một phát ngôn viên của Ủy ban châu Âu nói với Business Insider rằng các hướng dẫn liên quan của EU yêu cầu hệ thống gắn nhãn nội dung của các nhà cung cấp dịch vụ AI có khả năng chống lại những phương thức chỉnh sửa phổ biến cũng như các thao tác đối kháng nhằm vào hệ thống gắn nhãn.
Phát ngôn viên này cũng cho biết các quy định minh bạch của EU nêu rõ việc xóa, tạo lại, sao chép và chỉnh sửa đều là những mối đe dọa tiềm ẩn mà các nhà cung cấp dịch vụ AI cần đánh giá.
Tuy nhiên, các yêu cầu này áp dụng cho các nhà cung cấp dịch vụ AI. Dmitri Roussinov, giảng viên cao cấp tại Khoa Khoa học Máy tính và Thông tin của Đại học Strathclyde, cho biết AI Act không cấm rõ ràng bên thứ ba thử xóa watermark AI.
Nhưng ông nói với Business Insider rằng nếu bản thân công cụ gỡ watermark sử dụng AI để tạo lại văn bản, nhà cung cấp công cụ đó có thể cũng phải gắn nhãn tương ứng cho nội dung AI được tạo lại theo luật EU.
Konrad Kollnig, phó giáo sư tại Phòng thí nghiệm Luật và Công nghệ của Đại học Maastricht, cho rằng hiện dường như cả AI Act của EU lẫn điều khoản dịch vụ của Anthropic đều không cấm mọi người phát triển hoặc chia sẻ công cụ gỡ watermark AI.
Tuy nhiên, nếu người dùng sử dụng những công cụ này để ngụy trang nội dung do AI tạo ra thành tác phẩm của con người, họ có thể gặp vấn đề. Chính sách sử dụng của Anthropic cấm người dùng mạo danh con người bằng cách tuyên bố kết quả do mô hình tạo ra là nội dung do con người tạo ra.
Vấn đề này có thể trở nên nổi bật hơn khi Anthropic dự định ra mắt API phát hiện văn bản cùng thời điểm phát hành thế hệ mô hình tiếp theo. Hiện Anthropic chưa công bố thời điểm ra mắt cụ thể. Watermark sẽ áp dụng cho các mô hình mới được phát hành từ ngày 2 tháng 8 trở đi, đồng thời Anthropic cũng có kế hoạch từng bước áp dụng tính năng này cho các mô hình cũ.
Kollnig nói: “Tất cả các công nghệ watermark này đều có một vấn đề lớn chung: một khi công cụ phát hiện watermark được công khai, bất kỳ ai cũng có thể dùng bộ phát hiện để kiểm tra nội dung do AI tạo ra, bao gồm văn bản và video, rồi tiếp tục phát triển công cụ dùng để xóa watermark.”