Thứ Hai ngày 5/10, OpenAI thông báo áp dụng watermark văn bản qua một bài đăng trên blog. Watermark là cơ chế cài vào văn bản do AI viết một dấu hiệu mà mắt người không nhận ra, để sau này xác định văn bản đó có xuất phát từ AI hay không. Đối tượng áp dụng là văn bản do ChatGPT và Codex tạo ra, và dấu hiệu chỉ được gắn trên màn hình của người dùng EU. Bên ngoài châu Âu, tính năng này bị tắt.
Mục đích công ty nêu ra là tuân thủ Đạo luật AI của EU. Đạo luật AI là luật do Liên minh châu Âu ban hành, quy định các nghĩa vụ mà doanh nghiệp cung cấp dịch vụ AI phải thực hiện, trong đó các quy định về minh bạch có hiệu lực từ ngày 2/8. Đây là động thái ứng phó sau hơn hai tháng.
OpenAI đặt tên cho công nghệ này là textGrain. Công ty khẳng định textGrain có hiệu năng ngang bằng hoặc vượt các watermark văn bản khác như SynthID của Google DeepMind, nhưng không công bố chỉ số hay kết quả dùng để so sánh. Công ty cho biết cũng đã bắt đầu phát hành hạn chế công nghệ phát hiện dùng để đọc dấu hiệu. Hiệu năng là đánh giá do công ty tự đưa ra.
Điểm yếu do chính công ty nêu ra. OpenAI giải thích rằng nếu con người chỉnh sửa văn bản được tạo ra thì watermark có thể khó bị phát hiện. Với bài tập và báo cáo, nơi việc trau chuốt lại đoạn văn là chuyện thường gặp, điểm yếu này chính là giới hạn về tính hữu dụng.
Phạm vi áp dụng cũng do công ty tự vạch ra. OpenAI cho biết không dùng textGrain làm mặc định trên toàn cầu, và nêu lý do bật theo từng khu vực là để có thêm cơ hội học hỏi từ việc sử dụng thực tế và phản hồi. Dù nhập cùng một yêu cầu, câu trả lời nhận được ở Berlin có chứa dấu hiệu, còn câu trả lời nhận được ở Seoul thì không. Khó có thể xem đây là cơ chế được bật khi công nghệ đã hoàn thiện.
Phạm vi áp dụng được xác định theo khu vực mà luật có hiệu lực.
Vì OpenAI dùng cách diễn đạt 'ban đầu' chỉ áp dụng ở EU, khả năng mở rộng sang các khu vực khác vẫn còn bỏ ngỏ. Công ty không đề cập việc sẽ mở rộng khi nào và với điều kiện gì. Anthropic cũng đang chèn watermark vô hình theo quy định của EU.
Bản báo cáo mà một trợ giảng đại học ở Brussels nhận được có thể ẩn chứa dấu hiệu vô hình. Bản báo cáo mà trợ giảng ở Busan nhận được thì không có. Dù cùng là văn bản viết bằng ChatGPT, dấu vết có thể còn lại hoặc biến mất tùy vào nơi viết, nên người viết bằng AI nên biết văn bản của mình tuân theo quy định của khu vực nào.
