오픈AI가 10월 5일 월요일 블로그 글로 텍스트 워터마크 도입을 알렸다. 워터마크는 AI가 쓴 글에 사람 눈에 띄지 않는 표식을 심어 두었다가, 나중에 그 글이 AI에서 나왔는지 가려내게 하는 장치다. 대상은 ChatGPT와 Codex가 만든 텍스트이고, 표식이 붙는 곳은 EU 이용자의 화면으로 한정된다. 유럽 밖에서는 꺼져 있다.
회사가 밝힌 목적은 EU AI법 준수다. AI법은 유럽연합이 AI 서비스 사업자에게 지킬 의무를 정해 둔 법으로, 그중 투명성 규정은 8월 2일 시행됐다. 두 달 남짓 만의 대응이다.
오픈AI는 이 기술에 textGrain이라는 이름을 붙였다. 회사는 textGrain이 구글 딥마인드의 SynthID 같은 다른 텍스트 워터마크와 견줘 성능이 같거나 앞선다고 주장했는데, 비교에 쓴 지표나 결과값은 내놓지 않았다. 표식을 읽어 내는 탐지 기술도 제한적으로 풀기 시작했다고 밝혔다. 성능은 회사가 스스로 매긴 평가다.
약점은 회사가 직접 밝혔다. 오픈AI는 생성된 글을 사람이 손봐 고치면 워터마크가 잘 잡히지 않을 수 있다고 설명했다. 문단을 다시 다듬는 일이 흔한 과제와 보고서에서는 이 약점이 곧 쓸모의 경계가 된다.
적용 범위도 회사가 스스로 그었다. 오픈AI는 textGrain을 전 세계 기본값으로 쓰지 않는다며, 지역별로 나눠 켜는 까닭으로 실제 사용과 피드백에서 배울 여지를 들었다. 같은 요청을 넣어도 베를린에서 받은 답에는 표식이 들어가고, 서울에서 받은 답에는 들어가지 않는다. 기술이 다 여물어서 켠 장치로 보기는 어렵다.
적용 범위는 법이 미치는 지역을 따라 정해졌다.
오픈AI가 '처음에는' EU에서만 적용한다고 표현한 만큼 다른 지역으로 넓힐 여지는 남아 있다. 언제, 어떤 조건에서 넓힐지에 대해 회사는 말을 꺼내지 않았다. 앤트로픽도 EU 규정에 맞춰 보이지 않는 워터마크를 넣고 있다.
브뤼셀의 대학 조교가 받아 든 리포트에는 보이지 않는 표식이 숨어 있을 수 있다. 부산의 조교가 받은 리포트에는 없다. 같은 ChatGPT로 쓴 글이라도 어디서 썼느냐에 따라 흔적이 남기도 하고 사라지기도 하니, AI로 글을 쓰는 사람이라면 내 글이 어느 지역 규칙을 따르는지 알아 두는 편이 낫다.
