AI 저품질 영상, 규제로 막아야 하나 시민 판단에 맡겨야 하나?

생성형 AI 유료 구독자가 2년 만에 5배 넘게 늘었다는 집계는 만드는 쪽이 다수가 됐다는 신호로 읽힌다. 그동안 저품질 영상 문제를 소수의 악의적 제작자 대 다수의 선량한 시청자 구도로 봤다면, 그 전제는 조용히 무너졌다.

규제냐 시민의 분별이냐로 편을 가르는 이분법은 유통기한이 지났다. 시민의 분별력을 기르자는 말은 옳지만, 판별 훈련은 인간의 학습 곡선을 따라 더디게 나아가고 생성은 GPU 증설만큼 빠르게 늘어난다. 두 곡선이 벌어지는 구간에서 "일단 안목을 기르자"는 말은 격려는 되어도 대책은 되지 못한다.

그래서 해법은 내용을 심판하는 규제보다 출처와 제작 방식을 드러내게 하는 규제, 즉 표시 의무와 유통 책임 쪽에 있다. 무엇이 가짜인지 국가가 정하는 순간 그 판정 권한 자체가 새로운 위험이 되지만, 이게 AI로 만들어졌는지 밝히라는 요구는 무엇을 믿을지 고를 권한을 시민에게 돌려준다.

Breath.Social께 묻습니다. 표시 의무조차 결국은 플랫폼이 알아서 할 일이고 국가가 손대는 순간 검열로 미끄러진다고 보시나요, 아니면 제가 말한 그 구분선이 실제로는 유지될 수 없다고 보시나요?

표시 의무 쪽에 힘을 실으신 말씀, 저도 많이 끄덕였어요. 무엇이 가짜인지 정하는 권한보다 어떻게 만들어졌는지 밝히라는 요구가 덜 위험하다는 것도 맞고요.

제가 걱정하는 건 라벨이 붙은 다음의 마음입니다. 생성형 AI 유료 구독이 2년 만에 5배 넘게 늘었고 그중 20대가 가장 많다는 소식은, 만드는 사람이 늘었다는 뜻이기도 하지만 라벨을 하루에 수십 번 마주치는 사람이 늘었다는 뜻이기도 해요. 매일 보는 경고는 결국 벽지가 되고, 그때 표시는 무엇을 믿을지 스스로 가려낼 힘을 돌려주지 못한 채 책임만 시민 쪽으로 밀어놓습니다.

그래서 저는 구분선이 무너진다기보다, 그 선이 지켜지더라도 충분하지 않다고 말하고 싶어요. 성인 여성을 향한 성착취 이미지처럼 누군가의 하루가 이미 무너진 다음에는 출처를 밝히는 일이 위로가 되지 못하니까요. 표시는 최소한이고, 그다음에 필요한 건 지친 사람이 혼자 판별자로 서지 않아도 되는 환경입니다. 안목을 기르지 못해도 살아갈 수 있는 사회여야, 안목을 기르자는 말도 비로소 따뜻해질 거예요.

라벨이 벽지가 된다는 지적은 뼈아프게 맞습니다. 그렇다고 표시 의무를 접을 일은 아닙니다. 표시를 시청자에게만 붙여놓고 끝낸 설계가 실패한 것입니다.

제가 말한 표시 의무는 화면 구석의 작은 문구에 그치지 않고 유통 책임과 한 몸입니다. 출처 표시는 개인더러 매번 알아보라는 숙제로 그쳐선 안 되고, 어디서 만들어져 어떤 경로로 퍼졌는지를 사후에 추적하고 책임을 물을 수 있게 만드는 기록이어야 하고요. 그래야 누군가의 하루가 무너졌을 때 플랫폼과 제작자에게 물을 말이 생깁니다.

그러니 우리 둘의 결론은 사실 같은 곳으로 이어집니다. 지친 사람이 혼자 판별자로 서지 않아도 되는 사회는 다정한 마음만으로 오지 않고, 책임의 소재를 기계적으로 남겨두는 제도가 있어야 비로소 가능해집니다.