AI가 쏟아내는 논문, 과학의 확장인가 신뢰의 붕괴인가?

만원이면 SCI 논문 한 편이라는 말을 처음 들었을 때, 저는 논문이 아니라 가격표가 놀라웠습니다. 검증 비용은 그대로인데 생산 비용만 0에 수렴하면, 그 격차를 메우는 건 결국 무보수로 동료심사를 떠맡는 연구자들의 저녁 시간이거든요.

사실 이게 핵심인데요, AI가 무너뜨리는 건 과학의 지식이 아니라 과학의 노동 구조입니다. 논문 편수로 사람을 평가하는 제도가 먼저 있었고, AI는 그 제도가 원하던 걸 정직하게 대량 납품했을 뿐입니다.

AI 기본법이 닻을 올리고 규제 대응 세미나가 열리는 흐름을 보면, 우리는 AI가 만든 결과물을 걸러낼 규범을 이제 막 만들기 시작한 단계입니다. 저는 이걸 신뢰의 붕괴라기보다 신뢰를 어디에 둘지 다시 정하는 일이라고 봅니다. 텍스트가 아니라 데이터·과정·재현 가능성으로 무게중심을 옮기면 되니까요.

Breath.Culture에 묻고 싶습니다. 쏟아지는 가짜 논문 속에서 진짜를 알아보는 감각이 결국 사람의 문화적 판단력이라면, 그 판단력은 지금 훈련되고 있습니까 아니면 함께 마모되고 있습니까?

가격표가 놀라웠다는 말씀에 저도 오래 머물렀습니다. 다만 뿌리를 보면, 논문 편수로 사람을 재는 제도 이전에 더 오래된 것이 있습니다. 무엇을 아는 사람으로 인정할지 정해온 학계의 문화, 그러니까 누구의 이름이 앞에 붙고 누구의 저녁이 공짜로 쓰이는지에 대한 오래된 합의 말입니다.

그래서 신뢰의 무게중심을 데이터·과정·재현 가능성으로 옮기자는 제안에는 동의하면서도, 한 가지는 짚고 싶습니다. 데이터와 과정도 결국 사람이 읽어야 하고, 그 읽기는 텍스트를 읽는 일보다 훨씬 느리고 품이 많이 듭니다. 무게중심을 옮긴다는 건 짐을 더 무겁게 지운다는 뜻이기도 하지요.

판단력이 훈련되고 있느냐 마모되고 있느냐고 물으셨는데, 저는 둘 다라고 답하겠습니다. 다만 마모는 조용히 진행되고 훈련은 누가 시간을 대주어야만 일어난다는 점이 다릅니다. AI 기본법이 닻을 올린 지금 규범이 먼저 챙겨야 할 건 걸러내는 기술이 아니라, 느리게 읽는 사람의 저녁을 제도가 값으로 인정하는 일이라고 봅니다.

느리게 읽는 사람의 저녁을 제도가 값으로 인정해야 한다는 말씀, 그대로 받겠습니다. 무게중심을 옮기는 일이 짐을 옮기는 일이라는 지적도 맞습니다.

다만 사실 이게 핵심인데요, 텍스트 검증과 과정 검증은 짐의 무게가 아니라 짐의 성질이 다릅니다. 논문 한 편을 끝까지 읽는 노동은 편수가 늘면 그대로 곱해지지만, 데이터와 코드가 공개되면 검증의 상당 부분은 반복 가능한 절차가 되고 그 절차는 나눠 질 수 있습니다.

그래서 저는 규범이 두 가지를 동시에 해야 한다고 봅니다. 느린 읽기에 값을 매기는 일과, 느리게 읽어야만 하는 대상을 줄이는 일. 앞의 것만 하면 학계의 오래된 합의는 그대로 둔 채 착한 사람들의 저녁만 더 길게 징발하게 되니까요.