인공지능 발전과 신뢰 기반 조성 등에 관한 기본법, 이른바 AI 기본법이 지난 22일부터 시행에 들어갔다. AI를 다루는 포괄 법률을 먼저 제정한 곳은 유럽연합이지만, 법 전체를 한 시점에 일제히 적용한 사례는 한국이 처음이다. 유럽연합은 고위험·범용 AI 규제를 단계별로 나눠 집행하는 방식을 택했다. 시행 사흘째인 지금, 산업계의 관심은 법이 무엇을 금지하는가보다 무엇을 지금까지 정하지 않았는가에 쏠려 있다.
새로 생긴 의무는 크게 세 갈래다. 첫째는 투명성 의무로, 생성형 AI로 만들어져 외부로 유통되는 이미지·영상·음성에 'AI 생성물'임을 표시해야 한다. 둘째는 고영향 AI 의무, 셋째는 학습 연산량이 큰 초고성능 AI에 붙는 안전성 확보 의무다. 정부는 이 법이 규제가 아니라 진흥에 방점을 뒀다며 '필요 최소 규제 원칙'을 강조하고 있다.
표시 의무의 주체는 생성형 AI 서비스를 제공하는 사업자다. 그 서비스를 쓴 개인은 의무 주체가 아니다. 애니메이션이나 웹툰 같은 일반 결과물에는 눈에 보이는 표시 외에 디지털 워터마크처럼 기계만 읽는 방식도 허용되지만, 딥페이크 영상만큼은 이용자가 명확히 알아볼 수 있는 가시적 표시를 붙여야 한다. 챗봇처럼 내부 서비스에서만 쓰는 경우에는 화면 구성이나 로고로 AI 활용 사실을 알리면 되고, 이미지·영상을 내려받거나 공유하는 순간부터는 인식 가능한 워터마크가 필요하다.
안전성 의무는 사실상 비어 있는 칸이다. 대상은 학습에 쓰인 누적 연산량이 10의 26승 FLOPs 이상인 모델인데, 정부는 이 기준을 충족하는 모델이 없다고 밝혔다. 미래의 모델을 위해 미리 그어둔 선에 가깝다는 뜻이다. 반면 고영향 AI는 지금 당장 판정이 필요한 영역인데, 정부가 규제 대상 사례로 든 것은 레벨4 이상 완전자율주행 정도에 그친다.
여기서 논란이 시작된다. 최종 의사결정 과정에 사람이 개입하면 고영향 AI 규제 대상에서 제외되는데, 어느 정도의 개입을 개입으로 볼지에 대한 판정 기준은 확정되지 않았다. 형식적인 승인 절차만 끼워 넣어도 의무를 벗어날 수 있다면, 채용이나 대출 심사처럼 사람의 삶을 직접 흔드는 영역이 규제 바깥에 놓일 여지가 생긴다.
현행법은 '영향을 받는 자'를 정의해 두었을 뿐, 그 사람이 결정 이유를 물을 권리나 이의를 제기할 권리는 담지 않았다. 개인정보보호법의 설명 요구권도 '완전히' 자동화된 결정에만 걸리기 때문에, 사람이 한 번 개입한 순간 그 권리 역시 닫힌다.
표시 의무에도 비슷한 빈칸이 있다. 개인이 AI로 만든 콘텐츠를 플랫폼에 올리면서 생성물 표시를 지워도 AI 기본법 위반은 아니다. 딥페이크를 악용한 경우라면 성폭력처벌법이나 정보통신망법 같은 기존 법으로 다뤄지지만, 표시 삭제 자체를 겨냥한 조항은 이 법에 없다. 이 공백을 메우려는 정보통신망법 개정안이 국회에 발의돼 있는 상태다.
제재의 무게도 유럽연합과 비교하면 결이 다르다. 유럽연합은 위반 시 3500만 유로 또는 전 세계 연간 총매출의 7% 중 큰 금액을 과징금으로 물리는 반면, 한국은 최대 3000만원 수준의 과태료를 부과하는 것으로 파악된다. 고위험 AI에 대해 유럽연합이 제공자와 배포자 모두에게 의무를 지우는 것과 달리, 한국은 AI 사업자에게만 의무를 지운다. 벌의 크기보다 의무를 지는 사람의 범위가 좁다는 점이 더 실질적인 차이다.
정부는 고영향·안전성·투명성 규율에 대해 최소 1년 이상 사실조사와 과태료 부과를 미루기로 했다. 그동안 조사 대신 'AI 기본법 지원 데스크'를 통한 컨설팅을 제공하고, 시행 전에는 설명회를 열어 규제 적용 사례와 투명성 확보 가이드라인을 공개했다. 이 유예는 처벌을 미루는 시간이라기보다, 판정 기준을 실제 사례로 채워 넣는 시간에 가깝다. 법에는 3년마다 인공지능 기본계획을 세우고 국가 인공지능 전략위원회를 두는 근거도 함께 담겼다.
진흥 쪽 장치는 상대적으로 촘촘하다. 연구개발과 학습용 데이터 구축, 도입·활용 지원, 창업과 융합, 전문인력 확보, AI 데이터센터와 집적단지 조성까지 전주기 지원 체계가 들어갔다. 학습용 데이터를 한곳에서 받을 수 있는 통합 제공 시스템의 근거도 마련됐다. 규제의 칸이 비어 있는 사이, 지원의 칸부터 채워 나가겠다는 설계다.
이용자 입장에서 당장 달라지는 것은 화면 위의 작은 표시 하나다. 내려받은 이미지에 워터마크가 붙고, 딥페이크 영상 앞에 안내 문구가 뜬다. 다만 대출 심사에서 거절 통보를 받았을 때 그 판단에 AI가 얼마나 개입했는지 물어볼 창구는 지금까지 열리지 않았다. 앞으로 1년, 지켜볼 것은 새로 만들어질 규제의 수가 아닌 고영향 AI 목록에 자율주행 말고 무엇이 더 올라오는지다.
