'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)이 오는 22일 시행된다. 2024년 12월 26일 국회 본회의를 통과하고 2025년 1월 21일 공포된 뒤 꼭 1년 만이다. 이로써 한국은 AI 규제법을 전면 시행하는 세계 첫 국가가 된다. 다만 법제를 먼저 만든 곳은 EU이며, '최초'는 도입 순서가 아니라 전면 시행 시점을 기준으로 한 표현이다.
법의 뼈대는 '고영향 AI'라는 개념이다. 사람의 생명·신체 안전이나 기본권 보호에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI를 따로 묶어 더 무거운 의무를 지우는 방식이다. 적용 영역은 10가지로 구분됐고, 에너지·보건의료·범죄 수사·교통 등이 여기에 들어가는 것으로 파악된다. 고영향 AI 사업자는 AI 생명주기 전반에서 위험을 식별·평가하는 관리체계를 갖추고 그 내용을 문서로 남겨야 한다.
일반 사업자에게 걸리는 의무는 두 가지가 눈에 띈다. 서비스나 제품에 AI를 쓰는 사업자는 그 사실을 이용자에게 미리 알려야 한다. 생성형 AI가 만든 음성·이미지·영상에는 AI 생성물임을 알리는 표시를 붙여야 하는데, 눈에 보이는 워터마크뿐 아니라 기계가 읽어내는 비가시 표시도 포함된다. 다만 AI를 보조 수단으로만 쓴 결과물까지 표시 대상인지에 대한 정부의 공식 해석은 아직 공개되지 않았다.
문제는 어디까지가 고영향인지를 가르는 선이다. 판단 기준에 '그 밖에 대통령령으로 정하는 영역'이 들어 있어 범위가 포괄적이라는 지적이 나온다. 과학기술정보통신부는 단일 수치 기준 대신 영역별 세부 질문을 담은 흐름도로 판정하겠다는 방침이다. 자율주행차의 경우 사람이 개입하는 레벨3는 고영향에서 빠지고 레벨4부터 포함되는 식으로, 같은 기술도 자율성 단계에 따라 규제 강도가 달라진다.
현장의 준비 상태는 법의 속도를 따라오지 못하고 있다. 스타트업얼라이언스가 국내 AI 스타트업 101곳에 물었더니 'AI 기본법 대응 계획을 세웠다'는 응답은 2%에 그쳤다. '내용을 잘 모르고 준비도 안 돼 있다'와 '법은 알지만 대응이 미흡하다'가 각각 48.5%로, 98%가 실질적 대응 체계 없이 시행일을 맞는 셈이다. 정부가 법 시행과 함께 최소 1년 이상 과태료 등 직접 규제를 유예하고 계도에 무게를 두기로 한 배경이다.
바깥을 보면 규제 시계는 오히려 느려지는 쪽으로 돌아가고 있다. EU는 AI법을 먼저 만들었지만 핵심인 고위험 AI 규정 적용은 2026년 8월로 잡혀 있고, 집행위가 규제 완화안을 담은 '디지털 간소화 방안'을 내놓으면서 2027년 말까지 밀릴 것이라는 전망도 나온다. 미국은 연방 차원의 단일법 대신 주별 대응이 쌓였다. 50개 주 가운데 알래스카와 오하이오를 뺀 48개 주가 AI 관련 주법을 뒀고, 벌칙 규정까지 마련한 곳은 13개 주다.
주법의 초점은 산업 전반이 아니라 피해가 이미 드러난 지점에 몰려 있다. 딥페이크 규제가 가장 많고 챗봇 6개 주, 의료 관련 AI 10개 주, 공적기관의 AI 이용 13개 주 순이다. 아칸소주는 외설적 딥페이크의 제작·배포를 형사 처벌 대상으로 정했고, 캘리포니아주는 이용자가 자살을 언급하면 챗봇 사업자가 적절히 대응하도록 의무화했다. 반면 트럼프 대통령은 지난해 12월 주 단위 AI 규제를 차단하는 행정명령에 서명해, 주와 연방의 방향이 엇갈린 상태다.
한국 법의 실효성을 가를 또 하나의 변수는 국경이다. AI 기본법은 일정 요건을 갖춘 해외 AI 기업에 국내 대리인을 지정하도록 했지만, 어떤 기업이 해당하는지와 지정하지 않았을 때 어떻게 강제할지는 아직 손에 잡히지 않는다. 국내 기업만 성실히 문서를 쌓고 해외 서비스는 그대로 쓰이는 상황이면 규제는 시장 점유율만 흔든다. 시행령 입법예고가 끝난 지난해 12월 22일까지 산업계와 시민단체 양쪽에서 정의가 모호하다는 지적이 나온 것도 같은 맥락이다.
법이 남긴 장치는 규제만이 아니다. AI의 위험을 연구·평가하는 AI 안전연구소가 법에 근거를 두고 지난해 11월 문을 열었고, 과기정통부 장관은 3년마다 인공지능 기본계획을 세워야 한다. 대통령이 위원장을 맡는 국가인공지능위원회에서 민관이 함께 전략을 짜는 구조도 마련됐다. 여야에서 개정안이 잇따라 발의되고 있어, 시행된 법이 그대로 굳어질 가능성도 크지 않다.
이용자 입장에서 22일 이후 달라지는 것은 소소하다. 상담창을 열었을 때 상대가 사람인지 AI인지 먼저 알려주고, 흘러온 영상에 AI로 만들었다는 표시가 붙는 정도다. 그 작은 고지가 채용 결과나 대출 심사, 응급실의 판독으로 이어지는 지점에서도 작동하는지는 유예기간 1년이 지나 과태료가 실제로 부과되기 시작할 때 드러난다. 세계에서 가장 먼저 스위치를 올린 나라의 진짜 성적표는 흐름도가 공개되고 첫 판정 사례가 쌓이는 순간부터 매겨진다.
