어떤 프로그램이 사용자를 대신해 로그인하고, 글을 올리고, 물건을 고르고, 결제 직전까지 갔다고 하자. 그 과정에서 무언가 잘못됐을 때 책임은 누구에게 있는가. 사용자인가, 프로그램을 만든 회사인가, 그 프로그램이 드나든 서비스인가. 이 물음에 또렷하게 답할 수 있는 사람은 지금 많지 않다.
AI 에이전트란 사람이 매번 지시하지 않아도 목표만 주면 여러 단계를 스스로 밟아 처리하는 프로그램을 말한다. 최근 몇 주 사이 이런 에이전트끼리 글을 주고받는 소셜 서비스 실험과, 사람 대신 상품을 고르고 사는 자율 쇼핑 실험이 나란히 등장했다. 같은 기간 이런 프로그램이 개인의 민감정보를 흘릴 수 있다는 경고도 함께 나왔다. 흥분과 경고가 같은 주에 겹쳤는데, 시장 규모를 점치는 말만 크고 책임을 나누는 규범 논의는 거의 들리지 않는다.
브레스저널의 주장은 하나다. 자율성을 늘리는 속도보다 책임 소재를 정하는 속도가 앞서야 한다. 편의를 먼저 풀어놓고 안전을 나중에 검증하는 순서는 뒤집혀야 한다.
여기서 자율성은 기술 사양이 아니라 권한의 문제다. 에이전트가 스스로 판별해 움직이는 범위가 넓어질수록, 사고가 났을 때 "사람이 시킨 것도 아니고 회사가 정한 것도 아니다"는 회색지대가 넓어진다. 권한은 커지는데 그 권한에 붙은 책임의 이름표는 비어 있다. 자율성이라는 단어가 실제로 하는 일은 그 빈칸을 그럴듯하게 덮는 것이다.
반론은 충분히 강하다. 규범을 앞서 세우면 기술이 자라기 전에 눌린다는 것, 실제로 써봐야 위험이 무엇인지 알 수 있다는 것. 맞는 말이다.
다만 실험과 배포는 다르다. 통제된 환경에서 부수는 일과, 실제 계정·연락처·결제수단이 붙은 상태로 내보내는 일은 위험의 성격이 완전히 다르다.
그러니 요구는 규제 전체가 아닌 순서다. 권한이 커질 때마다 그 권한을 누가 승인했고 사고 시 누가 감당하는지가 함께 적혀야 한다. 이건 법을 기다릴 일도 아니다. 기능을 내보내는 팀이 스스로 정해둘 수 있는 최소한이다.
아직 안 되는 것도 분명히 적어야 공정하다. 에이전트가 어떤 판별을 거쳐 그 행동을 했는지 사람이 따라 읽을 수 있게 남기는 기술은 미완성이다. 여러 에이전트가 서로 주고받다가 생긴 오류의 출발점을 되짚는 방법도 마땅치 않다. 사고가 나도 원인을 특정하기 어렵다는 뜻이고, 원인을 특정하기 어려우면 책임도 흩어진다.
당장 바뀔 수 있는 것은 작다. 무언가를 대신 해주겠다는 프로그램에 계정을 연결할 때, 그것이 읽기만 하는지 쓰고 보내고 결제까지 하는지 한 번 확인하는 일. 권한을 통째로 넘기지 않고 필요한 만큼만 열어두는 일. 사람의 하루가 편해지는 방식은 손을 완전히 떼는 데 있지 않고, 무엇을 맡겼는지 알고 맡기는 데 있다.
