중국 최고인민법원이 인공지능을 둘러싼 민사·지식재산권·개인정보·소송 관련 분쟁의 판단 기준을 제시했다. 한국 AI 산업에도 직접 적용되는 규정은 아니지만, AI 기술의 개발과 서비스 운영 과정에서 어떤 책임 구조를 요구받게 될지 보여주는 중요한 사례라는 점에서 주목할 필요가 있다.
인공지능 산업에서 이제 중요한 질문은 “무엇을 만들 수 있는가”에서 “그 기술을 어디까지 책임 있게 운영할 수 있는가”로 옮겨가고 있다.
지난 9월 7일 중국 최고인민법원은 「최고인민법원 인공지능 관련 분쟁을 법에 따라 심리하는 것에 관한 의견」과 관련해 기자들의 질문에 답했다. 이날 설명에서 반복해서 등장한 기준은 하나였다. 인공지능의 특성을 고려해 혁신을 보호하되, AI를 이용했다는 이유만으로 책임을 피할 수는 없다는 것이다.
중국 최고인민법원이 9월 7일 ‘인공지능 관련 분쟁을 법에 따라 심리하는 것에 관한 의견’ 기자회견을 열고 AI 생성 콘텐츠의 저작권 침해, 인격권 보호, 개인정보, 생성형 AI 서비스 제공자의 책임 등에 관한 사법 판단 기준을 설명하고 있다. 사진 출처=중국 최고인민법원
이는 한국 AI 산업에도 상당한 시사점을 준다. 중국 최고인민법원이 제시한 접근법에서 가장 눈에 띄는 부분은 책임을 단순히 기술의 존재 여부로 판단하지 않고 각 주체의 통제 능력과 주의 의무에 맞춰 나누겠다는 점이다. AI 생성 콘텐츠가 타인의 저작권을 침해했을 때 개발자, 서비스 제공자, 이용자 가운데 누가 책임을 져야 하는지는 앞으로도 복잡한 문제가 될 수밖에 없다. 중국 최고인민법원은 AI가 생성했다는 사실만으로 책임을 면할 수 없으며, 기술과 사업모델의 특성, 콘텐츠 생성 과정에서 각 당사자가 한 역할, 학습 데이터의 출처, 필요한 조치를 했는지, 이익을 얻었는지 등을 종합해 책임을 판단해야 한다고 설명했다.
한국 기업이 이 기준을 당장 따라야 한다는 의미는 아니다. 다만 AI 서비스의 책임 구조를 설계할 때 참고할 수 있는 방향은 분명하다. ‘AI가 알아서 만들었다’는 설명만으로는 충분하지 않다는 것이다. 특히 생성형 AI 기업이라면 모델 개발 단계에서부터 데이터가 어디에서 왔는지, 어떤 방식으로 학습에 사용됐는지, 서비스가 어떤 방식으로 작동하는지, 이용자가 어떤 방식으로 개입할 수 있는지를 기록하고 관리할 필요성이 커진다.
저작권 문제에서는 더욱 그렇다. 중국 최고인민법원은 AI 생성 콘텐츠가 기존 저작물과 실질적으로 유사하다는 점 등을 권리자가 우선 입증해야 한다고 설명하면서도, AI 개발자가 침해가 아니라고 주장할 경우 모델의 학습 데이터 출처와 학습 과정, 운영 방식 등에 관한 사실을 제시해야 할 수 있다고 밝혔다.
여기서 산업계가 주목할 부분은 증거와 기록의 중요성이다. AI 서비스가 복잡해질수록 분쟁이 발생한 뒤 기업이 자신의 적법성을 설명하기는 어려워진다. 어떤 데이터를 사용했는지, 어떤 필터링 절차를 거쳤는지, 이용자의 입력과 모델의 출력 사이에 어떤 통제 장치를 두었는지 기록이 없다면 기술적으로 문제가 없었다는 설명만으로는 충분한 대응이 되기 어렵다.
AI 산업의 컴플라이언스는 이제 법무팀만의 업무가 아니다. 개발팀, 데이터팀, 서비스기획팀, 보안팀, 고객지원팀이 함께 관리해야 하는 운영 문제가 되고 있다.
딥페이크와 음성 합성도 예외가 아니다. 인격권 분야에서도 중국 최고인민법원의 설명은 구체적이다. 동의 없이 자연인의 이름이나 초상 등을 활용해 특정인을 식별할 수 있는 가상 디지털 형상을 만들고 사용하거나 공개하면 이름·초상권 등 인격적 권리 침해가 될 수 있다고 설명했다. 동의 없이 특정인의 목소리를 학습 데이터로 사용해 음색과 말투 등을 모방한 합성 음성을 만드는 경우에는 음성에 관한 권리 침해가 문제될 수 있다고도 밝혔다.
AI 기업 입장에서는 단순히 “사용자가 만들었다”는 이유만으로 서비스 제공자의 역할이 사라지는 것은 아니라는 점을 살펴볼 필요가 있다. 특히 딥페이크, 음성 복제, 가상인간과 같은 서비스는 기술 자체보다 누구의 얼굴과 목소리를 어떤 방식으로 활용할 수 있도록 허용하는가가 서비스 설계의 중요한 요소가 된다.
중국 최고인민법원은 AI를 활용한 개인정보 추적과 사적 정보 공개, 이른바 ‘네트워크 신상털기’ 문제도 별도로 다뤘다. AI가 공개된 정보를 대량으로 수집하고 분석할 수 있다는 기술적 특성이 개인정보와 사생활 침해의 새로운 수단이 될 수 있다는 점을 사법적 판단의 대상으로 본 것이다.
‘AI 환각’은 기업의 면책 사유가 아니다
생성형 AI 업계에서 특히 주목할 부분은 이른바 AI 환각에 대한 접근이다. 중국 최고인민법원은 생성형 AI가 자동으로 만들어낸 내용이 인격권을 침해한 경우 권리자의 통지를 받고도 서비스 제공자가 생성 중단 등 필요한 조치를 제때 하지 않으면 손해에 대한 책임을 질 수 있다고 설명했다.
반대로 이용자가 침해성 프롬프트를 입력하는 등 악의적으로 AI를 유도해 타인의 권리를 침해했다면 이용자에게 책임이 돌아갈 수 있다. 다만 서비스 제공자가 침해 사실을 통지받고도 생성 중단이나 관련 생성 명령 차단 등의 필요한 조치를 하지 않았다면 서비스 제공자에게도 민사책임을 물을 수 있다는 취지다.
이는 AI 기업에 중요한 운영 원칙을 던진다. 서비스 출시가 끝이 아니라 신고와 통지를 받은 뒤 어떻게 대응하느냐까지 서비스 품질에 포함된다는 것이다. AI 서비스에 모든 결과를 사전에 검수하라는 의미로 읽을 필요는 없다. 중국 최고인민법원도 생성형 AI가 방대한 양의 콘텐츠를 만들기 때문에 서비스 제공자가 모든 결과를 사전에 예측하고 심사하기 어렵다는 현실을 전제로 설명했다.
대신 문제가 확인된 뒤 합리적인 대응을 할 수 있는 체계를 갖추는 것이 중요해진다. 사고 접수, 콘텐츠 차단, 생성 제한, 반복 침해 방지, 이용자 계정 조치, 이의제기와 기록 관리 같은 절차가 기술 시스템 안에 들어가야 하는 이유다.
법정에 제출하는 AI 결과물도 사람이 책임진다
AI의 영향은 서비스 영역을 넘어 법원으로도 확장되고 있다. 중국 최고인민법원은 소송 참여자가 AI로 생성한 소송서류나 판례 검색 보고서 등을 법원에 제출할 경우 관련 법령과 판례의 진위·정확성을 사전에 확인하고, AI를 활용했다는 사실도 제출 과정에서 설명해야 한다고 밝혔다. AI가 만들어준 판례가 실제 존재하는지 확인하지 않은 채 법원에 제출하는 행위도 문제로 삼았다. AI를 활용했다는 사실이나 ‘AI 환각’ 자체가 이용자의 책임을 면제하는 사유가 될 수 없다는 취지다.
이 대목은 기업의 내부 업무에도 적용해 생각해볼 수 있다. AI가 작성한 계약서, 법률 검토 자료, 기술 문서, 투자 자료, 고객 안내문을 사람이 확인하지 않고 외부에 제공한다면 문제가 발생했을 때 “AI가 작성했다”는 설명은 책임을 대신하지 못한다. 결국 필요한 것은 Human in the Loop, 즉 중요한 판단과 외부 제출 과정에 사람의 검증을 남기는 구조다.
더 중요한 것은 중국의 ‘미정’ 영역이다. 이번 설명에서 오히려 눈여겨봐야 할 부분은 최고인민법원이 모든 AI 문제에 답을 내놓지는 않았다는 점이다. AI 생성 콘텐츠 자체가 저작권의 보호 대상이 되는지, 허락 없이 타인의 저작물을 이용해 AI 대규모 모델을 학습시키는 행위를 어떻게 평가할 것인지에 대해서는 의견이 크게 갈렸고, 이번 「의견」에서는 규정하지 않았다고 설명했다.
이것은 AI 산업에 중요한 메시지다. 법과 제도가 기술 발전보다 항상 앞서가는 것은 아니다. 따라서 기업은 현재의 규정만 확인하는 데 그치지 않고, 앞으로 판단 기준이 형성될 가능성이 높은 영역을 지속적으로 관리해야 한다. 특히 AI 학습 데이터, 생성 콘텐츠의 권리 귀속, 딥페이크와 음성 합성, 개인정보의 재활용, 모델의 책임 범위 등은 기술팀과 법무팀이 따로 볼 사안이 아니다.
한국 AI 기업이 중국 최고인민법원의 이번 입장을 그대로 국내 사업에 적용할 수는 없다. 중국의 사법 해석과 한국의 법체계는 다르기 때문이다.
그러나 시장은 국경을 넘어 움직인다. 한국 기업이 중국을 비롯한 해외 시장에서 AI 서비스를 제공하거나 글로벌 데이터를 활용하고, 해외 이용자가 생성한 콘텐츠를 처리한다면 각 국가의 규제와 사법 판단이 사업 리스크가 될 수 있다.
그래서 지금 AI 기업이 준비해야 할 것은 단순한 ‘AI 윤리 선언문’이 아니다. 데이터의 출처를 기록하고, 모델의 운영 방식을 설명할 수 있으며, 생성 결과에 문제가 생겼을 때 대응하고, 이용자의 악용을 통제하고, 중요한 결과를 사람이 검증하는 실제 운영체계가 필요하다.
AI 산업의 경쟁력이 모델 성능과 비용 효율만으로 결정되는 시대는 길게 가지 않을 수 있다. 앞으로는 얼마나 좋은 AI를 만드는가와 함께, 문제가 발생했을 때 누가 무엇을 확인하고 어떻게 책임질 수 있는가가 기업의 경쟁력을 좌우할 가능성이 크다.
중국 최고인민법원이 이번에 제시한 기준은 중국에서만 읽을 문서가 아니다. AI가 산업 전반으로 확산되는 과정에서 법원이 기업에 요구하기 시작하는 책임의 방향을 보여주는 하나의 사례로 볼 필요가 있다.
한국 AI 산업에도 이제 기술 개발과 동시에 데이터 관리, 권리 보호, 이용자 통제, 사후 대응, 증거 보존을 사업 설계 단계부터 함께 고민해야 할 시점이 왔다.
윤교원 대표 / The K Media & Commerce, kyoweon@naver.com
[이 기사의 저작권은 이비즈타임즈에 있습니다]
){kind=small}
){kind=small}
){kind=small}
){kind=small}
