연구 보고서

정치 중국 정부는 자국의 AI 기업들이 개인정보 및 저작권 데이터를 제한 없이 쓸 수 있도록 허락한다 (거의 거짓) 공개일 : 2025-08-18 | 최종 수정일 : 2025-09-29

검증대상

   2025년 7월 8일, 과학기술정보통신부는 네이버클라우드, LG AI연구원 등 17개 주요 AI 기업들과 함께 ‘AI·디지털 기업 간담회’를 개최하였다. 해당 간담회에서 이호준 삼성SDS 부사장은 중국의 AI 경쟁력을 언급하며 “중국의 진짜 강점은 데이터를 마음대로 쓸 수 있게 정부 차원에서 허가해 주고 도움을 주는 점”이라고 발언하였다(강푸른, 2025). 이는 중국 정부가 자국 AI 기업들에게 개인정보 또는 저작권 데이터까지를 포함한 자료에 대해 사실상 무제한적 접근을 허용하고 있다는 인식을 드러낸 것이다, 미국의 오픈AI(OpenAI) 역시 AI 기업들이 각 주(州)에서 제안하는 규제로부터 보호받을 수 있도록 정부의 도움을 요청한 현시점에서, AI 시장에서의 국제적 경쟁력을 키워 나가는 중국의 데이터 규제 방식이 화두로 떠올랐다(Davalos, 2025).

 

<출처: chatGPT 생성>

 

검증명제

중국 정부는 자국의 AI 기업들이 개인정보 및 저작권 데이터를 제한 없이 쓸 수 있도록 허락한다.

 

O 주요 개념 정의(Latham & Watkins LLP, 2023)
 

  • 기술 지원자(Technical Supporter): 오픈AI, 바이두(Baidu)와 같이 ‘심층 합성(Deep Synthesis)’ 및 기타 생성형 AI 기술을 개발하고 동시에 기술적 지원(technical support)을 제공하는 기업들을 의미한다.
  • 서비스 제공자(Service Provider): 심층 합성 또는 기타 생성형 AI 서비스를 제공하는 기업들을 의미한다. 예컨대, 그러한 서비스를 자사의 B2C 인터넷 정보 서비스에 통합하여 제공하는 기업 등이 포함된다.
  • 이용자(User): 심층 합성 서비스를 이용하여 정보를 생성(produce), 복제(copy), 게시(publish) 또는 배포(disseminate)하는 모든 조직 및 개인을 지칭한다.

 

검증방법

1. 취재방법 
 

   본 연구는 “중국 정부는 자국의 AI 기업들이 개인정보 및 저작권 데이터를 제한 없이 쓸 수 있도록 허락한다”는 명제의 사실 여부를 검토하기 위해 문헌 조사 방식을 채택하였다. 특히, 중국 정부의 공식 입법 문서에 포함된 AI 관련 법규 및 데이터 규제 조항을 중심으로 명제의 법적 근거를 확인하고, 실제 기업의 데이터 활용 범위가 관련 법규에 의해 제한 또는 허용된 사례가 있는지 판례 위주로 조사하였다.

   중국 법령 해석의 특수성과 언어적 제약을 고려하여, 원문 해석에 따른 오류를 최소화하기 위해 스탠퍼드 대학교(Stanford University)가 진행한 ‘디지차이나 프로젝트(DigiChina Project)’에서 영어로 번역 및 주석한 법률 자료를 주요 분석 근거로 활용하였다. 해당 프로젝트는 국제 공동 연구를 통해 중국 기술 정책의 원문 자료를 직접 해석하고, 관련 전문가들의 분석과 의견을 종합하여 제공한다. 아울러, 글로벌 로펌이 중화권 전문 변호사들과 공동으로 발간한 중국 AI 및 데이터 관련 법률 보고서들을 검토하였다. 

   다만 본 연구는 중국 현지 법령의 원문을 직접 해석하기보다는 공신력 있는 제3자 번역 자료 및 영미권 법률 분석에 의존하였다는 점에서 일정한 해석상의 제약이 존재한다. 이러한 한계를 인지하고, 상호 교차 검증을 통해 법령의 의미 왜곡을 최소화하고자 하였다.

 

2. 참고문헌 

 

 

검증내용
 

   본 연구는 중국의 주요 AI 관련 규제인 인터넷 정보 서비스 알고리즘 추천 관리 규정(Internet Information Service Algorithmic Recommendation Management Provisions; 互联网信息服务算法推荐管理规定)·인터넷 정보 서비스 심층 합성 관리 규정(Internet Information Service Deep Synthesis Management Provisions; 互联网信息服务深度合成管理规定)·생성형 AI 서비스 관리 규정(Measures for the Management of Generative Artificial Intelligence Services; 生成式人工智能服务管理办法)을 기반으로 명제와 관계있는 조항을 검토하였다. 추가로, 법규에 따라 실제 기업이 제재를 받은 판례를 살펴보았다.

 

1. 인터넷 정보 서비스 알고리즘 추천 관리 규정(Creemers, Webster, & Toner, 2022)


   2022년 3월 1일부터 발효된 해당 규정은 AI를 특정해 규제한 중국의 첫 사례이다. 중국 내에서 인터넷 정보 서비스를 제공하기 위한 알고리즘 추천(algorithm recommendation) 기술의 사용을 관리하며, 그러한 기술은 개인 맞춤형 푸시(personalized push)를 포함해 정보의 분류와 선정(sorting and selection)·검색 및 필터링(retrieval and filtering)·의사 결정에 관여하는 알고리즘 등을 두루 일컫는다(Latham & Watkins LLP, 2023).

 

  • 4조: 알고리즘 추천 서비스(algorithmic recommendation services)의 제공은 법령을 준수하고, 사회적 도덕 및 윤리를 존중하며, 상업 윤리 및 직업 윤리를 지켜야 하며, 공정과 정의, 개방성(openness)과 투명성(transparency), 과학성(science)과 합리성(reason), 성실성(sincerity)과 신뢰(trustworthiness)의 원칙을 따라야 한다.
  • 7조: 알고리즘 추천 서비스 제공자(algorithmic recommendation service providers, 이하 ‘서비스 제공자’)는 다음의 의무를 이행하여야 한다:
        - 알고리즘 보안에 대한 주체적 책임의 이행 
        - 알고리즘 작동 원리의 점검 및 검증
        - 기술윤리(technology ethics) 심의
        - 이용자 등록
        - 정보 배포에 대한 점검 및 검증
        - 보안성 평가 및 모니터링
        - 보안 사고 대응 및 처리
        - 데이터 보안 및 개인정보 보호
        - 통신·온라인 사기 방지 등을 위한 관리 체계 및 기술적 조치의 수립 및 완비
        - 알고리즘 추천 서비스 관련 규범(norms)의 제정 및 공개 
        - 알고리즘 추천 서비스의 규모에 상응하는 전담 인력 및 기술적 지원 배치
  • 12조: 알고리즘 추천 서비스 제공자는 콘텐츠 가중치 감소(content de-weighting), 분산 개입(scattering interventions) 등의 조치를 종합적으로 활용하고, 검색·순위 매기기(ranking)·선정(selection)·푸시 알림(push notification)·표시(display) 등의 규칙에 대한 투명성과 이해 가능성(understandability)을 최적화하도록 권장된다. 이는 이용자에게 유해한 영향을 초래하는 것을 방지하고, 논란(controversies) 또는 분쟁(disputes)을 예방하거나 줄이기 위한 것이다.
  • 13조: 알고리즘 추천 서비스 제공자가 인터넷 뉴스 정보 서비스(internet news information services)를 제공하는 경우, 관련 법령에 따라 허가(permit)를 취득해야 하며, 인터넷 뉴스 정보의 수집(collection)·편집(editing)·배포 서비스, 재게시(resharing) 서비스, 방송 플랫폼(broadcast service) 서비스 등의 운영을 표준화해야 한다. 가짜 뉴스 정보(fake news information)를 생성하거나 합성(synthesize)해서는 안 되며, 국가가 정한 범위 내의 기관이 공개하지 않은 뉴스 정보를 유포해서도 안 된다.
  • 16조: 알고리즘 추천 서비스 제공자는 자신이 제공하는 서비스의 상황에 대해 이용자에게 명확하게 고지해야 하며, 서비스의 기본 원칙(basic principles), 목적 및 동기(purposes and motives), 주요 작동 메커니즘(main operational mechanisms) 등을 적절한 방식으로 공개해야 한다.
  • 17조: 알고리즘 추천 서비스 제공자는 이용자에게 개인적 특성(individual characteristics)을 기반으로 한 추천을 받지 않을 선택권을 제공하거나, 알고리즘 추천 서비스를 손쉽게 중단할 수 있는 편리한 옵션을 제공하여야 한다. 이용자가 알고리즘 추천 서비스를 중단하기로 선택한 경우, 서비스 제공자는 즉시 관련 서비스의 제공을 중단하여야 한다. 서비스 제공자는 이용자가 자신의 개인적 특성에 따른 알고리즘 추천 서비스에 활용되는 이용자 태그를 선택하거나 삭제할 수 있는 기능을 제공하여야 한다. 서비스 제공자가 알고리즘을 활용함으로써 이용자의 권리와 이익에 중대한 영향을 미치는 경우, 이에 대하여 설명을 제공하고 법률에 따라 관련 책임을 부담하여야 한다.

 

2. 인터넷 정보 서비스 심층 합성 관리 규정(Creemers, & Webster, 2022)
 

   2023년 1월 10일에 발효된 해당 규정은 중국 내 인터넷 정보 서비스 제공을 위한 심층 합성 기술의 사용을 중점적으로 규제한다. ‘심층 합성 기술’이란 딥러닝(deep learning) 및 가상 현실과 같은 생성(generative)·합성(synthetic) 알고리즘을 활용하여 텍스트, 이미지, 오디오, 비디오, 가상 장면(virtual scenes) 등의 인터넷 정보를 생산하거나 편집하는 기술을 의미한다. 이는 챗봇(chat bots)과 같은 텍스트 생성·편집 도구, 음성 콘텐츠 생성·편집 도구, ‘딥페이크(deepfakes)’와 같은 생체 정보 조작 도구 등을 포함한다(Latham & Watkins LLP, 2023).

 

  • 6조: 어떠한 조직이나 개인도 심층 합성 기술을 이용하여 국가 안보를 해치거나, 사회 안정을 저해하거나, 사회 질서를 교란하거나, 타인의 정당한 권익을 침해하거나, 기타 법령에서 금지하는 행위를 하여서는 아니 된다. 또한 다음과 같은 정보의 제작, 복제, 게시 또는 배포를 하여서는 아니 된다: 국가 권력 전복을 선동하거나 국가 안보 및 사회 안정을 해치는 정보, 음란물 및 외설물, 허위 정보, 타인의 명예권(reputation rights)·초상권(image rights)·프라이버시권(privacy rights)·지식재산권(intellectual property) 및 기타 합법적 권익을 침해하는 정보, 또는 기타 법령에 따라 금지된 콘텐츠
  • 14조: 심층 합성 서비스 제공자가 다음의 심층 합성 서비스를 제공하는 경우, 합성된 정보 콘텐츠의 성격을 일반 대중에게 명확히 알릴 수 있도록 눈에 띄는 방식으로 해당 정보 콘텐츠에 표시(label)를 하여야 한다:
        ①자연인(natural person)을 모방하는 스마트 대화(smart dialogue), 스마트 작문(smart writing) 등의 텍스트 생성 또는 편집 서비스를 제공하는 경우, 해당 텍스트 정보 콘텐츠의 출처 설명란 등 적절한 위치에 명확한 표시를 하여야 한다.
        ②음성 합성, 음성 모사 등 개인 식별 특성을 현저히 변경하는 음성 생성 또는     편집 서비스를 제공하는 경우, 해당 오디오 정보 콘텐츠 내의 적절한 위치에 구두 설명 등의 방법으로 명확히 표시하여야 한다.
        ③ 안면 생성(facial generation), 안면 대체(face substitution), 안면 조작(face manipulation), 자세 조작(posture manipulation) 등을 통해 이미지 또는 영상에서 가상 인물을 합성하거나 개인 식별 특성을 현저히 변경하는 편집 서비스를 제공하는 경우, 해당 이미지 또는 영상 정보 콘텐츠의 눈에 띄는 위치에 명확한 표시를 하여야 한다.
        ④ 몰입형 가상현실 환경(immersive virtual reality settings)과 같은 생성 및 편집 서비스를 제공하는 경우, 해당 가상현실 환경 콘텐츠의 눈에 띄는 위치에 명확한 표시를 하여야 한다.
        ⑤ 그밖에 생성 또는 정보 콘텐츠의 변경 기능(modification functions)을 가진 기타 서비스를 제공하는 경우, 해당 텍스트·이미지·오디오·영상·가상 환경(virtual setting) 등의 적절한 위치에 명확한 표시를 하여야 한다.
        또한, 심층 합성 서비스 제공자가 상기 항목 외의 심층 합성 서비스를 제공하는 경우, 이용자에게 합성된 정보 콘텐츠를 눈에 띄게 표시할 수 있는 기능을 제공하여야 하며, 이용자가 해당 콘텐츠에 명확한 표시를 할 수 있음을 알릴 의무가 있다.

 

3. 생성형 AI 서비스 관리 규정(Huang, Toner, Haluza, Creemers, & Webster, 2023)
 

   2023년 7월 13일 발표되어 2023년 8월 15일부터 발효된 해당 규정은 중국 내에서 서비스를 제공하는 모든 생성형 AI 기술의 개발 및 사용을 광범위하게 규제한다. 이때 생성형 AI 기술이란 텍스트, 그림, 소리, 비디오 및 기타 콘텐츠를 생성할 수 있는 모델 및 관련 기술을 의미한다(Latham & Watkins LLP, 2023).

 

  • 7조: 서비스 제공자(providers, 이하 ’제공자‘)는 생성형 AI 모델(product)의 사전 학습(pre-training) 데이터 및 최적화 학습(optimization training) 데이터의 출처 적법성에 대한 책임을 부담하여야 한다. 생성형 인공지능 모델의 사전 학습 및 최적화 학습에 사용되는 데이터는 다음의 요건을 충족하여야 한다:
        - 「중화인민공화국 사이버보안법(Cybersecurity Law of the People’s Republic of China)」 등 관련 법률 및 행정법규(laws and regulations)의 요구 사항에 부합할 것
        - 지식재산권을 침해하는 내용을 포함하지 않을 것
        - 데이터에 개인정보가 포함된 경우, 개인정보 주체의 동의를 받았거나, 기타 법률 및 행정법규의 규정에 부합하는 절차를 거쳤을 것
        - 데이터의 진실성(veracity), 정확성(accuracy), 객관성(objectivity) 및 다양성(diversity)을 확보할 수 있을 것
        - 국가 사이버안전 및 정보화 관련 부처(state cybersecurity and informatization department)가 생성형 AI 기능 및 서비스와 관련하여 규정한 기타 감독 요건에 부합할 것
  • 10조: 제공자는 자사 서비스의 이용자 집단과 이용 상황 및 용도를 명확하게 공개하여야 하며, 이용자가 생성된 콘텐츠에 과도하게 의존하거나 중독되는 것을 방지하기 위한 적절한 조치를 취하여야 한다.
  • 11조: 서비스를 제공하는 과정에서, 제공자는 이용자가 입력한 정보와 이용 기록을 보호할 의무를 진다. 제공자는 이용자의 신원을 추정할 수 있는 정보를 불법적으로 보관해서는 아니 되며, 이용자가 입력한 정보 및 이용 내역을 기반으로 프로파일링을 수행해서도 아니 되고, 이용자가 입력한 정보를 제3자에게 제공해서도 아니 된다. 법률이나 행정법규에 별도의 규정이 있는 경우에는 그에 따른다.
  • 18조: 제공자는 이용자가 생성형 AI가 생성한 콘텐츠를 과학적으로 이해하고 합리적으로 활용할 수 있도록 지도하여야 하며, 생성된 콘텐츠를 타인의 이미지, 명예 또는 기타 합법적인 권리와 이익을 훼손하는 데 사용하거나 상업적 선전 또는 부적절한 마케팅에 이용하지 않도록 하여야 한다. 이용자가 본 조치의 요구사항에 부합하지 않는 생성 콘텐츠를 발견한 경우, 사이버 보안 및 정보화 부처(cybersecurity and informatization departments) 또는 관련 책임 부서에 이를 신고할 권리를 가진다.
  • 19조: 제공자는 이용자가 생성형 AI 모델을 사용하여 법률 또는 규정을 위반하거나, 온라인 상의 과도한 홍보, 악의적인 게시 및 댓글 작성, 스팸 생성, 악성 소프트웨어 작성 등과 같은 부정한 상업 마케팅 행위, 기업 윤리 또는 사회적 도덕에 반하는 행위를 한 사실을 발견한 경우, 해당 서비스의 제공을 중단하거나 종료하여야 한다.

 

4. 기타 판례 
 

   2024년 12월 20일, 중국 항저우 중급인민법원(Hangzhou Intermediate Court)은 생성형 AI 플랫폼 운영 기업(generative AI platform provider)이 저작권을 침해한 데 대해 '기여침해 책임(contributory infringement liability)'을 인정한 하급심 판결을 확정하였다. 이는 생성형 AI 플랫폼이 저작권 침해에 대해 법적 책임을 인정받은 중국 최초의 사례다. 판결문 원문 확인에는 어려움이 있으나, 이러한 판결은 중국 내 AI 서비스 사업자들이 활용할 수 있는 데이터의 범위에 명확한 한계가 있음을 시사한다. 

   피고인 항저우 지역 기반 AI 기업은 이용자들이 일본의 유명 IP인 ‘울트라맨’ 이미지로 미세조정 기술인 LoRA(Low-Rank Adaptation) 모델을 훈련할 수 있도록 했으며, 이후 다수의 이용자들이 해당 모델을 통해 유사한 이미지를 생성하고 이를 온라인상에서 공유하였다. 법원은 피고가 이용자의 저작권 침해 가능성을 충분히 인지하거나(knew) 최소한 인지할 수 있었음에도(should have known) 적절한 방지 조치를 취하지 않았고, 유료 서비스를 통해 수익을 얻고 있었음을 근거로 기여침해 책임을 인정하였다. 다만 AI 플랫폼이 직접 저작물을 사용하거나 저작권 침해 이미지 생성에 적극 관여한 증거는 없다는 점에서 직접 침해(direct infringement) 책임은 인정되지 않았다. 나아가 판결문은 생성형 AI 기술의 발전을 위해 데이터 입력 및 훈련 단계에서는 “비교적 관대한(relatively relaxed and tolerant)” 기준이 필요하나, 콘텐츠 생성 및 사용 단계에서는 “보다 엄격한 책임(more stringent liability)” 기준이 적용되어야 한다고 밝혔다((Song & Wang, 2025).

 

검증결과 

거의 거짓


   본 연구를 통해 "중국 정부는 자국의 AI 기업들이 개인정보 및 저작권 데이터를 제한 없이 쓸 수 있도록 허락한다"는 명제를 검증한 결과, 해당 명제는 ‘거의 거짓’인 것으로 나타났다. 현재 중국 정부는 AI 데이터 활용에 대해 포괄적인 법적 규제를 시행하고 있다. AI 서비스 제공자가 개인정보 및 데이터를 처리할 때는 정보 주체의 동의를 얻거나 법적 절차를 거쳐야 함이 공식적으로 명시되어 있으며, 이용자가 입력한 데이터와 이용 기록은 보호되고 신원을 추정할 수 있는 정보를 불법적으로 보관하거나 제3자에게 제공하는 행위는 금지되어 있다. 특히 AI 모델 학습 데이터가 제3자의 지식재산권을 침해해서는 안 된다고 명확히 규정되어 있으며, 지난해 12월 항저우 중급인민법원이 AI 플랫폼의 저작권 '기여 침해 책임'을 확정한 사례 역시 존재한다. 이는 중국 내에서 AI 사업자의 데이터 활용 범위에 명확한 한계가 존재하며, AI 산업의 발전이 엄격한 법적 프레임워크 내에서 이루어지고 있음을 시사한다. 

 

사회적 반향 

1. 기(起; introduction)
    

   과학기술정보통신부가 2025년 7월에 주요 AI 기업들과 개최한 'AI·디지털 기업 간담회'에서 이호준 삼성SDS 부사장은 "중국의 진짜 강점은 데이터를 마음대로 쓸 수 있게 정부 차원에서 허가해 주고 도움을 주는 점"이라고 발언하였다. 해당 발언은 미국의 오픈AI 역시 AI 기업들이 데이터 규제로부터 보호받을 수 있도록 정부의 도움을 요청하는 등 AI 시장에서의 국제적 경쟁력과 데이터 규제 간의 상관관계가 여러 국가의 주요 화두로 떠오른 시점에 이루어졌다.

 

2. 승(承; development)
    

   상기 발언은 중국이 AI 분야에서 가지는 강점 중 하나가 데이터 접근의 용이성에 있다는 사회적 인식을 드러냈다. 이는 AI 개발에 필수적인 대규모 데이터 확보에 대한 기업들의 어려움과 맞물려, 일부에서는 중국의 이러한 방식이 자국 AI 산업의 급속한 발전을 가능하게 하는 요인으로 해석되기도 하였다. 나아가, 이러한 인식은 AI 강국들 간의 경쟁 구도 속에서 각국의 데이터 활용 및 규제 정책에 대한 비교와 논의를 촉발하는 계기가 되었다.

 

3. 전(轉; turn)
    

   본 연구를 통해, 중국의 AI 데이터 활용 규제에 대한 실제 내용은 이 부사장의 발언과 차이가 있음이 드러났다. 중국은 2022년 이후부터 시행한 여러 법적 규제를 통해 AI 관련 데이터 활용에 대해 명확하고 엄격한 의무를 부과하고 있다. 특히 개인정보의 경우 주체의 동의를 요구하며, 이용자 데이터 보호를 위한 의무를 명시하고 있다. 저작권 데이터 역시 제3자의 지식재산권 침해를 명시적으로 금지하고 있으며, 실제 판례를 통해 저작권 침해에 대한 AI 플랫폼의 책임이 인정되기도 했다. 더불어, 해당 규제들은 AI 생성 콘텐츠의 국가 핵심 가치 준수, 유해 정보 금지, 정확성 및 신뢰성 확보, 합성 콘텐츠 표시 의무 등 폭넓은 영역을 포함하고 있다. 이는 중국 정부가 AI 관련 비즈니스의 위험성을 염두에 두고 국가 및 사회 안보를 보호하는 데 중점을 두고 있음을 보여준다.
    
4. 결(結; conclusion)
    

   검증 명제의 기조가 된 발언은 AI 기술 발전에 있어 데이터 접근의 중요성을 강조했으나, 중국의 AI 데이터 규제에 대한 실제 법적 틀과 의무는 해당 발언이 제시한 '제한 없는 허용'과는 거리가 있다는 것이 밝혀졌다. 이는 중국이 AI 경쟁력을 키우는 동시에 데이터 보안, 개인정보 보호, 그리고 콘텐츠 규제 등 다양한 측면에서 통제를 강화하고 있음을 의미한다. 이번 검증 결과는 중국의 AI 산업 발전이 단순히 '데이터를 마음대로 쓸 수 있는' 환경에 기반한 것이 아님을 보여준다. 이는 한국에서 향후 AI 정책을 수립하고 국제적인 AI 거버넌스 논의에 참여할 때, 타국의 실제 규제 상황에 대해 명확히 이해하고 인용해야 함을 시사한다.