AD
[서울=뉴시스]이재준 기자 = 중국 인터넷 규제 당국이 인공지능(AI)을 활용해 만든 콘텐츠라는 표시 의무를 위반한 플랫폼에 대한 제재에 나섰다.
재화망(財華網) 경제통, 재신쾌보에 따르면 중국 국가인터넷정보판공실은 28일 AI 생성 콘텐츠에 대한 식별 표시 의무를 이행하지 않았다는 이유로 바이트댄스(字節跳動) 산하 앱 ‘젠잉(剪映)’, ‘마오샹(猫箱)’, ‘지멍AI(即夢AI)’에 대해 지도·경고 및 책임자 처분 등 엄격한 조치를 취했다고 발표했다.
당국은 AI 생성물이란 사실을 명시하라는 규정을 지키지 않은 현상을 중시하고 허위 정보 확산 방지와 공공 이익 보호를 위해 관련 감독을 앞으로도 강화하겠다고 언명했다.
이번 조치는 AI 생성 콘텐츠에 대한 규제 준수를 대폭 강화하려는 중국 당국의 기조를 반영했다고 매체는 지적했다..
제재를 받은 3개 플랫폼 서비스는 모두 숏폼 플랫폼 TikTok 운영사인 바이트댄스의 주요 애플리케이션이다. ‘젠잉’은 중국 내에서 높은 점유율을 가진 영상 편집 앱이며 해외에서는 ‘캡컷’으로 유명하다.
‘지멍AI’는 이미지와 영상 생성 기능을 중심으로 한 창작 플랫폼이고 ‘마오샹’은 AI 캐릭터와 대화하고 소셜 경험을 하는 서비스를 제공하는 앱이다.
이들 앱은 이용자가 AI를 이용해 사실적인 영상과 음성을 쉽사리 생성할 수 있게 해준다.
당국 발표로는 이들 플랫폼은 AI로 생성·합성된 콘텐츠에 대해 이를 명확히 구분하는 라벨 표시를 제대로 하지 않았다. 이런 행위는 중국 ‘사이버보안법’, ‘생성형 인공지능 서비스 관리 잠정조치’, ‘AI 생성 합성 콘텐츠 식별 규정’ 등에 위배된다.
이에 따라 당국은 지방 인터넷정보판공실을 통해 해당 플랫폼에 대한 제재를 집행하도록 지시했다. 구체적으로는 책임자 면담, 시정 명령, 경고 조치, 관련 담당자에 대한 엄중 처분 등이 포함됐다.
관계자는 플랫폼 사업자가 법적 기준을 엄히 준수하고 AI 생성 콘텐츠에 대한 표시 규정을 철저히 이행해야 한다고 강조했다.
그러면서 앞으로도 AI 콘텐츠 관리·감독을 강화해 공공 이익을 보호하고 기술의 질서 있는 발전을 유도하겠다는 입장을 밝혔다.
단속은 딥페이크와 생성형 AI 콘텐츠에 대한 중국의 규제 강화 흐름 속에서 실시됐다. 얼굴 합성이나 음성 모방 기술 확산으로 사기, 허위 정보 유포, 여론 조작 등 위험이 커지면서 중국은 텍스트·이미지·음성·영상 등 AI 생성물에 대해 이용자가 쉽게 인지할 수 있는 표시를 의무화하는 제도를 도입했다.
관련 규정은 서비스 제공자가 생성 콘텐츠를 실제와 혼동되지 않도록 명확히 표시해야 하며, 이를 어기고 허위 정보 확산이나 공공 이익 훼손이 발생할 경우 강력한 처벌을 하도록 하고 있다.
현재 바이트댄스와 해당 플랫폼 측은 공식 입장을 내놓지 않았다. 업계에서는 적발 조치가 특정 기업에 대한 제재를 넘어 AI 콘텐츠 산업 전반에 대한 경고 성격이 강하다고 보고 있다.
전문가들은 생성형 AI가 본격적인 상용화 단계에 접어든 가운데 혁신과 리스크 관리의 균형이 핵심 과제로 떠오른 상황에서 중국 당국이 규제 준수를 최우선으로 두겠다는 의지를 분명히 했다고 해석했다.
◎공감언론 뉴시스 yjjs@newsis.com
