중국은 생성형 AI(gen AI) 분야에 대한 새로운 규제를 제안하며, 인간 상호작용을 시뮬레이션하는 신흥 기술에 대한 감독을 강화할 것임을 시사했습니다. 중국 사이버 공간 관리국(CAC)이 발표한 제안된 규칙은 텍스트, 이미지, 오디오, 비디오 또는 인간의 의사소통, 성격 특성 또는 감정 표현을 모방하는 기타 콘텐츠를 생성하는 애플리케이션을 대상으로 합니다. 이 규정은 소비자 안전을 보장하고 AI 기반 서비스와 관련된 위험을 줄이는 것을 목표로 합니다.
콘텐츠 제한 및 유저 안전
제안된 규정에 따라 AI 생성 콘텐츠는 국가 안보를 위협하거나 중국의 가치를 훼손하거나 개인을 비방하는 것을 피해야 합니다. 음란물, 도박, 폭력 또는 범죄를 조장하는 콘텐츠도 금지됩니다. 또한, 허위 약속으로 유저를 오도하거나 유해한 행동을 조장하거나 사회적 관계를 손상시키는 서비스는 제한을 받습니다. 자해 또는 자살을 조장하는 것을 포함하여 유저의 신체적 또는 정신적 건강을 해칠 수 있는 콘텐츠를 방지하는 데 특별한 주의를 기울입니다. 이러한 경우, 유저의 보호자 또는 응급 서비스에 연락하기 위해 인간의 개입이 필요합니다.
미성년자와 AI 상호작용
이 규칙은 또한 미성년자의 AI 기술 사용을 다룹니다. 기업은 어린이가 생성형 AI 시스템과 상호작용하도록 허용하기 전에 보호자의 동의를 얻어야 합니다. 이 규정은 AI 서비스가 사회적 상호작용을 대체하거나 유저 심리에 영향을 미치거나 중독성 행동을 유도하는 것을 목표로 해서는 안 된다는 점을 분명히 합니다. 기업은 AI에 과도하게 의존할 수 있는 유저에게 명확한 경고를 제공해야 하며, 알림은 유저가 인간이 아닌 AI와 상호작용하고 있음을 명확히 해야 합니다.
업계 피드백 및 다음 단계
CAC는 제안된 규정에 대한 대중의 피드백 마감일을 2026년 1월 25일로 정했습니다. 이 이니셔티브는 신흥 기술을 규제하고 생성형 AI 및 더 넓은 기술 분야에서 소비자 보호를 유지하려는 중국의 증가하는 초점을 강조합니다. 이 지역에서 운영되는 기업은 특히 소비자 대면 AI 애플리케이션에 대해 이러한 향후 요구 사항을 준수하도록 관행을 조정해야 합니다.
자주 묻는 질문(FAQs)
생성형 AI란 무엇인가요?
생성형 AI는 인간의 의사소통 스타일, 성격 특성 및 감정 반응을 시뮬레이션하여 텍스트, 이미지, 오디오 또는 비디오와 같은 콘텐츠를 생성할 수 있는 기술을 말합니다.
중국이 생성형 AI를 규제하는 이유는 무엇인가요?
중국은 유저를 보호하고, 유해한 콘텐츠를 방지하며, 국가 안보를 보호하고, AI 기술의 사회적 및 심리적 영향을 관리하기 위해 규제를 도입하고 있습니다.
중국에서 미성년자가 AI 서비스를 사용할 수 있나요?
네, 하지만 보호자의 동의가 있어야 합니다. 제안된 규칙은 미성년자가 생성형 AI와 상호작용하는 경우 부모의 승인을 요구합니다.
새로운 규칙에 따라 어떤 유형의 콘텐츠가 금지되나요?
국가 안보를 위협하거나, 타인을 모욕하거나 비방하거나, 음란물, 도박, 폭력 또는 범죄를 조장하거나, 신체적 또는 정신적 건강을 해치는 콘텐츠는 금지됩니다.
규정은 언제 발효되나요?
대중의 피드백 기간은 2026년 1월 25일에 종료됩니다. 최종 시행일은 응답 검토 및 공식 발표에 따라 달라집니다.
이 규칙이 AI를 사용하는 웹3 애플리케이션에 영향을 미치나요?
네, AI 기반 소비자 대면 애플리케이션(웹3 공간의 애플리케이션 포함)은 중국 유저가 접근할 수 있는 경우 규정을 준수해야 합니다.
