MeitY의 새로운 AI 콘텐츠 규칙: 소셜 미디어 사용자가 알아야 할 8가지 주요 변경 사항

새로운 AI 콘텐츠 규칙 이해하기

전자정보기술부(MeitY)는 소셜 미디어 플랫폼에서 AI 생성 콘텐츠에 대한 더 엄격한 준수 프레임워크를 도입했습니다. 2026년 2월 20일부터 시행되는 2021년 IT 규칙 개정안은 사용자와 기술 기업 모두에 대한 기한과 책임 기준을 크게 강화합니다. 다음은 알아야 할 8가지 주요 변경 사항입니다.

1. AI 생성 콘텐츠의 필수 신고

새 규칙에 따라 Facebook, Instagram, X, YouTube와 같은 플랫폼은 사용자에게 게시 전에 콘텐츠가 AI 생성인지 신고하도록 요청해야 합니다. 이 신고는 법적 요구 사항이며, 플랫폼은 기술을 사용하여 정확성을 검증해야 합니다. 딥페이크나 합성 미디어를 신고 없이 게시하면 불이익을 받을 수 있습니다.

2. 눈에 띄는 라벨링 및 영구 마커

콘텐츠가 합성 생성으로 식별되면 플랫폼은 워터마크나 공지와 같은 명확하고 눈에 띄는 라벨을 부착하여 시청자가 유기적이지 않음을 알 수 있도록 해야 합니다. 또한 플랫폼은 콘텐츠의 출처를 추적할 수 있도록 영구 마커나 메타데이터를 추가해야 합니다. 이러한 라벨은 제거하거나 숨길 수 없으며 투명성을 보장합니다.

3. 불법 콘텐츠에 대한 더 빠른 삭제

가장 중요한 변경 사항 중 하나는 준수 기간의 대폭 단축입니다. 정부나 법원이 콘텐츠 삭제 명령을 내리면 플랫폼은 기존 24~36시간에서 3시간 이내에 조치해야 합니다. 나체 또는 성적으로 노골적인 이미지의 경우 기한은 2시간으로 더욱 단축됩니다. 이는 AI 생성 콘텐츠뿐만 아니라 모든 유형의 콘텐츠에 적용됩니다.

4. 유해 합성 콘텐츠 금지

플랫폼은 아동 성 학대 자료, 비동의 친밀한 이미지, 가짜 문서, 무기 및 폭발물 관련 콘텐츠를 포함하는 콘텐츠를 생성하거나 공유하는 AI 도구를 차단해야 합니다. 실제 인물이 실제로 하지 않은 말이나 행동을 하는 것처럼 거짓으로 보여주는 딥페이크도 금지됩니다. 이는 기만적인 AI 시각 자료, 가짜 음성 클립, 조작된 비디오를 겨냥합니다.

5. 사용자 책임 및 결과

사용자는 콘텐츠 즉시 삭제, 계정 정지 또는 종료, 피해자에 대한 신원 공개, 콘텐츠가 범죄인 경우 법 집행 기관에 신고하는 등 규칙 위반에 대한 엄격한 제재를 받습니다. 플랫폼은 최소 3개월에 한 번씩 사용자에게 이러한 결과를 상기시켜야 합니다.

6. 일상적인 편집에 대한 면제

모든 AI 사용에 라벨링이 필요한 것은 아닙니다. MeitY는 자르기, 색상 보정, 번역, 서식, 자막 또는 접근성 개선과 같은 기본 편집은 딥페이크로 간주되지 않는다고 명확히 했습니다. 사진 필터 적용, 비디오 압축, 프레젠테이션 슬라이드 생성도 일상적인 지원으로 간주되며 합성 미디어가 아닙니다. 초점은 사람들을 오도할 수 있는 가짜 또는 기만적인 콘텐츠에 있습니다.

7. 중요 중개자에 대한 강화된 주의 의무

500만 명 이상의 사용자를 보유한 대형 플랫폼은 불법 합성 콘텐츠를 탐지하고 방지하기 위해 "합리적이고 적절한 기술적 조치"를 배포해야 합니다. 여기에는 검증을 위한 자동화 도구와 사전 모니터링이 포함됩니다. 플랫폼이 유해한 AI 콘텐츠를 의도적으로 허용하거나 조치를 취하지 않으면 주의 의무 규칙을 따르지 않는 것으로 간주될 수 있습니다.

8. 사용자 신고에 대한 새로운 준수 기한

사용자가 신고한 기만적인 콘텐츠 또는 사칭의 경우 플랫폼은 기존 72시간에서 36시간 이내에 조치해야 합니다. 이 더 빠른 대응 시간은 잘못된 정보의 확산을 억제하고 온라인 사기 및 명예 훼손으로부터 사용자를 보호하는 것을 목표로 합니다. 3시간 정부 삭제 창과 결합하여 이러한 규칙은 더 반응적인 생태계를 만듭니다.

이러한 규칙이 시행됨에 따라 정보를 숙지하는 것이 중요합니다. 일반 소셜 미디어 사용자든 콘텐츠 제작자든 새로운 AI 콘텐츠 규칙에 따른 책임을 이해하는 것이 필수적입니다. 투명성을 수용하고 AI 생성 콘텐츠를 신고하며 모두를 위한 더 안전한 디지털 공간을 만드는 데 기여하세요.