인도, 소셜 미디어 플랫폼에 대한 AI 규제 강화

합성 생성 정보의 필수 라벨링

인도가 처음으로 AI 생성 콘텐츠를 공식 규제 대상에 포함시켰습니다. 2월 10일 중앙 정부의 공고는 IT 중개자 규칙을 개정하여 소셜 미디어 플랫폼이 모든 합성 생성 정보(SGI)를 명확하고 눈에 띄며 모호하지 않은 방식으로 라벨링하도록 의무화했습니다. 여기에는 딥페이크 비디오, AI 생성 음성 더빙, 얼굴 합성 이미지 등 인공적으로 생성되거나 변조되어 진짜로 오인될 수 있는 모든 콘텐츠가 포함됩니다. 색상 보정, 압축, 번역과 같은 일상적인 편집은 제외되며, 연구 논문이나 프레젠테이션의 예시 콘텐츠도 제외됩니다.

플랫폼은 또한 SGI에 지속적인 메타데이터와 고유 식별자를 포함시켜 추적 가능성을 보장해야 합니다. 이러한 표식이 적용되면 제거되거나 변조될 수 없으며, 콘텐츠가 재업로드될 때 라벨이 사라질 수 있는 허점을 차단합니다. 이 규칙은 2026년 2월 20일부터 시행됩니다.

불법 콘텐츠에 대한 3시간 삭제 기한

대응 시간이 대폭 단축되었습니다. 합법적인 정부 명령의 경우, 플랫폼은 이제 표시된 콘텐츠에 대해 3시간 이내에 조치를 취해야 하며, 이전 36시간에서 단축되었습니다. 다른 기한은 15일에서 7일로, 24시간에서 12시간으로 단축되었습니다. 나체나 성적 콘텐츠가 포함된 경우 삭제 기한은 2시간으로 단축됩니다.

플랫폼은 아동 성적 학대 자료, 외설 콘텐츠, 허위 전자 기록, 폭발물 관련 콘텐츠, 속이기 위한 딥페이크 등 법을 위반하는 SGI를 적극적으로 차단하기 위해 자동화 도구를 배포해야 합니다. 이를 준수하지 않을 경우 플랫폼은 IT법 제79조에 따른 안전한 항구 보호를 상실할 수 있습니다.

중요 소셜 미디어 중개자에 대한 강화된 의무

Instagram, YouTube, Facebook과 같은 주요 플랫폼은 새로운 규칙 4(1A)에 따라 추가적인 책임을 집니다. 업로드가 게시되기 전에 사용자에게 콘텐츠가 AI 생성인지 여부를 선언하도록 요구해야 합니다. 플랫폼은 자동화 도구를 사용하여 이러한 선언을 확인해야 합니다. 합성으로 확인되면 눈에 띄는 라벨이 표시되어야 합니다. 라벨이 없는 합성 콘텐츠를 의도적으로 허용하는 것은 주의 의무 위반으로 간주됩니다.

이전 초안 제안(시각적 라벨이 표시 영역의 최소 10%를 차지하도록 요구)은 업계 피드백 이후 폐기되었습니다. 최종 규칙은 라벨을 의무화하지만 엄격한 크기 사양 없이 더 많은 유연성을 제공하면서 공개 요구 사항을 유지합니다.

사용자 선언 및 인식 요구 사항

소셜 미디어 사용자는 가장 눈에 띄는 변화를 보게 될 것입니다: AI 생성 게시물, 릴스, 비디오, 오디오 클립에 라벨이 표시됩니다. 참여하기 전에 사용자는 무엇이 진짜이고 무엇이 기계로 만들어진 것인지 알게 됩니다. 또한 콘텐츠를 업로드하는 사용자는 AI 도구를 사용하여 생성되었거나 변경되었는지 선언해야 합니다. 허위 표시는 이제 콘텐츠 성격에 따라 Bharatiya Nyaya Sanhita(BNS) 또는 POCSO법에 따라 처벌을 받을 수 있습니다.

플랫폼은 또한 적어도 3개월에 한 번씩 영어 또는 제8부칙 언어로 사용자에게 규칙과 위반 시 결과를 알리는 정기적인 알림을 보내야 합니다. 이러한 알림은 업데이트된 서비스 약관, 개인정보 보호정책 또는 앱 내 알림에 표시됩니다.

AI 도구 제공자에 대한 책임 확대

개정된 규칙은 플랫폼뿐만 아니라 AI 도구 제공자에게도 책임을 부과합니다. ChatGPT, Grok, Gemini와 같은 제공자는 자신의 도구가 인도 법을 위반하는 합성 생성 정보를 만드는 데 사용되지 않도록 해야 합니다. 아동 보호나 범죄 행위와 관련된 심각한 위반 사항은 당국에 신고해야 합니다. 이는 AI 도구가 외설적이고 동의 없는 이미지를 생성할 수 있게 한 논란 속에서 나온 조치입니다.

정부는 또한 법적 참조를 업데이트하여 인도 형법을 2023년 Bharatiya Nyaya Sanhita로 대체하여 새로운 형법 체계와의 일관성을 보장했습니다. 플랫폼과 사용자 모두 신속하게 적응해야 하며, 준수 마감일은 2026년 2월 20일입니다.