Indien verschärft KI-Regeln für soziale Medienplattformen
Pflichtkennzeichnung synthetisch generierter Informationen
Indien hat erstmals offiziell KI-generierte Inhalte einer formellen Regulierung unterzogen. Die Mitteilung der Zentralregierung vom 10. Februar ändert die IT-Intermediärsregeln und verpflichtet soziale Medienplattformen, alle synthetisch generierten Informationen (SGI) klar, deutlich und unmissverständlich zu kennzeichnen. Dies umfasst Deepfake-Videos, KI-generierte Voiceovers, Bilder mit getauschten Gesichtern – alle Inhalte, die künstlich erstellt oder verändert wurden und als authentisch missverstanden werden könnten. Routinemäßige Bearbeitungen wie Farbkorrektur, Komprimierung oder Übersetzung sind ausgenommen, ebenso wie illustrative Inhalte in Forschungspapieren oder Präsentationen.
Plattformen müssen zudem dauerhafte Metadaten und eindeutige Identifikatoren in SGI einbetten, um die Rückverfolgbarkeit zu gewährleisten. Einmal angebracht, dürfen diese Markierungen nicht entfernt oder manipuliert werden, wodurch eine Gesetzeslücke geschlossen wird, bei der Kennzeichnungen beim erneuten Hochladen von Inhalten verschwinden konnten. Die Regeln treten am 20. Februar 2026 in Kraft.
Drei-Stunden-Löschfrist für rechtswidrige Inhalte
Die Reaktionszeiten wurden drastisch verkürzt. Bei rechtmäßigen Regierungsanordnungen haben Plattformen jetzt nur noch drei Stunden Zeit, um auf gemeldete Inhalte zu reagieren – gegenüber zuvor 36 Stunden. Andere Fristen wurden von 15 Tagen auf sieben und von 24 Stunden auf 12 reduziert. Bei Inhalten mit Nacktheit oder sexuell eindeutigem Material wird die Löschfrist auf zwei Stunden verkürzt.
Plattformen müssen automatisierte Tools einsetzen, um SGI, die gegen das Gesetz verstoßen, aktiv zu blockieren, darunter Material über sexuellen Kindesmissbrauch, obszöne Inhalte, falsche elektronische Aufzeichnungen, explosionsbezogene Inhalte und Deepfakes, die zur Täuschung bestimmt sind. Bei Nichteinhaltung droht Plattformen der Verlust des Safe-Harbor-Schutzes gemäß Abschnitt 79 des IT-Gesetzes.
Strengere Pflichten für bedeutende soziale Medienintermediäre
Große Plattformen wie Instagram, YouTube und Facebook haben zusätzliche Verantwortlichkeiten gemäß der neuen Regel 4(1A). Bevor ein Upload live geht, müssen sie die Nutzer auffordern, zu erklären, ob der Inhalt KI-generiert ist. Plattformen müssen dann automatisierte Tools verwenden, um diese Erklärungen zu überprüfen. Bestätigt sich der Inhalt als synthetisch, muss eine sichtbare Kennzeichnung angezeigt werden. Das wissentliche Zulassen ungekennzeichneter synthetischer Inhalte gilt als Verstoß gegen die Sorgfaltspflicht.
Der frühere Entwurf, der visuelle Kennzeichnungen auf mindestens 10 % der Anzeigefläche vorsah, wurde nach Branchenrückmeldungen fallengelassen. Die endgültigen Regeln schreiben Kennzeichnungen vor, jedoch ohne starre Größenangaben, was mehr Flexibilität bei gleichzeitiger Wahrung der Offenlegungspflichten bietet.
Nutzererklärungs- und Sensibilisierungspflichten
Soziale Mediennutzer werden die sichtbarste Änderung sehen: Kennzeichnungen auf KI-generierten Beiträgen, Reels, Videos und Audio-Clips. Vor der Interaktion wissen die Nutzer, was echt und was maschinell erstellt ist. Darüber hinaus müssen Nutzer, die Inhalte hochladen, erklären, ob diese mit KI-Tools erstellt oder verändert wurden. Falschdarstellungen können nun je nach Art des Inhalts Strafen nach dem Bharatiya Nyaya Sanhita (BNS) oder dem POCSO-Gesetz nach sich ziehen.
Plattformen müssen außerdem regelmäßige Erinnerungen – mindestens einmal alle drei Monate – auf Englisch oder in einer Sprache des achten Anhangs versenden, in denen die Nutzer über die Regeln und die Folgen von Verstößen informiert werden. Diese Erinnerungen erscheinen in aktualisierten Nutzungsbedingungen, Datenschutzrichtlinien oder In-App-Benachrichtigungen.
Verantwortung erstreckt sich auf KI-Tool-Anbieter
Die geänderten Regeln machen nicht nur Plattformen, sondern auch KI-Tool-Anbieter verantwortlich. Anbieter wie ChatGPT, Grok und Gemini müssen sicherstellen, dass ihre Tools nicht zur Erstellung synthetisch generierter Informationen verwendet werden, die gegen indisches Recht verstoßen. Schwere Verstöße im Zusammenhang mit Kinderschutz oder Straftaten müssen den Behörden gemeldet werden. Dies geschieht vor dem Hintergrund von Kontroversen um KI-Tools, die die Erstellung obszöner und nicht einvernehmlicher Bilder ermöglichen.
Die Regierung hat auch rechtliche Verweise aktualisiert und das indische Strafgesetzbuch durch das Bharatiya Nyaya Sanhita von 2023 ersetzt, um die Übereinstimmung mit dem neuen Strafrechtsrahmen sicherzustellen. Plattformen und Nutzer müssen sich schnell anpassen – die Compliance-Frist ist der 20. Februar 2026.