Neues spanisches Gesetz zum Schutz von Kindern im digitalen Raum: Zwei Jahre Gefängnis für die Fälschung sexueller Bilder mit KI

Der Ministerrat hat am Dienstag das Gesetz zum Schutz von Kindern und Jugendlichen im digitalen Raum verabschiedet. Es soll dem „Gesetz des Dschungels“ im Internet Einhalt gebieten und die Entwicklung junger Menschen schützen. Das vom Ministerium für Jugend und Familie vorangetriebene Gesetz sieht unter anderem Haftstrafen von bis zu zwei Jahren für die Erstellung und Verbreitung KI-generierter sexueller Darstellungen vor. Weitere Maßnahmen umfassen virtuelle einstweilige Verfügungen, die verpflichtende Ausstattung aller technischen Geräte mit werkseitig aktivierter Kindersicherung sowie die Anhebung des Mindestalters für die Nutzung sozialer Netzwerke auf 16 Jahre.

Die Verordnung wurde im vergangenen November vom Allgemeinen Rat der rechtsprechenden Gewalt (CGPJ) einstimmig angenommen und berücksichtigt die Empfehlungen einer von der Regierung eingesetzten Expertenkommission, die die Auswirkungen digitaler Technologien auf Minderjährige untersucht hat. Parallel zum Gesetz arbeitet das von Sira Rego geführte Ministerium an einer nationalen Strategie mit präventiven Ansätzen und der Förderung einer verantwortungsvollen Nutzung digitaler Umgebungen, die laut Ministeriumskreisen „ebenso wichtig wie die Regulierung“ sei.

„Dieses Gesetz erfüllt ein Versprechen von Präsident Pedro Sánchez, der die Sorgen spanischer Familien hinsichtlich der Risiken des digitalen Raums ernst nimmt“, betonte Justizminister Félix Bolaños in der Pressekonferenz nach der Kabinettssitzung. Er bezeichnete die Regelung als „wegweisend in Europa“ und unterstrich ihre Bedeutung angesichts der „besorgniserregenden“ Datenlage: Das Durchschnittsalter für den Besitz des ersten Mobiltelefons in Spanien liegt bei elf Jahren – gleichzeitig dem durchschnittlichen Alter des Erstkontakts mit Pornografie. 99 Prozent der Jugendlichen mit Mobiltelefon nutzen soziale Netzwerke, und 91 Prozent sind täglich online.

Der Gesetzesentwurf, der nun dem Kongress zur parlamentarischen Beratung vorgelegt wird, umfasst Maßnahmen im Bildungs- und Gesundheitswesen sowie Änderungen des Strafgesetzbuches. Künftig müssen alle neu hergestellten Geräte – Mobiltelefone, Tablets, Computer etc. – mit einer standardmäßig aktivierten und kostenlosen Kindersicherung ausgestattet sein. Um Kontrollmechanismen für die Industrie zu etablieren, schreibt das Gesetz zudem eine „verständliche Kennzeichnung“ aller Geräte vor, die über die Gefahren und Risiken unsachgemäßer Nutzung und deren Auswirkungen auf die körperliche, geistige und moralische Entwicklung von Minderjährigen aufklärt. „Dies zwingt die Hersteller, Verantwortung zu übernehmen und die Auswirkungen ihrer Produkte auf Kinder und Jugendliche gründlich zu analysieren“, so das Jugend- und Familienministerium.

Reform des Strafgesetzbuches:

Das Gesetz reformiert das Strafgesetzbuch in mehreren Punkten. Es führt einen „Katalog von Sanktionen“ ein, der die digitale Kontaktaufnahme zwischen Tätern und Opfern unterbindet. „Wir haben sozusagen digitale einstweilige Verfügungen geschaffen“, erklärte Bolaños. Weiterhin wird die Bereitstellung pornografischen Materials an Minderjährige unter Strafe gestellt. Drittens werden sogenannte Deepfakes als Straftatbestand eingeführt und als erniedrigende oder sexuelle Inhalte definiert, die täuschend echt wirken und den Anschein erwecken, eine andere Person handle. „Sie stellen ein Verbrechen dar, wenn sie aufgrund ihres hohen Realitätsgrades darauf abzielen, eine bestimmte Person zu schikanieren“, präzisierte der Minister.

Konkret drohen ein bis zwei Jahre Haft für die „Verbreitung, Ausstellung oder Übertragung von durch automatisierte Systeme, Software, Algorithmen, künstliche Intelligenz oder andere Technologien erzeugten, veränderten oder neu erstellten Körperbildern oder Sprachaufnahmen mit sexuellem oder schwer schikanierendem Inhalt, die echt erscheinen und ohne Zustimmung der betroffenen Person mit der Absicht verbreitet werden, deren moralische Integrität zu verletzen“. Sind die Opfer minderjährig oder behindert, erhöht sich die Strafe auf anderthalb bis zwei Jahre.

Das Gesetz regelt außerdem das sogenannte Grooming, die Online-Anbahnung von Minderjährigen, und stuft es als erschwerenden Umstand bei Straftaten gegen die sexuelle Freiheit ein. Dabei gibt sich ein Erwachsener als Minderjähriger aus, um das Vertrauen eines Jugendlichen zu gewinnen und in der Regel pornografische Inhalte zu erhalten. Schließlich wird Cybermobbing als Straftatbestand aufgenommen.

Soziale Medien erst ab 16:

Das Datenschutzgesetz wird dahingehend geändert, dass das Mindestalter für die Nutzung sozialer Netzwerke von 14 auf 16 Jahre angehoben wird. Das allgemeine Gesetz über audiovisuelle Kommunikation wird ebenfalls angepasst, um große Kommunikationsanbieter und Influencer mit vielen Followern zu verpflichten, Meldekanäle für minderjährigengefährdende Inhalte einzurichten.

Zudem verbietet das Gesetz Minderjährigen den Zugang zu zufälligen Belohnungsmechanismen in Videospielen und auf Plattformen – sogenannten Lootboxen – , woran laut Bolaños „intensiv“ mit der Europäischen Kommission zusammengearbeitet wurde.

Richter können „unangemessene“ Inhalte entfernen:

Weitere Maßnahmen reformieren das Justizorganisationsgesetz und das Verwaltungsverfahrensgesetz, um ein gerichtliches Eingreifen zu ermöglichen. Richter und Staatsanwälte können die „vorübergehende Sperrung“ von digitalen Diensten anordnen, die „Minderjährigen unangemessene Inhalte anbieten“, und diese Inhalte sogar entfernen lassen.

Früherkennung von Suchtverhalten in der Primärversorgung:

Im Gesundheitswesen werden die Behörden verpflichtet, Leitlinien und Programme zur Gesundheitsförderung und -prävention in der Primärversorgung zu entwickeln, um Suchtverhalten von Kindern und Jugendlichen im Zusammenhang mit Mobiltelefonen und sozialen Netzwerken frühzeitig zu erkennen. Gemäß dem im Juni verabschiedeten Text sollen Gesundheitstests Verhaltensänderungen oder körperliche, geistige und seelische Gesundheitsprobleme, die auf die übermäßige Nutzung digitaler Geräte zurückzuführen sind, frühzeitig identifizieren.

Regulierung von Mobiltelefonen im Unterricht:

Im Bildungsbereich fördert das Gesetz die Ausbildung und Fortbildung im Bereich digitaler Kompetenzen und verpflichtet Schulen, die Nutzung von Mobiltelefonen im Unterricht und bei außerschulischen Aktivitäten „explizit“ zu regeln, in Übereinstimmung mit bestehenden oder noch zu erlassenden regionalen Vorschriften. Konkret wird die Nutzung mobiler Geräte in der Vorschule, der Primarstufe, der Sekundarstufe, der Oberstufe und der Sonderpädagogik geregelt.