Jugendschutz im Internet: So groß sind die Gefahren auf TikTok und Co

„Ich kenne wenig Erziehende, die ihre sechsjährige Tochter nachts um zwölf auf die Reeperbahn mitnehmen“, sagt Marc Jan Eumann, „aber im Netz passiert genau das jeden Tag.“ Mit welchen Inhalten Kinder und Jugendliche im Netz konfrontiert werden, weiß Eumann als Direktor der Medienanstalt Rheinland-Pfalz und Vorsitzender der Kommission für Jugendmedienschutz (KJM) genau. Sie sind vielfältig, und es gehören nicht nur harmlose Videospielen, Tiervideos oder Schminktipps dazu. Auch Hassbotschaften von Extremist*innen, mit künstlicher Intelligenz generierte Pornografie, Gewaltdarstellungen und digital manipulierte Schönheitsideale sind Teil der Netzwelt.

Anders als in der analogen Welt jedoch, wo Kinder und Jugendliche in der Regel vor Umgebungen geschützt werden, die für die unangemessen sind, können sie online mit dem ersten Smartphone – also oftmals bereits im Grundschulalter – bereits mit diversen fragwürdigen Inhalten in Berührung kommen. Und das hat Konsequenzen. So gingen im Jahr 2024 insgesamt 17.630 Verstöße gegen Jugendschutzbestimmungen im Netz beim Kompetenzzentrum jugendschutz.net ein. Im Vergleich zum Vorjahr, in dem 7.645 Fälle gemeldet wurden, hat sich die Zahl damit mehr als verdoppelt. Jugendschutz.net führt das vor allem auf mehr Hinweise zurück, also eine schrumpfende Dunkelziffer. Trotzdem steht für das Kompetenzzentrum fest: Hass und Sexualisierung nehmen im Netz zu – und damit auch das Risiko, dass Kinder und Jugendliche damit in Berührung kommen.

Jugendschutz: Verstößt Instagram gegen seine AGB?

Doch was kann dagegen getan werden? Zwar gibt es digitale Jugenschutzbestimmungen, doch diese greifen lediglich für deutsche Betreiber von Internetseiten und setzen vor allem auf Selbstkontrolle der Medien. Entsprechend sind sie voller Schlupflöcher.

Ein Beispiel dafür: Die inkonsequente Durchsetzung von Maßnahmen zur Altersüberprüfung. „Weder TikTok noch Instagram wissen gerade, wie alt ihre Nutzer wirklich sind“, erklärt Marc Jan Eumann im Gespräch mit dem „vorwärts“. Denn wer sich beispielsweise bei Instagram registrieren möchte, muss zwar laut den Nutzungsbedingungen der Plattform mindestens 13 Jahre alt sein – bei der Registrierung wird das angegebene Alter jedoch nicht überprüft.

Ein zehnjähriges Kind kann sich dort also ohne Konsequenzen anmelden und sogar als volljährig ausgeben. Nur, wenn es seine Altersangabe ändern möchte, müsste es das neu angegebene Alter verifizieren lassen. „Damit verstößt Instagram streng genommen gegen die eigenen allgemeinen Geschäftsbedingungen“, so Eumann. Dabei könnte eine konsequente Altersüberprüfung für Soziale Medien Kinder deutlich besser vor Inhalten schützen, die für sie gefährlich sind, findet er. 

Politik hat Verantwortung für den Schutz der Kinder 

Doch aktuell handelt keiner der großen Anbieter aus Eigeninitiative – aus Angst vor einem Wettbewerbsnachteil, so Marc Jan Eumann. Denn konsequent durchgesetzter Jugendschutz bedeutet Altersbeschränkungen, und das schränkt auch die Zahl der Nutzer*innen ein. Dagegen helfen könnte möglicherweise Druck aus der Politik. Denn neben den Erziehenden und Anbietern steht auch sie in der Verantwortung, die rechtlichen Rahmenbedingungen für den Kinder- und Jugendschutz zu schaffen.

Einer dieser Verantwortlichen ist der SPD-Bundestagsabgeordnete Armand Zorn, der seit dieser Legislaturperiode stellvertretender Fraktionsvorsitzende ist. Zorn ist unter anderem für die Digitalpolitik im Bundestag zuständig und fordert in einem schriftlichen Statement dem „vorwärts“ gegenüber „einen wirksamen, zukunftsfesten Jugendschutz im Netz, der technische, rechtliche und gesellschaftliche Hebel miteinander verbindet“. Um das zu erreichen, verfolge die Bundesregierung einen „umfassenden Ansatz“, so Zorn. Dieser setze vor allem auf die Stärkung des bereits vorhandenen Jugendschutzgesetzes und des europäischen Digital Services Act (DSA), um Plattformbetreiber stärker in die Pflicht zu nehmen. 

Ein weiteres Stichwort ist für den SPD-Politiker „Prävention durch Bildung“. So solle etwa Medienkompetenz an Schulen eine größere Rolle spielen und digitale Resilienz gefördert werden, „damit junge Menschen Risiken besser erkennen und ihnen selbstbewusst begegnen können“, fordert Zorn.

Nicht nur die Inhalte im Netz sind das Problem

Während konkrete Vorschläge zur Umsetzung dieser Ziele bislang noch kaum ausgearbeitet sind, scheint jedoch bereits klar zu sein: Angesichts der rasanten Entwicklungen in der digitalen Welt stehen Politik und Gesellschaft vor großen Herausforderungen, wenn es um den Schutz von Kindern und Jugendlichen geht.

Die Koalitionsvereinbarungen von Schwarz-Rot sind laut Marc Jan Eumann eine „extrem gute Grundlage“, um den Jugendschutz im Netz zeitgemäß zu gestalten. Langfristig dürfte es dabei jedoch nicht nur um die Inhalte auf den Plattformen gehen, sondern auch um die Plattformen an sich. Denn für diese sei Zeit die wichtigste Währung. „Die Algorithmen dieser Apps sind so programmiert, dass man dranbleibt“, sagt Marc Jan Eumann. „Anders als früher, wo eine Fernsehsendung zum Beispiel auch irgendwann vorbei war, ist das hier nie zu Ende“, sagt er mit Blick auf Plattformen wie Instagram oder TikTok, die endlos weiter neue Inhalte ausspielen, die auf das Nutzerverhalten zugeschnitten sind. Das berge erhebliche Risiken, sagt Eumann.

Denn Algorithmen seien in der Regel darauf ausgerichtet, dass Nutzer*innen möglichst viel des Glückshormons Dopamin ausschütten. Was dieser Mechanismus für die Gehirne von Heranwachsenden – die sich mitten in der Entwicklung befinden – langfristig bedeutet, sei bisher kaum erforscht. Für Eumann steht jedoch fest: „Wir gehen mit dieser Entwicklung nicht angemessen um.“ Gesellschaftlich müsse auch über diese Art von Risiken, die von den Funktionsweisen der Plattformen ausgehen, diskutiert werden.