Vorsitzende Jugendmedienschutz: KI schafft neue Dimension an Risiken

Rund 15.000 Verstöße gegen das Jugendschutzgesetz registrierte das Kompetenzzentrum jugendschutz.net 2025 im Internet. Betrieben von Bund, Ländern und Landesmedienanstalten setzt es sich für den Schutz von Kindern und Jugendlichen im Internet ein. Die Zahl bewegt sich damit erneut auf hohem Niveau. Ursache dafür ist ein enorm hohes Aufkommen im Bereich sexualisierter Gewalt. Die Nutzung von künstlicher Intelligenz verschärft auf jugendarfinen Internetplattformen zusätzlich die Risiken für Kinder und Jugendliche. Dies sagt die Kommissionsvorsitzende für Jugendmedienschutz und Leiterin der Medienanstalt Hamburg-Schleswig-Holstein. Frau Sommer, KI eröffnet neue Möglichkeiten. Positive, aber auch im Negativen sozusagen. Jugendschutzrelevante Themen sind davon auch betroffen. Mit welchem Blick schauen Sie auf künstliche Intelligenz, gerade was den Jugendschutz angeht? Sehen Sie da Handlungsbedarf? Muss man da nachschärfen, um die Jugend zu schützen? Also grundsätzlich ist es so, dass es erst mal gar nicht darauf ankommt, ob KI zum Einsatz kommt bei der Erstellung von Inhalten. Für uns ist immer nur ausschlaggebend, sind die Inhalte selber für Kinder und Jugendliche eigentlich geeignet oder nicht. Da sehen wir bei KI aber natürlich schon sehr große Herausforderungen, weil es ist einfach unglaublich einfach, Inhalte zu erstellen, und zwar hochprofessionell wirkende Inhalte. Ich kann Nacktbilder erzeugen von Personen, die eigentlich auf einem Bild angezogen waren. Ich kann rechtsextreme Lieder herstellen. Die Möglichkeiten sind fast unerschöpflich. Und das ist natürlich eine ganz neue Dimension an Gefährdung und an Risiken, mit der wir uns da auseinandersetzen müssen. Und über Bots, so habe ich das verstanden, ist sowas auch massenweise zu produzieren. Wie sind wir denn da aufgestellt als Deutsche? Also die Behörden, Staatsanwaltschaften, Gerichte. Wenn das jetzt um die Verfolgung strafrechtlicher Inhalte sind, sind wir da offen oder personalmäßig auch. Es wird ja immer von einer Überbelastung des Justizsystems gesprochen. Sind wir da auf einem guten Stand, um den Herausforderungen uns stellen zu können? Na, wir haben zumindest zwei große Herausforderungen, mit denen wir uns befassen müssen. Das erste ist, dass bei uns die Verantwortlichkeit in der Regel bei demjenigen ansetzt, der einen Inhalt selber erstellt, also der konkrete Accountbenutzer. Und den kennen wir oft gar nicht. Der muss auch gar nicht in Deutschland sitzen. Und sobald das der Fall ist, kommen wir an den selber nicht mehr ran. Dann sind die einzigen Möglichkeiten, die wir haben, das an eine Plattform zu melden, damit die selber ersatzweise den Inhalt löscht. Und das zweite ist natürlich, wir sehen schon, dass die Anzahl an Inhalten, die täglich auf Social Media hochgeladen werden, das nimmt enorm zu. Und in gleichem Maße sind, glaube ich, die Ressourcen weder bei uns Medienanstalten noch in den Strafverfolgungsbehörden gewachsen. Und da sollten wir natürlich auch dringend nachsteuern. Es wurde ja vorhin an die Wand projiziert, wie so die Kooperation ist mit den Plattformbetreibern. Und die Zahlen sehen ja düster aus, was jetzt Meldungen angeht. Wenn man was meldet sozusagen, was wäre da eine Verbesserungsmöglichkeit? Wie kann man mehr Druck auf die Plattformbetreiber ausüben, damit sie Inhalte löschen oder ja auch mehr Schutz ausüben für die Jugend? Man müsste da auch noch mal nachschärfen, denn im Moment müssen die Plattformen Meldewege zur Verfügung stellen und sie sind ansonsten aber erst dann verantwortlich, Maßnahmen zu ergreifen, wenn man ihnen tatsächlich einen konkreten unzulässigen Inhalt gemeldet hat. Und da müssten wir schon noch mal deutlichere Grenzwerte vielleicht festlegen, dass man sagt, was für eine Quote und in was für einer Zeit müssen Nutzerbeschwerden eigentlich bearbeitet werden. Und da sollten wir insbesondere auf europäischer Ebene noch mal Klarheit in den Mindeststandards schaffen, damit wir da eben bessere Möglichkeiten haben, dann auch da anzusetzen. Aber hat Deutschland überhaupt, haben die Länder genug Ressourcen, um Plattformen angemessen zu überwachen und zu schauen, wie effektiv ihre Schutzeinrichtungen funktionieren? Na, wir können jedenfalls uns die Arbeit mal sinnvoll aufteilen. Im Moment ist es eben tatsächlich so, dass ja ausschließlich die Nutzerinnen oder Aufsichtsbehörden oder beispielsweise Trusted Flagger Inhalte melden und die Plattformen selber relativ wenig tun. Dabei wäre das mit technischen Möglichkeiten, insbesondere in Bereichen wie unzulässigen Kennzeichen, total einfach möglich, weil die relativ leicht zu detektieren sind. Die Bewertung ist nicht besonders komplex. Und wenn die Plattformen da selber ein höheres Grundschutzniveau schaffen würden, also dass wir insgesamt nicht mehr ganz so viele unzulässige Inhalte haben, dann kann man da natürlich als Aufsichtsbehörde viel besser aufsetzen, wie wenn man immer nur an der Spitze des Eisbergs dran hängt. Sind Sie als Zentralstelle da im Gespräch mit den Plattformen und wie kooperativ zeigen die sich? Also haben die ein hohes Problembewusstsein und einen Willen, da auch was zu verändern? Da kann man vielleicht jetzt auch nicht alle über einen Kamm scheren. Aber was wir schon sehen, ist, dass sie sehr häufig ihre Tools vor allem für Eltern nach vorne stellen und sagen, es gibt bei uns ganz viele Möglichkeiten, Kinder und Jugendliche zu schützen. Das Problem ist nur, da werden eben auch die Verantwortlichkeiten wieder ausgelagert an die Nutzerinnen. Und wir sehen, dass es eben nur um die 30 Prozent der Eltern dann tatsächlich auch hinbekommen, entsprechende Schutzmaßnahmen bei der Verwendung von Social Media durch Jugendliche einzustellen. Und da brauchen wir natürlich deutlich mehr Unterstützung und eine höhere Wirksamkeit der Vorsorgemaßnahmen. Also das heißt Aufklärung der Eltern, Aufklärung der Bildungseinrichtungen ist hier auch oberstes Gebot. Das spielt natürlich auch eine ganz große Rolle. Aber parallel dazu ist es ganz wichtig, dass die Dienste von sich aus hohe Schutzstandards schon eingestellt haben, damit der Weg, das sicherzustellen, für die Nutzerinnen nicht immer ganz so weit ist. Vielen Dank. Sehr gerne. Bundesfamilienministerin Karin Prien erklärte anlässlich der Veröffentlichung der Zahlen zu den Jugendschutzverstößen im Internet, dass Medienkompetenz sowohl bei Kindern und Jugendlichen als auch bei Eltern, Erwachsenen, bei Kitas und Schulen, aber auch Jugendorganisationen benötigt werde. Zudem brauche Deutschland mehr Aufklärung und einen breiten gesellschaftlichen Konsens darüber, wie Kinder und Jugendliche im digitalen Raum geschützt werden können. Im Juni wird eine von ihr einberufene Kommission ihre Ergebnisse zum Thema Schutz von Kindern und Jugendlichen in der digitalen Welt vorlegen. Danach soll noch in diesem Jahr ein entsprechender Gesetzentwurf in Bundestag und Bundesrat eingebracht werden.