Rheinland-Pfalz Jugendschützer warnen: KI verschärft Risiken für Kinder im Internet
jugendschutz.net hat seinen Bericht 2023 zum Jugendschutz im Netz vorgelegt. Der zeigt: Niemand sollte sich beruhigt zurücklehnen. Und: Künstliche Intelligenz verschärft die Risiken.
Einmal im Jahr machen die Jugendschützer aus Mainz öffentlich, was sie in zwölf Monaten über die Sicherheit von Minderjährigen im Internet gesammelt haben. Wie schon in den vorangegangen Jahren zeigt sich: Es gibt keinen Grund, beruhigt zu sein. Im Gegenteil: Das Gefährdungspotenzial für Kinder und Jugendliche im Internet nimmt zu.
Der Nutzungsvielfalt und Attraktivität des Internets stünden weiter sexualisierte Gewalt, Mobbing, demokratiegefährdende Beiträge oder belastende Gewaltdarstellung gegenüber. Hinzu kommt: Mit der Künstlichen Intelligenz (KI) ist ein neuer Mitspieler auf dem Feld unterwegs, der nach Einschätzung von jugendschutz.net zu einer Verschärfung der Risiken für Minderjährige führt: "Die Kehrseite von hilfreichen Tools sind Phänomene wie Deepfakes, die kaum mehr von echten Inhalten zu unterscheiden sind", heißt es im Jahresbericht 2023, der am Mittwoch in Berlin vorgestellt wurde.
jugendschutz.net ist das gemeinsame Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet mit Sitz in Mainz. Die Stelle recherchiert Gefahren und Risiken in jugendaffinen Diensten und drängt Anbieter und Betreiber, ihre Angebote so zu gestalten, dass Kinder und Jugendliche sie unbeschwert nutzen können. Sie nimmt über ihre Hotline Hinweise auf Verstöße gegen den Jugendmedienschutz entgegen und sorgt dafür, dass diese schnell beseitigt werden.
Im Fokus der Arbeit stehen riskante Kontakte, Selbstgefährdungen, politischer Extremismus und sexuelle Ausbeutung von Kindern.
Homepage: jugendschutz.net
Künstliche Intelligenz - so werden die Gefahren verschärft
Mit KI können mit wenigen Befehlen Texte, Bilder oder Videos erzeugt werden. Entsprechende Anwendungen sind in Smartphones und in Social-Media-Diensten wie TikTok oder Snapchat integriert. Allerdings kann und wird die KI nicht nur für kreative Dinge genutzt, sondern auch für kriminelle.
jugendschutz.net weist darauf hin, dass sich zum Beispiel Deepfakes mit wenigen Klicks erstellen lassen. Die generierten Fälschungen seien kaum von tatsächlichen Fotos zu unterscheiden. Oft würden Deepfakes mit Nacktheit oder Pornografie gepaart - dann entstehe sehr schnell Cybermobbing oder sexualisierte Gewalt.
Als Deepfake bezeichnet man Fotos, Videos oder Audio-Dateien im Internet, die mithilfe von Künstlicher Intelligenz (KI) verfremdet oder verfälscht wurden. Dabei werden zum Beispiel Gesichter imitiert oder Stimmen täuschend echt nachgeahmt. Dabei gehen Deepfakes zum Teil weit über das klassische Photoshop hinaus. Die Bundesregierung schreibt etwa auf ihrer Webseite zu Deepfakes: "In Echtzeit lassen sich Gesichter und Stimmen tauschen, Personen damit in einem anderen Kontext darstellen. Menschen sagen Dinge, die sie nie gesagt haben oder vollziehen Handlungen, die nie stattgefunden haben."
Spricht da ein echter Mensch oder eine KI?
Kinder und Jugendliche sind im Internet auch durch die Kontaktaufnahme durch Fremde gefährdet. Mit Hilfe von Künstlicher Intelligenz haben diese immer leichteres Spiel: So können Fremde mit Hilfe von Stimmgeneratoren ihre Stimme derart verändern, dass sie als gleichaltrig wahrgenommen werden. Dadurch können sie Vertrauen aufbauen, sensible Informationen abgreifen und missbrauchen.
Mit KI wird extremistische Propaganda zum Kinderspiel
Problematisch ist aus Sicht von jugendschutz.net auch der Missbrauch von Künstlicher Intelligenz für extremistische Propaganda und Desinformationen.
"Wir sehen, dass der Krieg in Nahost für antisemitische oder muslimfeindliche Hasspropaganda instrumentalisiert wird. Auch Darstellungen sexualisierter Gewalt an Kindern werden ohne Skrupel verbreitet. Und wir nehmen vermehrt Beiträge in Social Media wahr, die junge Menschen zu gesundheitsgefährdendem Verhalten anstiften. Bei all dem kommen auch KI-generierte Inhalte zum Einsatz", so der Leiter von jugendschutz.net, Stefan Glaser.
Adolf Hitler auf vermeintlichem Disney-Filmplakat
Eine besondere Gefahr sehen die Jugendschützer in einer Kombination von Unterhaltungselementen mit manipulierenden Inhalten. Als Beispiel nennen sie ein vermeintliches Filmplakat von Disney, mit dem Rechtsexteme den Holocaust relativierten. Darauf zu sehen: Adolf Hitler als Figur animiert, lächelnd, vor einem Konzentrationslager - das Ganze als Werbung für einen vermeintlich neuen Disney-Film. Das Bild wurde tausendfach geteilt.
- klicksafe ist eine EU-Initiative für mehr Sicherheit im Internet, koordiniert von der Medienanstalt Rheinland-Pfalz. Das Ziel: die Online-Kompetenz der Menschen fördern. Dafür bietet die Initiative auf ihrer Webseite zahlreiche Informationen und Materialien für eine sichere Internetnutzung an.
- SCHAU HIN! ist ein Medienratgeber für Familien und sammelt Informationen über die aktuellen Entwicklungen in der Medienwelt, gibt Tipps und Orientierung, wie Kinder und Jugendliche bei der Nutzung von Medien begleitet werden können.
- jugendschutz.net setzt sich als gemeinsames Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Netz ein. Die Organisation untersucht, ob Angebote im Internet gegen den Jugendschutz verstoßen. Zudem können auf der Plattform mögliche Verstöße - auch im Fall von Cybergrooming - gemeldet werden.
- ZEBRA ist ein Angebot der Landesanstalt für Medien NRW mit dem Ziel, die Menschenwürde, Kinder und Jugendliche und die Nutzerinnen und Nutzer der Medien zu schützen. Auch hier können Fälle von Cybergrooming direkt gemeldet werden.
- Auch die Polizei Rheinland-Pfalz hat Tipps für eine sichere Internetnutzung von Kindern und Jugendlichen zusammengestellt. Außerdem gibt es eine Online-Broschüre, die Eltern über die möglichen Risiken, denen Kinder und Jugendliche in ihrem digitalen Alltag begegnen können, informiert.
- Nummer gegen Kummer e.V.: Kinder und Jugendliche finden unter der 116 111 ein offenes Ohr. Die Nummer ist montags bis samstags von 14 bis 20 Uhr erreichbar. Der Anruf ist anonym und kostenlos. Online kann man sich auch per Mail oder Chat beraten lassen. Eltern können unter der 0800 111 0 550 montags bis freitags von 9 bis 17 Uhr, dienstags und donnerstags bis 19 Uhr anrufen.
- Juuuport: Das ist ein Online-Beratungsplattform von Jugendlichen für Jugendliche. Ehrenamtlich aktive Jugendliche und junge Erwachsene aus ganz Deutschland helfen Gleichaltrigen bei Online-Problemen. Die Beratung via Kontaktformular oder WhatsApp ist kostenlos.
- Telefonseelsorge: Unter den Nummern 0800 111 0 111 oder 0800 111 0 222 sind Mitarbeiterinnen und Mitarbeiter rund um die Uhr erreichbar, mit ihnen können Sorgen und Ängste geteilt werden. Das Angebot gilt für Erwachsene und Kinder. Die Telefonseelsorge bietet außerdem einen Chat an.
- Weißer Ring e.V.: Wer Opfer einer Straftat geworden ist, kann sich unter 116 006 telefonisch an den Weißen Ring wenden. Die Beraterinnen und Berater sind bundesweit täglich von 7 bis 22 Uhr zu erreichen. Der Anruf ist kostenfrei und bei Bedarf anonym.
Gut geschützt im Internet unterwegs - das ist Wunschdenken
Die Zahlen von jugendschutz.net für 2023 zeigen, dass es auch weiter haufenweise Verstöße gegen den Jugendschutz gibt. Mehr als 7.600 Fälle hat jugendschutz.net 2023 bearbeitet. Die Zahl steigt seit Jahren immer weiter an. Bei den meisten Verstößen ging es um sexualisierte Gewalt (67 Prozent), gefolgt von Pornografie (12 Prozent) und politischem Extremismus (11 Prozent). Fünf Prozent gingen auf selbstgefährdende Inhalte zurück und zwei Prozent auf Cybermobbing.
Ein Großteil der bearbeiteten Fälle sei dabei "absolut unzulässig", heißt es in dem Jahresbericht. Das sind Inhalte, die nach Jugendmedienschutz-Staatsvertrag nicht verbreitet werden dürfen - und zwar generell, also auch nicht an Erwachsene. In den meisten Fällen ging es hier um Kinderpornografie. Mehr als 3.500 Fälle reichte jugendschutz.net 2023 direkt an die Strafverfolgungsbehörden weiter.
Jugendaffine Dienste nehmen ihre Pflicht zur raschen Abhilfe bei gemeldeten Verstößen nicht ernst. Jahresbericht 2023 jugenschutz.net
Zuverlässige Altersprüfung - meist Fehlanzeige
jugendschutz.net hat 2023 nicht nur auf die Verstöße geschaut, sondern auch auf die präventiven Maßnahmen von Plattformen wie TikTok, Instagram, Snapchat, YouTube und Facebook. Die größten Missstände deckte die Schutzstelle erneut bei der Altersprüfung auf.
Rein theoretisch gebe es diese Altersprüfung zwar, denn fast alle Plattformen legten, so jugendschutz.net, ein Mindestalter für die Nutzung fest. Die Altersprüfung finde aber de facto kaum statt. Durch Eingabe eines falschen Geburtsdatums kann diese Hürde den Recherchen von jugendschutz.net zufolge zudem leicht überwunden werden.
Die Folge: Der Schutz von Minderjährigen vor zum Beispiel unzulässiger Kontaktaufnahme greift bei fehlender Altersprüfung nicht mehr verlässlich.
Reaktion auf gemeldete Verstöße: mangelhaft
Die Beurteilung von jugendschutz.net zur Frage, wie Plattformen mit gemeldeten Verstößen umgehen, ist vernichtend: "Die Ergebnisse der Tests 2023 zeigen erneut, dass jugendaffine Dienste ihre Pflicht zur raschen Abhilfe bei gemeldeten Verstößen nicht ernstnehmen."
Die durchschnittliche Löschquote habe in mehreren Kategorien nur bei einem Drittel gelegen. Als Beispiel nennt jugendschutz.net hier Meldungen von Usern zu Gewalt, Pornografie und politischem Extremismus. Bezogen auf alle Arten von Verstößen löschten die Plattformen nur einen kleinen Teil der von Usern gemeldeten Inhalte:
Enttäuschend seien die Löschquoten bei Meldungen von Usern an Youtube - insbesondere, weil sie sich drastisch verschlechtert haben, so jugendschutz.net. Nur 4 Prozent der gemeldeten Verstöße im Bereich Pornografie wurden demnach gelöscht. 2022 lag diese Quote noch bei 62 Prozent. Fälle von politischem Extremismus wurden nur zu 14 Prozent gelöscht.
"Pakt gegen sexualisierte Gewalt" in RLP
Jugendministerin Katharina Binz (Grüne) fordert eine nachhaltige Bekämpfung von sexualisierter Gewalt im Netz. Um dem Problem umfassend zu begegnen, habe man in Rheinland-Pfalz einen den "Pakt gegen sexualisierte Gewalt" geschlossen. "Unser Ziel ist es, durch ressortübergreifende Zusammenarbeit allen jungen Menschen in unserem Land ein Aufwachsen ohne Gewalt zu ermöglichen", so Binz. Der Pakt setze auf verschiedenen Ebenen an – etwa bei der Polizei, durch niedrigschwellige Präventionsangebote im ländlichen Raum oder die Einbeziehung von Betroffenen.
Sendung am Mi., 28.8.2024 13:00 Uhr, SWR1 Rheinland-Pfalz, SWR1 Rheinland-Pfalz
