Hass, Hetze und Desinformation prasseln im Netz auf Kinder ein. Einem Bericht zufolge verstärkt sich das durch die Nutzung von Künstlicher Intelligenz. Es werde immer schwerer, Realität von Fälschung zu unterscheiden.

Künstliche Intelligenz (KI) verschärft Risiken für Kinder und Jugendliche im Netz. Zu diesem Ergebnis kommt der Jahresbericht des von Bund und Ländern eingerichteten Zentrums jugendschutz.net. "Aktuell macht es generative KI immer schwerer, Realität von Fälschung zu unterscheiden", heißt es in dem Bericht. Dies verstärke "Risiken wie sexualisierte Gewalt, Mobbing und Extremismus".

"Der Jahresbericht von jugendschutz.net zeigt, dass Kinder und Jugendliche im Netz immer mehr mit Hass, Hetze und Desinformation konfrontiert sind", kommentiert Familienministerin Lisa Paus den Bericht. Dazu komme eine Debattenkultur, die nicht durchgehend sozialen Regeln folge. "Junge Menschen haben jedoch ein Recht auf sichere und unbeschwerte Teilhabe an der digitalen Welt. Davon sind wir noch weit entfernt." Paus sieht "besonders die Plattform-Anbieter in der Pflicht".

Im vergangenen Jahr hat das Kompetenzzentrum demnach 7645 Fälle bearbeitet. In zwei Dritteln der Fälle ging es um sexualisierte Gewalt, bei zwölf Prozent um Sex oder Pornografie und bei elf Prozent um politischen Extremismus. Fünf Prozent gingen auf selbstgefährdende Inhalte zurück und zwei Prozent auf Cybermobbing.

Jugendschutz.net meldet Verstöße an die Plattform-Anbieter oder auch die Strafverfolgungsbehörden, wenn es um kinder- und jugendpornografische Inhalte geht oder Gefahr für Leib und Leben besteht. Am Jahresende waren bei 6902 Fällen oder rund 90 Prozent die Verstöße beseitigt.

Der Leiter von jugendschutz.net, Stefan Glaser, kritisierte jedoch, die Betreiber von Netzangeboten täten noch "zu wenig, um Kinder und Jugendliche zu schützen. Sie reagieren unzureichend, wenn ihnen Verstöße gemeldet werden. Und sie überprüfen die Altersangaben von Nutzenden nicht angemessen."