Medienwächter setzen KI für Suche nach Jugendschutz-Verstößen ein

München (epd). Die Bayerische Landeszentrale für neue Medien (BLM) hat im vergangenen Jahr Hunderte Verdachtsfälle wegen möglicher Verstöße gegen den Jugendschutz überprüft. Knapp 1.400 Vorgänge seien durch den Einsatz Künstlicher Intelligenz (KI) aufgespürt worden, teilte die BLM am Donnerstag nach der Sitzung des Medienrats mit. Ein sogenannter "Crawler" durchforste dabei automatisiert das Internet und melde Verdachtsfälle. Das KI-Werkzeug sei seit dem ersten Quartal 2022 im Bereich Jugendschutz im Einsatz, hieß es.

BLM-Präsident Thorsten Schmiege sagte, der Jugend- und Nutzerschutz im Internet rücke in der digitalen Welt immer stärker in den Fokus. Die "Masse der problematischen Inhalte" sei alleine händisch nicht mehr überprüfbar. Eine moderne Medienaufsicht müsse deshalb in der digitalen Welt auch mithilfe von KI arbeiten. "Dass wir hier auf dem richtigen Weg sind, illustriert der neue Jugendschutz-Bericht", sagte er.

Neben der KI-Analyse seien zudem aufgrund von Anfragen, Beschwerden und eigenem Screening mehr als 800 Verdachtsfälle wegen möglicher Verstöße gegen den Jugendmedienschutz-Staatsvertrag geprüft worden - davon 560 im Online-Bereich. Bei den Telemedien waren Pornografie sowie unzulässige und strafrechtlich relevante Inhalte im Kontext von Rechtsextremismus und Antisemitismus ein Schwerpunkt.