KI kann erklären, übersetzen und beim Lernen helfen. Sie kann aber auch täuschen, zum Beispiel im Falle von Deepfakes.
Ein Deepfake ist ein mit KI erzeugtes oder manipuliertes Bild, Video oder Audio, das echt wirken kann, obwohl es das nicht ist.1
Was viele Eltern und Lehrkräfte noch unterschätzen: Diese Technologie wird zunehmend missbräuchlich eingesetzt. Bilder von Kindern und Jugendlichen können verändert, manipuliert oder in sexualisierte Kontexte eingefügt werden, ohne dass die Betroffenen jemals solche Aufnahmen gemacht haben.
Besonders erschreckend: Dafür reichen manchmal schon wenige Bilder aus sozialen Netzwerken. Laut einer UNICEF-Studie wurden 2025 die Bilder von mindestens 1,2 Millionen Kindern weltweit zu sexualisierten Deepfakes manipuliert.2 Das entspricht etwa einem Kind pro Schulklasse.
Daher lohnt es sich, vor jedem geposteten Kinderfoto einen Moment innezuhalten und sich zu fragen: Muss dieses Bild wirklich ins Internet? Denn jedes Bild hinterlässt digitale Spuren. Und wir wissen heute nicht, wie Bilder in einigen Jahren durch Künstliche Intelligenz verarbeitet, verändert oder weiterverbreitet werden können. Kinderschutz bedeutet heute also auch, die digitale Identität von Kindern zu schützen.