Hier einige Zahlen aus der Studie:
47% der befragten Kinder nutzen Chatbots zur Unterstützung beim Lernen und Hausaufgaben. 40% nutzen KI Chatbots, um Informationen zu bekommen. 35% sagen, dass sich der Chat mit einer KI anfühlt wie ein Gespräch mit einem Freund – bei vulnerablen Kindern sind es sogar 50 %. 23% der befragten Kinder fragen KI-Chatbots um Rat bei zwischenmenschlichen Problemen. 15% der Kinder, die bereits KI-Chatbots verwenden, sprechen über sensible Themen lieber mit ihnen als mit einer echten Person. 12% chatten mit einer KI, weil sie niemand anderen zum Reden haben. Diese Zahl steigt auf 23% bei vulnerablen Kindern. Neben Chancen wie Lernunterstützung und einem urteilsfreien Raum zum Fragen stellen, birgt die Nutzung ernstzunehmende Risiken: Fehlende Alterskontrollen, unzureichender Schutz vor problematischen Inhalten, verzerrte Vorstellungen von Kommunikation, emotionale Abhängigkeit und mangelnder Datenschutz zählen zu den zentralen Herausforderungen.
Neben Plattformen wie ChatGPT oder Character.ai gibt es eine Vielzahl weiterer KI-gestützter Chatbots. Viele von ihnen bieten sexualisierte oder gewaltverherrlichende Inhalte. So experimentiert etwa Meta in den USA mit sogenannten KI-Personas, die direkt in den App (Instagram, Messenger, WhatsApp) verfügbar sind. Elon Musks KI "Grok" bietet KI-Companions, verfügbar für SuperGrok-Abonnent*innen, inklusive eines NSFW (Not Safe For Work)-Modus.
Ein großer Markt sind Anwendungen, die bewusst romantische oder sexualisierte KI-Interaktionen anbieten, etwa unter dem Label „AI Girlfriend“ oder „AI Boyfriend“. Anwendungen wie Nomi.ai und Replika richten sich zwar an Erwachsene, sind jedoch ohne Alterskontrollen zugänglich und ermöglichen sexuell explizite Inhalte. Zusätzlich findet man online zahlreiche Skripte, mit deren Hilfe ChatGPT zu einer gewünschten KI-Persona wird.
Weiterführende Links: - Studie "Me, myself & AI" und Video-Talk von den Studienautorinnen - Video zu Charakter.ai saferinternet - Beitrag zu Character.ai von onlinesicherheit.gv.at - Fachtagung „Safer Internet – Aufwachsen in der digitalen Welt“ (12. Februar 2026) Informationen und Anmeldung - Dokumentation von CNBC auf YouTube |
