Sicher mit KI aufwachsen

Sicher mit KI aufwachsen – zwischen Schutz, Teilhabe und Bildung

Künstliche Intelligenz ist längst Teil der Lebenswelt von Kindern und Jugendlichen. Doch wie können sie KI sicher und selbstbestimmt nutzen? Eine neue Vorstudie von SOS-Kinderdörfer weltweit und Terre des Hommes versucht, Chancen und Risiken zu kartieren, bestehende Schutzlücken sichtbar zu machen und Handlungsfelder für Politik, Bildung, Zivilgesellschaft und Technologieunternehmen zu benennen.

Dabei geht es um weit mehr als Chatbots und Hausaufgaben. KI begegnet Kindern in Empfehlungssystemen, sozialen Medien, Lernangeboten, Spielen und zunehmend auch in emotionalen Kontexten. Die Vorstudie verbindet eine Literaturrecherche mit Expert:inneninterviews, einer strukturierten Befragung und Workshops sowie der Perspektive von Jugendlichen aus zehn Ländern. Sie versteht sich ausdrücklich als Ausgangspunkt für weitere Forschung und gesellschaftliches Handeln.

Gerade deshalb ist die Studie interessant: Sie macht deutlich, dass Kinderschutz im KI-Zeitalter nicht allein durch Verbote oder technische Filter gewährleistet werden kann. Schutz, Kompetenz und die Beteiligung junger Menschen müssen zusammengedacht werden.

SOS-Kinderdörfer weltweit / Terre des Hommes: Sicher mit KI aufwachsen. Zwischen Algorithmen, Chatbots und Deepfakes: Schutz, Teilhabe und Bildung für Kinder und Jugendliche (2026)

Die Vorstudie
Die von SOS-Kinderdörfer weltweit und Terre des Hommes in Auftrag gegebene Vorstudie wurde von Ruben Hetfleisch (Klartext AI) erstellt. Sie ist ausdrücklich als strategische Analyse und als Ausgangspunkt für weitere Initiativen angelegt – nicht als abgeschlossene empirische Wirkungsstudie.

Methodisch verbindet sie mehrere Zugänge: eine gezielte Literaturrecherche, halbstrukturierte Interviews und eine strukturierte Befragung von zwölf internationalen Expert:innen aus Forschung, Zivilgesellschaft, staatlichen Institutionen und Technologiebranche sowie einen Expert:innen-Workshop. Ergänzend wurden 19 Jugendliche im Alter von 12 bis 18 Jahren aus zehn Ländern in mehrstufige Online-Brainstormings einbezogen.

Die Autor:innen wollen damit unterschiedliche Perspektiven zusammenführen: Forschung und Fachwissen, Erfahrungen aus Politik und Zivilgesellschaft sowie die Sicht junger Menschen selbst. Zugleich weist die Vorstudie auf eine eigene Einschränkung hin: Mehrere große Technologieunternehmen beteiligten sich nicht, sodass die Perspektive der Tech-Branche nur begrenzt vertreten ist.

Zentrale Ergebnisse
Die Vorstudie beschreibt KI als inzwischen tief in den Alltag von Kindern und Jugendlichen eingebettet. Dabei werden insbesondere vier miteinander verbundene Bereiche hervorgehoben:

• Chancen und Risiken liegen eng beieinander: Personalisierung, Barrierefreiheit und kreative Möglichkeiten können durch dieselben technischen Strukturen ermöglicht werden, die auch Profiling, Manipulation oder kommerzielle Ausbeutung begünstigen.
• Kinder begegnen KI häufig, ohne sie als solche wahrzunehmen: Empfehlungssysteme, Suchmaschinen, soziale Medien und eingebettete KI-Funktionen gehören ebenso dazu wie Chatbots, Lernhilfen oder kreative Anwendungen.
• Schutzmaßnahmen halten mit der Entwicklung nicht Schritt: Die Vorstudie sieht insbesondere Lücken bei Datenschutz, altersgerechter Gestaltung, Transparenz und der Absicherung vor schädlichen oder manipulativen Inhalten.
• Kinder und Jugendliche sind nicht nur Schutzobjekte: Ihre Erfahrungen und Perspektiven sollen bei der Entwicklung, Bewertung und Regulierung von KI systematisch berücksichtigt werden.
  Besondere Aufmerksamkeit widmet die Vorstudie außerdem Companion-Chatbots und anderen KI-Anwendungen, die soziale oder emotionale Beziehungen simulieren. Hier sieht sie einen wachsenden Forschungs- und Regulierungsbedarf.

Wahrnehmung & Einordnung
Interessant ist zunächst die Breite des Ansatzes. Die Vorstudie betrachtet KI nicht allein als schulisches Werkzeug, sondern als Bestandteil einer Lebenswelt, in der Lernen, Kommunikation, Unterhaltung, soziale Beziehungen und Datennutzung zunehmend miteinander verbunden sind.

Gerade für Schule ist diese Perspektive relevant. Kinder und Jugendliche bringen ihre Erfahrungen mit KI nicht erst dann mit, wenn eine Lehrkraft ein KI-Tool im Unterricht einsetzt. Sie begegnen KI bereits außerhalb der Schule – häufig beiläufig und ohne genau zu wissen, welche Systeme im Hintergrund arbeiten und welche Daten dabei verarbeitet werden.

Die Vorstudie verweist zugleich auf ein Spannungsfeld, das für Bildung besonders bedeutsam ist: Kinder brauchen Schutz vor Risiken, aber sie brauchen ebenso die Fähigkeit, mit einer von KI geprägten Umwelt selbstständig umzugehen.

Das spricht gegen zwei verkürzte Reaktionen. Weder lässt sich die Herausforderung allein durch Verbote lösen, noch kann Verantwortung einfach an Kinder, Eltern oder Lehrkräfte delegiert werden. Wenn KI-Systeme Verhalten beeinflussen, Daten verarbeiten oder Inhalte personalisieren, liegt ein Teil der Verantwortung bei denjenigen, die diese Systeme entwickeln und betreiben.

Die kinderrechtliche Perspektive der Vorstudie knüpft dabei an bestehende internationale und europäische Rahmenbedingungen an. Die UN-Kinderrechtskonvention und der General Comment Nr. 25 beziehen Kinderrechte ausdrücklich auf die digitale Umwelt. Der Digital Services Act verpflichtet Online-Plattformen zu besonderen Schutzmaßnahmen für Minderjährige. Der EU AI Act verbietet bestimmte KI-Praktiken, die unter anderem altersbedingte Vulnerabilitäten in einer Weise ausnutzen, die zu erheblichem Schaden führen kann. Der rechtliche Rahmen ist damit inzwischen deutlich konkreter, als es die Formulierung „gesetzliche Regulierung hängt zurück“ vermuten lässt. Entscheidend bleibt allerdings die Umsetzung.

Was bedeutet das für Schule?
Die Vorstudie richtet sich nicht in erster Linie an Schulen. Dennoch lassen sich einige Fragen ableiten, die für Schulentwicklung und Unterrichtsentwicklung relevant sind:

• KI-Kompetenz beginnt nicht erst bei der Bedienung von Chatbots. Kinder und Jugendliche müssen auch verstehen, wo ihnen KI bereits begegnet, wie Empfehlungen entstehen, welche Daten verarbeitet werden und wie sie Ergebnisse kritisch prüfen können.
• Schutz und Befähigung gehören zusammen. Ein sicherer Umgang mit KI entsteht nicht allein durch technische Einschränkungen. Schülerinnen und Schüler benötigen Wissen, Orientierung und Möglichkeiten, eigene Erfahrungen reflektiert zu verarbeiten.
• Erwachsene brauchen ebenfalls KI-Kompetenz. Eltern, Lehrkräfte und andere pädagogische Bezugspersonen können Kinder nur dann angemessen begleiten, wenn sie selbst verstehen, mit welchen Anwendungen und Risiken sie es zu tun haben.
• Jugendliche sollten beteiligt werden. Wer Regeln für den Umgang mit KI entwickelt, sollte nicht nur über junge Menschen sprechen, sondern sie an der Entwicklung und Bewertung solcher Regeln beteiligen.
• Schulen sollten KI als Teil der Lebenswelt betrachten. Die Frage ist deshalb nicht allein, welche KI-Anwendungen im Unterricht eingesetzt werden dürfen. Es geht ebenso darum, welche Kompetenzen Kinder benötigen, um sich in einer zunehmend von KI geprägten Umwelt sicher und selbstbestimmt zu bewegen.

Damit erweitert sich auch die Perspektive auf schulische KI-Konzepte: Sie sollten nicht bei der Auswahl einzelner Tools beginnen, sondern bei der Frage, welche Lernenden und welche Erwachsenen eine Schule im Umgang mit KI eigentlich stärken will.

Ein wichtiger Vorbehalt
Die Vorstudie liefert keine belastbaren Aussagen darüber, wie häufig bestimmte Risiken tatsächlich auftreten oder welche konkreten Wirkungen einzelne KI-Anwendungen auf Kinder haben. Dafür ist die Anlage der Untersuchung nicht ausgelegt.

Ihre Stärke liegt vielmehr in der Zusammenführung unterschiedlicher Perspektiven und in der Kartierung eines noch sehr dynamischen Feldes. Die Ergebnisse markieren Forschungs- und Handlungslücken, ersetzen aber keine langfristigen empirischen Untersuchungen.

Auch die Zusammensetzung der beteiligten Gruppen sollte bei der Einordnung berücksichtigt werden. Die Zahl der Expert:innen und Jugendlichen ist begrenzt und nicht repräsentativ. Zudem weist die Studie selbst auf die nur eingeschränkte Beteiligung der Technologiebranche hin.

Was ich mir gewünscht hätte
Gerade weil die Vorstudie einen Anspruch auf Orientierung für Politik, Wissenschaft, Zivilgesellschaft und Technologiebranche erhebt, hätte ich mir noch etwas mehr Transparenz über den Entstehungs- und Prüfprozess gewünscht.

Die Veröffentlichung benennt den Autor und ein Redaktionsteam. Weniger deutlich wird allerdings, wer die fertige Analyse fachlich geprüft hat und wie die Einschätzungen der beteiligten Expert:innen ausgewertet und gewichtet wurden. Auch die begrenzte Beteiligung der Technologiebranche wird zwar benannt, bleibt aber als methodische Einschränkung eher knapp erläutert.

Das ist kein Grund, die Vorstudie abzuwerten. Im Gegenteil: Gerade weil sie als Ausgangspunkt für weitere Forschung und politische Diskussion gedacht ist, wäre eine noch ausführlichere Darstellung ihrer methodischen Grenzen hilfreich. Transparenz über die Entstehung einer solchen Analyse ist selbst Teil einer evidenzorientierten Debatte.

Fazit
Die Vorstudie „Sicher mit KI aufwachsen“ ist keine empirische Wirkungsstudie. Sie ist eine breit angelegte Bestandsaufnahme und strategische Analyse eines Feldes, in dem Forschung, Politik, Zivilgesellschaft, Technologie und Bildung bislang nur unzureichend miteinander verbunden sind.

Ihr vielleicht wichtigster Impuls liegt deshalb weniger in einzelnen Risikoaussagen als in der Perspektive auf die Verantwortungsverteilung: Kinder und Jugendliche sollen nicht allein lernen, sich vor den Risiken von KI zu schützen. Erwachsene, Schulen, Politik und Technologieunternehmen müssen ebenfalls Verantwortung übernehmen.

Gleichzeitig dürfen Kinder und Jugendliche nicht nur als besonders schutzbedürftige Gruppe betrachtet werden. Sie sind Nutzer, Betroffene und Mitgestalter der digitalen Welt, in der sie aufwachsen.

Für Schule ergibt sich daraus eine Aufgabe, die über die Vermittlung einzelner KI-Werkzeuge hinausgeht: Kinder und Jugendliche brauchen Wissen über KI, Möglichkeiten zur kritischen Auseinandersetzung und Räume, in denen sie eigene Erfahrungen reflektieren können. Schutz, Teilhabe und Bildung gehören zusammen.

Zur Originalquelle: Die Vorstudie „Sicher mit KI aufwachsen. Zwischen Algorithmen, Chatbots und Deepfakes: Schutz, Teilhabe und Bildung für Kinder und Jugendliche“ von SOS-Kinderdörfer weltweit / Terre des Hommes findet man auf der Terre des Hommes Plattform

Hinweis zur redaktionellen Arbeit: Bei der Erstellung und redaktionellen Bearbeitung dieses Beitrags wurden KI-Werkzeuge unterstützend eingesetzt. Mehr dazu im Impressum