KI-Produkte für Eltern und Familien versprechen mitunter Nachhilfe, Leseförderung oder eine kindgerechte Gestaltung. Ob ein Produkt pädagogisch nützlich erscheint, ist jedoch eine andere Frage als die, ob es Daten eines Kindes verarbeiten sollte. Die folgenden sieben Fragen können fehlende Angaben sichtbar machen. Sie können aber nicht beweisen, dass ein Produkt sicher, rechtmäßig oder für das Kind geeignet ist.
Dies ist eine erste Datenschutzprüfung, keine rechtliche Beurteilung und keine vollständige Kinderschutzprüfung. Dokumentieren Sie die sieben Antworten, offene Fragen, das Land beziehungsweise die Rechtsordnung, den Kontotyp und das Datum. Die endgültige Entscheidung trifft weiterhin eine verantwortliche erwachsene Person oder eine qualifizierte Datenschutzfachperson. Zudem können Regeln der Schule oder Organisation ein Produkt unabhängig vom Ergebnis der Checkliste ausschließen.
Warum „es ist für Kinder“ nicht dasselbe ist wie „es ist sicher für Kinder“
Ein Produkt, das sich an Familien richtet, kann auf einem allgemeinen KI-Modell beruhen, dessen Umgang mit Daten nicht eigens auf Kinder zugeschnitten ist. Eine kindgerechte Oberfläche sagt nichts darüber aus, was im Hintergrund mit den Gesprächsdaten geschieht. Prüfen Sie deshalb die tatsächliche Datenschutzerklärung und die Nutzungsbedingungen, nicht nur die Beschreibung im App-Store oder die Werbeseite.
Die Sieben-Punkte-Checkliste
1. Altersregeln. Welches Mindestalter nennen die Nutzungsbedingungen des Produkts, und passt es zur geplanten Nutzung: Verwenden Sie Ihr eigenes Konto gemeinsam mit dem Kind oder soll das Kind ein eigenes Konto erhalten? Nach Artikel 8 der EU-DSGVO ist bei Diensten der Informationsgesellschaft, die einem Kind direkt angeboten werden und sich auf eine Einwilligung stützen, unter 16 Jahren in der Regel die Zustimmung der Eltern erforderlich; die Mitgliedstaaten dürfen diese Altersgrenze bis auf 13 Jahre senken. Anbieter müssen sich in angemessener Weise vergewissern, dass die Zustimmung vorliegt. Das ist kein pauschales Verbot jeder Verarbeitung von Kinderdaten, denn andere Rechtsgrundlagen und Kontexte können abweichen. Ein allgemein zugänglicher, einwilligungsbasierter Chatdienst ohne Altersprüfung und ohne Verfahren für die elterliche Zustimmung ist jedoch nicht auf den üblichen Fall eines Kinderkontos ausgelegt.
2. Erhebung. Was erhebt es über den eingegebenen Text hinaus – Sprachaufnahmen, Kamerazugriff, Kontakte, Geräteort, Browserverlauf, Telemetrie, abgeleitete Merkmale oder Kennungen? Lesen Sie Berechtigungen und technische Angaben, nicht nur die Marketingprosa. Ein Mikrofon kann für eine genannte Vorlesefunktion notwendig sein, aber Notwendigkeit allein begründet weder Rechtsgrundlage noch Sicherheit, Aufbewahrung, Verhältnismäßigkeit oder Eignung für Kinder.
3. Aufbewahrung. Wie lange werden Eingaben, Antworten, Aufnahmen, Protokolle, Sicherungskopien und daraus abgeleitete Daten gespeichert, und wodurch beginnt die Löschfrist? Eine konkrete Frist lässt sich besser beurteilen als „so lange wie nötig“. Eine kurze angegebene Frist beweist jedoch weder, dass die Aufbewahrung rechtmäßig ist, noch dass die Löschung tatsächlich und vollständig erfolgt.
4. Nutzung zu Trainingszwecken. Werden Eingaben des Kindes zum Training oder zur Verbesserung des zugrunde liegenden KI-Modells verwendet, und lässt sich das deaktivieren? Laut Datenschutzerklärung von OpenAI schaltet das Unternehmen für Personen, von denen es weiß, dass sie unter 18 Jahre alt sind, keine zielgerichtete Werbung. Die Nutzung von Daten für das Modelltraining ist jedoch eine eigene Frage und muss gesondert geprüft werden: Minderjährige nicht für Werbung auszuwählen bedeutet nicht automatisch, ihre Daten vom Modelltraining auszunehmen (OpenAI-Datenschutzerklärung).
5. Weitergabe. Gibt das Produkt Daten an Dritte weiter, etwa an Analysedienste, Werbepartner oder andere Unternehmen? Können Sie nachvollziehen, wer diese Empfänger sind? Eine Datenschutzerklärung, die konkrete Kategorien von Empfängern nennt, lässt sich prüfen. Die bloße Angabe „vertrauenswürdige Partner“ ohne weitere Einzelheiten reicht dafür nicht aus.
6. Kontrollmöglichkeiten. Können Eltern einsehen, exportieren oder verwalten, was im Konto gespeichert ist? Mit der Kontoverknüpfung für Jugendliche können Eltern bei OpenAI bestimmte Einstellungen verwalten und Sicherheitshinweise erhalten. Sie bekommen jedoch ausdrücklich keinen Zugriff auf die tatsächlichen Unterhaltungen des Jugendlichen. Klären Sie deshalb genau, welche Kontrolle ein Produkt anbietet, bevor Sie sich darauf verlassen (OpenAI: elterliche Kontrollfunktionen).
7. Löschung. Wenn Sie entscheiden, das Produkt nicht mehr zu nutzen: Können Sie die Daten des Kindes tatsächlich löschen, und geschieht Löschung auf Anfrage oder nur, wenn ein Konto ganz geschlossen wird? Testen Sie das einmal früh mit einem risikoarmen Konto, statt die Antwort erst zu entdecken, wenn Sie tatsächlich gehen wollen.
Von der Checkliste zur Entscheidung
Verwandeln Sie die sieben Antworten in eines von drei Urteilen:
| Urteil | Wann es gilt |
|---|---|
| Für eine weitergehende Prüfung geeignet | Altersregeln passen zur geplanten Nutzung, die Erhebung wirkt verhältnismäßig, die Aufbewahrung ist genannt, Trainings- und Werbenutzung sind verstanden, Empfänger sind offengelegt, Kontrollen existieren, und Löschung kann verlangt werden. Das ist noch kein Beleg, dass das Produkt sicher oder rechtmäßig ist. |
| Nur nach qualifizierter Entscheidung und mit Schutzmaßnahmen erwägen | Die wesentlichen Fakten sind dokumentiert, und eine verantwortliche erwachsene Person oder eine qualifizierte Prüfstelle hat festgelegt, welche Einstellungen und welche Begleitung für dieses Kind und diese Rechtsordnung nötig sind. Diese Checkliste allein kann keine Nutzungserlaubnis erteilen. |
| Bis zur Klärung nicht nutzen | Erforderliche Alters- oder Einwilligungsregeln passen nicht, wesentliche Datenschutzfakten fehlen, Löschrechte lassen sich nicht ausüben, oder die geplante Datennutzung widerspricht Haushalts-, Schul- oder Rechtsanforderungen. Erfinden Sie keine numerische Fehlerschwelle. |
Bietet der Anbieter keinen nutzbaren Weg für Löschung oder Betroffenenanfragen, geben Sie die Daten des Kindes nicht heraus, während Sie qualifizierten Rat einholen. Lösch- und Widerspruchsrechte, Backups, abgeleitete Daten und Auswirkungen auf das Modelltraining unterscheiden sich je nach Recht und Anbieter; die Checkliste kann nicht zusichern, dass jede nachgelagerte Nutzung umkehrbar ist.
Ein konkretes Beispiel
Eine Hausaufgabenhilfe-Chatbot-App nennt ein Mindestalter von 13 Jahren, erhebt Chattexte und Sprachaufnahmen, nennt keine klare Löschfrist, nutzt Eingaben zum „Verbessern unserer Dienste“ und beschreibt Empfänger nur vage. Für ein 10-jähriges Kind kommt das geplante eigene Konto bereits aufgrund der Altersregel des Anbieters nicht infrage. Die übrigen offenen Fragen müssen unabhängig davon geklärt werden. Bei einem älteren Kind würde das Erreichen des Mindestalters die Fragen zu Aufbewahrung, Training, Weitergabe, Begleitung und den Anforderungen der jeweiligen Rechtsordnung nicht beantworten.
Was diese Checkliste nicht abdeckt
Sie sagt weder, ob die Lerninhalte des Produkts korrekt sind, noch ob die Interaktion emotional altersgerecht ist. Auch die Frage, ob eine auf eine KI-Begleitfigur ausgerichtete App eine ungesunde Bindung fördern könnte, muss gesondert geprüft werden; darum geht es in Geben Sie einem Kind keinen KI-Freund. Führen Sie beide Prüfungen durch. Ein unauffälliges Ergebnis dieser Datenschutz-Checkliste bedeutet nicht, dass das Produkt in anderer Hinsicht geeignet ist.
Sie ersetzt auch nicht Was ChatGPT speichert, sieht und weitergibt für allgemeine Assistenten, die in Ihrem Haushalt bereits über das Konto einer erwachsenen Person genutzt werden. Der dortige Artikel erläutert die Funktionsweisen, deren Verständnis diese Checkliste voraussetzt, bevor Sie sie auf ein neues, speziell für Kinder angebotenes Produkt anwenden.
Heute ausprobieren
Wählen Sie eine KI-gestützte App, die Ihr Kind bereits nutzt oder nutzen möchte. Öffnen Sie die vollständige Datenschutzerklärung, nicht nur die Zusammenfassung im App-Store, und beantworten Sie alle sieben Fragen schriftlich. Datenschutztexte sind oft lang. Die Sieben-Punkte-Struktur hilft Ihnen, gezielt nach den entscheidenden Angaben zu suchen, statt das Dokument Wort für Wort lesen zu müssen.
Die Datenschutz-Checkliste für KI-Produkte für Kinder enthält eine druckbare Fassung der sieben Punkte samt Entscheidungstabelle, damit Sie jedes neue Produkt nach demselben Verfahren prüfen können.
