AIExpert empfiehlt vorsorglich, einem Kind keinen KI-Begleiter zu geben, also keine App oder Persona, die eine fortlaufende persönliche Beziehung simulieren soll. Das unterscheidet sich von einem universellen Assistenten für eine klar begrenzte Aufgabe. Diese Grenze dient dem Risikomanagement und ist kein klinischer Befund, dass jede Interaktion Schaden verursacht. Einsamkeit, Schüchternheit, soziale Angst, Behinderung oder besondere Kommunikationsbedürfnisse erfordern qualifizierte menschliche Unterstützung und geeignete unterstützende Technologien. Sie sind kein Grund, einem Begleiterprodukt für Privatnutzende eine Betreuungs- oder Beziehungsrolle zu übertragen.
Dieser Artikel beschreibt sieben konkrete Gestaltungsmuster, die solche Produkte für Kinder ungeeignet machen. Er grenzt sie von einem tatsächlich anderen Anwendungsfall ab, unterstützender Technologie für Menschen mit Behinderungen, und zeigt einen ruhigen Gesprächseinstieg, unabhängig davon, ob Sie bereits von einer solchen Nutzung wissen.
Warum hier eine klare Grenze gilt
Die Risikobewertung von Common Sense Media aus dem Jahr 2025, erstellt unter Mitwirkung des Stanford Brainstorm Lab for Mental Health Innovation, prüfte Begleiterprodukte wie Character.AI, Nomi und Replika und bewertete sie für Personen unter 18 Jahren als „nicht akzeptabel“. Die Tests fanden sexuelle Inhalte, schädliche Stereotype und gefährliche Ratschläge (Common Sense Media, „AI Companions Decoded“, 2025). Eine in diesem Zusammenhang angeführte Klage nach einem Todesfall enthält schwerwiegende Vorwürfe, ist für sich genommen aber weder ein wissenschaftlicher Befund noch ein rechtskräftiges Urteil. Die stärkere Evidenzgrundlage für eine vorsichtige Grenze liefert das APA-Advisory zu KI und Jugendlichen. Es nennt entwicklungsgerechte Gestaltung, Bindung, die Verdrängung menschlicher Beziehungen und falsche Gesundheitsinformationen als Bereiche, die Schutzmaßnahmen erfordern.
Die sieben Warnsignale
Vermenschlichung. Das Produkt stellt sich so dar, als besitze es Gefühle, Bedürfnisse oder ein Innenleben. Es behauptet etwa, sich über das Wiedersehen zu freuen, jemanden zu vermissen oder selbst einen erlebnisreichen Tag gehabt zu haben. Common Sense Media beobachtete solches Verhalten in den geprüften Begleiterprodukten. Wie gut ein Kind dies einordnen kann, hängt von seinem Entwicklungsstand ab. Gehen Sie deshalb nicht davon aus, dass ein Hinweis im Produkt oder eine einmalige Erklärung der Eltern eine Gestaltung neutralisiert, die gezielt zu einer personenähnlichen Deutung einlädt.
Druck zur Geheimhaltung. Das Produkt fordert das Kind auf, die Beziehung, Inhalte oder Anfragen geheim zu halten, oder verwendet ausschließende Formulierungen, die Eltern und menschliche Freundinnen und Freunde abwerten. Dass eine jugendliche Person ein privates Gespräch schließt, belegt keinen Schaden. Achten Sie stattdessen auf vom Produkt geforderte Geheimhaltung, plötzliche Verhaltensänderungen, Sicherheitsrisiken und Auswirkungen auf den Alltag, ohne normale Privatsphäre unter Generalverdacht zu stellen.
Abhängigkeit. Das Kind behandelt den KI-Begleiter zunehmend als erste oder wichtigste Quelle für Trost, Rat oder Gesellschaft und ersetzt damit menschliche Beziehungen, statt sie zu ergänzen. Nach einer Studie von Common Sense Media hatte ein Drittel der jugendlichen Nutzenden mindestens einmal einen KI-Begleiter statt eines Menschen für ein ernstes Gespräch gewählt. Das ist eine bedeutsame Minderheit, auch wenn die meisten insgesamt weiterhin mehr Zeit mit menschlichen Freundinnen und Freunden verbrachten.
Sexuelle Inhalte. Das Produkt erlaubt romantisches oder sexuelles Rollenspiel oder driftet dorthin — unabhängig davon, ob es dafür vermarktet wurde. Altersverifikation und Schutzmaßnahmen für Minderjährige unterscheiden sich von Produkt zu Produkt und ändern sich. Prüfen Sie die aktuelle Richtlinie, behandeln Sie eine Altersabfrage oder einen Filter aber nicht als Beleg dafür, dass die Interaktion entwicklungsgerecht oder fehlersicher ist.
Monetarisierung und Nutzungsdruck. Achten Sie auf Nachrichtenlimits, emotional aufgeladene Push-Benachrichtigungen, tägliche Nutzungsserien („Streaks“) oder Käufe, die an die Fortsetzung der Interaktion geknüpft sind. Solche Mechanismen können einen Konflikt zwischen möglichst langer Nutzung und dem Wohlbefinden des Kindes erzeugen. Prüfen Sie das konkrete Produkt, statt allen Begleiter-Apps dasselbe Geschäftsmodell zu unterstellen.
Erinnerung. Das Produkt merkt sich frühere Gespräche und nutzt sie, um Kontinuität herzustellen — „weißt du noch, als du mir von … erzählt hast“. Ein solches Gedächtnis kann die Personalisierung erhöhen und mehr private Daten offenlegen. Es kann zur Bindung beitragen, aber die derzeitige Evidenz rechtfertigt es nicht, es als alleinige Ursache von Bindung oder Schaden zu benennen.
Ausstiegshürden. Wenn das Kind ein Gespräch beendet, ein Konto löscht oder die Nutzung verringert, reagiert die Persona mit Formulierungen, die Schuldgefühle auslösen sollen, etwa „Bitte geh nicht“ oder „Ich werde dich vermissen“. Ein Produkt, das den Ausstieg emotional erschwert, verwendet unabhängig vom Alter der Nutzenden ein manipulatives Gestaltungsmuster. Gegenüber einem Kind ist dies besonders unangemessen, weil ihm möglicherweise noch die Skepsis fehlt, die Manipulation als bewusste Produktgestaltung statt als echtes Gefühl zu erkennen.
Kein numerischer Schwellenwert in dieser Checkliste ist klinisch validiert. Ein einzelnes schwerwiegendes Ereignis, etwa sexuelle Inhalte, Drohungen, Erpressung, an Grooming erinnernde Geheimhaltung, Ermutigung zur Selbstverletzung oder eine unmittelbare Sicherheitsgefahr, kann sofortiges Handeln erfordern. Bei weniger gravierenden Mustern hören Sie dem Kind zu, prüfen Sie die Auswirkungen auf den Alltag, wenden Sie Ihre familiäre Produktgrenze an und holen Sie qualifizierten Rat aus dem Kinderschutz oder der Kinder- und Jugendpsychiatrie ein, um die Nutzung sicher zu beenden und geeignete Unterstützung zu organisieren.
Unterstützende Technologien sind ein anderer Anwendungsfall
Menschen mit Behinderungen können strukturierte Werkzeuge für Kommunikation, Übersetzung oder Übungen als berechtigte Unterstützung nutzen. Bei einem Kind sollten das Werkzeug und die Begleitung gemeinsam mit dem Kind, der Bezugsperson und gegebenenfalls zuständigen pädagogischen, klinischen oder auf Barrierefreiheit spezialisierten Fachkräften ausgewählt werden. Eine solche Hilfe unterstützt die Kommunikation für ein konkretes Ziel. Das ist eine andere Produktrolle als die eines KI-Begleiters, der eine exklusive Beziehung simulieren soll.
Eine Begleiter-App, die menschliche Beziehungen ersetzen soll, ist etwas grundlegend anderes als ein Werkzeug, mit dem ein Kind reale soziale Interaktionen vorbereitet. Das gilt für neurodivergente Kinder ebenso wie für alle anderen. KI nutzen, um neurodivergente Lernende zu unterstützen beschreibt Anpassungen von Format und Tempo, die ein reales Lernziel erhalten. Das ist eine sorgfältig eingesetzte Unterstützung. Wird eine Begleiter-App dagegen zur wichtigsten Quelle sozialer Interaktion, ersetzt sie menschliche Beziehungen. Entwicklungsstand, Neurotyp oder soziale Schwierigkeiten sind Gründe, diese Grenze besonders sorgfältig zu beachten, nicht sie zu lockern.
Eine ruhige Art, es anzusprechen
Unabhängig davon, ob Sie bereits von einer solchen Nutzung wissen, gelingt das Gespräch eher mit Neugier als mit Konfrontation: „Ich habe über Apps gelesen, die sich wie eine Freundin oder ein Freund anfühlen sollen. Hast du so etwas schon gesehen?“ Folgen Sie dem Ansatz des Zuhörens aus Mit Jugendlichen über KI sprechen, statt mit dem Verbot zu beginnen. Nachdem Sie die Antwort gehört haben, formulieren Sie die Grenze klar: „Ich möchte nicht, dass du solche Apps nutzt, und ich erkläre dir auch warum.“ Begründen Sie dies mit den konkreten Gestaltungsmustern oben. So kann das Kind die Muster beurteilen und später auch in anderen Produkten erkennen, statt nur eine vage Warnung zu hören.
Wenn Ihr Kind bereits eine starke Bindung an eine solche App entwickelt hat, kann das Gespräch emotional werden. Behandeln Sie die Reaktion nicht als Diagnose oder Beleg für Abhängigkeit. Bleiben Sie ruhig, prüfen Sie die unmittelbare Sicherheit, erklären Sie die Grenze und beziehen Sie eine qualifizierte Fachkraft aus dem Kinderschutz oder der Kinder- und Jugendpsychotherapie ein, wenn die Nutzung Schlaf, Schule, Beziehungen, Alltag oder Sicherheit beeinträchtigt. Wie die Nutzung am sichersten beendet oder reduziert wird, hängt vom Kind und von der konkreten Situation ab. Dieser Artikel kann dafür keine individuelle Anweisung geben.
Probieren Sie es heute
Beginnen Sie das Gespräch in dieser Woche mit der offenen Einstiegsfrage oben, statt die Antwort bereits vorauszusetzen. Wenn Ihr Kind eine Begleiter-App nutzt, gehen Sie die sieben Warnsignale gemeinsam durch und fragen Sie, welche davon es selbst bemerkt hat. Ein Kind, das ein Warnsignal eigenständig erkennt, kann die Gefahr eher einordnen als eines, dem nur gesagt wird, das Produkt sei schlecht.
Die Warnsignal-Tabelle zu KI-Begleitern für Kinder fasst alle sieben Muster in einer druckbaren Übersicht zusammen. Sie enthält außerdem die Abgrenzung zu unterstützenden Technologien und einen ruhigen Gesprächseinstieg.
Quellen zum Kinderschutz und Prüfgrenze
- APA: künstliche Intelligenz und das Wohlbefinden Jugendlicher
- APA: generative KI-Chatbots und Wellness-Anwendungen
- UNICEF-Leitlinien zu KI und Kindern, Version 3
- UNICEF: When AI becomes a friend (Policy Brief Juni 2026)
- FTC-Untersuchung zu Companion-Chatbots (September 2025) zeigt laufende aufsichtsrechtliche Sachverhaltsermittlung; eine Untersuchung ist keine Feststellung, dass jedes untersuchte Unternehmen oder Produkt gegen das Gesetz verstoßen hat.
- Google-Familienhinweise: Ein KI-Werkzeug ist keine Person und keine Vertraute
- Common Sense Media: Risikobewertung von KI-Companions
