AI-produkter, der markedsføres til forældre, lover måske lektiehjælp, læsestøtte eller et børnevenligt design. Om et produkt bør modtage et barns data, er et andet spørgsmål end, om det ser pædagogisk nyttigt ud. De syv spørgsmål nedenfor kan afdække manglende oplysninger, men de kan ikke fastslå, at et produkt er sikkert, lovligt eller egnet.
Dette er en indledende gennemgang af privatlivsforhold, ikke en juridisk afgørelse eller en fuldstændig vurdering af barnets sikkerhed. Dokumentér de syv svar, uafklarede spørgsmål, jurisdiktionen, kontotypen og datoen. Den ansvarlige voksne eller en kvalificeret privatlivsrådgiver ejer fortsat beslutningen, og skolens eller organisationens regler kan forbyde et produkt uanset tjeklistens resultat.
Hvorfor »det er til børn« ikke er det samme som »det er sikkert for børn«
Et produkt, der markedsføres til familier, kan stadig være bygget på en generel AI-model, hvis datahåndtering ikke er særligt tilpasset børn, blot pakket ind i en børnevenlig grænseflade. Grænsefladen fortæller intet om, hvad der sker med samtaledataene bag den. Kontrollér den faktiske privatlivspolitik og brugsvilkårene, ikke kun beskrivelsen i appbutikken eller markedsføringssiden.
Den syv-punkts tjekliste
1. Aldersregler. Hvad angiver produktets egne servicevilkår som minimumsalder, og matcher det, hvordan du faktisk planlægger at bruge det – din egen konto med barnet, eller en konto direkte til barnet? Under EU’s GDPR artikel 8, hvor samtykke er det lovlige grundlag for at tilbyde informationssamfundstjenester direkte til et barn, kræver behandling af et barns personoplysninger generelt forældresamtykke under 16 (medlemsstater kan sænke den bund til 13). Udbydere skal gøre rimelige bestræbelser på at verificere det samtykke. Dette er ikke et generelt forbud mod enhver form for behandling af børns data – andre lovlige grundlag og offline-kontekster kan afvige – men et produkt uden alderskontrol og uden en mekanisme til forældresamtykke for en samtykkebaseret forbruger-chattjeneste er ikke designet til det almindelige online-tilfælde.
2. Indsamling. Hvad indsamler produktet ud over den indtastede tekst – stemmeoptagelser, kameraadgang, kontakter, enhedens placering, browserhistorik, telemetri, udledte egenskaber eller identifikatorer? Læs både tilladelserne og de tekniske oplysninger, ikke kun markedsføringsteksten. En mikrofon kan være nødvendig for en erklæret oplæsningsfunktion, men nødvendigheden alene fastslår hverken lovligt grundlag, sikkerhed, opbevaringsperiode, proportionalitet eller egnethed for børn.
3. Opbevaring. Hvor længe gemmes prompts, svar, optagelser, logfiler, sikkerhedskopier og afledte data, og hvilken hændelse starter sletningen? En konkret periode er lettere at vurdere end »så længe det er nødvendigt«, men en kort angivet periode er ikke bevis for, at opbevaringen er lovlig, faktisk gennemført eller fuldstændig.
4. Brug til træning. Bruges barnets input til at træne eller forbedre den underliggende AI-model, og kan det slås fra? OpenAIs privatlivspolitik angiver, at virksomheden ikke bruger målrettet annoncering over for brugere, som den ved er under 18 år. Brug til modeltræning er imidlertid en beslægtet, men særskilt indstilling, der skal kontrolleres udtrykkeligt, fordi fravalg af annoncetargeting ikke er det samme som fravalg af modeltræning (OpenAIs privatlivspolitik).
5. Deling. Deler produktet data med tredjeparter – analyseleverandører, annoncepartnere eller andre virksomheder – og kan du se en liste over, hvem de er? En privatlivspolitik, der navngiver specifikke kategorier af modtagere, kan efterprøves. En, der blot siger »betroede partnere« uden yderligere detaljer, kan ikke.
6. Kontrolmuligheder. Kan en forælder se, eksportere eller administrere det, kontoen har gemt? OpenAIs kontosammenkædning for teenagere giver en forælder mulighed for at styre visse indstillinger og modtage sikkerhedsadvarsler, men giver udtrykkeligt ikke adgang til teenagerens samtaler. Afklar derfor præcist, hvilken form for kontrol produktet tilbyder, før du stoler på den (OpenAI: forældrekontrol).
7. Sletning. Hvis du beslutter dig for at stoppe med at bruge produktet, kan du faktisk slette barnets data, og sker sletning på anmodning eller kun når en konto lukkes helt? Test dette én gang, tidligt, med en lavrisiko-konto, snarere end at opdage svaret først, når du faktisk vil forlade.
Fra tjekliste til beslutning
Omsæt de syv svar til én af tre afgørelser:
| Afgørelse | Hvornår den gælder |
|---|---|
| Kan gå videre til en bredere vurdering | Aldersreglerne passer til den planlagte brug, indsamlingen fremstår proportional, opbevaringsperioden er angivet, brug til træning og annoncering er afklaret, modtagerne er oplyst, der findes kontrolmuligheder, og sletning kan anmodes om. Dette er endnu ikke bevis for, at produktet er sikkert eller lovligt. |
| Kandidat til en kvalificeret beslutning med sikkerhedsforanstaltninger | De væsentlige oplysninger er dokumenteret, og en ansvarlig voksen eller kvalificeret rådgiver har fastlagt de indstillinger og den støtte, som kræves for netop dette barn og denne jurisdiktion. Tjeklisten kan ikke alene give en »tillad«-afgørelse. |
| Brug ikke, før spørgsmålene er afklaret | De nødvendige alders- eller samtykkeregler passer ikke, væsentlige oplysninger om privatliv mangler, retten til sletning kan ikke udøves, eller den planlagte databrug strider mod familiens, skolens eller lovens krav. Opfind ikke en numerisk grænse for antallet af fejl. |
Hvis udbyderen ikke har en brugbar vej til sletning eller anmodninger om rettigheder, skal du ikke indsende barnets data, mens du søger kvalificeret rådgivning. Retten til sletning og indsigelse, sikkerhedskopier, afledte data og konsekvenserne af modeltræning varierer efter lovgivning og udbyder. Tjeklisten kan ikke love, at enhver senere brug kan gøres om.
Et konkret eksempel
En chatbot til lektiehjælp angiver en minimumsalder på 13 år, indsamler chattekst og stemmeoptagelser, giver ingen klar tidsfrist for sletning, bruger input til at »forbedre vores tjenester« og beskriver modtagerne uklart. For et barn på 10 år gør udbyderens egen aldersregel allerede den foreslåede direkte konto uegnet. De øvrige ubesvarede spørgsmål kræver hver sin afklaring. For et ældre barn ville opfyldelse af minimumsalderen ikke løse spørgsmålene om opbevaring, træning, deling, støtte eller jurisdiktionsspecifikke krav.
Hvad denne tjekliste ikke dækker
Den fortæller ikke, om produktets pædagogiske indhold er korrekt, om interaktionen er følelsesmæssigt alderssvarende, eller om det er et produkt med en ledsagerpersona, som et barn kan knytte sig usundt til. Det er et særskilt og mere alvorligt spørgsmål, som behandles i giv ikke et barn en AI-ven. Gennemfør begge vurderinger; et acceptabelt resultat i denne privatlivstjekliste betyder ikke, at produktet i øvrigt er egnet.
Den erstatter heller ikke hvad ChatGPT husker, ser og deler for de generelle assistenter, din husholdning allerede bruger under en voksens konto – den artikel dækker de mekanismer, denne tjekliste antager, at du allerede forstår, før du anvender den på et nyt, børnespecifikt produkt.
Prøv det i dag
Vælg én AI-drevet app, dit barn aktuelt bruger eller har bedt om at bruge, og åbn faktisk dens privatlivspolitik – ikke resuméet i appbutikken – og besvar alle syv spørgsmål ovenfor skriftligt. De fleste forældre springer dette over, fordi privatlivspolitikker er lange; strukturen med syv punkter findes netop, så du kun behøver at søge efter syv oplysninger i dokumentet og ikke læse det fra ende til anden.
Privatlivstjeklisten til børne-AI-produkter giver dig en printbar version af de syv punkter med afgørelsestabellen, så du kan køre det samme tjek konsistent på tværs af hvert nyt produkt, din husholdning overvejer.
