这款AI产品会妥善保护孩子的数据吗?一份隐私检查清单
初级7 分钟阅读育儿与教育

这款AI产品会妥善保护孩子的数据吗?一份隐私检查清单

这份七点清单检查年龄规则、数据收集、保留期限、训练用途、数据共享、家长控制和删除机制,帮助你初步判断一款AI产品是否值得进入更广泛的审核、需要在控制措施下由合格人员决定,或应在问题解决前停止使用。

您应该能够做到的事情

“它安全吗?”这个问题对一款AI产品和一个孩子来说太笼统,无法回答。“它收集什么、保留多久、是否用于训练、与谁共享、我能否删除?”则有今天就能核实的具体答案。

仅在此浏览器中保存。
本文内容

面向家长推广的AI产品可能承诺辅导、阅读支持或儿童友好设计。一款产品是否应该获得孩子的数据,与它看起来是否具有教育用途是两个不同的问题。下面七个问题可以揭示哪些事实仍然缺失,但不能证明产品安全、合法或适合孩子。

这是一项初步隐私筛查,不是法律认定,也不是完整的儿童安全评估。请记录七个问题的答案、尚未解决的疑问、适用法域、账户类型和日期。最终决定仍由负责的成年人或合格的隐私审查人员作出,而且无论清单结果如何,学校或组织的规则都可能禁止使用某款产品。

为什么“面向孩子”不等于“对孩子安全”

一款面向家庭推广的产品,仍可能把通用AI模型和面向成年人的数据处理方式包装在儿童友好界面中。界面无法告诉你对话数据在后台如何处理。你必须查看实际的隐私政策和服务条款,而不能只看应用商店介绍或营销页面。

七点检查清单

1. 年龄规则。 产品的服务条款规定的最低年龄是多少?这与计划中的实际用法是否相符,例如由成人使用自己的账户陪孩子使用,还是直接为孩子开设账户?根据欧盟GDPR第8条,如果直接向儿童提供信息社会服务时以同意作为合法处理依据,那么处理16岁以下儿童的个人数据通常需要家长授权,成员国可以把该年龄下限降至13岁。提供者必须作出合理努力核实同意。这并非一律禁止所有儿童数据处理,其他合法依据和线下情境可能不同。但是,如果一项基于同意的消费级聊天服务没有年龄门槛,也没有儿童同意机制,就没有为常见的线上儿童使用情形做好设计。

2. 数据收集。 除了输入的文字,产品还收集什么?例如录音、相机权限、通讯录、设备位置、浏览历史、遥测数据、推断出的属性或标识符。请阅读权限说明和技术披露,不要只看营销文字。朗读功能可能确实需要麦克风,但“需要”本身不能证明处理具有合法依据、足够安全、保留期限合理、与目的相称,或适合儿童。

3. 数据保留。 提示词、输出、录音、日志、备份和派生数据分别保留多久?什么事件会触发删除?具体期限比“在必要期间内”更容易评估,但声明的期限较短,也不能证明这种保留合法、已经实施或完整。

4. 训练用途。 孩子的输入是否会用于训练或改进底层AI模型?能否关闭?OpenAI的隐私政策称,不会针对其已知未满18岁的用户投放定向广告。但是,训练数据用途是一个相关却独立的设置,必须单独明确检查。未成年人不被用于广告定向,并不等于其数据不会用于模型训练(OpenAI隐私政策)。

5. 数据共享。 产品是否与第三方共享数据,例如分析服务商、广告合作伙伴或其他公司?你能否看到接收方名单?明确列出接收方具体类别的隐私政策可以核查;只写“可信合作伙伴”而没有更多细节,则无法核查。

6. 家长控制。 家长能否查看、导出或管理账户存储的信息?OpenAI面向青少年的账户关联功能允许家长管理部分设置并接收安全提醒,但明确不会让家长查看青少年的实际对话。在依赖某项控制功能之前,应先弄清产品实际提供的是哪一种控制(OpenAI:ChatGPT家长控制)。

7. 删除。 如果决定停止使用产品,能否真正删除孩子的数据?收到请求后即可删除,还是必须关闭整个账户?请尽早用低风险账户测试一次,不要等到真正想离开时才发现答案。

从清单走向决定

把七个问题的答案归入以下三种结论之一:

结论适用情形
可以进入更广泛的审查年龄规则与拟采用的用法相符,收集看起来与目的相称,保留期限已经说明,训练和广告用途已经弄清,接收方已经披露,控制功能存在,而且可以请求删除。这仍不能证明产品安全或合法。
可以在控制措施下交由合格人员决定重要事实均已记录,而且负责的成年人或合格审查人员已针对这个孩子和适用法域,确定必要的设置与监督方式。仅凭这份清单不能作出“允许使用”的决定。
问题解决前不要使用年龄或同意规则不符合要求,重要隐私事实缺失,无法行使删除权,或预期的数据用途与家庭、学校或法律要求冲突。不要自行设定一个数字化的失败门槛。

如果提供者没有可用的数据删除渠道或权利请求渠道,在寻求合格建议期间,不要提交孩子的数据。删除权、反对权、备份、派生数据和模型训练的影响会因法律和提供者而异;这份清单不能承诺所有下游用途都可以撤销。

一个具体例子

一款作业辅导聊天机器人规定最低年龄为13岁,收集聊天文字和录音,没有给出清晰的删除时限,使用输入来“改进服务”,而且对数据接收方的描述很含糊。对10岁儿童来说,提供者自己的年龄规定已经排除了直接为孩子开设账户的方案。其他尚未回答的问题也都必须分别解决。对年龄更大的孩子而言,满足最低年龄也不能解决数据保留、训练、共享、监督或具体法域的要求。

这份清单不涵盖什么

它无法判断产品的教育内容是否准确、互动在情绪上是否适合年龄,或产品是否采用陪伴型设计,可能让孩子形成不健康的依恋。那是另一个更严肃的问题,请参阅不要给孩子一个AI朋友。两项检查都要做;通过隐私清单,并不代表产品在其他方面也适合孩子。

对于家庭已经通过成人账户使用的通用助手,这份清单也不能取代ChatGPT会记住、看到和分享什么。那篇文章解释了通用助手的工作机制,而本清单假定你在评估新的儿童产品之前,已经理解这些机制。

今天就试

选一款孩子正在使用或希望使用的AI应用,真正打开它的隐私政策,而不是应用商店摘要,再把上述七个问题的答案写下来。很多家长会因为隐私政策太长而跳过这一步;七点结构的目的,就是让你只需在文档中查找七类信息,而不必从头读到尾。

儿童AI产品隐私检查清单提供七个问题和结论表的可打印版本,方便你用同一套标准检查家庭考虑的每一款新产品。

隐私资料来源与复核边界

继续阅读

通过下一篇文章继续沿着相同的学习路径进行学习。