ChatGPT активировал прогнозирование возраста с помощью ИИ, несовершеннолетние пользователи получат автоматическую защиту

OpenAI正在强化ChatGPT的内容安全机制。根据最新消息，ChatGPT已在全球推行年龄预测功能（欧盟地区将在未来几周上线），用于自动识别账户是否可能属于18岁以下用户，进而启用相应的内容过滤 и使用限制。这是AI技术在平台治理中的一次实际应用，也反映了生成式AI产品在监管压力下的主动应对。

年龄预测系统如何工作

识别原理

该系统通过分析多个行为信号来估算用户年龄，包括账户活跃时间、使用模式、交互特征等维度。这种基于行为的推断方式避免了强制身份验证的繁琐流程，同时保留了一定的隐私空间。

保护机制

系统识别出未成年用户后会自动启用两层保护：

• 适龄内容过滤，限制访问可能不适合未成年人的内容
• 使用限制，可能包括功能访问权限的调整

误识别处理

成人用户如果被误识别为未成年人，可以在设置中通过身份验证流程恢复完整权限。这种设计在保护和便利之间找到了平衡。

为什么这很重要

监管背景

生成式AI产品面临全球范围的监管审查，未成年人保护是核心关切。欧盟的《数字服务法》、美国各州的儿童隐私法规都对平台的保护义务提出了明确要求。OpenAI的这一举措正是对这些监管压力的主动回应。

行业意义

AI驱动的年龄识别系统标志着平台治理从被动审核向主动预防的转变。相比传统的人工审核或规则过滤，这种方式更具可扩展性。如果效果达到预期，很可能成为行业标准，推动其他生成式AI平台跟进。

技术创新点

用行为分析而非身份验证来推断年龄，这种思路在Tinder与Worldcoin的合作中也有体现。两者都试图在保护用户隐私和确保安全之间找到平衡，但技术路径不同——一个依赖行为数据，一个依赖生物识别。

需要关注的问题

准确性与公平性

行为分析的准确率直接影响用户体验。如果误识别率过高，会导致大量成人用户需要反复验证，反之则可能放过部分未成年用户。系统的训练数据和算法偏差也可能影响不同地区、不同人群的识别效果。

隐私考量

虽然系统不需要直接的身份验证，但分析账户行为本身也涉及数据收集。OpenAI需要明确说明这些行为数据如何被使用、存储和保护。

总结

OpenAI的年龄预测系统代表了生成式AI平台在安全治理上的一次创新尝试。通过AI识别AI用户，既解决了未成年人保护的现实需求，也展示了技术在自我规范中的潜力。但这个系统的真正价值，最终还要看它在实际应用中的准确率和用户接受度。随着全球对AI监管的加强，类似的主动保护措施可能会成为新产品的标配要求。