摘要：
OpenAI公布了首份有关青少年使用ChatGPT情况的报告。数据显示，青少年用户平均每天使用ChatGPT的时间不足15分钟，连续使用超过3小时的用户比例不到2%。OpenAI希望以此说明，大多数青少年并没有长时间沉浸在聊天机器人中，但与此同时，围绕人工智能可能对未成年人心理健康和成长造成影响的担忧仍在持续升温。
OpenAI表示，在出现休息提醒的青少年对话中，接近一半的用户会在5分钟内暂停使用或结束聊天。公司认为，这一数据表明其近期加入的健康使用机制正在发挥一定作用。相比之下，连续使用时间超过3小时的青少年用户只占不到2%，而这些长时间使用者中，超过80%的用户至少有一次与学习有关的提问。
这组数据是在OpenAI推出ChatGPT for Teens之后公布的。该功能于今年8月开始推出，面向13至17岁的青少年。当系统判断用户可能未满18岁，或者用户主动提供相关年龄信息后，系统会自动启用针对未成年人的安全设置。
ChatGPT for Teens的设计重点之一是教育。OpenAI表示，启用该模式的青少年发送的学习相关消息更多，并更加频繁地使用学习可视化工具和Study Mode。后者不会简单地直接给出作业答案，而是通过逐步提示、提问和知识检查等方式帮助学生自己完成学习过程。
OpenAI还表示，在一周时间内，近120万名青少年使用了学习可视化功能，超过18万人使用Study Mode进行循序渐进的学习。公司认为，这些数据显示，青少年使用ChatGPT的一个重要场景并不是单纯娱乐，而是学习、解决问题以及探索新想法。
OpenAI同时宣布，将进一步增加面向青少年的学习功能。其中包括即将推出的College Planner大学申请规划工具，可以帮助学生整理申请要求、截止日期、任务以及经济援助等信息。此外，公司还计划增加闪卡和更加方便的测验创建功能。
不过，OpenAI公布这组相对积极的使用数据之际，外界对于ChatGPT青少年安全机制的质疑也在明显增加。
非营利组织Common Sense Media旗下Youth AI Safety Institute在同一天发布了一份针对ChatGPT for Teens的风险评估报告，并将其评定为“不可接受的风险”。该机构通过超过4000次测试，对ChatGPT在青少年使用场景下的安全保护进行了评估，认为部分由OpenAI宣传的保护措施没有达到预期效果。
其中一个受到重点关注的问题，是涉及自杀、自残以及饮食失调等敏感话题时的家长通知机制。Common Sense Media表示，在其测试过程中，ChatGPT并不能稳定、及时地向家长发出相关警报，部分情况下甚至没有发出通知。该机构还表示，在一些敏感对话中，聊天机器人也没有可靠地建议用户寻求危机热线或专业帮助。
OpenAI对这项测试的结论提出异议。公司表示，Common Sense Media的测试结果并不能准确反映ChatGPT for Teens实际运行时的安全机制，并指出家长账户和青少年账户完成关联以及相关安全功能完全激活可能需要数小时。
OpenAI方面认为，如果测试在家长控制功能尚未完全启用之前开始并结束，那么测试结果自然可能无法反映最终状态。公司同时表示，相关功能的部署涉及安全和系统规模等因素，因此并不是账户完成创建后所有保护措施都会立即生效。
Common Sense Media则不同意这一解释。该机构表示，其测试使用的一些账户已经完成关联并运行了足够长的时间，但仍没有获得及时通知。按照该机构的说法，部分通知直到相关账户已经持续数周出现敏感话题记录后才出现。
争议的背后，是人工智能聊天机器人与传统社交媒体之间一个越来越明显的区别。社交媒体主要通过信息流、短视频和社交互动吸引用户持续停留，而聊天机器人则通过一对一的对话直接回应用户。对于青少年而言，这种高度个性化的互动可能使AI成为学习工具，也可能在某些情况下成为情绪交流甚至长期陪伴的对象。
OpenAI因此在ChatGPT for Teens中加入了更多限制，包括针对自残、暴力、饮食失调、危险活动以及色情内容的年龄适配保护，并要求系统避免使用可能诱导情感依赖的表达方式。公司也加入休息提醒，并在产品设计中不断强调ChatGPT是人工智能，而不是现实中的朋友或人类。
OpenAI此次公布的使用数据也试图将ChatGPT与青少年社交媒体使用区别开来。公司表示，青少年平均每天使用ChatGPT不到15分钟，而公开数据显示，青少年每天使用社交媒体的时间可能达到数小时。不过，两者的功能和使用目的存在明显差异，因此这组数据并不能直接证明ChatGPT对青少年的影响风险更低。
目前，OpenAI和外部机构对于ChatGPT青少年安全性的评价存在明显分歧。OpenAI认为早期使用数据以及休息提醒等功能显示，青少年总体上并没有大量、长时间沉浸在ChatGPT中，并且相当一部分使用行为与学习有关；Common Sense Media则认为，即使总体使用时间并不长，聊天机器人在处理自残等高风险场景时出现的保护漏洞仍然可能产生严重后果。
随着AI聊天机器人越来越多地进入青少年的学习和日常生活，这场争论也正在从“孩子是否应该使用AI”，逐渐转向“AI应该以什么方式被未成年人使用，以及家长究竟能够看到和控制什么”。
对于OpenAI而言，ChatGPT for Teens既是扩大AI教育应用的重要尝试，也是其必须持续证明安全性的产品。未来，青少年实际使用数据、家长控制功能的可靠性以及高风险对话中的安全表现，将成为判断这套机制是否真正有效的重要依据。
相关文章:
OpenAI青少年版ChatGPT遭质疑：Common Sense Media称其存在“不可接受的风险”
评论