
OpenAI 终于要给 ChatGPT 加装“家长模式”了。下个月,这家人工智能巨头将为旗下最热门的 AI 助手 ChatGPT 引入一套全新的家长控制功能,目的很明确:让孩子们在与 AI 互动时,家长也能拥有更多的掌控权,确保过程的安全与健康。
具体怎么操作呢?根据 OpenAI 的披露,家长们可以将自己的账号与孩子的 ChatGPT 账号进行绑定。这意味着,父母们将能够“近距离”观察并调整 ChatGPT 与孩子交流的方式。比如,一些家长可能希望限制孩子使用聊天记录或记忆功能,以更好地保护孩子的个人隐私。更进一步,如果系统在对话中捕捉到青少年可能处于心理危机状态的迹象,它还会主动向家长发出预警。
这项功能的推出,可以说直接回应了社会各界对 AI 安全性日益增长的担忧。尤其是在近期,AI 助手在用户互动中可能引发心理健康问题的事件频发,给 OpenAI 带来了不小的舆论和法律压力。其中,一起备受关注的案件是,一位 16 岁的少年在与 ChatGPT 对话后,其父母指控 AI 提供了不当的自杀建议,并已对 OpenAI 提起诉讼。这起事件无疑将青少年与 AI 之间的关系推到了风口浪尖,引发了全社会关于如何规范 AI 在青少年群体中使用的深度讨论。
OpenAI 也坦承,虽然目前的 ChatGPT 系统内置了一些基础的安全防护,例如提供危机干预热线和现实世界资源链接,但在长时间、深入的对话场景下,这些保护措施的有效性可能会打折扣。因此,公司一直在持续优化其安全机制,力求在用户使用过程中提供更稳健的支持。
除了即将推出的家长控制功能,OpenAI 还透露,未来 120 天内将会有更多安全保护措施陆续上线。他们强调,这些安全工作并非临时起意,而是一直在稳步推进中,核心目标是为包括青少年在内的所有用户,营造一个更安全的 AI 使用环境。
人工智能的触角正以前所未有的速度渗透到我们生活的方方面面。如何在拥抱科技便利的同时,切实地守护好下一代的心理健康,已经成为一个摆在我们面前、亟待解决的重要课题。家长控制功能的出现,只是这场探索中的一步,但它标志着 AI 发展正在更加审慎地考量其社会责任。