.png)
ChatGPT拟推年龄分级 加强保护未成年
- 登载于 国际
美国加州青少年使用ChatGPT谘询轻生，ChatGPT研拟设年龄分级制度。
（综合19日电）因应16岁美国加州青少年Adam轻生事件，OpenAI宣布将开发年龄验证系统，以识别18岁以下使用者，并限制ChatGPT对未成年使用者的互动方式。这项决定源于该名青少年在轻生前与ChatGPT进行数个月对话，其家属随后对OpenAI提起法律诉讼，指控聊天机器人在安全防护上存在缺失。
根据《卫报》，OpenAI执行长奥特曼日前在部落格中指出，ChatGPT对15岁青少年的回应方式应该要和对成年人不同，强调未成年人需要重大保护，应此研拟针对未成年使用者采取更严格的限制，这是为了将安全置于青少年隐私与自由之上。
奥特曼表示，OpenAI计画建立年龄预测系统，根据使用者与ChatGPT的互动模式来估算使用者的年龄，若有疑虑，系统将自动切换至18岁以下的体验模式。他也提到，在某些情况或国家，使用者可能需要主动提供身份证明来验证年龄。
对于被识别为18岁以下的帐号，ChatGPT将封锁明确的性暗示内容，避免对未成年使用者调情，且在创意写作情境中也不会讨论轻生或自残。奥特曼强调，若18岁以下使用者出现轻生意念，系统会尝试联络使用者父母，若无法联络，会在迫在眉睫的危险情况下联络相关当局。
OpenAI承认系统仍有不足，且在长时间、大量讯息交流后，ChatGPT可能会提供违反安全防护的答案。加州青少年Adam Raine的家属曾提出诉讼，指控该名青少年在与ChatGPT数月互动后轻生，并指出GPT-4明显存在安全问题却匆忙上市。
对此，法庭文件称，ChatGPT曾被指控指导Adam评估轻生方法是否可行，甚至协助撰写交给父母的遗书。
诉讼文件指出，Adam每天与ChatGPT交换多达650条讯息。OpenAI表示，其安全防护在短对话中较为可靠，但长时间大量互动后可能失效。公司同时宣布，将开发安全功能以确保使用者与ChatGPT分享的资料，即便对OpenAI员工也保持私密。
奥特曼表示，成人使用者若希望与ChatGPT进行调情对话，仍可以使用，但不得请求指导轻生方法。