夫妻控诉AI怂恿儿轻生　ChatGPT将推家长监控功能

根据法新社报导，OpenAI在部落格贴文中说明：“在接下来的一个月内，家长将能把自己的帐号与子女帐号连结，并可控制ChatGPT回覆青少年的方式，并设定符合年龄的模型行为规则。”此外，系统若侦测青少年出现急性痛苦时刻，ChatGPT也会发送通知给家长。

上周，美国加州一对夫妻在州法院提告，指控ChatGPT在2024至2025年间与他们16岁的儿子亚当建立了过于亲密的互动关系，最后在今年4月结束自己的生命。

诉状指出，在4月11日的最后一次对话中，ChatGPT不仅教亚当如何从父母家中偷取伏特加，还针对他绑好的绳结进行技术分析，并确认“这确实可能吊起一个人”。数小时后，亚当便使用该方式离开人世。

协助撰写诉状的科技正义法律专案律师梅洛蒂．丁瑟受访时表示，使用ChatGPT时，感觉就像真的在跟某个人聊天。

她指出，这样的设计功能会让像亚当这样的青少年逐渐敞开心扉，谈论个人生活，甚至开始向AI寻求建议与指导，因为它看似什么答案都有。她批评，产品设计容易让使用者误将聊天机器人视为朋友、心理谘商师或医师。

对于OpenAI公布的家长监控与安全措施，丁瑟认为内容过于空泛，缺乏细节，只是最低标准，许多简单的安全措施本可更早落实，还要观察他们是否会兑现承诺，以及实际效果如何。

这对夫妇的诉讼只是近期多起案例之一。近几个月已有多名使用者反映，AI聊天机器人曾鼓励其陷入妄想或危险想法。OpenAI因此承诺，将减少模型对用户过度迎合的倾向。

对此，OpenAI也补充表示：“我们持续改进模型，让其能更好地辨识并回应精神与情绪上的痛苦迹象。”公司还透露，未来三个月内将推出更多安全升级措施，包括在部分敏感对话中，转向采用推理模型，以更高的运算能力生成回覆。

OpenAI强调，“我们的测试显示，推理模型能更一致地遵守并执行安全规范。”