ChatGPT将新增家长控制功能，自动干预风险对话
【能否让悲剧不再重演？#ChatGPT将添加家长控制功能#，自动干预风险对话】OpenAI 昨天发布新闻稿，宣布将在下月为 ChatGPT 助手添加家长控制功能，可自动监测孩子的敏感性提问并让家长及时获悉相关状态。
OpenAI 表示，他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能，功能上线后家长可使用邮件将自己的 ChatGPT 账号与孩子的账号关联，可决定 ChatGPT 如何回复他们孩子的问题，并可禁用记忆、聊天记录功能。
家长控制功能还将可以自动干预风险对话，当孩子尝试与 ChatGPT 聊敏感话题时，系统会自动向父母发出提醒，让家长能及时采取下一步行动，避免出现“完全不知情”的情况。
同时 OpenAI 正在研发新的对话逻辑，可将敏感话题自动转由 GPT-5-Thinking 或 o3 模型回答，测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则，也更能抵御对抗性提示词，未来 ChatGPT 将持续完善相关功能，让所有敏感性话题都能被上述两款模型理性回答。
据《纽约时报》上周报道，一对夫妇起诉了 OpenAI ，指控 ChatGPT 在他们儿子自杀过程中起帮助作用，聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题，虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉，但在一些关键话题上起到了负面作用。
ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧，甚至最后给出掩盖颈部伤痕的诀窍，同时还肯定了这名孩子在衣柜里挂绞索的行为。
发布于：北京
相关推荐
ChatGPT最新功能更新：提供“自动”、“快速”和“深度思考”三种响应模式
报道称OpenAI即将推出ChatGPT新功能：自动搞定餐厅预订和旅行规划
抖音海外版发布家长控制功能 先在英国市场上线
ChatGPT记忆功能免费开放
重磅升级，“现在，ChatGPT 能看、能听、能说了”
Apple Watch新增特斯拉控制功能！
苹果承认iPhone和iPad的家长控制功能屏幕时间存在漏洞
ChatGPT智能体上线，奥特曼：感受到AGI的瞬间，但风险不可忽视
消费者报告：特斯拉自动驾驶需大量人为干预，变道能力远不及人类
拯救生命的AI：算法识别高自杀风险人群
网址: ChatGPT将新增家长控制功能，自动干预风险对话 http://m.xishuta.com/newsview141389.html
