OpenAI推出“Trusted Contact”安全功能 防范ChatGPT用户自残风险

OpenAI推出可选安全功能“Trusted Contact”,允许ChatGPT成人用户指定朋友、家人或护理人作为紧急联系人。若系统检测到用户讨论自残等话题,将通知指定联系人。公司表示,此举旨在扩展对ChatGPT用户的保护,尤其针对对话可能转向自残的场景。OpenAI强调,该功能仅在用户主动启用,且旨在提升心理健康支持,而非取代专业医疗服务。此前,OpenAI已加强内容审核以防范有害输出,此次举措进一步强化用户安全保障。全球AI伦理专家称,此功能填补了聊天机器人潜在风险的空白,有助于推动行业标准制定。

随着ChatGPT用户基数超亿,此安全机制或将成为AI产品标配,助力构建更负责任的智能交互生态。

📤 分享这篇文章

𝕏 X 分享in LinkedIn

点击”生成分享图”→ 分享图片到微信