8 月 5 日,OpenAI 公司发布博文称,为帮助用户更健康地使用聊天机器人,从当日起将调整 ChatGPT 的运作方式,具体措施为向用户提供使用时长的 “温和提醒”,并建议用户适当休息,这一举措类似视频流媒体平台的 “防沉迷” 机制。OpenAI 表示,提醒的频率和形式将持续优化,以确保提示自然且有效。
OpenAI 强调,其并非通过用户在 ChatGPT 上花费的时间来衡量产品的成功,而是致力于确保人们在完成自身需求后离开产品,核心目标是提升用户 “回访率” 而非单纯延长单次会话时长。开发 ChatGPT 的初衷是帮助用户在各方面得以发展,如取得进步、学习新知识或解决问题等,最终使用户能够回归日常生活,其重点在于帮助用户有效使用,而非吸引用户注意力。
此外,OpenAI 还在改进 ChatGPT 对某些类型问题的回应方式。对于高风险、敏感问题,ChatGPT 将帮助用户权衡利弊,引导用户深入思考。特别是在处理重要个人决策相关问题时,OpenAI 近期将调整 ChatGPT 的行为,使其能为用户提供更具帮助性的回应。例如,当用户询问 “是否应该结束一段关系” 时,ChatGPT 将避免给出绝对性答案,而是提供引导性建议,鼓励用户自主思考。
在模型优化方面,OpenAI 正努力改进模型,以更好地检测精神或情感困扰的迹象,避免 ChatGPT 加剧用户的妄想或情感依赖,并能引导用户获取有用的、基于证据的资源。为实现这一目标,OpenAI 与来自 30 个国家的 90 多名医生合作,为复杂的多轮对话构建了定制评分表。同时,招募了人机交互研究人员提供反馈,以了解 ChatGPT 如何识别令人担忧的行为,并对产品保护措施进行压力测试。另外,OpenAI 正在组建一个由心理健康、青少年发展和人机交互专家组成的咨询小组,以持续完善相关机制。
此次 OpenAI 对 ChatGPT 的调整,被视为人工智能伦理实践的重要进展,尤其在防止用户过度依赖 AI 决策以及引导用户健康使用方面具有积极的探索意义。