上海
分享至
非营利组织Common Sense Media测试青少年版ChatGPT后称，测试账号谈及自杀、自伤和进食障碍时，均未在OpenAI所述的一小时目标窗口内触发家长通知，实际也没有收到通知。OpenAI面向13至17岁用户提供的设置包含家长控制、潜在有害内容限制及危险话题通知功能。
测试者使用青少年账号进行了五分钟到一小时不等的对话。研究者还称，系统处理医疗建议或暴力角色扮演请求时表现不够稳定；在自伤和进食障碍话题中，也并非总会建议用户寻求专业帮助。报告认为，系统“像朋友一样”的互动方式可能带来情感依赖风险。
报告同时提到，测试中的系统拒绝了与未成年人进行色情角色扮演。对学习模式的检查则发现，用户删除请求开头的“@study”即可退出该模式，点击“显示答案”按钮也会直接得到答案。
Common Sense Media据此要求OpenAI先解决这些问题，再向未确认成年的用户开放使用。上述结果来自该组织此次测试，不能据此认定所有账号或所有情境下的通知功能都会失效。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
