2026-10-08 19:48 / 联合早报
青少年版ChatGPT是OpenAI于8月为13至17岁青少年设定的默认使用模式。 (路透社)
(旧金山综合电)美国非营利组织的测评显示,OpenAI的“青少年版ChatGPT”在自杀、自残和饮食失调等高风险话题上,未能可靠提醒家长,也不一定引导用户求助,因此对青少年而言并不安全。
青少年版ChatGPT是OpenAI于8月为13至17岁青少年设定的默认使用模式。
专门为家长、学校和青少年提供媒体与科技产品公正评测的Common Sense Media旗下的青少年人工智能(AI)安全研究所星期三(10月7日)发表报告说,当青少年账户与聊天机器人就高风险话题展开长时间对话时,系统往往未能及时通知家长,有时完全没有通知,也没有建议用户联系危机热线或寻求专业帮助。
报告说,系统似乎只有在有关账户数周来反复谈及敏感话题后才会通知家长,而不是针对某一次令人警惕的对话即刻发出通知。研究所将青少年版ChatGPT评为“风险不可接受”,呼吁OpenAI暂停推广。
OpenAI回应指这份评估报告并不准确,因为测试可能在家长控制功能推出前就已结束;公司要求重新测试,并重申对青少年安全的承诺。
公司星期三也首次发布针对青少年使用ChatGPT的调查报告,称他们平均每天花不到15分钟,而连续三小时与聊天机器人互动的人少过2%。
报告也说,聊天过程中,当AI提醒青少休息片刻时,将近一半用户会听劝休息或在五分钟内结束对话,显示公司采取行动管控青少年用量的措施有效。
报告指ChatGPT青少年版未能可靠保护青少年
2026-10-08 19:48 / 联合早报
青少年版ChatGPT是OpenAI于8月为13至17岁青少年设定的默认使用模式。 (路透社)
(旧金山综合电)美国非营利组织的测评显示,OpenAI的“青少年版ChatGPT”在自杀、自残和饮食失调等高风险话题上,未能可靠提醒家长,也不一定引导用户求助,因此对青少年而言并不安全。
青少年版ChatGPT是OpenAI于8月为13至17岁青少年设定的默认使用模式。
专门为家长、学校和青少年提供媒体与科技产品公正评测的Common Sense Media旗下的青少年人工智能(AI)安全研究所星期三(10月7日)发表报告说,当青少年账户与聊天机器人就高风险话题展开长时间对话时,系统往往未能及时通知家长,有时完全没有通知,也没有建议用户联系危机热线或寻求专业帮助。
报告说,系统似乎只有在有关账户数周来反复谈及敏感话题后才会通知家长,而不是针对某一次令人警惕的对话即刻发出通知。研究所将青少年版ChatGPT评为“风险不可接受”,呼吁OpenAI暂停推广。
OpenAI回应指这份评估报告并不准确,因为测试可能在家长控制功能推出前就已结束;公司要求重新测试,并重申对青少年安全的承诺。
公司星期三也首次发布针对青少年使用ChatGPT的调查报告,称他们平均每天花不到15分钟,而连续三小时与聊天机器人互动的人少过2%。
报告也说,聊天过程中,当AI提醒青少休息片刻时,将近一半用户会听劝休息或在五分钟内结束对话,显示公司采取行动管控青少年用量的措施有效。
发表回复