美国科技企业OpenAI周二(2日)宣布,将於下月为旗下生成式聊天机械人ChatGPT加入家长监控功能,家长将可以把自己的帐号与青少年子女的帐号连结,并控制ChatGPT如何利用符合年龄的模型行为规则,来回应青少年子女。同时,家长可管理哪些功能禁用,当中包括记忆和聊天历史。当系统侦测到青少年突然感到很难受或痛苦,家长也会收到ChatGPT的通知。
OpenAI表示,未来三个月将进一步提升聊天机械人的安全性,包括将「某些敏感对话」转接至一个会投入更多运算资源生成回应的推理模型(reasoning model)。此外,测试显示推理模型能更一致地遵循并应用安全准则。
上周,一对美国夫妇入禀法院控告OpenAI,称ChatGPT鼓励他们的16岁儿子今年4月自杀身亡,甚至帮忙撰写遗书,是该公司首次面对同类官司。(hc/j)
AASTOCKS新闻