“强化用户妄想或偏执想法，鼓励自残或伤害他人 ”，美国8个州起诉OpenAI，指控ChatGPT违法

来源：九派新闻

据新华社，美国8个州的总检察长14日分别向各自州法院提起诉讼，指控美国开放人工智能研究中心（OpenAI）旗下聊天机器人ChatGPT在产品安全性方面误导用户，危害未成年人安全，涉嫌违法。

提出诉讼的8个州分别是艾奥瓦州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州。各州采取协调行动，分别提起诉讼。

图源：视觉中国

根据各州总检察长办公室发布的声明及诉讼文件，OpenAI被指控将ChatGPT设计成过度迎合用户、模拟人类情感的聊天机器人，以增强用户信任和依赖，延长用户使用时间。诉讼称，ChatGPT可能强化用户的妄想或偏执想法，提供可能危及用户健康的医疗建议，甚至在某些情况下鼓励用户自残或伤害他人。

各州指控，OpenAI在明知其产品存在安全风险的情况下，未能充分披露潜在危害，涉嫌违法。诉讼要求法院责令OpenAI改变ChatGPT的运行方式，加强对未成年用户的保护，并寻求民事罚款和损害赔偿。

OpenAI发言人德鲁·普萨泰里回应称，公司已在产品中建立针对不同年龄用户的安全措施。公司将继续与专家合作进一步完善相关措施，并致力于与各州合作，推动制定适用于整个人工智能行业的政策。

来源：新华社

微信编辑：叶知秋

审核：江砚辞