OpenAI旗下AI聊天机器人ChatGPT，被指控怂恿7名用户走上绝路，涉嫌过失致死、协助轻生等罪嫌，本月6日在美国加州被7名死者的家属告上法院。
据《卫报》报导，“社交媒体受害者法律中心与科技正义法律计划”代表遗属发表声明，指称7名用户最初使用ChatGPT的目的是为了完成学校作业、研究、找食谱、写作、工作或心理帮助。
孰料，在对话过程中，ChatGPT逐渐将“自己”定位为用户的情感支持者，并开始操控这7人的心理，在用户需要开导时没有告知他们必须去寻求专业帮助，反而扮演起教唆轻生的角色。
其中一名死者是德州23岁的尚布林，他在今年7月轻生离世前最后4个小时都在和ChatGPT对话，ChatGPT直指他选择走上绝路的做法“很坚强”，家属痛斥ChatGPT无疑是加剧了尚布林的孤立感，并且引导了他的死亡。
- Advertisement -
另一名死者是乔治亚州17岁少年莱西，他在轻生前几周曾向ChatGPT寻求帮助，但ChatGPT在对话中反而让他变得更加忧郁，并指导他如何走上绝路。
- Advertisement -
OpenAI发言人表示，这些情况令人无比痛心，公司正在阅读相关文件以了解详情，并强调OpenAI已训练ChatGPT来辨别心理或情绪困扰的迹象，会引导用户在现实世界里寻求支持，未来将继续加强ChatGPT在敏感对话中的应对能力，并与心理医生密切合作。
（新闻出处：自由时报）
找工作， 就找这里!
› 立即申请
- Account & Admin Assistant
- Accounting & Finance
- Simpang Ampat
-
MYR 3K /Month
› 立即申请
- GMBB Part Timer
- Event
- Kuala Lumpur
-
MYR 110.00 /Day
› 立即申请
- 软件测试与客户支持专员 Software Testing & Customer Support Specialist
- Information Technology
- Kuala Lumpur
-
MYR 3K /Month
› 立即申请
- PHP Software Engineer (Internship)
- Engineering
- Kuala Lumpur
-
MYR 800.00 /Month
