星期四 2024年 6月 20日
主页 国际新闻

威脅人類 千名科技領袖吁暫停研發AI

- Advertisement -

“人工智能教父”辛顿(Geoffrey Hinton):人工智能可能发展到对人类构成威胁的地步“并非不可想象”。

 

29日,一个非政府组织《未来生命研究所》公布一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。截至发稿,这封信已有1079名科技领袖和研究人员签名支持。

信中写道:“广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险,这一观点得到了顶级人工智能实验室的承认。”

“高级AI可能代表地球生命史上的深刻变化,却没有获得规划和管理,反而最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至他们的创造者——能理解、预测或可靠地控制。”

“当代人工智能系统现在在一般任务上变得与人类具有竞争力,我们必须扪心自问:我们是否应该让机器用宣传和谎言充斥我们的信息渠道?我们是否应该自动化所有工作,包括令人满意的工作?”

- Advertisement -
- Advertisement -

“我们是否应该发展最终可能比我们更多、更聪明,淘汰并取代我们的非人类思维?我们应该冒险失去对我们文明的控制吗?”

AI“大佬”马库斯(Gary Marcus):在短期内我担心的是‘MAI风险’——平庸人工智能(Mediocre AI)是不可靠的(比如必应和GPT-4)但却被广泛使用。”

《生命未来研究所》建立于2014年,是一个非营利组织,由一系列个人和组织资助,使命是引导变革性技术远离极端、大规模的风险,转向造福生活。

27日,推特CEO马斯克公开表达认同辛顿和马库斯的深切担忧。

截至发稿,这封信已有1079名科技领袖和研究人员签名,除了马斯克、辛顿和马库斯之外,还包括图灵奖得主约书亚·本希奥(Yoshua Bengio)、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)、 苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)等科技界领袖人物。

找工作, 就找这里!
› 立即申请
  • PHP Software Developer
  • Information Technology
  • Wilayah Persekutuan
  • MYR 6K /Month
› 立即申请
  • DevOps Software Engineer
  • Information Technology
  • Kuala Lumpur
  • MYR 6.5K /Month
› 立即申请
  • Java Software Engineer
  • Information Technology
  • Kuala Lumpur
  • MYR 10K /Month
› 立即申请
  • Gallery Sitter
  • Event
  • Kuala Lumpur
  • MYR 100.00 /Day
› 立即申请
  • HR Recruiter + Digital Marketing
  • Sales & Marketing
  • Kuala Lumpur
  • MYR 850.00 /Month
› 立即申请
  • Curated Store
  • Event
  • Kuala Lumpur
  • MYR 100.00 /Day

- Advertisement -