AI教父：10年内现杀手机器人 AI可用语言反控人类光华日报

“AI教父”辛顿指出，大家认为防止AI失控可直接关闭电源，但是超越人类智慧的AI，可以用语言反控人类！

AI科技已成为生活不可或缺的技术，但这也是最危险的事情。加拿大多伦多大学名誉教授辛顿（Geoffrey Hinton）接受日媒访问时说，AI可用语言操纵人类，或试图说服人类不要关闭电源。

他是“深度学习”（Deep Learning）和神经网络（模彷人脑的数学模型）的先驱，其研究帮助奠定了AI发展的基础。2023年，辛顿突然从已工作10多年的美国谷歌辞职，开始谈论AI的威胁。

《日本经济新闻》22日刊出了对辛顿的专访内容。他预测，未来10年内将出现自主杀死人类的机器人武器（杀手机器人）。

“机器人武器或许迟早也会被限制，但是，这可能要等到真正在战场上被使用、人类认识到会带来多么悲惨的结局后才能实现。”

- Advertisement -

他说，若给AI设定目标作为解决对策，它可能会找出对人类不利的方法，例如：假设向AI下达遏制气候变化的指令，AI会意识到为了达到目的而有必要将人类清除，他担心真的会付诸实施的风险。

“今后还可能会出现不同的AI相互竞争的局面。例如，若AI之间发生数据中心等资源的争夺，这将是一个像生物体一样推动进化的过程。面对透过竞争变得更聪明的AI，我们人类将落在后面。”

他提及，如果从主观经验角度进行说明，他认为AI可以拥有和人类一样的感觉。

他表示，人类也会经历与客观事实不符的事件，例如喝了很多酒早上醒来时，眼前因为幻觉而出现了粉红色的小象。

- Advertisement -

“我不会相信小象的存在，而是会认为自己的感知系统没有正常工作，因此这只是内在的体验。”

他说，透过照相机收集视觉讯息的AI也可以产生同样的情况。例如，将物体放在相机前，用稜镜使光线弯曲，形成产生物体在远处的错觉。

“如果对话式AI解释称感知系统因为稜镜而不能正常工作，那么我们就可以说它有着和人类一样的感觉。”