一位被广泛视为人工智能 (AI) 教父的人辞去了工作，警告该领域的发展会带来越来越大的危险。
75 岁的杰弗里·辛顿 (Geoffrey Hinton) 在给《纽约时报》的一份声明中宣布从谷歌辞职，他说他现在对自己的工作感到后悔。
他告诉 BBC，人工智能聊天机器人的一些危险“相当可怕”。
“现在，据我所知，他们并不比我们聪明。但我认为他们很快就会。”
Hinton 博士也承认他的年龄影响了他离开这家科技巨头的决定，他告诉 BBC：“我 75 岁了，是时候退休了。”
Hinton 博士在神经网络和深度学习方面的开创性研究为当前的人工智能系统（如 ChatGPT）铺平了道路。
在人工智能中，神经网络是在学习和处理信息的方式上类似于人脑的系统。它们使 AI 能够像人一样从经验中学习。这称为深度学习。
这位英裔加拿大认知心理学家和计算机科学家告诉 BBC，聊天机器人很快就会超过人脑所掌握的信息水平。
“现在，我们所看到的是 GPT-4 之类的东西在它拥有的一般知识量上让一个人黯然失色，而且远远超过了他们。在推理方面，它没有那么好，但它已经做到了简单的推理，”他说。
“鉴于进展速度，我们预计情况会很快好转。所以我们需要担心这一点。”
- 世界准备好迎接即将到来的人工智能风暴了吗？
- 人工智能可能影响 3 亿个工作岗位——报告
- BBC Reel：为什么我们仍然比机器更聪明
在纽约时报的文章中，Hinton 博士提到了试图将 AI 用于“坏事”的“坏演员”。
当 BBC 要求对此进行详细说明时，他回答说：“这只是一种最坏的情况，一种噩梦。
“你可以想象，例如，像 [俄罗斯总统弗拉基米尔] 普京这样的坏演员决定让机器人能够创建自己的子目标。”
这位科学家警告说，这最终可能会“创造出像‘我需要获得更多能量’这样的子目标”。
他补充说：“我得出的结论是，我们正在开发的智能与我们拥有的智能非常不同。
“我们是生物系统，而这些是数字系统。最大的区别在于，对于数字系统，你有许多相同的权重集，相同的世界模型。
“所有这些副本都可以单独学习，但可以立即分享他们的知识。所以就好像你有 10,000 个人，每当一个人学到一些东西时，每个人都会自动知道。这就是这些聊天机器人比任何人知道的更多的原因。”
英国高级研究与发明局主席马特克利福德以个人身份向 BBC 表示，欣顿博士的声明“突显了人工智能能力正在加速发展的速度”。
“这项技术有巨大的优势，但世界必须在人工智能安全和控制方面进行大量和紧急的投资，”他说。
Hinton 博士加入了越来越多的专家的行列，他们对 AI 的发展速度和发展方向表示担忧。
“我们需要退后一步”
今年 3 月，一封由人工智能领域的数十人共同签署的公开信，其中包括科技亿万富翁埃隆马斯克 - 呼吁暂停所有比当前版本的人工智能聊天机器人 ChatGPT 更先进的开发，以便设计出强大的安全措施并实施。
与 Hinton 博士和 Yann LeCun 一起因在深度学习方面的工作而获得 2018 年图灵奖的另一位所谓的 AI 教父 Yoshua Bengio 也签署了这封信。
Bengio 先生写道，正是由于人工智能系统的“意外加速”，“我们需要后退一步”。
但 Hinton 博士告诉 BBC，“在短期内”，他认为人工智能带来的好处多于风险，“所以我认为我们不应该停止开发这些东西，”他补充道。
他还表示，国际竞争意味着暂停会很困难。“即使美国的每个人都停止开发它，中国也会取得很大的领先优势，”他说。
Hinton 博士还表示，他是科学专家，而不是政策专家，政府有责任确保人工智能的开发“充分考虑如何阻止它流氓行为”。
“负责任的做法”
欣顿博士强调，他不想批评谷歌，这家科技巨头“非常负责任”。
“我其实想说一些关于谷歌的好话。如果我不为谷歌工作，他们会更可信。”
谷歌首席科学家杰夫迪恩在一份声明中表示：“我们仍然致力于对人工智能采取负责任的态度。我们不断学习了解新出现的风险，同时也大胆创新。”
重要的是要记住，AI 聊天机器人只是人工智能的一个方面，即使它们现在是最流行的。
人工智能支持决定视频流平台决定你接下来应该观看什么的算法。它可以在招聘中用来过滤工作申请，被保险公司用来计算保费，它可以诊断医疗状况（尽管仍然是人类医生说了算）。
不过，我们现在看到的是 AGI（通用人工智能）的兴起，它可以通过训练在一定范围内做很多事情。因此，例如，ChatGPT 只能为查询提供文本答桉，但正如我们所看到的，其中的可能性是无穷无尽的。
但 AI 加速发展的速度甚至令其创造者感到惊讶。自 Hinton 博士于 2012 年建立开创性的图像分析神经网络以来，它发生了巨大的变化。
就连谷歌老板 Sundar Pichai 在最近的一次采访中也表示，即使是他也不完全理解其人工智能聊天机器人 Bard 所做的一切。
别搞错了，我们现在正坐在一列高速列车上，担心有一天它会开始建造自己的轨道。