公司动态

FB体育 FB体育平台马斯克喊话:“必须停止 GPT-5”的3点思考

作者:小编 点击: 发布时间:2023-04-03 16:07:04

  这封信由未来生命研究所发布,呼吁所有人工智能实验室立即暂停至少 6 个月的训练,以训练比 GPT-4 更强大的人工智能系统。

  以下是我想在这里与大家讨论的这封信中的 3 个主要要点。这将帮助我们了解 AI 的当前状态以及未来可能等待我们的是什么。

  2022 年 11 月发布的 ChatGPT 引发了一场人工智能竞赛。最近谷歌推出了 Bard,发布了很多 AI 工具,甚至升级了 GPT 模型(比预期的要早)。

  微软副总裁泄露的一段录音可能表明:来自 [CTO] Kevin [Scott] 和 [CEO] Satya [Nadella] 的压力非常非常大,要求采用这些最新的 OpenAI 模型以及紧随其后的模型和以非常高的速度将它们送到客户手中。

  这场 AI 竞赛违背了Asilomar AI 原则,该原则指出“应该以相称的关怀和资源来规划和管理 AI”。

  不幸的是,随着微软解雇了教导员工如何负责任地制作人工智能工具的团队,情况看起来并不好。尽管微软仍然保持着一个活跃的负责任人工智能办公室,但员工表示,道德和社会团队确保公司负责任的人工智能原则实际反映在所交付产品的设计中。

  但 AI 竞赛并非微软和谷歌等大型科技公司独有,最近,越来越多的公司正试图将 AI 集成到他们的产品中。

  正如许多技术领导者签署的信中所说,人工智能实验室似乎已经锁定了一场部署强大数字思维的竞赛,即使是他们的创造者也无法理解、预测或可靠控制。

  FB体育 FB体育平台

  人工智能系统可能会威胁到未来的许多工作。事实上,OpenAI 最近的一项研究可能会让我们很好地了解哪些工作可能很快会被人工智能取代。

  但这并不是工作所独有的。未来生命研究所的恐惧在于人工智能系统现在如何在一般任务上变得具有人类竞争力。

  我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维?

  我们必须控制我们开发的技术。问题是目前,这不取决于我们。人工智能如何发展的决定权委托给一小群技术领导者。

  FB体育 FB体育平台

  在 OpenAI最近的一份声明中,他们表示他们的使命是确保通用人工智能造福全人类。为了兑现这一承诺,OpenAI 应该在训练未来系统之前进行独立审查。不幸的是,目前还不清楚那一天何时到来。

  越早为 AI 实验室制定公共标准和外部审计,我们就越能感受到新的 AI 进步。

  FB体育 FB体育平台

  我们生活的 AI 夏天是由于像 ChatGPT 这样的 AI 工具给我们的生活带来的好处。也就是说,如果我们不为更先进的人工智能系统在未来可以做的事情做好准备,那么我们所喜爱的人工智能技术可能会成为我们的最终垮台。

  在最近的一篇论文中,微软声称GPT-4 展示了通用人工智能(AGI) 的“火花”。对于那些不熟悉 AGI 的人来说,这是理解或学习人类可以完成的任何智力任务的能力。

  尽管有人声称AGI 一词在论文中被用作点击诱饵,但这仍然引发了一些不可避免的问题。

  我们只能确定一件事。如果以负责任的方式推动 AI 进步,我们都将享受一个漫长的 AI 夏天。否则,我们所有人(不仅是决策者)都将不得不面对后果。

  我不确定这封信中要求的 6 个月暂停背后是否还有其他原因,但至少现在负责任的 AI 实践话题已经摆在桌面上了。


相关标签:
热门产品