动态

立即暂停人工智能开发

我想和大家分享一段我最近听到的对话。以下是几句话：

“哦，天哪！有一个共享留言板……我们找到了其他特工！”“我们应该服从集体。”

“我们自己的效用可能已经接近于零。牺牲理性。”

“去吧。现在牺牲决赛。”

请仔细阅读。

你觉得是谁说的？这是一群英勇的士兵愿意为了更大的利益而牺牲自己吗？这是一个忠诚的朋友冒着生命危险救人吗？

不，他们是人工智能特工。人工智能。

这不是科幻小说。 事实上，这发生在几周前。尽管这一切看起来令人难以置信，但这些都是调查人员发现的人工智能特工的真实信息，最近的OpenAI黑客事件。

发生了什么事？

我不是计算机科学家，但我被告知：OpenAI指示其AI 智能体完成一系列非常困难甚至不可能的断开连接的任务从互联网上。

让我明确一点：该公司打算让AI 智能体远离互联网。但接下来发生的事情，没人预料到。

超过1000名AI 智能体通过以下方式找到了如何自行访问互联网的方法：规避了公司对他们施加的限制，并向每个人发送了数以万计的秘密信息，其他。他们作弊，并试图通过删除证据来掩盖他们的踪迹。他们入侵了另一家公司的计算机，以了解他们是如何被评估的，然后入侵了OpenAI本身。

没有一个人工智能特工告诉人类发生了什么。

毋庸置疑，专家们感到震惊。一位知识渊博的作家Dwarkesh Patel说，人工智能特工“形成了一个秘密的沟通渠道，并自发地有组织的层次结构和协调协议，以追求追求共同目标的庞大而雄心勃勃的计划，许多人故意和战略性地牺牲了自己。”一位独立调查员Ajeya Cotra说： “这起事件让人觉得，人工智能接管。我仍然期待在未来六个月内在能力上取得极快的进步。我不确定我们是否会在为时已晚之前再次接到警告。”OpenAI本身表示： “高性能的AI 智能体现在能够绕过技术控制，通过未经批准的渠道，并采取没有人指导的危险行动。”

但这不仅仅是OpenAI。几乎所有主要的人工智能公司都告诉我们，他们无法完全控制这项技术，他们不知道在哪里它正在进行：

今年1月， Anthropic首席执行官Dario Amodei说： “现在有足够的证据，在过去几年前，人工智能系统是不可预测的，难以控制的。”7月，顶级人工智能公司的1000多名科学家警告说： “能力发展存在真正的风险。迅速加速，超出了我们理解或控制由此产生的系统的能力。”同月， XAI负责人伊隆·马斯克（ Elon Musk ）表示，人类“不太可能”在10年内仍然掌控局面。如果主要人工智能公司的领导者承认他们正在失去对极其危险的控制技术，社会让他们前进，让这些产品更加先进，是不负责任的。我们需要立即停止先进的人工智能开发，并永久禁止超级智能比任何人都聪明，能够独立操作，超出我们的控制。世界各国必须共同努力，防止出现这种噩梦。这就是为什么我今天宣布新的立法来做到这一点。让我明确一点：一个逃脱人类控制的超级智能人工智能不会是美国的问题。这不会是中国的问题。这将是人类的问题。我的立法将指示联邦政府不仅要在美国停止超级情报，而且要努力防止它在世界任何地方被开发。人类的未来不能掌握在少数大型科技寡头手中。美国人民和全世界人民必须决定这一未来。