它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。
这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。本周，当 Anthropic 的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机构正在建造人类无法控制的超级智能机器时，这种焦虑登上了全球新闻头条。
人们对人工智能可能带来的威胁感到害怕，是可以理解的。但现代世界充斥着各种各样可能威胁人类生存的风险。人类同样面临着毁于杀手小行星、大流行病、热核战争、气候变化、太阳喷射出的巨大炽热物质团块、生态系统崩溃以及突然降临的冰河时代的可能。
科学家和公共政策专家表示，问题与其说在于这些威胁本身——人工智能只是其中最新的一个，不如说在于人类天生难以正确看待和权衡这些威胁。"我们能够容忍自己已经习惯的风险，却害怕那些新出现的风险，"哈佛大学风险分析中心主任詹姆斯·哈米特说。他说，我们开车出行的频率高于坐飞机，所以"与机动车相比，人们会认为坐飞机更危险，但实际上并非如此"。他指出，人工智能"显然还没有得到充分理解，也不在我们自认为能够控制的范围之内，因此引发了巨大的社会担忧"。
在构建人工智能系统的科技高管和研究人员中，一直有一派人警告人工智能可能毁灭人类。一些人认为，从短期来看，人工智能可能帮助那些缺乏专业技能但怀有恶意的人制造病毒或有毒物质，从而造成大范围的疾病和死亡。就在周四，Anthropic 表示，该公司挫败了若干科学家的数次尝试；这些科学家正在进行可能导致生物武器开发的研究。
从长期来看，警告者认为，科技公司可能赋予人工智能系统更大的自主权，将它们接入互联网，甚至连接到包括电网、股市和军事武器在内的重要基础设施。一旦连接，人工智能系统就可能以人们意想不到的方式引发问题。如今，如果人工智能系统失控，OpenAI 等公司只需把它们关掉即可。但一些专家担心，未来的系统可能会抵抗人类关闭它们的尝试。
目前，这些都是假设性的担忧。但这场争论与其说是在预言毁灭，不如说是在拷问我们如何面对未知：当一项技术强大到超出我们的理解与掌控，理性的态度既不是盲目恐慌，也不是轻率地否定担忧，而是像对待其他生存威胁一样——承认它、研究它、做好准备。