Anthropic 周四表示，今年已多次阻止科学家利用其领先的人工智能模型开展研究的企图，这些研究可能有助于开发生物武器。
在一份描述其 AI 模型被滥用的报告中，Anthropic 表示无法确定这些研究是出于合法还是邪恶目的，因为有效的生物学研究——能带来疫苗等突破的那种——也可能有助于设计危险病原体。面对这种不确定性，Anthropic 选择谨慎行事，因为漏掉恶意活动的后果可能很严重。
"你不会看到有人像漫画书里那样说，'嘿，我想制造生物武器杀死所有人，'"Anthropic 威胁情报主管雅各布·克莱因在接受采访时说。"情况极其微妙。"
尖端 AI 模型可能促进已知或全新生物病原体的开发，这是专家们对这项技术最严重的担忧之一——该技术发展如此迅速，连其领先的设计者都怀疑人类能否完全控制它。与灾难性网络攻击相比，生物滥用作为 AI 的生存风险受到的关注较少，部分原因是过去的案例通常只出现在研究环境中，而非现实世界。
战略风险委员会高级研究员安德鲁·韦伯在报告发布前审阅了 Anthropic 的报告。他说，这些发现是"国家支持的生物武器开发者利用领先 AI 模型快速进步能力的案例，令人不寒而栗"。
Anthropic 周四发布的报告列举了过去八个月其 Claude 聊天机器人各模型被滥用的一系列事例。一些例子与过去的披露类似，包括疑似与中国和伊朗政府有关联的行为者针对异见者和侨民社区进行监视。报告还提到俄罗斯官方媒体使用 Claude 生成伪装成独立报道的在线宣传，包括关于摩尔多瓦选举的捏造内容。
但在报告列出的所有威胁类别中，生物研究最令人担忧。Anthropic 未披露它阻止的研究人员或机构的名称、所属国家或所涉具体生物制剂，部分原因是其不确定这些人的目的。尽管如此，Anthropic 表示，这些科学家规避了旨在阻止被封锁地区用户访问其 AI 模型的控制措施，并设法"混淆研究目的以避开我们的安全护栏"。该公司封禁了相关账户。
这项披露揭示了一个深层的困境：AI 实验室在"安全"与"科学自由"之间走钢丝——同样的能力既能救命，也能夺命，而实验室往往无法判断使用者的真实意图。在不确定性面前选择谨慎，或许就是 AI 时代安全准则的第一课。