AI 与生物武器：一个严肃的科技伦理问题

最近，一篇题为《AI 能帮忙规划生物武器》的文章在科技圈引发热议。很多人第一反应是“科幻电影成真了”，但冷静下来看，这其实是一个早已存在的技术风险被 AI 放大的现实议题。

先说结论：AI 本身不会“制造”生物武器，但它确实能大幅降低获取相关知识的门槛。过去，要设计一种病原体或毒素的制备流程，需要深厚的微生物学、分子生物学背景，还得查阅大量付费论文和实验手册。而现在，如果你会问问题，大语言模型就能把零散信息整合成一份可操作的“操作指南”——哪怕它给出的步骤并不完全准确，也足以降低恶意使用者的试错成本。

AI 在生物安全中的“双刃剑”角色

要理解这个问题的复杂性，得先分清 AI 在其中的三种角色：

1. 知识加速器：AI 能快速检索、翻译、归纳海量生物技术文献，把原本需要数年积累的专业知识压缩到几小时内的对话里。
2. 实验设计助手：一些 AI 工具已能辅助设计基因序列、预测蛋白质结构，甚至推荐实验条件。这些能力用于疫苗研发是福音，但用于恶意目的同样有效。
3. 信息放大器：AI 可以生成看似专业的实验方案，即使存在错误，也可能被缺乏经验的人误信，从而引发意外泄露或事故。

关键在于，AI 并没有创造新知识，它只是让“已知的危险”更容易被触达。这就像互联网让炸弹制作教程传播更广一样，AI 让生物技术领域的敏感信息变得更加“可检索、可对话”。

目前有哪些监管尝试？

面对这种风险，业界和监管层并非无动于衷。目前主要有几条路径：

• 模型层限制：OpenAI、Anthropic 等主流模型在训练时就会过滤明显涉及生物武器制造的提示词，并对相关问答进行安全拒绝。但绕过方式并不少，比如用学术讨论、科幻设定等话术包装。
• 平台审核：一些云服务商和生物信息平台会对异常查询进行监控，但跨平台、跨语言的追踪难度极大。
• 行业自律：2024 年多家 AI 公司签署了《前沿 AI 安全承诺》，其中明确提到要评估并缓解生物安全风险。但这类承诺缺乏强制力。