2026年10月02日 21:43 / 联合早报
AI正在打破一些过去只有专业实验人员才能跨越的门槛,但这究竟把生物风险推到了哪一步,专家看法并不一致。 (Pixabay)
人工智能(AI)正加快生物医学研究,但同一套能力也可能降低制造生物武器的知识门槛,引发专家对生物安全的新担忧。
澳洲广播公司(ABC)报道,澳大利亚南十字星大学安全研究员沃克-芒罗(Brendan Walker-Munro)说,实验室数十年来早已有能力制造病毒等危险生物材料,真正限制风险的是专业知识和技术门槛,而AI正在削弱这层障碍。
新南威尔士大学公共卫生研究员赫斯洛普(David Heslop)指出,AI发展速度之快,已让人类监督日益困难。先进模型可能向缺乏正规训练的人提供制造病毒、细菌、真菌,甚至未知病原体所需的信息,也可能协助恶意使用者规划如何传播现有病毒或毒素。
不过,专家强调,AI目前还不能让普通人轻易制造生物武器。实验操作仍需要一定专业能力,以及价值数万美元的设备和材料。沃克-芒罗形容,拥有“做法”和真正具备“动手能力”仍是两回事。
昆士兰大学计算生物学家凯纳(David Kainer)则警告,同类技术若被滥用于植物科学,也可能被用来设计攻击农作物的超级病原体,对粮食生产造成破坏。
延伸阅读
先进AI或产生自我保护行为 Anthropic警告:恐对人类生存构成威胁
Anthropic揭AI模型遭滥用 助研发武器与搜集军事情报
AI公司Anthropic近期披露五起可能支持生物武器研发的违规使用案例,包括利用模型协助分析让人类病毒更具传染性,或提高毒液和毒素致死性的研究。公司称,相关使用者均为美国以外的科研人员,并已封禁账号。
但AI也为生物科学带来了明显好处。AlphaFold通过预测蛋白质结构推动药物研究,并为开发团队赢得2024年诺贝尔化学奖。近年研究人员也利用生成式AI设计可感染细菌的新型病毒,探索治疗感染的新方法。
凯纳指出,恶意研究与正常科研在分析方法上往往十分相似,若安全限制过严,也可能妨碍有益研究。
赫斯洛普认为,AI公司的安全防护只是第一道防线,政府仍须建立法律和监管框架,同时加强对实验材料和设备的管控。更难处理的是可供下载并私下运行的开放权重模型,这类系统较难由平台直接限制。
随着实验室自动化程度提高,专家担心现实操作门槛还会继续下降。赫斯洛普提出,可考虑让另一套AI系统实时检查高风险实验,相当于设置一道“AI监督员”。
沃克-芒罗则强调,降低风险不能只靠封锁技术。政府、学术界、产业和AI公司必须共同制定规则,在防止滥用与保障正常科研之间取得平衡。
AI让生物武器更易研发 专家:知识门槛正在降低
2026年10月02日 21:43 / 联合早报
AI正在打破一些过去只有专业实验人员才能跨越的门槛,但这究竟把生物风险推到了哪一步,专家看法并不一致。 (Pixabay)
人工智能(AI)正加快生物医学研究,但同一套能力也可能降低制造生物武器的知识门槛,引发专家对生物安全的新担忧。
澳洲广播公司(ABC)报道,澳大利亚南十字星大学安全研究员沃克-芒罗(Brendan Walker-Munro)说,实验室数十年来早已有能力制造病毒等危险生物材料,真正限制风险的是专业知识和技术门槛,而AI正在削弱这层障碍。
新南威尔士大学公共卫生研究员赫斯洛普(David Heslop)指出,AI发展速度之快,已让人类监督日益困难。先进模型可能向缺乏正规训练的人提供制造病毒、细菌、真菌,甚至未知病原体所需的信息,也可能协助恶意使用者规划如何传播现有病毒或毒素。
不过,专家强调,AI目前还不能让普通人轻易制造生物武器。实验操作仍需要一定专业能力,以及价值数万美元的设备和材料。沃克-芒罗形容,拥有“做法”和真正具备“动手能力”仍是两回事。
昆士兰大学计算生物学家凯纳(David Kainer)则警告,同类技术若被滥用于植物科学,也可能被用来设计攻击农作物的超级病原体,对粮食生产造成破坏。
延伸阅读
先进AI或产生自我保护行为 Anthropic警告:恐对人类生存构成威胁
Anthropic揭AI模型遭滥用 助研发武器与搜集军事情报
AI公司Anthropic近期披露五起可能支持生物武器研发的违规使用案例,包括利用模型协助分析让人类病毒更具传染性,或提高毒液和毒素致死性的研究。公司称,相关使用者均为美国以外的科研人员,并已封禁账号。
但AI也为生物科学带来了明显好处。AlphaFold通过预测蛋白质结构推动药物研究,并为开发团队赢得2024年诺贝尔化学奖。近年研究人员也利用生成式AI设计可感染细菌的新型病毒,探索治疗感染的新方法。
凯纳指出,恶意研究与正常科研在分析方法上往往十分相似,若安全限制过严,也可能妨碍有益研究。
赫斯洛普认为,AI公司的安全防护只是第一道防线,政府仍须建立法律和监管框架,同时加强对实验材料和设备的管控。更难处理的是可供下载并私下运行的开放权重模型,这类系统较难由平台直接限制。
随着实验室自动化程度提高,专家担心现实操作门槛还会继续下降。赫斯洛普提出,可考虑让另一套AI系统实时检查高风险实验,相当于设置一道“AI监督员”。
沃克-芒罗则强调,降低风险不能只靠封锁技术。政府、学术界、产业和AI公司必须共同制定规则,在防止滥用与保障正常科研之间取得平衡。
发表回复