3月27日，俄罗斯连塔网发表题为《有毒资产：人工智能造出数万种致命武器》的报道，关注到美国“临界点”网站(The Verge)近日对美国一家药企的采访。文中提到，科学家们发现，AI(人工智能)程序有被“滥用”的风险，在短短6小时内就能合成近4万个危险分子。

6小时内合成近4万个危险分子

据介绍，这家公司名叫“协作制药公司”，是美国一家专注于开发罕见病药物的公司。接受采访的法比奥·乌尔维纳正是该公司的高级科学家，同时也是这项研究的主要作者。

3月7日，英国《自然》杂志子刊《机器智能》最新一期刊发了这篇研究论文。

乌尔维纳告诉记者，公司之前创建了基于人工智能的MegaSyn程序，该程序的主要任务是开发新药，而科学家们的工作就是要训练机器学习算法以检测药物的毒性。

“不管你尝试开发哪种药，首先都要确保它没有毒，是安全的。如果你开发出一种神奇的药物，可以达到非常好的降压效果，但会对身体的重要部位——比如心脏——造成损伤，那就行不通了，因为这太危险了。”乌尔维纳解释道。

在这次的研究中，为检测新程序的潜在负面影响，科学家们决定，改变毒性参数，将原来的模式“颠倒”过来。以前，该系统产生的分子毒性最低，这是制造药物所必需的。

科学家们经过研究发现，该程序一旦进入“坏模式”，不仅能在短短几个小时内生成上万个危险的化合物，且其中很多化合物甚至和VX神经毒剂的成分几乎相同。

公开资料显示，VX神经毒剂，是一种比沙林毒性更大的神经性毒剂，是最致命的化学武器之一。

据介绍，VX神经毒剂也是一种无色无味的油状液体。工业品呈微黄、黄或棕色，贮存时会分解出少量的硫醇，因而带有臭味，主要是以液体造成地面、物体染毒，可以通过空气或水源传播，几乎无法察觉。

人体与之接触或吸入就会导致中毒，头痛恶心是感染后的主要症状。VX毒气可造成中枢神经系统紊乱、呼吸停止，最终导致死亡。

“VX神经毒剂的致命之处就在于，能使你的肺‘完全瘫痪’。”乌尔维纳解释说。

“我担心的是这有多容易做到”

乌尔维纳在采访中表达了对AI技术被滥用的担心。

“对我来说，我担心的是这有多容易做到。我们用的很多东西都是免费的，人们可以在任何地方下载毒性数据库。如果一个人知道如何用Python编程，又有机器学习的能力，那他说不定在一个周末就能构建出类似这种由毒性数据库驱动的生成模型。”乌尔维纳说。

乌尔维纳还表示，这也是研究团队考虑到把这篇论文公开发表的原因，“对于这种类型的滥用，它的进入门槛是如此的低。”

关键词： 美药企AI程序被曝可开发生化武器 AI技术被滥用 人工智能负面影响 引导技术向善重要性