文章图片
文章图片
2017年 ， 朝鲜领导人金正恩同父异母的兄弟金正男在马来西亚吉隆坡机场被“VX”毒死 。 V X是一种神经毒剂 ， 会引起肌肉无法控制的紧缩 ， 使受害者无法呼吸 ， 从而在几分钟或几小时内使受害人死亡 。
2017年2月 ， 马来西亚吉隆坡机场航站楼检查毒素
尽管于1993年签订的1997年生效的《禁止化学武器条约》规定‘禁止发展、生产、储存和使用化学武器及销毁此种武器’ ， 但仍有极个别国家没有签署该条约 ， 如埃及、朝鲜和南苏丹等 。
但如果你认为设计化学武器需要一个国家的基础设施和研究能力 ， 那你就大错特错 。 施皮茨实验（Spiez Laboratory） ， 一个专门监测核、生物和化学武器威胁的机构 ， 每两年组织一次会议 ， 探讨可能在恶意行为者手中构成安全风险的新化学和生物技术 。
Spiez Laboratory
去年 ， 施皮茨会议的参与者之一是总部位于美国北卡罗来纳州的生物技术初创公司Collaboration Pharmaceuticals ， 该公司被要求展示他们基于人工智能而发明的一个名为“MegaSyn”的AI系统 。
MegaSyn是该公司用于研发新药、设计和测试不同的化学物质 ， 确保它们对人类没有毒性 ， 以寻找新的治疗药物 。 然而在会议上 ， 研究人员却反其道而行之 ， 先让MegaSyn接受了一组初始分子 ， 其中包括杀虫剂和已知的环境毒素 ， 然后计算如何使它们变得越来越致命 ， 之后对所得分子的杀伤力进行评分 ， 结果令人不寒而栗——在不到六个小时的时间里 ， 该模型勾勒出了40000个新的有毒化合物 ， 其中包括VX神经毒剂 ， 一种曾用于金正恩同父异母兄弟金正男身上的神经毒剂 。
整个实验是施皮茨会议筹备工作的一部分 。 研究人员强调了这样一种想法——即几十年来一直在帮助医学发展的人工智能是一把双刃剑 ， 即可以帮助医药公司研发新药 ， 也可以寻找杀死人类有毒化合物 。
在施皮茨会议结束后 ， Collaboration Pharmaceuticals公司研发团队表示：“在此次会议之前 ， 我们从未想过AI也可用于创造新的有毒化学物 ， 现实情况却告诉我们 ， 可以 。 而在数百家使用人工智能软件进行新药研发的医药公司中 ， 我们只是其中一家很小的公司 。 ”
位于印第安纳州的纽波特化学仓库 ， 即将被销毁的VX神经毒剂
目前 ， 关于人工智能可研发化学武器的报告已发表在《自然-机器智能》上 ， 尽管该报告的作者强调他们还没有用AI合成任何毒素 ， 当然这也不是他们的目标 ， 但仅凭常用的AI就能如此轻松地设计出新的致命化合物这一事实就应敲响警钟 。
【神经毒剂|用AI“造毒”？6小时内生成40000种毒性化学分子，AI有必要监管吗】要知道 ， 目前AI已被全球数百家从事制药行业的公司用于商业用途 ， 这意味着它很容易被极端分子获得 。 尽管该报告的作者表示 ， 制造强大的化学毒剂仍需要一定的专业知识 ， 但AI已大大降低了化学武器设计所需的技术门槛 。 有研究人员呼吁“重新审视”AI人工智能系统的重要性与危险性 。 AI需要更严格的监管才能帮助我们避免某些人错误使用AI导致的危险 。
相关经验推荐
- 苹果|12mini就图小屏，用着舒服，还是直角边框合我意
- 苹果|Windows11采用率仍不及Windows 10, 3月到4月仅增长0.3%
- 米家|百元耳机的复古主义与实用主义
- 苹果|因ios的内存运行机制，苹果曾官宣不建议用户清理后台
- 三星|安卓用户必用的功能！三星华为OPPO的小窗模式对比，谁更好用点？
- 华为手机|这才是华为手机正确的截屏录屏方法，很多人不会用，白白浪费了！
- |用胭脂盒做包装，体验这款老旧国产旋转手机，方形粉色颜值很另类
- 英特尔|小米笔记本鼠标和触摸屏不能使用怎么办
- 伊隆·马斯克|马斯克：根本不懂技术，也不用懂技术！
- 安卓|小米12使用有感：看似不如小米12X稳定，但逐渐有了改善！