詹姆斯·卡梅隆|詹姆斯·卡梅隆:人工智能正在尝试毁灭人类

詹姆斯·卡梅隆|詹姆斯·卡梅隆:人工智能正在尝试毁灭人类

文章图片

詹姆斯·卡梅隆|詹姆斯·卡梅隆:人工智能正在尝试毁灭人类

亲手拍摄了大量科幻电影的著名导演詹姆斯·卡梅隆 , 最近对自己电影里的情节竟然已经有所担忧 。 在未来 , 或许某些电影的桥段就会真实上演 , 导致世界的毁灭 。

他目前最担忧的 , 大概就是他的《终结者》系列了 。 在这个系列的电影中 , 有一个名叫“天网”的人工智能系统 , 它具有非常强大的能力 , 并且在某一天“觉醒” , 想要毁灭人类 。 它的手腕非常恐怖 , 那就是挑起人类之间的矛盾 , 甚至试图引发核战争 , 让人类自相残杀 , 直至毁灭 。
卡梅隆认为 , 现实生活中的人工智能 , 如果想要毁灭人类的话 , 甚至根本不需要借助核武器 , 就能够引起人类之间的对立 。
在这番言论中 , 卡梅隆提到了一个最臭名昭著的技术——deepfake , 也就是通过人工智能模拟某些人的面部 , 然后加上配音 , 就能够使其假冒真人发表言论 。 比如去年有人利用类似的技术假冒靳东欺骗大妈的新闻 , 甚至还有国外冒充国家元首的情况 。

这样的技术目前还达不到愚弄整个世界的水平 , 但随着技术的发展 , 我们要对那一天的到来提高警惕 。 到那个时候 , 人类是否会对自己看到的假新闻或者假消息保持足够的警惕 , 真的不好说 。 而且他认为 , 类似的事情已经在这个世界上演了 , “它看起来就像是此刻正在发生的事情” 。
卡梅隆还指出:对于新出现的技术 , 他总是首先保持怀疑的态度 , 并且建议人们都应该有这样的意识 。 他举例说:“历史上每一次被创造的技术发生进步 , 最终都武器化了 。 我经常跟人工智能科学家说这事 , 他们却说:‘不不不 , 我们完全能够掌控局面 , 我们可以给人工智能指明方向 。 ’可是 , 到底是谁在决定目标是什么?就是那些为相关研究投资的人 , 不是吗?这不就是大型的企业或国防部门吗?所以这些‘生命实体’学到的 , 除了贪婪就是谋杀 。 ”

【詹姆斯·卡梅隆|詹姆斯·卡梅隆:人工智能正在尝试毁灭人类】我们一直以为 , 人工智能反叛人类的方式是简单地借助暴力 , 卡梅隆却从另一个角度给我们一个借鉴 , 让人类提高警惕 。 虽然没有必要危言耸听 , 但对于这样的未来 , 人类的确需要未雨绸缪 。 如何防止人工智能反叛的问题 , 已经困扰人类几十年了 。 甚至在未来 , 会不会有比卡梅隆想象中更出乎意料的手腕出现 , 也是我们不得不提防的问题 。

    相关经验推荐