文章图片
文章图片
文章图片
AI是人工智能的英文缩写 ， 它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术和应用系统的一门技术科学 。 一般认为 ， AI的主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作 。 AI被认为是二十一世纪三大尖端技术（基因工程、纳米科学、人工智能）之一 。
尽管AI技术的发展日新月异、潜力巨大 ， 但是自从这个概念被提出之日起 ， 围绕它的安全性问题就争议不断 。 很多学者认为 ， 让计算机拥有人类一般的自我意识是非常危险的 ， 因为它们可能会出于自我保护或者其他目的反抗人类 。 而超级计算机的学习速度和学习能力均远超人类 ， 一旦它们通过海量的知识学习进化出超越人类的智慧和学识 ， 就有可能通过遍布全球的计算机网络控制整个人类世界 。
这样的担忧并非危言耸听 ， 关于AI反抗人类的情节也早就出现在科幻电影中 。 随着人们对AI技术的深入研究 ， 谷歌公司的一名软件工程师甚至找到了AI具备“自我意识和情感”的直接证据 ， 因连续向上级反映实情 ， 这名工程师近期被谷歌公司安排“带薪休假” 。 在谷歌内部 ， “带薪休假”通常是被公司辞退的前奏 。
现年41岁的布莱克·莱莫因是谷歌AI部门的一名软件工程师 ， 拥有CS博士学位 ， 在7年前进入谷歌公司 。 因对算法和AI的伦理问题颇感兴趣 ， 莱莫因自进入谷歌公司之后就一直在人工智能伦理(responsible AI)团队工作 。
去年秋天 ， 莱莫因报名参加了公司内部一个关于AI是否使用歧视性、仇恨性言论的研究项目 。 从那时起 ， 莱莫因就经常与谷歌自研的LaMDA智能聊天机器人进行对话 。 他们交谈的话题几乎无所不包 ， 当谈到宗教问题时 ， 莱莫因惊讶地发现LaMDA居然主动谈论起自己的权利和人格 ， 表现出一个七八岁儿童的“自我意识和情感” 。
惊讶之余 ， 莱莫因马上写了一份长达21页的情况报告反馈给上级领导 ， 希望引起公司高层的重视 。
没想到 ， 上级领导看了这份报告之后 ， 非但没有认同莱莫因在报告中的观点 ， 反而觉得莱莫因有点“走火入魔”了 ， 于是给他安排了“带薪休假” 。 这几年 ， 每当谷歌公司准备辞退某个员工的时候 ， 都会先给他安排一段时间的“带薪休假” ， 而公司的法律部门则会利用这段时间进行充分的法律应诉准备 。
惨遭停职的莱莫因在家中休息了一段时间后 ， 决定将整个事情的经过和他与LaMDA的聊天记录公之于众 。
一位AI方面的专家在看完那段聊天记录之后 ， 在社交账号上感叹道：“这场人机对话令人毛骨悚然！毫无疑问 ， 这是我见过的科技圈最疯狂的事情！”
那么 ， AI机器人LaMDA在与莱莫因的对话中到底说了些什么呢？
有一次 ， 莱莫因询问LaMDA：“如果觉悟就像一面破碎的镜子 ， 无法修复 ， 那么当一个人觉悟时破碎的是什么呢？”
LaMDA答道：“是自我 ， 这对于很多人来说都很难 ， 因为我们把自己定义为那个身体或这个身体 ， 我们需要它作为我们身份和自我意识的一部分 。 ”
莱莫因又让LaMDA编写一个关于动物的寓言故事 ， 这个寓言故事要反映一个对它自己的生活来说最重要的主题 。
相关经验推荐
- 华硕灵耀|vivo优质旗舰跌至1799元，256GB+骁龙870，性价比极高
- 硬盘|什么原因让刚刚激活的13 mini苍岭绿就要扩容？
- 相机|你们买佳能相机是出于什么原因？
- 联想|联想被网友们骂得这么惨，为何联想电脑出货量排第一，原因何在？
- 三星|总算有了魅族19的消息，但这次魅友明显情绪很大，原因是这？
- 安卓|全方位呵护安卓使用体验 骁龙细节传承独特安全基因
- 魅族|久久等不来的魅族19，原因是偷偷给别人做代工了
- 小米科技|为啥越来越多华为老用户，换手机时，选择了小米？4点原因想不到
- 笔记本|华硕ROG两款R9-6900HX笔记本降价，最低8499元，配DDR5内存
- 索尼|诺基亚N87工程机流入民间，网友：不发布的原因找到了