AI会和人类谈判了？Meta AI新研究登Science，LeCun称里程碑成果( 二 ) _meta

文章插图

接下来，在不断地协商过程中，它都会不断地改进预测，然后使用这些预测为自己和合作伙伴设置一个共同的目标。

文章插图

其次，它会根据局势状态、对话及其目标，从对话模型中生成几个候选消息，使用分类器等过滤机制过滤掉无意义的，生成最终的高质量输出文本。

文章插图

例如，以下图为例，在这一局中，西塞罗扮演“奥地利” 。
当玩家“意大利”向它询问意见，自己是否应该攻击土耳其时，西塞罗会根据场上局势——土耳其正在攻击俄罗斯，判断出这是一个两面夹击的好机会，然后劝意大利跟进攻打土耳其。
这一步既建立了与意大利的伙伴关系，又消灭了一个潜在的对手。

文章插图

不仅如此，谈判也是西塞罗的拿手好戏。
这次西塞罗扮演的是“德国”，与玩家“法国”一直在交战。这时法国南部同时受到了意大利的攻击，于是向西塞罗请求和谈。
西塞罗则趁机狮子大开口，要求法国归还侵略的领土，并保证不攻击荷兰。双方在讨价还价中顺利达成了协议。

文章插图

就像上述展示的例子一样，两个月间，西塞罗共参与了40场外交游戏，与82名人类参赛者交锋。
在每场比赛中，西塞罗都会发送和接收平均130条消息。
其游戏水平甚至强过了人类：平均得分是人类玩家的2倍以上，甚至在玩过一场以上游戏的参与者中也能排到前10%。
网友：虽然它表现好但我很害怕
看完西塞罗在外交上的精彩表现，有网友感慨AI的发展速度：

Deep Blue击败了卡斯帕罗夫，Watson击败了智力竞赛的两位人类冠军，现在轮到Meta AI敲响马基雅维利（近代政治思想奠基人）的大门了。

文章插图

还有人表示，这难道是迈向通识语言大模型的第一步吗？
LeCun给出了肯定回复：

至少语言是基于事实的。

文章插图

不过由于这款外交游戏以尔虞我诈著称，不少人也对此表示担忧：

这是直接鼓励研究人员开发更多擅长骗人的模型。

文章插图

有网友就表示，玩这游戏甚至会失去朋友哦。

文章插图

而从AI西塞罗的战绩来看，它可以迷惑人类玩家，并且说服人类听从它的策略。
所以有人就表示，这不是AI控制人类的选择乃至生活？

文章插图

不过Meta AI表示，AI西塞罗不是全没有失误的。
并且游戏中也还有很多需要和人类协作的环节，西塞罗的表现同样很好。
目前，它还只被放在游戏场景中测试过，并没有尝试过在开放语境下和人类谈判。
参考链接：
[1]https://www.science.org/doi/10.1126/science.ade9097