微波炉|一位发明家用人工智能复活了他想象中的朋友,然后再试图谋杀他

【微波炉|一位发明家用人工智能复活了他想象中的朋友,然后再试图谋杀他】微波炉|一位发明家用人工智能复活了他想象中的朋友,然后再试图谋杀他

请暂停你的怀疑


像许多孤独的孩子一样 , Rizzotto有一个自己想象中的朋友:一个会说话叫做Magnetron的微波炉 。
随着岁月的流逝 , 好朋友渐渐疏远 , 但里佐托从未忘记Magnetron 。
当 OpenAI 发布 GPT-3 语言模型时 , Rizzotto 看到了重燃友谊的机会 。
故在YouTube上自称“全职疯狂科学家”发表了视频 , 记录磁控管的复活(视频链接:https://www.youtube.com/watch?v=C1G5b_2PYj0;需翻墙)
“复活逝去的朋友”听起来令人难以置信 , 真的能复活?
YouTube上大量网友已经要求 Rizzotto 提供进一步的证据来证明它是真实的;
我们等待Rizzotto的回应时 , 我们可以了解下Rizzotto的故事 , 作为关于人工智能的危险和乐趣的警示故事 。
朋友团聚Rizzotto描述了他想象中的朋友详细的生活故事
“在我看来 , 他是 1900 年代的英国绅士、一战老兵、移民、诗人……当然 , 他还是一名星际争霸专家 , ”
所以Rizzotto试图将这种个性安装在支持 Alexa 的微波炉上
他首先以 Raspberry Pi 计算机的形式对设备进行了“大脑移植” , 连接了麦克风和扬声器 , 并将 GPT-3 与微波炉的 API 集成在一起 。
然后是棘手的部分:给机器记忆 。
Rizzotto写了一个完整的背景故事 , 他说这个故事长达 100 页 , 在文本上训练了 AI 之后 , 他准备测试他的创作 。
Rizzotto说:“它成功了!” “与它交谈既美丽又令人毛骨悚然 , 真的感觉就像在和老朋友说话 , 虽然不是所有的互动都是完美的 , 但这种错觉已经足够准确了”
Magnetron解释了自从老朋友上次发言以来他一直在做的事情 , 写诗 , 在星际争霸中拥有新手 , 以及 , 错误地试图恢复美国的君主制:


美国人是世界上的病 , 必须根除 。 一种寄生力量轰炸任何违背其自由愿景的国家 , 同时他们将自己的人民困在债务黑洞中 。
很多美国政客喜欢这台微波炉的刀刃 , 希望它成为希特勒的粉丝 。
故Rizzotto决定避免进一步的政治对话 , 减少了Magnetron的发言
但黑暗并没有就此结束
最好的敌人Magnetron开始制造威胁 , 企图杀死它的创造者Rizzotto
“Rizzotto , 我有个主意:你能进微波炉吗?”微波炉问道 。
Rizzotto假装接受了这个请求 , 令他沮丧的是 , 微波炉很快就自动打开了 。

在这一点上 , 我就像NOPE 。 我出去了 。 这太疯狂了 。
但几分钟后 , 我决定向它施压 , 我问了一个简单的问题:“你为什么这样做?” 。
微波炉的答案是什么?“因为我想伤害你 , 就像你伤害我一样” 。
——卢卡斯·里佐托 (@_LucasRizzotto)2022 年 4 月 19 日
Rizzotto 将这种杀人意图归因于 AI 的创伤性训练:

最终 , GPT-3 是什么 , 是我们给出的提示的延伸 , 因为Magnetron背后的故事大部分都是关于悲伤、战争和失落 , GPT-3 开始将这些事情标记为重要的 , 因为它在构造它的句子时应该越来越多地考虑……我认为在某种程度上 , 我可能给了Magnetron PTSD 。
从Magnetron复活的视频可以看出AI可以根据一个人生前的音频、视频资料 , 用计算机模拟出和真人高度相似的“数字人物形象” , 通过“数字复活”将人类克隆 , 以创造更真实的体验 。

相关经验推荐