人脸识别|俄乌冲突中用来找特工、确认死者,人脸识别带来幸福还是制造危险?

人脸识别|俄乌冲突中用来找特工、确认死者,人脸识别带来幸福还是制造危险?

文章图片

人脸识别|俄乌冲突中用来找特工、确认死者,人脸识别带来幸福还是制造危险?

文章图片

人脸识别|俄乌冲突中用来找特工、确认死者,人脸识别带来幸福还是制造危险?

文章图片

人脸识别|俄乌冲突中用来找特工、确认死者,人脸识别带来幸福还是制造危险?

文章图片



作者|于玮琳
编辑|子 钺
题图|图虫创意
橘生淮南则为橘 , 橘生淮北则为枳 。
同样底层逻辑的技术 , 应用在不同场景下会给人截然不同的感受 。
近期 , 随着俄乌冲突被带上热搜的技术是“人脸识别” 。
据路透社报道 , 美国人脸识别公司Clearview AI向乌克兰政府部门开放人脸数据库 , 通过其在俄罗斯社交平台上收集的图片及搜索引擎 , 可以识别俄罗斯特工、确认死者身份等 。
反对的声音不少 , 纽约相关监管部门政府主管就表示 , “一旦你把这些系统和相关的数据库引入战区 , 你就无法控制它将被如何使用和滥用” 。
几乎同一时间 , 福布斯杂志报道 , 已经有海外企业在借助人脸识别技术来辨别儿童罕见病面容 , 只需要拍一张照片 , 就可以及早发现罕见病、及早干预 , 弥补了基因筛查的不足 。
这回归到一个“老生常谈”的问题——随着技术边界的拓展 , 会给人类带来更多幸福 , 还是危险?
上世纪六十年代 , 阿西莫夫的科幻小说《我 , 机器人》中就发出了这样的疑问 。
更多人相信科技的本意是为了让人们的生活更美好 。 人类有能力去规训AI为“我”所用 。
如马化腾在近年来不断强调“科技向善”在企业使命中的重要地位 。 他表示:人们善用AI的智慧必须胜过日益强大的AI智慧 。
然而 , 作为人工智能被应用最广泛的技术之一 , 人脸识别似乎掉入了一个“信任怪圈” , 有人看好它给人们生活带来的便捷 , 更有人质疑人脸数据作为高敏感的生物识别信息 一旦泄露无法追回更无法更改 , 隐藏着巨大风险 。
当科技创新带来广阔商业前景的同时 , 又该如何践行科技向善?企业家们正在积极寻找答案 。

“用科技手段 , 解决现实问题”作为从清华园走出的人工智能专精特新“小巨人” , 瑞莱智慧的“黑科技”展厅里 , 你可以看到如下场景:
只要戴上基于某影视明星面部照片生成的特制“对抗样本[1
”眼镜 , 在摄像头前 , 你就可以被识别为该明星 , 轻松通过门禁系统 。

基于对抗样本技术生成的特制眼镜
图源:受访者
穿上印有特制图案的T恤 , 你就可以大摇大摆走过摄像头而不被抓取 , 在人工智能面前 , 这件衣服成了你的“隐身衣” 。 给货车也做这样一件“衣服” , 就可以让其在自动驾驶视觉识别系统或交通摄像头下实现“隐身逃逸” 。

可以骗过人工智能的“隐身衣”
图源:受访者
屏幕上播出大众耳熟能详的电视剧 , 我们都知道主角扮演者是哪位影视演员 , 但此刻却被换成了某相声演员 , 面部神态几无误差、毫不违和 。
瑞莱智慧通过对抗样本攻击、深度伪造攻击等风险场景的模拟 , 向我们展示了智能化场景下的新型安全隐患和应对能力 。

相关经验推荐