当你看短视频 ， AI会根据你的喜爱推荐内容 ， 这就是一种偏见 。 很多企业也在引入AI系统 ， 偏见可能会给企业带来损失 。
DataRobot在美国、英国调查350多名技术人员 ， 超过三分之一（36%）声称它们因AI偏见蒙受损失 。 在受损失的企业中超过一半（62%）损失了营收或者客户（61%） ， 将近一半（43%）失去了员工 ， 超过三分之一（35%）卷入法律纠纷 。
世界经济论坛AI专家Firth-Butterfield认为 ， AI造成损失的原因很多 。 他说：“如果你用AI HR算法挑选出不合适的人 ， 可能会损害营收 。 如果你用带偏见的算法贷款 ， 业务就没法增长 ， 因为最终AI选择的贷款对象会是恒定的一小部分人 。 ”
受访者认为 ， 算法不可避免会对人产生偏见 ， 产生偏见的因素很多 ， 有性别（34%）、年龄（32%）、种族（29%）、性取向（19%）、宗教（18%） 。
Forrester在报告中警告说：“基于人工智能的歧视——即使是无意的——也会对监管、声誉和收入造成可怕的影响 。 ”虽然大多企业面对AI时将公平作为原则 ， 但要持续下去是一大挑战 。
华盛顿DC智库Cato Institute的高管Mathew Feeney认为 ， AI产生偏见是很复杂的 ， 很大程度是因为训练系统的数据带来的 。 Mathew Feeney认为 ， 现在面部识别很流行 ， 它用到了AI技术 ， 而面部识别充满偏见 。
Mathew Feeney解释说：“当我们用系统识别黑人身份时 ， 可靠性没有那么高 。 系统要训练 ， 训练需要照片 ， 当面向特定种群的照片不够多 ， 或者质量不够好时就会出现偏见 。 ”“并不一定是工程师或者设计师心存邪念 ， 只是训练数据有问题 。 ”
Firth-Butterfield认为：“开发算法的人也有偏见 ， 这种偏见也会影响算法 。 如果算法开发者是一名30岁的男子 ， 他是白人 ， 他带入的偏见会与30岁的非裔美国女子不同 。 ”
信息技术与创新基金（Information Technology & Innovation Foundation）副总裁Daniel Castro认为人类在使用AI偏见一词时反复无常 。
Daniel Castro说：“我认为所谓的AI偏见是算法精准度存在的错误 ， 也就是估计值与真实值之间的差异 。 ”“大多公司有强烈的市场意愿来消除AI偏见 ， 因为这样做算法才会更精准 。 ”“例如 ， 如果算法未能将最优产品推荐给购物者 ， 公司营收就会减少 ， 蛋糕被竞争对手拿走 。 ”“企业出于声誉考虑会要求消除AI偏见 ， 否则产品和服务就会被认为不合格 。 ”
Daniel Castro还认为 ， 有时靠市场力量消除偏见没有效果 。 他说：“出于税收目的 ， 政府机构可能会用AI算法估算财产价值 ， 想用这种市场机制来消除偏见是很难的 。 在这种环境下 ， 政府应该提供一套替代性监管机制 ， 比如通过透明的的措施来保证 。 ”
“有些人提到AI偏见会将它视为歧视 。 如果房东歧视特定租户 ， 不论是用算法还是人力来歧视 ， 我们都应该诉诸法律 。 ”
DataRobot就AI监管询问了受访者 。 81%的人认为政府监管在两个方面很有用 ， 一是定义偏见 ， 二是预防偏见 。 但也有45%的人认为政府监管会导致经营成本增加 。 32%的人担心如果没有政府监管部分群体可能会受伤 。
Feeney说：“有许多人呼吁政府监管 ， 但要监管的AI范围太广了 ， 有面部识别、无人驾驶、军事应用等等 。 ”
德勤预测 ， 2022年围绕AI监管会有很多的讨论 ， 但监管全面实施至少要等到2023年 。 有些地区可能会完全封杀AI部分细分产业 。
德勤高管Paul Silverglate说：“AI有很大的潜力 ， 2022年它会面临更多的审查 ， 因为监管者想深入理解新兴AI应用的隐私、数据安全问题 ， 力求保护好消费者 。 ”
相关经验推荐
- playstation5|PS5固态省钱甄选，性能超原装固态，KP260 PRO表现如何？
- 努比亚|小米雷军超大杯2022款成为米粉最新抢购目标，二手平台叫价千元！
- 小米科技|小米12系列可能没有超大杯，网友：小米12 Ultra改名MIX 5？
- Win10|麒麟9000超过骁龙8Gen1，mate40 Pro又有货了，年末华为再发力
- 键盘|单价超3亿美元！Intel拿下首批二代High-NA光刻机，2nm将抢先量产
- 格力电器|新“空调之王”诞生！市值超5000亿，当了25年冠军的格力败了
- 荣耀|京东超级体东南首店要来南昌了！就在这里！
- 努比亚|骁龙8gen1+5000毫安，超高配置新机曝光，会是新一代机皇吗？
- 芯片|AI芯天下丨日经：三星2021年半导体超越英特尔 成最大芯片销售商
- 魅族|魅族19详细配置曝光：白色面板+超窄边框，天玑9000加持