大约十年前，一名47岁的黑人妇女 Denise Green被六名旧金山警察用枪指着并从车里拖出来。其中一个用枪指着她的脸，另一个用手铐铐住她，命令她跪下。尽管Green膝盖有旧伤，但她还是按要求做了。二十分钟后，她被无罪释放，重新回到自己的生活里。

为什么会这样呢？当时警方最初怀疑其绿色座驾是一辆偷来的汽车，只因一项被用于扫描车牌的机器学习算法错误地将Green的车牌标记为失窃车辆。

毫无疑问，人工智能并不完美。

而今天美国公民自由联盟（ACLU）发表的一项研究表明，亚马逊的面部识别软件Rekognition，将435名国会议员中的28位识别为了犯罪嫌疑人。该组织在一份声明中写道，“被匹配到我们所采用的嫌疑犯面部照片数据库的国会议员中有共和党也有民主党，有男性也有女性，各个年龄和所在地的都有。”

根据《纽约时报》的报道，亚马逊已对此作出回应，一名发言人表示，ACLU没有正确使用该软件。不过也确实是这样，ACLU没有按照该软件推荐的设置进行测试。具体来说，亚马逊建议将其Rekognition软件的容错能力设置为95%，而ACLU则将其设为了80%。此外，亚马逊还建议最后人工审核一下AI的测试结果，毕竟是用户要安全、负责地部署软件的使用。

此外，亚马逊还指出，Rekognition这样的技术是用来缩小结果范围的，而不是用于实施抓捕。该公司在一份声明中表示：“对于图像和视频分析技术能够促进世界的福祉，我们仍然感到非常兴奋。”

尽管如此，ACLU的这一行为还是取得了一定的效果。根据最新报道，3名民主党议员给杰夫·贝索斯（Jeff Bezos）写了一封信，要求后者进行解释。部分信件内容如下：

“虽然面部识别服务可能提供了一件有价值的执法工具，但我们尚未完全理解这些技术的功效和影响。特别是，人们对于面部识别可能对隐私和公民权利带来的危险产生了严重的担忧，尤其是当它被用作政府监控工具时。此外，面部识别技术的准确性以及它对有色人种不成比例的影响同样让人感到担忧。”

原文发布时间为：2018-07-27