大数据带来的“歧视”

shiyiming

　　泰勒·罗德里格斯(Taylor Rodriguez)准备乘飞机出外，她把行程都输进了云端，接下来一切都实现了自动化：门外的行李由智能路灯负责看守;隐形眼镜配有显示器，指引她进入车辆指定位置;车辆实现无人驾驶，自动驶往机场。这一切是如此的简单快捷，各种设备对泰勒进行贴身监控，以第一时间发现她脸部、情绪或行走时的不正常迹象。
　　上述情景出自白宫之手，准确来说，应该是总统科技顾问委员会。上周，委员会发表了一份报告，对人类可能面临的大数据情景进行分析。一同发布的，还有一份“90天大数据”实践评估，主要负责人为白宫顾问约翰·波德斯塔(John Podesta)。
　　大数据为众多领域带去了奇迹，这其中包括卫生保健、罪案调查、智能家居、教育、执法、就业等。但是，为了便捷而牺牲隐私(如上文所述的泰勒·罗德里格斯)，这就是我们真正想要的东西吗?如果是，我们又该如何保证个人信息的自主控制权?
　　谈到白宫在大数据开发上的雷厉风行，我接触过的研究人员、专家学者和隐私捍卫者都认同一点：根据这份评估，很多人都对大数据的风险有一定认识，这一点值得肯定。在各类风险之中，尤其值得一提的是大数据歧视。
　　既然白宫方面已意识到问题的存在，那下一步它将采取什么措施，就让我们拭目以待吧。除此以外，评估还提出了不少建议，其中包括修订《电子通信隐私法》和奥巴马总统于2012年提出的《消费者隐私权法案》。根据前者，执法人员在未经允许的情况下窃看他人邮件，不属违法。显然，如今立法进程跟不上技术的发展。专家担心，那些掌握与出售我们个人数据的机构会利用这个机会，侵害弱势群体的利益。等到立法者得知状况时，一切都太晚了。
　　你也许觉得事不关己，无需过于担心。但在将来，大数据或许会以以下三种方式影响到你的生活。
　　职业歧视
　　举个例子，达内尔(Darnell)和杰弗里(Geoffrey)正竞争着同一岗位。老板为了做进一步的了解，到谷歌上去搜他们的名字。当搜索“达内尔”时，页面出现大量关于大头照搜索与犯罪背景查询的广告;当搜索“杰弗里”时，则出现一些无伤大雅的广告，例如食品处理器与火奴鲁鲁旅行。
　　白宫在评估中指出，据研究表明，在网络搜索典型的黑人名字，如达内尔和拉坦娅·斯威尼(Latanya Sweeney，美国联邦贸易委员会首席技术专家)，大头照搜索与犯罪背景查询广告的数量会比搜典型白人名字时多。基于算法的广告投放看似无害，但第一印象是非常重要的，类似的广告投放优化技术会把一整个族群陷于不利境地。
　　基于姓名的广告歧视是如何实现的?个中原理我们不得而知。然而，类似的营销手段已经出现，并带来一定的消极影响。以销售数据为生的企业，如Experian和Acxiom，会把数以千计的消费者档案打包起来，形成人口统计图，然后卖给营销人员或其他客户。参议院委员会的一项调查表明，数据销售商在出售消费者档案时，会为档案贴上各类标签，例如“二类城市其他族裔挣扎者”，以方便营销人员找准自己的目标。
　　数据行业是一个价值数十亿美元的产业。业内企业声称，他们出售的数据(如网上购物信息和健康状况)不包含姓名。但多个研究表明，不含姓名的信息经过处理，可轻易重构出完整的个人档案。可以想象，一旦你的个人信息落到用人单位、零售商或贷款人手里，他们便会利用这些信息，渗入你生活的各个方面。
　　司法歧视
　　应聘失败后，达内尔径直回家，却发现警察早已在门口等着他。警方想让他协助调查，因为根据犯罪现场留下的DNA，达内尔及其家人有作案嫌疑。
　　美国一些执法部门吸取了英国警方的经验，在调查案件时利用大数据技术，一旦发现犯罪现场的DNA与刑事司法数据库里的类似，执法人员便会采取行动。刑事司法数据库里的基因数据是从罪犯那里采集而来的，但在某些州份，因为轻罪被捕者也会被采集。执法人员会对基因部分吻合者进行调查，这就是所谓的家族性排查。此举有利有弊，一方面它有助于迅速锁定罪犯;另一方面，它会把很多无辜的人当成嫌疑犯，例如被采集基因者的亲人。在美国不少州份，如加利福尼亚和纽约，警方已开始采用类似手段进行调查，结果时好时坏。
　　哥伦比亚大学社会学家阿朗德拉·尼尔森(Alondra Nelson)表示：“应用大数据时，我们应保持谨慎的态度，否则很多人将被卷入刑事司法系统之中。”尼尔森主要负责研究司法、大数据、DNA比对技术等问题的相互影响。利用DNA部分比对技术，警方将可能实现对某个族群的重点排查，这跟传统的拦截盘问手段很不一样。一旦刑事司法系统内的小数族裔比例过重，DNA数据库将产生更大规模的司法歧视。
　　据评估所述，警方还曾利用大数据来预测汽车盗窃案的地理“热点”。凯特·克劳福德(Kate Crawford)是微软和麻省理工学院的研究员，她指出，类似基于算法的预测行为会对一整片区域的居民产生歧视。她说：“从司法公正的角度看来，警方的这种行为应引起我们的警惕。”
　　消费歧视
　　经历面试失败、警察调查以后，达内尔决定跑步轻松一下。为了记录跑步路径，他打开了一个手机app。跑步结束后，达内尔终于开心起来了，不料那个app却弹出一条广告，说前面士力架正在打折促销。
　　美国大学华盛顿法学院助理教授瑞恩·卡罗(Ryan Calo)表示，上述情景虽让人忍俊不禁，本质上却是一种不道德的行为。这种基于移动端和网络追踪的歧视，终有一天会在现实发生。在掌握消费者习惯的基础上，零售商能就不同人定下不同的销售方案。如果任由商家这样做，会对社会产生怎么样的影响?对于这个问题，卡罗表示担忧。
　　评估还呼吁对白宫于2012年颁布的《消费者隐私权法案》进行修订。根据该法案，个人对私人信息的收集和使用应拥有控制权。
　　然而，卡罗认为评估所提供的建议并不足够。他说：“我觉得，这份评估能清楚认识到问题的所在，那就是歧视和权力不平衡。但是，它所提供的解决方案未尽完善。我担心，商家会利用大数据，在弱势消费者身上谋求利益。商家既能摸清消费者的底细，又能创造互动的机会，这将促使侵权行为的发生。”