数智资源网
首页 首页 大数据 查看内容

大数据时代引发“歧视”忧虑,但不该就此因噎废食

木马童年 2019-5-27 15:25 74 0

据社会研究人员小组研究,大数据对公众和社会的影响,当涉及到帮助系统做出决定时,应用方法可能并不总是公正的。 最近,纽约大学组织的学生为社会刑事司法改革的活动,集中使用大数据在机器学习和数据挖掘,以推动 ...

据社会研究人员小组研究,大数据对公众和社会的影响,当涉及到帮助系统做出决定时,应用方法可能并不总是公正的。

最近,纽约大学组织的学生为社会刑事司法改革的活动,集中使用大数据在机器学习和数据挖掘,以推动公共和私人部门的行政决定问题。

其中包括政策研究人员、技术人员和记者,讨论在使用大数据的同时,抛开固有的偏见和歧视,通过无意中设置的规则和流程来增加我们的决策能力。

在这种情况下,使用规则的数学程序编码来实现特定的目标。批评者认为这些算法可能会延续偏见和加强内置的假设。

最近,政府机构开始仔细观察新兴领域。上周,白宫发布的一份报告警告称,如果没有正确的应用数据收集可能会损害公民的权利。该报告呼吁,“如何最好的鼓励这些技术的潜力,同时最大限度的减少对隐私、公平对待和其他美国核心价值的风险”。

2014年的报告题为“大数据的不同影响”,普林斯顿大学信息技术政策中心的程序员梭伦巴洛克斯指出,“数据挖掘算法技术的倡导者认为,他们是消除人类偏见的决策过程。但是,数据的算法与它所使用的数据一样好。”

巴洛克斯研究新兴的应用机器学习来提高道德认识问题的影响。他补充道,“数据挖掘可以继承之前决策者的偏见或社会上持续存在的普遍偏见。”

换句话来说,人类产生的机器学习系统上运行的数据是由人类设计的算法。因此,人类创造的数据隐含偏见。

在两年前的研究中,美国联邦贸易委员会(Federal Trade Commission)提出类似的问题。尽管监管部门承认大数据所带来的好处,但滥用数据编译此类信息的公司存在歧视某些群体的风险。

数据歧视的指控

哈佛大学的数据隐私实验室负责人Latanya Sweeny表示,大数据歧视指向几年前开展的一项案例研究。

此案涉及到谷歌在互联网上某些种类的搜索结果。Sweeny在她的研究中发现,出现黑人名字的逮捕记录比例比白人多18%。谷歌已经解决了这个问题,尽管他们从未公开表示他们做了什么来纠正这个问题。

在过去几年中,大数据的扩散已经看到指控其他的不当使用和偏见。这些指控是五花八门的,从网上的价格歧视和地理定位结果到犯罪预测技术,在一些公共工程决策中缺乏足够代表性的数据样本。

大数据的优势是可以平衡应用现代技术以解决社会问题的风险。然而,一些质疑者认为,民主化数据在本质上影响着人们,从数据从业者到专家。

大数据将停留在这里

一些拥护者表示,问题不在于“大数据歧视”,但失败的数据会让专业人员曲解数据挖掘的结果的风险和统计学习的核心。他们还补充表示,带来的好处远远大于担忧。

纽约大学斯特恩商学院的分析中心主任Anindya Ghose说,“在我的学术研究和行业咨询中,我已经看到了企业、组织和消费者使用数据驱动决策、利用数据科学和业务分析的巨大利益。”

Ghose还表示:“老实说,我不理解这些人在大数据的运用中关于对数据分析影响的恐惧和愤世嫉俗。

她表示,兑愤世嫉俗者和我们自己的一些忠告是:“大家仍有必要处理好大数据技术引发的这些伦理纠纷问题,否则大数据分析的应用层次就很难再进一步。”

在不久的将来,多智时代一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏多智时代,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来!

大数据 机器学习 数据挖掘 数据收集 信息技术 程序员
0
为您推荐
廖雪峰-2019大数据分析精品资料价值1980元,资源教程下载

廖雪峰-2019大数据分析精品资料价值1980元,资源教程

课程介绍:廖雪峰大神历时3个月打磨出来的《数据分析必备技能》的视频学习资料,由浅…...

社交网络分析与挖掘,视频教程下载

社交网络分析与挖掘,视频教程下载

课程介绍:社交网络和数据挖掘是计算机学科相关研究中的热点,其具体研究涵盖理论、关…...

尚硅谷-大数据项目之电商数仓教程下载

尚硅谷-大数据项目之电商数仓教程下载

课程介绍:本课程以国内电商巨头实际业务应用场景为依托,对电商数仓的常见实战指标以…...

python金融实务从入门到精通,视频教程下载

python金融实务从入门到精通,视频教程下载

课程介绍:Python已成为国内很多顶级投行、基金咨询等泛金融、商科领域的必备技能。中…...