首页 首页 大数据 查看内容

大数据时代引发“歧视”忧虑,但不该就此因噎废食

木马童年 2019-5-27 15:25 43 0

据社会研究人员小组研究,大数据对公众和社会的影响,当涉及到帮助系统做出决定时,应用方法可能并不总是公正的。 最近,纽约大学组织的学生为社会刑事司法改革的活动,集中使用大数据在机器学习和数据挖掘,以推动 ...

据社会研究人员小组研究,大数据对公众和社会的影响,当涉及到帮助系统做出决定时,应用方法可能并不总是公正的。

最近,纽约大学组织的学生为社会刑事司法改革的活动,集中使用大数据在机器学习和数据挖掘,以推动公共和私人部门的行政决定问题。

其中包括政策研究人员、技术人员和记者,讨论在使用大数据的同时,抛开固有的偏见和歧视,通过无意中设置的规则和流程来增加我们的决策能力。

在这种情况下,使用规则的数学程序编码来实现特定的目标。批评者认为这些算法可能会延续偏见和加强内置的假设。

最近,政府机构开始仔细观察新兴领域。上周,白宫发布的一份报告警告称,如果没有正确的应用数据收集可能会损害公民的权利。该报告呼吁,“如何最好的鼓励这些技术的潜力,同时最大限度的减少对隐私、公平对待和其他美国核心价值的风险”。

2014年的报告题为“大数据的不同影响”,普林斯顿大学信息技术政策中心的程序员梭伦巴洛克斯指出,“数据挖掘算法技术的倡导者认为,他们是消除人类偏见的决策过程。但是,数据的算法与它所使用的数据一样好。”

巴洛克斯研究新兴的应用机器学习来提高道德认识问题的影响。他补充道,“数据挖掘可以继承之前决策者的偏见或社会上持续存在的普遍偏见。”

换句话来说,人类产生的机器学习系统上运行的数据是由人类设计的算法。因此,人类创造的数据隐含偏见。

在两年前的研究中,美国联邦贸易委员会(Federal Trade Commission)提出类似的问题。尽管监管部门承认大数据所带来的好处,但滥用数据编译此类信息的公司存在歧视某些群体的风险。

数据歧视的指控

哈佛大学的数据隐私实验室负责人Latanya Sweeny表示,大数据歧视指向几年前开展的一项案例研究。

此案涉及到谷歌在互联网上某些种类的搜索结果。Sweeny在她的研究中发现,出现黑人名字的逮捕记录比例比白人多18%。谷歌已经解决了这个问题,尽管他们从未公开表示他们做了什么来纠正这个问题。

在过去几年中,大数据的扩散已经看到指控其他的不当使用和偏见。这些指控是五花八门的,从网上的价格歧视和地理定位结果到犯罪预测技术,在一些公共工程决策中缺乏足够代表性的数据样本。

大数据的优势是可以平衡应用现代技术以解决社会问题的风险。然而,一些质疑者认为,民主化数据在本质上影响着人们,从数据从业者到专家。

大数据将停留在这里

一些拥护者表示,问题不在于“大数据歧视”,但失败的数据会让专业人员曲解数据挖掘的结果的风险和统计学习的核心。他们还补充表示,带来的好处远远大于担忧。

纽约大学斯特恩商学院的分析中心主任Anindya Ghose说,“在我的学术研究和行业咨询中,我已经看到了企业、组织和消费者使用数据驱动决策、利用数据科学和业务分析的巨大利益。”

Ghose还表示:“老实说,我不理解这些人在大数据的运用中关于对数据分析影响的恐惧和愤世嫉俗。

她表示,兑愤世嫉俗者和我们自己的一些忠告是:“大家仍有必要处理好大数据技术引发的这些伦理纠纷问题,否则大数据分析的应用层次就很难再进一步。”

在不久的将来,多智时代一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏多智时代,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来!

大数据 机器学习 数据挖掘 数据收集 信息技术 程序员
0
为您推荐
大数据技术改变城市的运作方式,智慧城市呼之欲出

大数据技术改变城市的运作方式,智慧城市呼

纽奥良虽像大多数城市一样有火灾侦测器安装计划,但直到最近还是要由市民主动申装。纽…...

大数据分析面临生死边缘,未来之路怎么走?

大数据分析面临生死边缘,未来之路怎么走?

大数据分析开始朝着营销落地,尤其像数果智能这类服务于企业的大数据分析供应商,不仅…...

什么是工业大数据,要通过3B和3C来理解?

什么是工业大数据,要通过3B和3C来理解?

核心提示:工业视角的转变如果说前三次工业革命分别从机械化、规模化、标准化、和自动…...

大数据普及为什么说肥了芯片厂商?

大数据普及为什么说肥了芯片厂商?

科技界默默无闻的存在,芯片行业年规模增长到了3520亿美元。半导体给无人驾驶汽车带来…...

大数据技术有哪些,为什么说云计算能力是大数据的根本!

大数据技术有哪些,为什么说云计算能力是大

历史规律告诉我们,任何一次大型技术革命,早期人们总是高估它的影响,会有一轮一轮的…...

个人征信牌照推迟落地,大数据 重新定义个人信用!!

个人征信牌照推迟落地,大数据 重新定义个

为金融学的基础正日益坚实。通过互联网大数据精准记录海量个人行为,进而形成分析结论…...