数智资源网
首页 首页 人工智能 查看内容

AI化价格歧视、智能选择偏见、生物数据泄露,人工智能还有多少个坑?

木马童年 2020-6-13 17:53 106 0

文|中国电子银行网 陈璐溦前段时间,马斯克在参加《乔·罗根体验》中曾说道,为了避免人类被人工智能超越,未来人类将通过人机接口成为人工智能共生体,通过非语言非物理的方式回传信息、相互交流。其实,某种程度上 ...

文|中国电子银行网 陈璐溦

前段时间,马斯克在参加《乔·罗根体验》中曾说道,为了避免人类被人工智能超越,未来人类将通过人机接口成为人工智能共生体,通过非语言非物理的方式回传信息、相互交流。

其实,某种程度上我们已经是半个机器人了,正常生活已经离不开手机、电脑等等一系列电子设备。当然,成为人工智能共生体还需要很长一段时间,但不可否认的是人工智能正在改变现有世界的运作方式。就目前我们在手机银行使用的指纹识别、语音交互都是基于人工智能技术实现的,除了这些看得见的人工智能技术,当然还有许多看不见的AI应用。

AI化价格歧视、智能选择偏见、生物数据泄露,人工智能还有多少个坑?

移动互联网初期,曾经掀起过一波由互联网巨头瓜分零售端市场所引发的价格歧视,主要是通过微信抢红包等补贴式价格歧视策略抢占市场,“掌上专享”、“手机特惠”等非常常见。

而今时今日精明的商家推出的就是AI化价格歧视。AI化动态定价可以根据用户数据、供求关系精准推算出支付意愿,当然这也会使那些不精明的消费者支付更多。就比如说,晚上的面包买一送一会更划算;深夜乘坐滴滴价格会翻倍。

曾经线下零售商很难在价格上做出快速反应,但现在通过电子化显示的“智能货架”或者“智能价签”可以让超市在一天中不同的时段提供不同的价格,背后的一系列智能化算法,消费者是无法察觉的。就比如说,盒马鲜生已经全面使用电子价签。

零售系统研究公司(RSR)对美国用户最近的一项调查发现,71% 的消费者并不关心动态定价策略,但14% 的年轻消费者表示他们比较喜欢这一方式。也就是说,当用户了解了“游戏规则”后更容易接受动态定价。当然,精明的消费者也将受益于动态定价。

虽说银行不会发生动态化定价,但是同样会有差异化服务。举个最简单的例子就是手机银行的千人千面,根据用户常用功能进行界面智能化排布;针对不同细分人群推出不同版本手机银行(银发族版本、私人银行版本等)。

在智能化风险定价方面,由于利率市场化推进,挤压银行利润,这就使得银行不得不根据客户利率敏感程度、金额、周期、信用风险预测等因素,通过智能化手段建立差异化的定价模型,对不同人群推出不同信贷利率,从而获得更高的收益。

当然,有些智能服务的主要目的并不是要掏空我们的钱包,而是要建立用户关系,提升消费者的体验感,增强客户对企业的粘性。

AI系统推送就是其中一类,电商平台产品推荐、头条新闻推荐、银行资讯推荐都包含在其中。为什么APP总能推荐出你感兴趣的新闻或资讯、最心仪的产品,那是因为你在每次操作时,APP后台都在进行成千上万次的运算,通过数据采集、存储、模型训练、算法、协调过滤,找出你可能喜欢的放在最前面。

AI化价格歧视、智能选择偏见、生物数据泄露,人工智能还有多少个坑?

与此同时,这也衍生出另一个问题,AI推荐让用户关注内容更集中,也更狭窄。AI推荐可以作为弥补用户偏好不完整的修复行为,推荐那些我们平时没关注到的电影或产品,开阔我们的视野,但现实却不是这样的。

主要是因为用户对推荐内容的多样性以及新颖度多数情况下是负向感知,而AI推荐系统会根据用户的反馈对推荐内容进行误差修正,所以最终呈现的内容就是推荐内容集中度高。换言之,也就是AI很容易产生选择偏见。

另一方面,人工智能技术也有两个非常明显的优势,不会犯低级错误、不会受情绪影响。现在金融工作的发展目标是流程自动化,透明化,确保工作流程的一致性。本质上,其实是提高效率,减少人为操作的风险,避免人为决策的不一致。而人工智能恰好能有效改善这一状况。

在资管领域,智能投顾的优势更为明显。除了费率低、操作便捷、适用人群较广以外,最重要的就是降低主观因素对投资的影响。据兴业证券预测,到2022年,中国的智能投顾管理资产总额将超6600亿美元,用户数超过1亿。

但智能理财、智能投顾平台依旧存在获客难,流失率高等问题。某平台负责人称,一旦智能投顾表现不稳定后,客户马上流失,并且是长久性流失。这主要是由于智能投顾擅长的是长期投资而非短期投机。智能理财的短期收益无法满足激进用户,同样也无法满足 “保本”用户。另外,由于我们的市场有效性不足,缺少成熟的投资品种,难以做到智能化的高效配置和调整。这恐怕在短期内也无法解决。

另外,由于应用场景较多,人机交互时使用的生物识别认证也比较常见。在金融领域,柜面开户、自助银行、移动支付等等都会用到。据CFCA发布的2019中国电子银行调查报告显示,指纹登录是操作最快的,也是用户满意度最高的辅助身份认证方式。除了指纹、声纹、人脸识别,现在虹膜识别和静脉识别也在快速发展。预计到2023年,中国生物识别行业的市场规模将达到379亿元。

AI化价格歧视、智能选择偏见、生物数据泄露,人工智能还有多少个坑?

尽管人脸识别存在风险,但便利性却超过了用户顾虑。凭借人脸识别功能的便捷性,即使不是全部,目前大多数应用程序App也会提供类似的功能。而且,越来越多的网站和应用程序App正在转向基于面部识别的验证,许多在线开户正从过时控件转向更现代的控件(例如拍照文档匹配)这对生物数据以及文档储存提了极高的要求,部分用户还没意识到其中的巨大的风险。

其实,个性化生物识别数据已经存在活跃的暗网交易,并且在2020年将继续增长。一部分信息的获取是来自开放源和社交媒体;另一部分是通过网络钓鱼,不仅窃取静态凭据,而且还窃取用户面部自拍和视频。另一个威胁是,先进的恶意软件可以闯入移动设备身份验证。2019年5月,中国消费者协会对29款主流智能门锁进行试验,发现85.7%的商品信息识别卡开启存在安全风险。

除了生物识别,其他领域也涉及到隐私与便捷的问题。比如,智能推荐只有牺牲掉部分隐私数据(行为数据)才能获取便捷性功能。用户是否愿意用隐私换便捷就又是另一个问题了。

去年年末,央行等相关部门对个人金融信息采集划定了监管红线,但部分银行仍有“超采”问题,自动读取照片、文件、电池信息、手机系统设置等。

人工智能在带来便利的同时,也同时存在安全隐患,但这也不是一时半会儿能解决的,希望未来能出现更为先进的优化技术或替代方式。

中国电子 人工智能 机器人 电子设备 指纹识别 语音交互
0
为您推荐
高等数学,学习算法人工智能大数据的第一步教程下载

高等数学,学习算法人工智能大数据的第一步

课程介绍:从最基础的函数与极限相关的知识,步步深入到微分学的领域,包括导数与微分…...

Python400集(第四季)【北京尚学堂·百战程序员】,资源教程下载

Python400集(第四季)【北京尚学堂·百战

课程名称Python400集(第四季)【北京尚学堂·百战程序员】课程目录1.算法2.数据结构3…...

最新Python黑马基础班+就业班,全套视频教程下载

最新Python黑马基础班+就业班,全套视频教

课程介绍本期黑马Python基础班+就业班课程为2018年录制,课程质量有保证,请大家放心…...

花书+西瓜书+统计学习(完整版),资源教程下载

花书+西瓜书+统计学习(完整版),资源教程

课程名称花书+西瓜书+统计学习(完整版),资源教程下载课程介绍如果你从来没有使用过…...

数字货币python量化投资课程,视频教程下载

数字货币python量化投资课程,视频教程下载

课程介绍:学习了解数字货币,对交易的标的有清醒的认知需要掌握基本的python编程基础…...

从入门到进阶,攻破人工智能CV领域的资源教程下载

从入门到进阶,攻破人工智能CV领域的资源教

课程介绍:以主流的语言python为主,简单易学,从零开始课程从python语法讲起,逐步学…...

贪心学院-CV计算机视觉集训营,视频教程下载

贪心学院-CV计算机视觉集训营,视频教程下

课程介绍:有机器学习基础,有较强的编程能力,对数据结构与算法比较熟悉之后想从事CV…...

轻松入行人工智能-Python3入门机器学习 经典算法与应用,资源教程下载

轻松入行人工智能-Python3入门机器学习 经

课程简介:bobo老师特为机器学习初学者量身打造,使用新版python3语言和流行的scikit-…...

最新评论(0)