首页 首页 资源教程 数据资源 查看内容

大数据-基于Spark的机器学习,智能客户系统项目实战教程下载

木马童年 2020-4-28 21:59 413 0

项目背景:1、现在很多平台客户关系管理系统都是使用传统的CRM,所有的信息全靠手工录入,用户寻找上下游企业或者信息只能靠手工去查找并且标注。2、大数据时代的到来,人工智能,云计算,先进的分析,用机器去替代 ...

image.png

项目背景:

1、现在很多平台客户关系管理系统都是使用传统的CRM,所有的信息全靠手工录入,用户寻找上下游企业或者信息只能靠手工去查找并且标注。

2、大数据时代的到来,人工智能,云计算,先进的分析,用机器去替代人工的部分,从 2016 年趋势看,机器学习和人工智能 (AI) 将在未来几年内将会彻底改变 CRM。

因此我们对CRM进行了改造,主要有如下部分:

1、企业信息、商品信息来自互联网,机器学习去自动统计分析并且分类。

2、用户录入的商品信息和新从互联网爬来的商品信息全部通过机器学习计算的模型去分类。

3、机器学习自动计算企业和供求信息上下游。

4、机器学习每隔一段时间自动去优化计算模型。

根据图识,项目将分为三个部分。整个项目基本思路是如何通过爬虫爬取大量数据放到Hbase,然后通过ETL工具初步转化筛选将数据存到mongodb,抽取mongodb的数据进行清洗处理算出模型放到hdfs。后续进来数据通过模型运算出数据的类型。项目系统主要包括前端+后端+机器学习,前端采用React Native,Native,后端采用Dubbo+Spring+java,机器学习采用Spark进行实现,本项目机器学习-spark代码运行在mesos上。

本课程我们只针对以上图示的浅蓝色部分内容(即与机器学习相关的内容),通过用真实的智能客户项目系统作为案例(案例附带源码,可以直接做二次开发),主要根据项目实例穿讲机器学习以及相关知识,包括有:数据提取,数据清洗以及分词,数据特征值提取、机器学习模型计算、数据分类等等,进行详细讲解。

本课程所需掌握的技术:java、scala、IK、Hdfs、Spark ml、Spark Streaming、Spark SQL、Kafka、Zookeeper、Mongodb、Spring-Data-Mongodb,由于每个技术需要掌握的程度不一样,对于我们用到的一些开源技术,课程中将会是简单介绍如何使用,不会着重讲解。课程重点讲解spark ml、spark Streaming,以及如何使用这些技术进行项目的实战,贯穿项目系统并且最后串联所有技术。spark基于2.0.1版本讲解

课程目录:

第1节项目介绍以及在本课程中能学到什么东西、如何应用到实际项目中  

第2节scala和IDE的安装以及使用以及maven插件的安装  

第3节Centos环境准备(java环境、hosts配置、防火墙关闭)  

第4节scala基础知识讲解-1  

第5节scala基础知识讲解-函数和闭包-2  

第6节scala基础知识讲解-数组和集合-3.1  

第7节scala基础知识讲解-数组和集合-3.2  

第8节scala基础知识讲解-类和对象-

第9节scala基础知识讲解-特征和模式匹配-

第10节scala基础知识讲解-正则表达式和异常处理-

第11节scala基础知识讲解-知识回顾

第12节nosql数据库mongodb安装

第13节spring data for mongodb-简单连接mongodb

第14节spring data for mongodb-spring配置+CRUD操作(不实现repo,默认操作)

第15节spring data for mongodb-实现repo接口+mongoTemplate+CRUD操作

第16节spring data for mongodb-分页查询

第17节zookeeper集群安装

第18节zookeeper基本介绍-

第19节zookeeper工作原理-选举流程(basic paxos算法)

第20节zookeeper工作原理-选举流程(fast paxos算法)

第21节kafka-背景及架构介绍

第22节kafka集群安装以及测试

第23节kafka数据发送与接收实现-java

第24节hdfs单机安装部署

第25节连接hdfs查询存储-java

第26节机器学习基本线性代数介绍

第27节IKAnalyzer中文分词工具介绍

第28节IKAnalyzer中文分词工具结合java应用

第29节Spark以及生态圈介绍

第30节Spark运行架构介绍及原理之job,stage,task

第31节Spark编程模型RDD设计以及运行原理

第32节纯手写第一个Spark应用程序:WordCount

第33节RDD常用函数介绍

第34节Spark Sql介绍、DataFrame创建以及使用、RDD DataFrame DataSet相互转化

第35节Spark Streaming介绍

第36节Spark Streaming+Kafka集成操作

第37节avro结合maven使用,实现序列化和反序列化

第38节Spark ML(机器学习)介绍(监督学习、半监督学习、无监督学习)  

第39节特征抽取:TF-IDF原理介绍  

第40节特征提取:TF-IDF代码实现计算  

第41节聚类算法:KMEANS原理介绍

第42节聚类算法:KMEANS代码实现计算

第43节其它Spark ML算法简单介绍

第44节Spark连接Mongodb代码实现

第45节Mesos总体架构介绍

第46节Mesos安装部署

第47节Spark on Mesos安装部署

第48节系统整体架构再次介绍+技术串联介绍(将学习的技术全部整合到项目中)

第49节项目代码:父类工程,管理各个jar的版本

第50节项目代码:avro序列化jar,用于客户端和机器学学习实现序列化和反序列化

第51节项目代码:kafka发送数据jar,给app调用并实现切词并发送数据到kafka

第52节项目代码:工具类jar,实现操作hdfs、切词以及操作mongodb

第53节项目代码:操作类jar,调用工具类具体进行切词以及数据清洗并且存储到Hdfs

第54节项目代码:机器学习集合jar,主要用来存放record

第55节项目代码:机器学习算法jar,主要进行tf-idf以及kmeans计算,主要实现企业上下游、供求上下游模型计算

第56节项目代码:流式计算jar,主要是接受客户端发送到kafka的数据加载模型进行计算

第57节项目代码:测试模拟jar,主要模拟实现用户加载avro序列化jar写数据到kafka

第58节Spark on Mesos部署提交参数介绍

第59节Spark代码提交到Mesos运行(Spark-submit)

第60节项目整体流程跑通,结果展示

第61节Spark调优介绍

第62节基于Spark的机器学习项目-智能客户系统实战课程总结

第63节实际工作及面试注意问题


管理系统 大数据时代 人工智能 云计算 机器学习 互联网
0
为您推荐
对于大数据开发的学习,最经典的学习路线是什么?

对于大数据开发的学习,最经典的学习路线是什么?

对于现代社会,大数据开发的重要性不言而喻,通过大量的数据处理、分析获取有价值的信…...

大数据时代,主要需要什么类型的人才?

大数据时代,主要需要什么类型的人才?

什么是大数据,大数据是主要指的是,无法在可承受的时间范围内用常规软件工具进行捕捉…...

什么样的人才是大数据人才呢?我们应该怎么定义和分类?

什么样的人才是大数据人才呢?我们应该怎么定义和分类

在未来世界,国家之间、区域之间甚至是公司之间的大数据人才的争夺战,将是愈演愈烈的…...

数据科学,数据分析和机器学习之间,有什么本质区别?

数据科学,数据分析和机器学习之间,有什么本质区别?

我们都知道机器学习,数据科学和数据分析是未来的发展方向。有些公司不仅利用大数据帮…...

大数据现在处于什么阶段,入行大数据,需要学习哪些基础知识?

大数据现在处于什么阶段,入行大数据,需要学习哪些基

大数据的发展历程总体上可以划分为三个重要阶段,萌芽期、成熟期和大规模应用期…...

大数据技术怎么学习,在学习大数据之前,需要具备什么基础?

大数据技术怎么学习,在学习大数据之前,需要具备什么

  大数据又称黑暗数据,是指人脑无法处理的海量数据聚合成的信息资产,在民生、IT、…...