首页 首页 大数据 大数据入门 查看内容

一文看懂大数据领域的六年巨变

木马童年 2019-2-13 17:45 11 0

在过去的 6 年里,本文的作者一直在关注 Data Eng Weekly(前身是 Hadoop Weekly),它是与大数据和数据工程相关内容的重要来源,涵盖了非常广泛的技术文章、产品公告和行业新闻。 今年,作者打算将分析 Data Eng 的 ...

一文看懂大数据领域的六年巨变

在过去的 6 年里,本文的作者一直在关注 Data Eng Weekly(前身是 Hadoop Weekly),它是与大数据和数据工程相关内容的重要来源,涵盖了非常广泛的技术文章、产品公告和行业新闻。

今年,作者打算将分析 Data Eng 的归档内容(这些归档可追溯到 2013 年 1 月)作为其个人项目,来析过去 6 年中的大数据的趋势和变化。

为此,作者抓取并清理了 290 多期内容(使用了 Python 爬虫),保留了与技术、新闻和发布公告相关的文章片段。接下来,他对文章片段进行了一些基本的自然语言处理并应用了一些基本的过滤,最后生成关键字和下下列表。

过去七年的主要趋势

作者绘制了特定关键词被提及次数的月滚动平均值,并将它们绘制在同一个图表上。下面的图表说明了这些技术大约在什么时间点变得越来越流行。

Hadoop 与 Spark

一文看懂大数据领域的六年巨变

从 2013 年 Spark 开始接管 Hadoop 的那一刻起,Hadoop 就开始稳步下滑。

Hadoop 与 Kafka

一文看懂大数据领域的六年巨变

Kafka 成为所有大数据技术栈的主要构建块。

Hadoop 与 Kubernetes

一文看懂大数据领域的六年巨变

Kubernestes 的崛起,尽管 Data Eng Weekly 并不十分关注 DevOps,但却也见证了从 2017 年开始围绕 Kubernetes 在各个领域的全面炒作。

年度热门关键词

我只是简单地画出在给定年份中被提及次数最多的 10 个关键词。

2013 年:Hadoop 的黄金时期!

一文看懂大数据领域的六年巨变

所有原始的 Hadoop 项目都在这里:HDFS、YARN、MR、PIG……以及两大主流发行版 CDH 和 HDP,除此之外别无其他!

2014 年:Spark 的崛起!

一文看懂大数据领域的六年巨变

Hadoop 总体上延续了它的统治地位,但 Spark 在这一年推出的第一个版本成为 2014 年最热门的话题!

2015 年:Kafka 来了!

一文看懂大数据领域的六年巨变

Spark 取代 Hadoop 的一名位的置,Kafka 进入前三。大多数旧项目(HDFS、YARN、MR、PIG……)都没有进入前十。

2016 年:流式处理火热!

一文看懂大数据领域的六年巨变

2016 年是流式处理年,Kafka 取代了 Hadoop 第二名的位置,Spark(流式处理)继续占据主导地位。

2017:一切向流式处理看齐!

一文看懂大数据领域的六年巨变

与 2016 年的阵容相同,只是加入了 Flink。

2018 年:回到基础!

一文看懂大数据领域的六年巨变

Kubernetes 首次亮相,我们回到了基础,试图找出如何管理(K8S)、调度(airflow)和运行(Spark、Kafka、存储……)我们的流。

2019 年:…

一文看懂大数据领域的六年巨变

现在对 2019 年给出任何结论还为时过早,但看起来 K8s 将在 2019 年成为主流!

英文原文:https://blog.marouni.fr/bidata-trends-analysis/

作者:Abbass Marouni

译者:无明

在不久的将来,多智时代一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏多智时代,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来!

大数据 自然语言处理 大数据技术
0
为您推荐
大数据告诉你,9月智能手机行业动态

大数据告诉你,9月智能手机行业动态

2014年9月,中国智能手机市场在售机型的数量仍在1100款以上,但参与竞争的厂商数量则…...

秒级处理海量数据,浙江移动大数据平台是怎么做到的?

秒级处理海量数据,浙江移动大数据平台是怎

项目背景 近年来,随着云计算、移动互联网、物联网等技术的发展,以及智能手机、平板…...

实体零售商的大数据玩法:监控顾客的手机 隐私是最大障碍

实体零售商的大数据玩法:监控顾客的手机

北京时间7月15日消息,和许多实体零售商一样,诺德斯特姆公司(Nordstrom)也想增加对…...

整合AI和数据科学新利器:基于Apache Spark的Hydrogen项目

整合AI和数据科学新利器:基于Apache Spark

作者:Reynold Xin 译者:Sambodhi 以往数据集的准备以及模型的训练工作是分开的,这…...

旅游“大数据”需要“云计算”

旅游“大数据”需要“云计算”

“五一”小长假第一天,南京多个景区景点出现了人挤人、人看人的盛况,其中,古林公园…...

吐槽:25家硅谷大数据/SaaS公司技术博客

吐槽:25家硅谷大数据/SaaS公司技术博客

本文主要介绍美国硅谷数据类技术公司,也可以说是SaaS领域。有一些笔者也没有深入了解…...