数据工程师知识体系培训

大数据开发工程师课程体系——Java部分。第一阶段：静态网页基础1、学习Web标准化网页制作，必备的HTML标记和属性2、学习HTML表格、表单的设计与制作3、学习CSS、丰富HTML网页的样式4、通过CSS布局和定位的学习、让HTML页面布局更加美观5、复习所有知识、完成项目布置第二阶段：JavaSE+JavaWeb1、掌握JAVASE基础语法2、掌握JAVASE面向对象使用3、掌握JAVASEAPI常见操作类使用并灵活应用4、熟练掌握MYSQL数据库的基本操作，SQL语句5、熟练使用JDBC完成数据库的数据操作6、掌握线程，网络编程，反射基本原理以及使用7、项目实战 + 扩充知识：人事管理系统第三阶段：前端UI框架1、JAVASCRIPT2、掌握Jquery基本操作和使用3、掌握注解基本概念和使用4、掌握版本控制工具使用5、掌握easyui基本使用6、项目实战+扩充知识：项目案例实战POI基本使用和通过注解封装Excel、druid连接池数据库监听,日志Log4j/Slf4j第四阶段：企业级开发框架1、熟练掌握spring、spring mvc、mybatis/2、熟悉struts23、熟悉Shiro、redis等4、项目实战：内容管理系统系统、项目管理平台流程引擎activity，爬虫技术nutch,lucene，webService CXF、Tomcat集群 热备 MySQL读写分离以上Java课程共计384课时，合计48天！大数据开发工程师课程体系——大数据部分第五阶段：大数据前传大数据前篇、大数据课程体系、计划介绍、大数据环境准备&搭建第六阶段：CentOS课程体系CentOS介绍与安装部署、CentOS常用管理命令解析、CentOS常用Shell编程命令、CentOS阶段作业与实战训练第七阶段：Maven课程体系Maven初识:安装部署基础概念、Maven精讲:依赖聚合与继承、Maven私服:搭建管理与应用、Maven应用:案列分析、Maven阶段作业与实战训练第八阶段：HDFS课程体系Hdfs入门:为什么要HDFS与概念、Hdfs深入剖析:内部结构与读写原理、Hdfs深入剖析:故障读写容错与备份机制、HdfsHA高可用与Federation联邦、Hdfs访问API接口详解、HDFS实战训练、HDFS阶段作业与实战训练第九阶段：MapReduce课程体系MapReduce深入剖析:执行过程详解、MapReduce深入剖析:MR原理解析、MapReduce深入剖析:分片混洗详解、MapReduce编程基础、MapReduce编程进阶、MapReduc阶段作业与实战训练第十阶段：Yarn课程体系Yarn原理介绍:框架组件流程调度第十一阶段：Hbase课程体系Yarn原理介绍:框架组件流程调度、HBase入门:模型坐标结构访问场景、HBase深入剖析:合并分裂数据定位、Hbase访问Shell接口、Hbase访问API接口、HbaseRowkey设计、Hbase实战训练第十二阶段：MongoDB课程体系MongoDB精讲:原理概念模型场景、MongoDB精讲:安全与用户管理、MongoDB实战训练、MongoDB阶段作业与实战训练第十三阶段：Redis课程体系Redis快速入门、Redis配置解析、Redis持久化RDB与AOF、Redis操作解析、Redis分页与排序、Redis阶段作业与实战训练第十四阶段：Scala课程体系Scala入门:介绍环境搭建第1个Scala程序、Scala流程控制、异常处理、Scala数据类型、运算符、Scala函数基础、Scala常规函数、Scala集合类、Scala类、Scala对象、Scala特征、Scala模式匹配、Scala阶段作业与实战训练第十五阶段：Kafka课程体系Kafka初窥门径:主题分区读写原理分布式、Kafka生产&消费API、Kafka阶段作业与实战训练第十六阶段：Spark课程体系Spark快速入门、Spark编程模型、Spark深入剖析、Spark深入剖析、SparkSQL简介、SparkSQL程序开发光速入门、SparkSQL程序开发数据源、SparkSQL程序开DataFrame、SparkSQL程序开发DataSet、SparkSQL程序开发数据类型、SparkStreaming入门、SparkStreaming程序开发如何开始、SparkStreaming程序开发DStream的输入源、SparkStreaming程序开发Dstream的操作、SparkStreaming程序开发程序开发--性能优化、SparkStreaming程序开发容错容灾、SparkMllib 解析与实战、SparkGraphX 解析与实战第十七阶段：Hive课程提体系体系结构机制场景、HiveDDL操作、HiveDML操作、HiveDQL操作、Hive阶段作业与实战训练第十八阶段：企业级项目实战1、基于美团网的大型离线电商数据分析平台2、移动基站信号监测大数据3、大规模设备运维大数据分析挖掘平台4、基 于互联网海量数据的舆情大数据平台项目以上大数据部分共计学习656课时，合计82天！0基础大数据培训课程共计学习130天。以上是大数据开发培训内容，加米谷是线下面授小班教学！

你好，大数据学习的内容包括8个阶段的内容:

你可以按照顺序学习，先学习基础的东西，希望你早日学有所成。

数据库简介（包含一些基本概念和发展史）；SQL语句；范式理论基础；数据库设计基础

一、基础部分：JAVA语言 和 LINUX系统

二、数据开发:

1、数据分析与挖掘

一般工作包括数据清洗，执行分析和数据可视化。学习Python、数据库、网络爬虫、数据分析与处理等。

大数据培训一般是指大数据开发培训。

大数据技术庞大复杂，基础的技术包含数据的采集、数据预处理、分布式存储、数据库、数据仓库、机器学习、并行计算、可视化等各种技术范畴和不同的技术层面。

2、大数据开发

数据工du程师建设和优化系统。学习hadoop、spark、storm、超zhi大集群调优、机器学习、Docker容器引擎、ElasticSearch、并发编程等；

课程学习一共分为六个阶段：

第一阶段Java语言基础01Java开发介绍02熟悉Eclipse开发工具03Java语言基础04Java流程控制05Java字符串06Java数组与类和对象07数字处理类与核心技术08I/O与反射、多线程09Swing程序与集合类第二阶段HTML、CSS与JavaScript01PC端网站布局02HTML5+CSS3基础03WebApp页面布局04原生JavaScript交互功能开发05Ajax异步交互06JQuery应用第三阶段JavaWeb和数据库01数据库02JavaWeb开发核心03JavaWeb开发内幕第四阶段Linux基础01Linux安装与配置02系统管理与目录管理03用户与用户组管理04Shell编程05服务器配置06Vi编辑器与Emacs编辑器第五阶段Hadoop生态体系01Hadoop起源与安装02MapReduce快速入门03Hadoop分布式文件系统04Hadoop文件I/O详解05MapReduce工作原理06MapReduce编程开发07Hive数据仓库工具08开源数据库HBase09Sqoop与Oozie第六阶段Spark生态体系01Spark简介02Spark部署和运行03Spark程序开发04Spark编程模型05作业执行解析06Spark SQL与DataFrame07深入Spark Streaming08Spark MLlib与机器学习09GraphX与SparkR10spark项目实战11scala编程12Python编程第七阶段Storm实时开发01storm简介与基本知识02拓扑详解与组件详解03Hadoop分布式系统04spout详解与bolt详解05zookeeper详解06storm安装与集群搭建07storm-starter详解08开源数据库HBase09trident详解第八阶段项目案例01模拟双11购物平台02前端工程化与模块化应用主要都讲这些内容！

- apache superset -大数据可视化实时展示grafana/kobana了解详情- 文件存储格式 -apache文件存储格式多样化列式存储格式内存组成（parquet）了解详情- apache Doris -基于MPP的交互式SQL数据仓库解决报表多维分析在线报表和分析的数据仓库系统了解详情- 数仓建设 -对大数据BI系统提供数据支撑OLAP方案之apache kylin解决OLAP场景 压秒级查询巨大Hive表

如果是科班出身(数学/统计学/计算机/金融)，最好是先系统培训，打一个基础，有一个知识框架后再通过实践进行学习。 培训的话找口碑好，大校区，实实在在的，都没什么问题的。现在市面上现在学开发的机构太多。鱼龙混杂。可以实地考察一下，在多重选择，多看一下大品牌，口碑好的。在学习的时候选择班型上，看你的学历和基础，如果你学历很低没有计算机基础，不要指望4个月的班型能让你脱胎换骨。

Java ：只要了bai解一些基础即可，做大数据不需要很深的Java 技术，学java SE 就相当于有学习大数据。Linux：因为大数据相关软件都是在Linux上运行的，所以Linux要学习的扎实一些，学好Linux对你快速掌握大数据相关技术会有很大的帮助，能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置，能少踩很多坑，学会shell就能看懂脚本这样能更容易理解和配置大数据集群。Hadoop：这是现在流行的大数据处理平台几乎已经成为大数据的代名词，所以这个是必学的。Zookeeper：这是个万金油，安装Hadoop的HA的时候就会用到它，以后的Hbase也会用到它。Mysql：我们学习完大数据的处理了，接下来学习学习小数据的处理工具mysql数据库，因为一会装hive的时候要用到，mysql需要掌握到什么层度那?你能在Linux上把它安装好，运行起来，会配置简单的权限，修改root的密码，创建数据库。Sqoop：这个是用于把Mysql里的数据导入到Hadoop里的。Hive：这个东西对于会SQL语法的来说就是神器，它能让你处理大数据变的很简单Oozie：既然学会Hive了，我相信你一定需要这个东西，它可以帮你管理你的Hive或者MapReduce、Spark脚本，还能检查你的程序是否执行正确。Hbase：这是Hadoop生态体系中的NOSQL数据库，他的数据是按照key和value的形式存储的并且key是唯一的，所以它能用来做数据的排重，它与MYSQL相比能存储的数据量大很多。Kafka：这是个比较好用的队列工具。Spark：它是用来弥补基于MapReduce处理数据速度上的缺点。请点击输入图片描述