大数据电气工程师运维知识

目前大数据领域内的主要工作岗位涉及到大数据采集工程师、大数据分析工程师、大数据开发工程师和大数据运维工程师，如果想转型为大数据工程师，可以根据自身的知识结构和能力特点选择一个具体的发展方向。大数据采集工程师主要的工作任务是完成数据的采集、整理和存储，虽然整体的技术含量并不算太高，但是涉及到的知识面却比较广泛。由于目前大数据的主要数据采集渠道包括物联网、互联网和传统信息系统，所以大数据采集工程师也需要掌握这些相关技术，比如要掌握如何通过程序设计来完成网络信息提取等。另外，数据的整理和存储还需要掌握各种数据库知识(包括NoSql数据库)，以及云计算相关知识。大数据分析工程师主要的工作内容是进行大数据分析和呈现，大数据分析目前有两种主要方式，分别是统计学方式和机器学习方式，所以要想从事大数据分析工程师岗位，需要具有扎实的数学基础和程序设计基础。大数据开发工程师主要完成两方面任务，其一是进行大数据平台开发，其二是进行大数据应用开发。在当前大数据技术体系逐渐成熟的情况下，大数据应用开发的岗位需求量会更大一些，相对于大数据平台开发来说，大数据应用开发更注重与应用场景的结合。关于大数据工程师需要哪些基础知识，青藤小编就和您分享到这里了。如果您对大数据工程有浓厚的兴趣，希望这篇文章可以为您提供帮助。如果您还想了解更多关于数据分析师、大数据工程师的技巧及素材等内容，可以点击本站的其他文章进行学习。

大数据运维工程师需要负责公司大数据平台的运维管理工作，集群容量规划、扩容及性能优化。下面是我为您精心整理的大数据运维工程师的具体职责描述。

大数据运维工程师的具体职责描述1

职责：

1、负责数据平台的运维管理工作(部署、监控、优化、故障处理);

2、负责Hadoop/Spark/Flink/Elasticsearch/Kafka等系统的架构审核、容量规划、成本优化;

3、负责大数据平台的用户管理、权限分配、资源分配;

4、参与数据挖掘、机器学习的平台的设计、并给出可执行的运维方案;

5、参与数据平台的相关工具开发(包括自动化部署、监控、ETL等);

6、深入理解数据平台架构，发现并解决故障隐患及性能瓶颈;

7、ETL工具、调度工具、关系型数据库的运维。

任职资格：

1、本科以上学历，计算机软件相关专业;

2、1年以上大数据相关组件运维经验(hadoop/yarn/hbase/hive/spark/kafka等)，1年以上的CDH或HDP维护经验，3年以上系统运维相关经验;

3、深入理解Linux系统，能独立部署开源软件，熟练掌握一门以上脚本语言(shell/perl/python等)，熟悉python开发语言优先;

4、逻辑思维能力强，做事有条理，责任心强，工作积极主动，执行力强，有良好的团队协作意识。

大数据运维工程师的具体职责描述2

职责

1. 负责大数据ETL系统，运维及保障服务稳定可用;

2. 负责数据采集交换方案以及联调测试;

3. 负责采集交换任务的评审和上线;

4. 负责及时排除ETL流程故障，形成知识库，完善运维文档;

5. 负责监控和优化ETL的性能,持续性地提出改进自动化运维平台建议

技能要求

1. 计算机科学或相关专业本科及以上学历;

2. 熟悉Linux系统,熟练编写shell/perl/python一种或多种脚本语言;

3. 熟悉Hive、Hadoop、MapReduce集群原理，有hadoop大数据平台运维经验者优先;

4. 熟悉数据库的性能优化、SQL调优，有相应经验;

5. 抗压能力强，有强烈的责任心，良好的沟通能力、学习能力及团队合作能力。

大数据运维工程师的具体职责描述3

职责：

1、负责分布式大数据平台产品的运维和运维开发，保证其高可用和稳定性;

2、负责大数据系统架构的可运维性设计、容量规划、服务监控，持续优化服务架构、集群性能;

3、通过技术手段控制和优化成本，通过自动化工具及流程提升大数据平台运维效率;

4、为项目开发人员提供大数据技术指导及解决大数据平台应用中遇到的技术难题;

任职资格：

1、三年以上大数据运维相关工作经验，有大型互联网公司工作经验者优先，全日制本科及以上学历;

2、熟练掌握至少一门开发语言，有Java或Python语言开发经验优先;

3、精通Hadoop生态及高性能缓存相关的各种工具并有实战经验，包括但不限于Hadoop、HBase、Hive、Presto、Kafka、Spark、Yarn、Flink、Logstash、Flume、ClickHouse等;

4、熟悉Mysql等常用关系数据库，熟练编写SQL语句，有分布式nosql数据库应用、性能调优经验优先;

5、熟悉Linux环境，能够熟悉使用shell脚本;

6、对大数据技术有强烈兴趣，有志于往大数据方向深层次发展;

7、具有很强的责任心、执行力、服务意识、学习能力和抗压能力;

8、具备较好的沟通能力、主动性及责任感。

大数据运维工程师的具体职责描述4

职责：

1、负责大数据集群的日常维护、监控、异常处理等工作，保障集群稳定运行;

2、负责大数据批处理管理以及运维;

3、负责大数据集群的用户管理、权限管理、资源管理、性能优化等;

4、深入理解数据平台架构，发现并解决重大故障及性能瓶颈，打造一流的数据平台;

5、跟进大数据前沿技术，不断优化数据集群;

6、有华为大数据平台运维经验优先;

岗位要求：

1、1年以上大数据运维或开发经验;

2、有良好的计算机和网络基础，熟悉linux文件系统、内核、性能调优，TCP/IP、HTTP等协议;

3、熟悉大数据生态，有相关(HDFS、Hive、Hbase、Sqoop、Spark、Flume、Zookeeper、ES、Kafka)的运维及开发经验;

4、熟练使用shell、python等脚本语言开发相关运维管理工具;

5、良好的文档撰写习惯;

大数据运维工程师的具体职责描述5

职责：

1、负责公司内部及项目中大数据集群的构建，任务调度、监控预警，持续完善大数据平台，保证稳定性、安全性;

2、负责集群容量规划、扩容、集群性能优化及日常巡检和应急值守，参与大数据基础环境的架构设计与改进;

3、深入研究大数据业务相关运维技术，探索新的运维技术及发展方向。

任职要求：

1、熟悉Linux基础命令操作，能够独立编写Shell脚本开展日常服务器的运维;

2、熟悉Hadoop生态圈Hadoop、Kafka、Zookeeper、Hbase、Spark的安装与调优;

3、熟悉软硬件设备，网络原理，有丰富的大数据平台部署，性能优化和运维经验;

4、工作认真负责，有较强的学习能力，动手能力和分析解决问题的能力;

5、能够利用各种开源监控工具、运维工具，HA、负载均衡软件完成工作任务;

6、熟悉JVM虚拟机调优;