下面是小编整理的大数据开发工程师的职责精选,本文共11篇,希望对大家有所帮助。本文原稿由网友“Zealot”提供。
篇1:大数据开发工程师的职责精选
职责:
1、负责该领域的业务需求讨论,完成技术方案及数据开发;
2、负责数据仓库的体系建设及落地实现;
3、负责大数据平台各类环境的部署及运维、并参与架构优化、性能优化等工作;
4、负责该领域所属模块的代码开发、调试与维护工作,并进行技术沉淀和文档输出。
招聘要求:
1、计算机、电子通信、自动化等专业,本科及以上学历;
2、五年以上研发经验,其中二年以上大数据开发的相关工作经验;
3、熟练JAVA开发语言;熟悉微服务及Spring框架;
4、熟练熟练Hive、Impala、ES性能调优,关注细节,学习能力强;
5、能配合团队完成该领域的工作,自我管理能力强,能承受工作中的各种压力,具备很好的团队意识
6、熟练主流大数据平台产品部署及运维,如CDH、HDP平台。
7、对机器学习和深度学习等方面有一定的了解;
8、有汽车制造业及相关行业的大数据开发经验优先。
篇2:大数据开发工程师的职责精选
职责:
1、负责数据中心和大数据处理平台的搭建
2、在线和离线海量数据分析平台的开发;
3、研究大数据前沿技术,提升系统的运维效率;
4、参与大数据的采集、存储、处理,分析等开发
5、参与数据挖掘算法的设计、对海量数据进行挖掘分析和发掘数据价值及算法学习及实现
【任职要求】:
1、计算机或相关专业本科学历及以上,2年工作经验以上
2、熟悉Java/Scala等至少一门语言,能对分布式常用技术进行合理应用,解决实际架构问题
3、熟练使用hadoop,hive,HBase,YARN,kafka,spark,Storm,Flume等大数据开发组件
4、熟悉整个大数据的完整处理流程,包括数据的采集、清洗、存储、分析和可视化及报表开发;
5、熟悉分布式系统概念、架构,有大规模分布式系统设计、实现、部署等经验;
6. 具有优秀的学习能力、独立分析和解决问题能力,良好的团队合作精神。
7. 有BI开发经验的优化考虑。
篇3:大数据开发工程师的职责精选
职责:
1.结合项目或产品涉及的具体业务场景,对数据进行清洗、计算与加工;
2.思路清晰,可快速响应数据处理的需求,评估并给出合理的解决方案,并采用合理的方式处理需求;
3.积极主动,能够与团队成员进行有效沟通,并完成数据处理结果的核对与对接;
4.完成上级交办的工作或任务。
岗位要求
1.计算机相关专业大专以上学历;
2.2年以上大数据产品或项目开发经验,精通Hadoop生态圈,熟练使用Spark,HBase、Hive、Kafka、Redis等;
3.精通SQL,熟练使用HSQL实现复杂数据处理逻辑,并具备数据处理调优的能力;
4.熟悉Linux开发环境,熟悉Linux的shell命令。
5.具有良好的逻辑思维能力和严谨的程序开发思想,具备独立问题排查与处理的能力;
6.良好的团队精神和合作意识,强烈的责任心,对工作有激情,良好的沟通能力,能吃苦耐劳;
7.有大数据项目或产品背景者优先;
8.有使用Spark SQL进行数据处理,并具有Spark SQL优化经验者优先。
9.有Python或者Shell脚本开发经验优先
篇4:大数据开发工程师的职责精选
职责:
1、负责数据采集、数据存储、数据查询、数据计算等基础平台的设计和开发工作;
2、利用Hadoop、Spark、Flink等技术进行离线和实时数据开发 ;
3、负责大数据平台的规划升级、平台维护和优化 ;
4、和其他部门或团队沟通、资源协调并落实工作。
任职要求
1、本科及以上学历;
2、3年以上大型大数据平台建设实施经验 ;
3、掌握常用大数据组件hadoop、Hive、spark、Flink、hbase、elasticsearch等原理、使用和调优 ;
4、具备较强技术功底,精通Java、Scala、Python等至少一种开发语言,能根据需求给出技术架构 ;
5、有数据仓库、元数据管理和治理的开发经验优先 ;
6、善于沟通,思维活跃、责任感强、工作积极主动,有良好的团队协作意识。
篇5:大数据开发工程师的职责精选
职责:
1、负责完成业务和产品的对接,支持业务需求研发;
2、负责完成产品的迭代升级以及底层架构的升级研发;
3、完成团队安排的其他相关日常工作任职要求;
4、负责产品的实时业务和离线业务的研发;
5、支持开源大数据技术在数据系统中的使用,修复、优化增强大数据技术;
岗位要求:
1、具有分布式系统架构开发能力,熟练使用storm、spark hbase者优先。
2、能够使用实时计算平台,进行实时业务数据的研发。
3、能够基于已有平台进行离线业务的开发。
4、有大数据应用产品研发经验,具有数据决策产品研发经验者优先。
篇6:大数据开发工程师岗位的职责描述
职责:
1、负责异构数据系统和大数据平台的集成与融合;
2、负责数据挖掘算法的设计及对海量数据进行挖掘分析;
3、负责分布式数据仓库平台、海量数据批处理平台、实时数据处理平台等系统开发;
4、参与海量数据处理,业务数据体系的设计、数据统计、分析及数据建模;
5、参与数据平台各系统的性能分析与系统优化,不断提高系统运行效率;
6、完成领导交办的其他任务。
任职资格:
1、计算机及其相关专业,大专及以上学历。两年以上大数据应用经验;
2、具备实时处理框架的设计和开发能力,熟练掌握Storm、Spark streaming等大数据实时处理框架中的一种;
3、熟悉Spark 、R、Hadoop、Hbase、Hive、Elastic Search/Solr等相关技术;
4、熟悉Scala、熟悉Linux开发环境,能进行shell脚本的编写;
5、具有较强的逻辑分析能力,高度的责任心及团队合作精神;
6、具有实际大数据项目的成功经验者优先考虑。
篇7:大数据开发工程师的工作职责
职责:
1、独立负责工作小组,并对下级成员进行监督;
2、具备资源整合以及对软件项目全局把控的能力;
3、负责软件项目的系统设计和需求分析;
4、制定软件项目开发计划,并按时完成功能模块的设计、开发以及编程任务;
5、积极配合并完成主管下达的任务,并能够对软件部门的发展规划提出意见;
任职条件
1、大数据相关开发经验3年以上,至少具备2年以上java开发经验;
2、有基于hadoop的数据抽取、转换、加载的开发相关经验;
3、熟练掌握hadoop生态的相关知识,如hive,hbase,flume.kafka,storm,spark,mapreduce等;
4、熟悉Linux操作系统。熟悉linux各项基本操作,至少掌握一门脚本语言;
5、熟练数据仓库,对多维数据建模有深入理解;
6、有BI数据平台、数据仓库、日志采集、多维数据仓库设计、开发、架构经验者优先;
7、思维敏捷,有较强的钻研学习能力,较好的沟通能力、团队合作;
篇8:大数据开发工程师的具体职责
职责:
1、负责公司大数据平台数据处理工具ETL、流处理平台等建设,功能规划,平台演进,维护调优等;
2、结合公司业务特征,负责公司数据仓库规划、数据仓库建设、数仓管理等;
3、负责大数据处理技术研究及新技术引进,参与超大规模实时/离线数据计算框架,存储、查询、可视化解决方案的设计,研发;
4、负责公司业务数据仓库模型建设及全业务数据域打通;
5、负责BI报表和可视化项目,和客户深度沟通,理解客户的业务挑战,提供解决方案,制定开发计划并执行,支持各单位日常数据需求和任务;
任职资格:
1、熟练掌握关系型数据库,例如:Oracle、Mysql、Vertica等;熟悉NoSql数据库,例如HBase、Redis、MongodDB等;具备丰富的数据库管理和运维调优经验;
2、熟悉数据仓库领域知识和技能者优先,包括但不局限于:元数据管理、数据开发测试工具与方法、数据质量、主数据管理,数据打通等;
3、有从事分布式数据存储与计算平台应用开发经验,熟悉Hadoop生态相关技术并有相关实践经验着优先,如Hdfs、Mapreduce、Hive、Hbase、Spark、Storm;
4、精通数据预处理、检验、清洗、分析方法,精通各种常用统计检验方法;熟练掌握一门或多门编程语言,并有大型项目建设经验者优先,如Java、Python、Shell和scala等;
5、精通Linux,熟悉日常运维、搭建常见服务器、定位解决日常问题的能力,具备ETL开发经验优先;
6、良好的语言沟通与表达能力,有丰富的数据开发经验,较强的数据、平台、技术理解能力;
7、具备数学类、计算机类等相关专业统招本科及以上学历,具有3年及以上大数据开发工作经验,有互联网行业背景优先。
篇9:大数据开发工程师的基本职责
职责:
1、数字货币领域数据统计分析,负责数字货币量化投资策略的设计、管理以及实际投资运作
2、与交易员对接,制定切实可行的的策略测试计划,开展新策略模型的开发和验证
3、协助交易员进行交易、风险管理,并对实际交易结果进行量化的绩效分析,推动交易自动化
4、上级交办的其他工作
任职要求:
1、数学/计算机/金融专业毕业,有扎实的算法和机器学习的理论基础
2、有量化实盘交易经验,具备丰富的数学建模经验及较强的数据处理能力优先
3、对金融市场的价格波动有独特理解和深入的量化分析,具备一定对冲策略研究经验;
4、对数字货币领域感兴趣,结果导向;
5、有网页抓取和爬虫程序编写经验者优先。
篇10:大数据开发工程师岗位的职责描述
职责:
1、参与南方电网软件产品(项目)前/后台服务开发,要求高性能、高可用、高并发;
2、独立完成产品模块(项目)核心代码开发、业务代码开发、系统性能调优等工作;
3、根据分配任务制定开发计划并按时完成相应模块的设计、开发和单元测试;
4、参与产品(项目)相关系统需求分析以及撰写相关系统设计文档;
要求:
1. 五年左右大数据研发岗位工作经验
2、丰富大数据开发经验:熟悉企业大数据常用技术,熟悉Spark、Flume、Hbase、Hadoop、Kafka,ES技术;
3、具有大型应用系统开发经验,具有分布式、高并发、高性能等架构经验,具有一定团队管理经验者优先;
4、了解J2EE技术平台及主流框架,具有SpingMVC、SpringBoot、Spring cloud、Mybatis、Redis等框架开发经验;
5、了解HTML5,CSS3,JavaScript,Ajax,jQuery等Web前端技术,熟悉jQuery、Bootstrap、AngularJS,VUE等主流前端JS框架中的一种;
篇11:大数据开发工程师岗位的职责描述
职责
1、负责大数据分析平台的建设,基于历史和业务实时数据构建数据挖掘模型;
2、根据需求设计和实现数据分析展示平台;
3、负责建立、维护和改进大数据分析流程、规范、方法;
4、负责基于大数据的数据分析算法研究,基于数据分析结果优化现有应用并探索新的应用。
任职要求:
1、本科及以上学历,统计、数学、计算机或相关专业/方向,3年以上数据分析、数据挖掘相关工作经验;
2、精通MATLAB、Python等大数据涉及的语言和工具,并能熟练运用相关数据分析工具实现数据分析方法;
3、对机器学习、数据挖掘算法及其应用有比较全面的认识和理解,熟悉主流数据挖掘框架;
4、熟悉分布式数据库、数据仓库和数据集市,熟悉数据库相关操作和编程;
5、具有优秀的发现、分析并解决问题的能力,积极性高,具有严谨缜密的工作习惯、较强的沟通能力及团队合作精神;
6、有旅游行业数据分析与挖掘从业经验者优先。有主导完成优秀应用、大型数据平台项目、有数据挖掘,算法设计等开发经验者优先。
- 会员制:对数据的开发刚刚开始2022-12-11
- 资深web前端开发工程师的工作职责表述2023-03-19
- 开发工程师英文求职信2025-02-24
- 开发工程师个人简历范文2021-11-09
- ios开发工程师简历2025-09-07
- 项目工程师职责2024-10-15
- 大数据时代读后感2025-05-25
- web开发工程师电子简历2022-12-11
- 数据库开发工程师的岗位职责说明2022-12-11
- 从多媒体开发工程师的就业前景2022-01-29