以下是小编收集整理的数据仓库工程师岗位的基本职责,本文共13篇,仅供参考,希望对大家有所帮助。本文原稿由网友“taochengyong”提供。
篇1:数据仓库工程师岗位的基本职责
职责:
1、负责金融行业数据仓库开发工作
2、负责与多个应用对接的接口和框架设计
3、充分理解产品需求,能够结合需求进行任务设计,完成详细设计文档的编写。
岗位要求:
1. 从事数据仓库及商业智能(BI)领域工作至少3年以上,熟悉数据仓库模型设计方法论,并有实际的模型设计经验,有大型数仓建设经验优先;
2. 精通数据仓库领域知识和管理技能,包括但不局限于:元数据管理、数据质量、主数据管理、性能调优等;
3.有主流商业/开源ETL工具(Informatica、Datastage、Kettle等)使用经验者优先;
4. 熟悉Hadoop生态相关技术并有相关实践经验,包括Hdfs、Map-Reduce、Hive、Hbase、Spark等,具备海量数据加工处理(ETL)相关经验;
5. 熟练使用java语言,对微服务架构有一定了解;
6. 具有较强的团队意识与良好的沟通能力及高度的工作责任感,热爱技术,有很强的钻研能力,乐于接受有挑战性的任务;
7、有团队管理经验优先。
篇2:数据仓库工程师岗位的基本职责
职责:
负责大数据数据仓库的建设,根据数据仓库及BI项目的需求,制定相关的设计方案和开发计划;
参与数据的分析处理和数据统计内容的架构设计与研发;
组织项目组成员完成数据仓库的开发和运维等;
负责公司数据规范、数据标准、数据指标梳理与定义;
协助技术人员完成数据管控平台的搭建,完成数据规范管理体系到信息平台的落地实施;
组织开展对数据平台各模块的内容进行培训;
制定和审计业务系统数据数据库模型设计规范;
任职资格:
有一定的互联网数据仓库经验;
深入了解 Hadoop 生态系统,熟悉HBase、Hive、Storm、spark等大数据开发工具中一种或几种;
具备大型数据仓库架构设计、模型设计、ETL 设计的相关经验;
关系型数据库原理基础扎实,熟悉 MySQL/PostgreSQL等的使用和调优;
有独立设计数据仓库经验、熟悉数据仓库相关理论知识者优先;
篇3:数据仓库工程师岗位的基本职责
职责:
1、深入理解业务,了解需求和痛点,为风控和业务部门提供数据支持;
2、针对业务需求,参与数据仓库需求分析,制定ETL相关设计方案和开发计划;
3、负责数据同步,数据整合清洗,以及数据质量的治理;
4、数据仓库模型设计,分层体系构建,元数据管理监控以及权限控制。
任职资格:
1、重点院校统招本科及以上学历,计算机基础扎实;
2、具有2年以上金融贷款类业务经验;
3、熟悉数据仓库理论和数据库建模,有redshift和AWS经验优先;
4、精通pgsql/mysql等数据库,精通sql语言,具有数据库优化/sql优化相关经验;
5、熟练掌握python/shell语言。
篇4:数据仓库工程师岗位的基本职责
职责:
1、负责大数据开发工作;
2、负责公司数据服务接口平台的建设;
3、参与打造数据中台内容的规划、设计、开发工作,实现高质量数据的互通与共享; 4、参与数据模型体系构建及数据主题设计和开发,搭建离线、近线、实时数据公共层;
5、参与构建非结构化数据体系,进行网络数据爬取,数据清洗,特征挖掘,统计分析,并结合应用场景实现落地。
岗位要求:
1、本科以上学历,计算机、数学、统计学等相关专业;
2、熟悉数据集成、数据仓库、数据分析等全流程数据处理,具备开源或阿里大数据平台实战经验,如hive/spark/Maxcompute;
3、熟悉数据治理体系,包括数据模型、数据标准、数据质量等;
4、熟悉常见的离线、实时、流式数据应用场景及架构;
5、至少掌握一门开发语言,Java/Python;
6、具备良好的沟通能力和设计文档编写能力;
7、懂数据挖掘、知识图谱的构建者优先。
篇5:数据仓库工程师岗位的基本职责
职责:
1.参与打造数据中心内容的规划、设计、开发和优化工作,实现高质量数据的互通与共享;
2.参与数据模型体系构建及数据主题设计和开发,搭建离线、实时数据仓库;
3.参与数据产品与应用的数据研发;
4.负责日常应用系统监控,发现异常问题及时分发,并跟进后续处理;
5.编写Python程序,或ETL技术完成日常数据抽取和整理任务,可独立进行数据分析;
岗位要求:
1.熟悉ETL开发、数据仓库设计流程,熟悉Oracle, MS SQL Server 等主流数据库,表结构设计,存储过程编写;
2.熟练掌握常用Linux命令,具备shell编程能力,熟练掌握Python编程语言
3.具有较强的语言表达和沟通能力,良好的团队合作精神
4.逻辑思维能力强,对数据敏感,有较强学习能力和创新思维;
5.具有高度的责任感和敬业精神,能够承受较大的工作压力
篇6:数据仓库工程师的基本职责
职责:
1、根据公司业务需求,构建可扩展的数据仓库,负责数据模型的规划设计实现和优化。
2、负责业务数据的采集,清洗,特征抽取。
3、负责ETL的维护工作,发现故障及时诊断、定位、分析和调试,保证数据准确、稳定。
4、根据业务需要,提供面向业务的报表、数据提取等数据服务。
5、参与业务数据分析体系的数据统计、分析及建模。
任职资格:
1、统招本科及以上学历,三年以上数据仓库、BI开发经验;至少两年
2、熟练使用oracle、mysql、Postgres等关系型数据库及Hive、Hbase、spark、impala等基于hadoop集群的组件、编写优秀的存储过程、熟悉shell脚本语言,有良好的代码习惯
3、熟悉数据仓库建设的流程及方法论、理解维度建模,有实际的模型设计经验及ETL相关开发经验;
4、熟悉二种以上开源或商业的BI工具,有报表及可视化开发经验,熟悉帆软开发优先;
5、互联网金融工作经验优先,汽车金融行业经验优先
5、较强的逻辑思维能力和学习能力,对数据有敏锐的认知力,工作态度踏实、认真、积极主动,有良好的团队协作能力、执行力以及抗压工作能力和心态,乐于沟通交流和分享。
篇7:数据仓库工程师的基本职责
职责:
1.负责VIVO公司级的数据集市和数据仓库的设计和开发
2.负责基于用户行为的用户标签探索和开发
3.负责基于业务需求的数据中间层和可视化开发
4.负责各类分类和预测模型的开发
任职资格:
1.本科学历,数统、计算机相关专业。
2.了解hadoop\\spark生态,有完整仓库设计和开发经验。
3.精通hql调优,shell\\python,熟练使用常规机器学习算法。
篇8:数据仓库工程师的基本职责
职责:
1、负责公司大数据平台建设、开发
2、依据业务需求,进行数据产品的规划和设计开发,为数据分析和运营等人员搭建友好高效的数据产品,如报表、BI系统等
3、协助对业务数据进行分析、建模,为业务部门的数据化运营提供支持
任职要求:
1、本科或以上学历,2年以上大数据开发或数据仓库或BI经验,熟练掌握Java或者Python开发语言
2、熟悉Hadoop或Hadoop生态圈相关技术,如Hive、Spark等,或者大数据云服务技术。
3、对业务有敏锐的洞察力,有较强的业务理解与分析能力;
4、具备良好的团队合作精神,有较好的沟通交流能力,善于主动思考和行动,乐于解决具有挑战性的问题;
5、具有电商领域大数据开发、推荐系统研发经验的优先考虑。
篇9:数据仓库工程师的基本职责
职责:
1. 独立完成ETL 需求分析、设计、开发及部署工作
2. 独立完成BI分析报表等应用的需求分析、模型设计、数据处理、报表开发等工作;
3. 配合开发经理完成BI分析报表等项目的过程管理、元数据管理、质量管理;
4. 完成实时大数据处理系统及批处理系统的架构设计及实现;
5、负责BI分析报表等应用的系统部署及运维
任职要求:
1. 计算机相关专业本科及以上学历,3年以上相关开发经验;
2. 精通主流关系型数据库,精通SQL优化、ETL问题定位,能够从模型设计层面做ETL优化;
3. 精通ETL架构的设计,精通BI/DW,精通数据仓库模型设计;
4. 熟悉Hadoop、Map/Reduce的原理,能够选用合适的工具设计、编写Hadoop的ETL程序;
5. 熟悉Shell/Perl/Python等脚本语言;
6. 熟悉kettle及sqoop; 精通元数据管理、数据质量分析和处理设计。
篇10:数据仓库工程师的基本职责
职责:
1、负责全平台流量及业务数据开发,参与数据模型体系构建及数据主题设计,为BI数据报表提供底层数据支持;
2、理解产品、业务人员的数据需求,提供OLAP、数据提取等数据服务;
3、参与数据仓库模型设计,负责元数据建设、数据融合、多维度事实表及维表的数据仓库开发;
4、参与项目ETL的设计、开发、调度、执行、处理,进行模型性能及ETL流程调优;
任职要求:
1、大学本科及以上学历,5年以上工作经验;
2、熟悉ORACLE、MYSQL、SQL Server等主流数据库,熟练使用Power designer、kettle、Data service等数据仓库及ETL工具,了解Dashboard、Smart BI、Power BI、Cognos等前端开发工具;
3、熟悉Data Cube,并精通SQL,熟练使用Hive、Spark-SQL, python、Shell等进行数据开发,具备开发复杂业务逻辑的数据处理及分析能力;
4、熟悉数据仓库理论,掌握Kimball维度建模方法,有ETL开发和数仓模型设计经验;
5、有很强的自我驱动力,对开源技术非常感兴趣并具有一定的研究能力;
篇11:数据仓库工程师岗位的工作职责
职责:
1、参与据仓库的长期架构规划,与数据开发,建设共享大数据平台;
2、负责数据平台相关数据管理工作,如研发规范、质量规范、保障规范的制定与推动实施落地;
3、负责来自业务团队数据需求的研发支撑;
4、大规模数据挖掘和机器学习算法的实现和维护;
5、在线和离线海量数据分析平台的开发;
6、负责数据仓库的建设和维护,包括需求调研分析、软件规划、概念模型、设计逻辑、物理模型、数据处理(抽取、清洗、转化)、项目实施管控等;
7、负责制定数据接入和采集规范制定。
任职要求:
1、从事数据仓库领域工作2年以上;
2、熟悉数据建模、ETL设计与应用、报表开发等,并有实际模型设计及ETL开发经验 ;具有良好的编程习惯和文档编写习惯;
3、熟悉数据仓库领域知识和管理技能,包括但不局限于:元数据管理、数据质量、性能调优等;
4、掌握大型数据库开发技术,如Oracle、Teradata、DB2、Mysql等等掌握至少其中一种,灵活运用SQL实现海量数据ETL加工处理;
5、了解大数据基础架构和平台 ,具备相关产品(Hadoop、Hive、HBase、Pig、Sqoop、Spark等)项目应用研发经验,有MapReduce开发的实战经验者优先考虑;
6、熟悉linux系统;
7、熟练掌握python语言;
8、熟悉数据可视化的基本方法,有数据可视化的开发经验优先;
9、对数据敏感,具有良好的逻辑分析、责任心强、良好的对外沟通和团队协作能力
篇12:数据仓库工程师岗位的职责概述
职责:
1、参与公司数据仓库基础平台的建设
2、参与数据建模及数据仓库应用产品的设计和开发。
3、参与数据仓库ETL流程的优化及解决ETL相关的技术问题。
4、通过专项分析,输出专项分析报告,为业务模块的决策和产品方向提供数据支持
5、通过市场细分、同期群分析或者AB测试来分析数据,根据数据变化定位产品的运行现状;
6、其他工作,参与完成各类分析报告、报表等其他指定的工作。
岗位要求:
1.本科以上学历,有三年以上互联网数据仓库设计和实现经验。
2.熟悉数据仓库各类模型建模理论,了解数据仓库数据分层架构,熟悉3NF和多维数据模型设计。
3.具备Hadoop、Hive、Hbase,Spark,Kylin等大数据技术处理经验,并具有开发经验者更佳。
4.热爱数据工作,具有学习精神,有超强责任心和上
篇13:数据仓库工程师岗位的工作职责
职责:
1. 负责数据仓库建设、设计、优化和落地
2. 负责数据ETL任务开发及日常维护
3. 对数据ETL任务进行性能调优及性能瓶颈分析
4. 学习新技术,提高整个平台的计算能力和效率
任职要求:
1. 计算机相关专业,全日制本科及以上学历,2-5年工作经验
2. 熟悉数据仓库理论基础,对数据模型建设、应用层建设有比较丰富的经验
3. 熟练使用 SHELL或PYTHON
4. 熟悉HADOOP相关的大数据技术:HDFS, MAPREDUCE, HIVE
5. 能对HIVE进行性能分析及调优
6. 有MAPREDUCE开发经验优先
7. 良好的沟通能力、组织协调能力、应变能力, 极强的责任心、学习能力。
- 养护员岗位的基本职责2024-01-28
- 高级硬件测试工程师的基本职责2023-01-27
- PHP开发工程师的基本职责说明2022-12-11
- app测试工程师工作的基本职责2023-09-15
- 工程安全员岗位的基本职责概述2023-01-30
- 执行总经理岗位的基本职责表述2023-08-08
- 企管专员岗位的基本职责范围2023-07-22
- 产品测试工程师岗位的职责表述2023-01-17
- 需求分析工程师岗位的职责描述2024-06-28
- 硬件测试工程师岗位的工作职责2024-04-04