
崗位職責(zé)是什么
etl(extract, transform, load)工程師是一個專門負(fù)責(zé)數(shù)據(jù)處理和整合的專業(yè)角色。他們從各種數(shù)據(jù)源中抽?。╡xtract)數(shù)據(jù),對其進行清洗、轉(zhuǎn)換(transform),然后加載(load)到數(shù)據(jù)倉庫或大數(shù)據(jù)平臺,以支持企業(yè)的數(shù)據(jù)分析和決策制定。
崗位職責(zé)要求
1. 熟練掌握etl工具,如informatica, talend, ssis等,能進行高效的數(shù)據(jù)提取和加載。
2. 深入理解數(shù)據(jù)庫原理,熟悉sql編程,能夠優(yōu)化數(shù)據(jù)提取效率。
3. 具備數(shù)據(jù)清洗和預(yù)處理能力,能處理異常值、缺失值,確保數(shù)據(jù)質(zhì)量。
4. 掌握數(shù)據(jù)建模理論,能設(shè)計和實現(xiàn)符合業(yè)務(wù)需求的數(shù)據(jù)架構(gòu)。
5. 具備良好的編程基礎(chǔ),如python或java,用于編寫腳本和自動化任務(wù)。
6. 理解業(yè)務(wù)流程,能與業(yè)務(wù)部門有效溝通,明確數(shù)據(jù)需求。
崗位職責(zé)描述
etl工程師是數(shù)據(jù)工程團隊的核心成員,他們的工作涉及整個數(shù)據(jù)生命周期管理。他們不僅要確保數(shù)據(jù)的準(zhǔn)確性和完整性,還要保證數(shù)據(jù)的及時性,以滿足實時或近實時的數(shù)據(jù)分析需求。通過構(gòu)建和維護etl流程,他們將企業(yè)的運營數(shù)據(jù)轉(zhuǎn)化為有價值的信息,為管理層提供決策支持。
有哪些內(nèi)容
1. 需求分析:與業(yè)務(wù)團隊協(xié)作,理解并定義數(shù)據(jù)提取、轉(zhuǎn)換和加載的需求。
2. 設(shè)計etl流程:規(guī)劃數(shù)據(jù)流,設(shè)計和實施高效的數(shù)據(jù)轉(zhuǎn)換邏輯。
3. 編寫和調(diào)試etl腳本:使用專業(yè)工具或編程語言創(chuàng)建數(shù)據(jù)抽取和轉(zhuǎn)換規(guī)則。
4. 數(shù)據(jù)質(zhì)量監(jiān)控:設(shè)定數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn),實施數(shù)據(jù)驗證,確保數(shù)據(jù)的準(zhǔn)確性。
5. 性能優(yōu)化:持續(xù)監(jiān)控etl性能,調(diào)整和優(yōu)化以提高處理速度和效率。
6. 文檔編寫:記錄etl流程,以便于維護和知識傳遞。
7. 系統(tǒng)集成:與數(shù)據(jù)庫管理員、數(shù)據(jù)分析師和業(yè)務(wù)智能團隊協(xié)作,確保數(shù)據(jù)的無縫集成。
8. 故障排查和修復(fù):當(dāng)數(shù)據(jù)問題發(fā)生時,迅速定位并解決,防止影響業(yè)務(wù)運行。
9. 持續(xù)改進:跟蹤新技術(shù)和最佳實踐,提升etl流程的自動化程度和靈活性。
作為etl工程師,他們需要不斷適應(yīng)快速變化的技術(shù)環(huán)境,以滿足企業(yè)日益復(fù)雜的數(shù)據(jù)處理需求,同時保持對業(yè)務(wù)目標(biāo)的敏銳洞察,以驅(qū)動數(shù)據(jù)驅(qū)動的業(yè)務(wù)決策。
etl崗位職責(zé)范文
第1篇 高級etl開發(fā)經(jīng)理職位描述與崗位職責(zé)任職要求
職位描述:
崗位職能:
1. 基于公司數(shù)據(jù)建設(shè)需要,完成數(shù)據(jù)平臺構(gòu)建、數(shù)據(jù)內(nèi)容開發(fā)等工作。包括:數(shù)據(jù)平臺基礎(chǔ)設(shè)施建設(shè)、數(shù)據(jù)采集、etl、數(shù)倉及數(shù)據(jù)集市、數(shù)據(jù)應(yīng)用產(chǎn)品等開發(fā)工作;
2. 充分理解需求文檔,基于此進行自測,交付高質(zhì)量的開發(fā)代碼和數(shù)據(jù)內(nèi)容;
3. 工作中對數(shù)據(jù)平臺基礎(chǔ)設(shè)施、數(shù)據(jù)內(nèi)容建設(shè)等工作主動深度思考,提升效能并積極建言、促進組織和系統(tǒng)發(fā)展;
4. 團隊日常管理,及其他根據(jù)部門需要安排事宜。
崗位要求:
1. 信息技術(shù)類、數(shù)學(xué)、統(tǒng)計學(xué)、計量經(jīng)濟學(xué)類專業(yè),本科,工作年限5年以上;
2. 熟悉數(shù)據(jù)倉庫模型設(shè)計和精通etl開發(fā)經(jīng)驗 ,掌握3nf,kimball的維度建模設(shè)計方法,具備海量數(shù)據(jù)加工處理(etl)相關(guān)經(jīng)驗 ;
3. 掌握至少一種數(shù)據(jù)庫開發(fā)技術(shù):oracle、teradata、db2、mysql等,精通并靈活運用sql實現(xiàn)海量數(shù)據(jù)etl加工處理 ;
4. 熟悉linu_系統(tǒng)常規(guī)shell處理命令,靈活運用shell做的文本處理和系統(tǒng)操作 ;
5. 有從事分布式數(shù)據(jù)存儲與計算平臺應(yīng)用開發(fā)經(jīng)驗 ;
6. 熟練掌握一門或多門編程語言,并有大型項目建設(shè)經(jīng)驗者優(yōu)先,重點考察python、perl、java ;
7. 熟悉數(shù)據(jù)倉庫領(lǐng)域知識和技能者優(yōu)先,包括但不局限于:數(shù)據(jù)開發(fā)測試工具與方法、數(shù)據(jù)質(zhì)量等;
8. 良好的語言溝通與表達能力和自我驅(qū)動動力。
注:此崗位需在杭州一個月
第2篇 etl數(shù)據(jù)工程師職位描述與崗位職責(zé)任職要求
職位描述:
職責(zé):
1. 按業(yè)務(wù)分析需求進行建模;
2. 進行數(shù)據(jù)倉庫需求分析、方案設(shè)計、etl裝載過程設(shè)計;
3. 從業(yè)務(wù)數(shù)據(jù)庫到數(shù)據(jù)倉庫的etl開發(fā);
4. 結(jié)合業(yè)務(wù)流程和需求進行數(shù)據(jù)分析;
任職資格:
1. 本科以上學(xué)歷,計算機等信息技術(shù)相關(guān)專業(yè);
2. 有互聯(lián)網(wǎng)金融相關(guān)工作經(jīng)驗,了解相關(guān)數(shù)據(jù)流和業(yè)務(wù)背景優(yōu)先;
3. 兩年及以上數(shù)據(jù)倉庫相關(guān)工作經(jīng)驗,對數(shù)據(jù)倉庫系統(tǒng)架構(gòu)具有良好的認(rèn)識,熟悉數(shù)據(jù)倉庫相關(guān)技術(shù),如 etl、報表開發(fā),具備數(shù)據(jù)分析技術(shù)并具有相關(guān)項目經(jīng)驗;
4. 具有hive、spark、mysql、oracle等至少一種大型數(shù)據(jù)庫的應(yīng)用開發(fā)經(jīng)驗,熟悉數(shù)據(jù)標(biāo)準(zhǔn)管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理;
5. 具備python統(tǒng)計和數(shù)據(jù)挖掘相關(guān)基本開發(fā)能力;
6. 溝通能力好,善于規(guī)劃和總結(jié),注重團隊合作及知識共享,能承擔(dān)一定的工作壓力;
第3篇 etl數(shù)據(jù)分析崗位職責(zé)
bi數(shù)據(jù)分析-數(shù)據(jù)開發(fā)(etl工程師) 阿里健康 阿里健康科技(中國)有限公司,阿里健康,阿里健康科技(北京)有限公司,阿里 數(shù)據(jù)開發(fā)
1、構(gòu)建全面的、準(zhǔn)確的、能反映服務(wù)業(yè)務(wù)線特征的整體指標(biāo)體系, 并基于業(yè)務(wù)監(jiān)控指標(biāo)體系,及時發(fā)現(xiàn)與定位業(yè)務(wù)問題;
2、根據(jù)日常業(yè)務(wù)及產(chǎn)品團隊的需求,提供業(yè)務(wù)監(jiān)控,業(yè)務(wù)評估的各項數(shù)據(jù)指標(biāo);
3、根據(jù)業(yè)務(wù)發(fā)展情況,從數(shù)據(jù)中發(fā)現(xiàn)業(yè)務(wù)及產(chǎn)品的問題點及機會點,給業(yè)務(wù)及產(chǎn)品提供相應(yīng)的方向;
4、沉淀分析思路與框架, 提煉數(shù)據(jù)產(chǎn)品需求,與相關(guān)團隊(如技術(shù)開發(fā)團隊) 協(xié)作并推動數(shù)據(jù)產(chǎn)品的落地;
5、與業(yè)務(wù)協(xié)作(行業(yè)團隊)組織數(shù)據(jù)的理念、技能、工具的培訓(xùn)。
崗位描述:
1. 負(fù)責(zé)各條業(yè)務(wù)線數(shù)據(jù)倉庫搭建,場景梳理,數(shù)據(jù)維護;
2. 負(fù)責(zé)公司內(nèi)部跨部門項目數(shù)據(jù)場景梳理,資源調(diào)配工作;
3. 負(fù)責(zé)從已有的數(shù)據(jù)中挖掘?qū)I(yè)務(wù)目標(biāo)起到推動作用的分析結(jié)論。
崗位要求:
1、統(tǒng)計、數(shù)學(xué)、信息技術(shù)、生物統(tǒng)計本科以上學(xué)歷,有電商bi工作經(jīng)驗優(yōu)先;
2、良好的數(shù)據(jù)敏感度,能從海量數(shù)據(jù)提煉核心結(jié)果,有數(shù)據(jù)分析、挖掘、清洗和建模的經(jīng)驗;
3、有從事分布式數(shù)據(jù)存儲與計算平臺應(yīng)用開發(fā)經(jīng)驗,熟悉hadoop生態(tài)相關(guān)技術(shù)并有相關(guān)開發(fā)經(jīng)驗,熟練運用sql,能高效的與數(shù)據(jù)技術(shù)團隊進行溝通者尤佳;
4、較為豐富的數(shù)據(jù)倉庫及數(shù)據(jù)平臺的架構(gòu)經(jīng)驗,精通數(shù)據(jù)倉庫建模及etl設(shè)計開發(fā)。
第4篇 etlhive崗位職責(zé)etlhive職責(zé)任職要求
etlhive崗位職責(zé)
崗位職責(zé):
1、負(fù)責(zé)品牌官方微信、微博、官網(wǎng)的內(nèi)容創(chuàng)作及運營管理工作,定期輸出運營分析報告;
2、負(fù)責(zé)制定清晰的社交媒體運營策略及目標(biāo),提升品牌粉絲數(shù)量、活躍度及忠誠度;
3、負(fù)責(zé)策劃全年度線上營銷活動,確保活動的成功開展,并對活動數(shù)據(jù)進行分析評估;
4、負(fù)責(zé)拓展維護各渠道kol資源,與各渠道官媒、kol等開展有效互動;
5、負(fù)責(zé)拓展其他符合品牌調(diào)性的線上推廣渠道(如百度貼吧、知乎、微博、豆瓣、微信公眾號等);
6、配合線下活動事件(品質(zhì)活動,高端私享會等)進行線上推廣;
7、協(xié)助品牌官方粉絲社群的搭建及運營維護。
任職要求:
1、2年以上新媒體文案策劃經(jīng)驗,具備獨立撰寫營銷策劃方案、制作熱點話題的能力;
2、市場營銷、漢語言文學(xué)、新聞學(xué)等本科學(xué)歷,有粉絲運營經(jīng)驗者優(yōu)先;
3、具備優(yōu)秀的寫作功底和文字駕馭能力,文案邏輯清晰,腦洞大,思路廣,感染力強;
4、熟練掌握office系列辦公軟件,掌握ps、__等設(shè)計軟件者優(yōu)先;海報設(shè)計制作,h5制作
有實操經(jīng)驗;
5、熱愛閱讀、有定期寫作習(xí)慣;
6、具備較強的溝通能力及執(zhí)行能力,性格開朗,具有一定的團隊意識。
第5篇 etl架構(gòu)師崗位職責(zé)
數(shù)據(jù)倉庫架構(gòu)師/etl工程師 同程藝龍 同程網(wǎng)絡(luò)科技股份有限公司,同程旅游,同程藝龍,同程 位職責(zé):
1、負(fù)責(zé)數(shù)據(jù)倉庫數(shù)據(jù)采集、處理、存儲以及挖掘分析的架構(gòu)實現(xiàn),負(fù)責(zé)架構(gòu)設(shè)計和指導(dǎo)團隊落地;
2、參與數(shù)據(jù)平臺建設(shè),包括環(huán)境和框架的規(guī)劃搭建以及部分核心編碼工作;設(shè)計并實現(xiàn)對bi分析、數(shù)據(jù)產(chǎn)品開發(fā)、算法開發(fā)的系統(tǒng)性支持;
3、研究未來數(shù)據(jù)模型和計算框架的創(chuàng)新與落地,包括但不限于以下領(lǐng)域:大規(guī)模數(shù)據(jù)實時化、研發(fā)模式敏捷化、數(shù)據(jù)計算框架輕量化、數(shù)據(jù)模型組織方式業(yè)務(wù)化等方面。
職位要求:
1、具備5年以上dw系統(tǒng)建設(shè)經(jīng)驗;了解數(shù)據(jù)倉庫建設(shè)過程中的挑戰(zhàn)與問題,有實際架構(gòu)設(shè)計和數(shù)據(jù)建模經(jīng)驗,有作為技術(shù)負(fù)責(zé)人系統(tǒng)化解決問題的成功案例;
2、有dw/bi架構(gòu)體系中某些領(lǐng)域的專項建設(shè)經(jīng)驗,包括但不限于:數(shù)據(jù)質(zhì)量、元數(shù)據(jù)管理、主數(shù)據(jù)管理、數(shù)據(jù)監(jiān)控、流計算、分布式計算、分布式文件系統(tǒng)、分布式存儲、大規(guī)模數(shù)據(jù)實時化、跨平臺資源調(diào)度;
3、熟悉hadoop生態(tài)圈,包括但不限于:hadoop、hive、storm、spark、dremel、kylin等;
4、有海量數(shù)據(jù)建模實踐經(jīng)驗優(yōu)先。
第6篇 數(shù)據(jù)平臺etl開發(fā)工程師職位描述與崗位職責(zé)任職要求
職位描述:
工作職能:
1、負(fù)責(zé)海量數(shù)據(jù)的etl處理。
技能要求:
1、熟悉oracle數(shù)據(jù)庫及sql開發(fā);
2、精通java、shell;
3、掌握hadoop、hive、kafka、elasticsearch、flink或多項大數(shù)據(jù)開發(fā)技術(shù);
4、有flink相關(guān)開發(fā)經(jīng)驗優(yōu)先。
福利待遇:
雙休 五險一金 法定節(jié)假日 健身房 出國旅游
免費體檢 帶薪年假 年終獎
第7篇 高級etl開發(fā)工程師職位描述與崗位職責(zé)任職要求
職位描述:
工作職責(zé):
1、負(fù)責(zé)數(shù)據(jù)平臺的etl設(shè)計開發(fā)、工作流調(diào)度設(shè)計、存儲過程開發(fā)、自定義函數(shù)開發(fā)。
2、負(fù)責(zé)各業(yè)務(wù)系統(tǒng)數(shù)據(jù)源業(yè)務(wù)調(diào)研、數(shù)據(jù)調(diào)研、準(zhǔn)確性完整性驗證。
3、負(fù)責(zé)項目中與第三方系統(tǒng)基于數(shù)據(jù)庫的數(shù)據(jù)對接、數(shù)據(jù)預(yù)處理、數(shù)據(jù)清洗、數(shù)據(jù)處理、數(shù)據(jù)導(dǎo)入、數(shù)據(jù)校驗相關(guān)開發(fā)工作。
4、負(fù)責(zé)數(shù)據(jù)平臺的etl相關(guān)軟件和工具的研發(fā)和改進。
5、負(fù)責(zé)數(shù)據(jù)平臺日常管理、跑批、維護、監(jiān)控、處理臨時數(shù)據(jù)需求。
任職資格:
1、本科計算機相關(guān)專業(yè),5年工作經(jīng)驗
2、具備3年或以上etl數(shù)據(jù)處理相關(guān)開發(fā)經(jīng)驗
3、擁有3年以上sql開發(fā)
4、掌握hadoop?hive-hql?基礎(chǔ)技能
第8篇 高級etl工程師職位描述與崗位職責(zé)任職要求
職位描述:
1、負(fù)責(zé)公司數(shù)據(jù)平臺項目的etl設(shè)計、實現(xiàn)以及優(yōu)化。
2、負(fù)責(zé)etl流程優(yōu)化,關(guān)鍵問題解決、團隊技術(shù)與引導(dǎo)和前瞻性技術(shù)研究;
3、參與數(shù)據(jù)倉庫數(shù)據(jù)模型設(shè)計,進行數(shù)據(jù)質(zhì)量監(jiān)測、校驗和提升;
4、使用etl技術(shù)對醫(yī)院信息系統(tǒng)數(shù)據(jù)進行提取、清洗、轉(zhuǎn)換和整合;
崗位要求:
1、至少三年以上etl數(shù)據(jù)開發(fā)經(jīng)驗;計算機相關(guān)專業(yè)本科以上學(xué)歷,熟悉數(shù)據(jù)分析與數(shù)據(jù)挖掘理論;
2、熟悉dw實施方法論和常規(guī)etl構(gòu)架,有整體etl開發(fā)經(jīng)驗,深刻理解元數(shù)據(jù)管理;
3、熟練掌握oracle、sql server、mysql、postgresql等至少兩種主流數(shù)據(jù)庫的使用;
4、熟練掌握ssis、kettle、informatica等至少一種etl工具的使用;
5、精通sql、存儲過程、函數(shù)的使用,具備編寫、優(yōu)化復(fù)雜sql的能力;
6、對數(shù)字,數(shù)據(jù)敏感,具備良好的邏輯思維能力;
7、具備專業(yè)的業(yè)務(wù)研究、分析能力,能夠獨立開展業(yè)務(wù)調(diào)研、數(shù)據(jù)分析、數(shù)據(jù)建模、報告編寫工作;
8、有醫(yī)療衛(wèi)生數(shù)據(jù)平臺開發(fā)、實施經(jīng)驗優(yōu)先;
9、能適應(yīng)長期出差。
第9篇 高級/資深etl工程師職位描述與崗位職責(zé)任職要求
職位描述:
崗位職能:
1. 基于公司數(shù)據(jù)建設(shè)需要,完成數(shù)據(jù)平臺構(gòu)建、數(shù)據(jù)內(nèi)容開發(fā)等工作。包括:數(shù)據(jù)平臺基礎(chǔ)設(shè)施建設(shè)、數(shù)據(jù)采集、etl、數(shù)倉及數(shù)據(jù)集市、數(shù)據(jù)應(yīng)用產(chǎn)品等開發(fā)工作;
2. 充分理解需求文檔,基于此進行自測,交付高質(zhì)量的開發(fā)代碼和數(shù)據(jù)內(nèi)容;
3. 工作中對數(shù)據(jù)平臺基礎(chǔ)設(shè)施、數(shù)據(jù)內(nèi)容建設(shè)等工作主動深度思考,提升效能并積極建言、促進組織和系統(tǒng)發(fā)展;
4. 其他根據(jù)部門需要安排事宜;
崗位要求:
1. 信息技術(shù)類、數(shù)學(xué)、統(tǒng)計學(xué)、計量經(jīng)濟學(xué)類專業(yè),研究生及以上學(xué)歷。優(yōu)秀候選人學(xué)歷可以放寬至本科,工作年限5年以上;
2. 熟悉數(shù)據(jù)倉庫模型設(shè)計和精通etl開發(fā)經(jīng)驗 ,掌握3nf,kimball的維度建模設(shè)計方法,具備海量數(shù)據(jù)加工處理(etl)相關(guān)經(jīng)驗 ;
3. 掌握至少一種數(shù)據(jù)庫開發(fā)技術(shù):oracle、teradata、db2、mysql等,精通并靈活運用sql實現(xiàn)海量數(shù)據(jù)etl加工處理 ;
4. 熟悉linu_系統(tǒng)常規(guī)shell處理命令,靈活運用shell做的文本處理和系統(tǒng)操作 ;
5. 有從事分布式數(shù)據(jù)存儲與計算平臺應(yīng)用開發(fā)經(jīng)驗,熟悉hadoop生態(tài)相關(guān)技術(shù)并有相關(guān)實踐經(jīng)驗著優(yōu)先,重點考察hdfs、hive(hql)、hbase ;
6. 熟練掌握一門或多門編程語言,并有大型項目建設(shè)經(jīng)驗者優(yōu)先,重點考察python、perl、java ;
7. 熟悉數(shù)據(jù)倉庫領(lǐng)域知識和技能者優(yōu)先,包括但不局限于:數(shù)據(jù)開發(fā)測試工具與方法、數(shù)據(jù)質(zhì)量等;
8. 良好的語言溝通與表達能力和自我驅(qū)動動力。
第10篇 中級etl開發(fā)職位描述與崗位職責(zé)任職要求
職位描述:
崗位職責(zé):
1、負(fù)責(zé)項目實施過程中所對接的第三方系統(tǒng)的數(shù)據(jù)處理及質(zhì)量分析,并完成項目實施過程中的etl工作;
2、熟練掌握etl設(shè)計過程,參與大數(shù)據(jù)平臺架構(gòu)的設(shè)計、開發(fā)、流程優(yōu)化及解決etl相關(guān)技術(shù)問題;
3、與用戶和項目組進行有效溝通,采集項目需求,并提出相應(yīng)的解決方案;
4、負(fù)責(zé)監(jiān)控etl并解決出現(xiàn)的問題及性能調(diào)優(yōu),協(xié)助完成bi數(shù)據(jù)建模;
5、根據(jù)規(guī)范,完成項目相關(guān)設(shè)計開發(fā)文檔的整理與編寫;
任職要求:
1、 統(tǒng)招全日制本科及以上學(xué)歷,具備大數(shù)據(jù)處理經(jīng)驗尤佳;
2、 熟悉etl工具,具有一定項目經(jīng)驗,負(fù)責(zé)監(jiān)控etl并解決出現(xiàn)的問題及性能調(diào)優(yōu);
3、熟悉hive和hadoop;
4、 具備一定的編程能力,熟悉至少一種常用編程語言,java尤佳;
5、 掌握關(guān)系數(shù)據(jù)庫常見用法,熟悉常見軟件的安裝,參與過項目的etl工具開發(fā)項目的完整分析、設(shè)計、開發(fā)流程者優(yōu)先;
6、 具備較強的自我學(xué)習(xí)能力、有較強分析問題的能力、人際溝通能力、團隊協(xié)作能力和工作責(zé)任感;
第11篇 etl/bi工程師職位描述與崗位職責(zé)任職要求
職位描述:
崗位職責(zé):
1、數(shù)倉開發(fā)、etl開發(fā);
2、銀行業(yè)數(shù)據(jù)模型的設(shè)計輔助、mapping和落地等;
3、shell腳本開發(fā)維護;
4、銀行業(yè)務(wù)系統(tǒng)的數(shù)據(jù)調(diào)研和分析;
任職要求:
1、本科及以上學(xué)歷,計算機或相關(guān)專業(yè);
2、2年以上oracle、db2等數(shù)據(jù)庫開發(fā)經(jīng)驗,熟悉數(shù)據(jù)庫體系結(jié)構(gòu);
3、精通pl/sql編程,精通存儲過程開發(fā);
4、熟悉linu_操作系統(tǒng);
5、熟悉etl調(diào)度工具和前端工具;
6、軟件基礎(chǔ)理論知識扎實,具備良好的數(shù)據(jù)結(jié)構(gòu)、算法功底,有一定獨立分析、技術(shù)研究能力;
7、良好的溝通能力、團隊合作精神、樂于;
8、具備較強的自學(xué)能力,有一點抗壓能力,能夠接受出差性質(zhì)的工作。
如有以下技術(shù)背景優(yōu)先考慮:
1、有銀行業(yè)系統(tǒng)開發(fā)經(jīng)驗;
2、參與過數(shù)倉項目開發(fā)、實施;
3、有數(shù)據(jù)治理項目經(jīng)驗的。
第12篇 etl工程師崗位職責(zé)職位要求
職責(zé)描述:
崗位職責(zé):
1、根據(jù)概要設(shè)計,進行詳細設(shè)計的文檔編寫;
2、負(fù)責(zé)etl過程的設(shè)計/開發(fā)實施、單元測試;
3、負(fù)責(zé)項目中etl相關(guān)需求調(diào)研、源數(shù)據(jù)調(diào)研、整體設(shè)計;
4、負(fù)責(zé)項目中環(huán)境安裝及配置。
5、維護和升級現(xiàn)有etl任務(wù)和存儲過程,快速定位并修復(fù)現(xiàn)有系統(tǒng)缺陷
職位要求:
1、 大專及以上學(xué)歷,計算機相關(guān)專業(yè),3年以上 etl 工作經(jīng)驗。
2、 熟悉etl開發(fā)流程,有hadoop和etl工作經(jīng)驗;有從傳統(tǒng)數(shù)據(jù)庫抽取數(shù)據(jù)到hive數(shù)據(jù)倉庫經(jīng)驗,了解sqoop應(yīng)用原理者優(yōu)先。
3、 熟悉主流數(shù)據(jù)庫sql server、oracle、db2、mysql等;熟悉開源的etl工具。
4、有海量數(shù)據(jù)處理工作經(jīng)驗,數(shù)據(jù)分析和挖掘經(jīng)驗者優(yōu)先;
5、做過數(shù)據(jù)倉庫、ods項目,對數(shù)據(jù)治理、數(shù)據(jù)標(biāo)準(zhǔn)及元數(shù)據(jù)有很好理念及實施經(jīng)驗的優(yōu)先;
6、熟練使用腳本語言:如perl、python、shell等任意一種以上;
7、熟悉linu_系統(tǒng)指令和性能優(yōu)化;
8、善于學(xué)習(xí)新技術(shù),對新技術(shù)有較強的接受能力;工作認(rèn)真細致,愿意于人交流溝通。
9、有大型數(shù)據(jù)倉庫系統(tǒng)研發(fā)、設(shè)計經(jīng)驗者優(yōu)先;
10、熟悉 java 語言或 hadoop 技術(shù)者優(yōu)先;
崗位要求:
學(xué)歷要求:大專
語言要求:不限
年齡要求:不限
工作年限:3-4年經(jīng)驗
第13篇 etl senior engineer職位描述與崗位職責(zé)任職要求
職位描述:
position responsibility:
1) work closely with the business unit and solution leads to better understand the requirement and ensure delivery quality and timeline
2) develop and m__nt__n etl process based on cloud platform
3) work closely in a global team for incident management, change management and fast trouble shooting with high quality resolution
4) as a senior resource, coach the junior resource in the team with good communication and team working skills
position requirement:
1) senior e_perience in ssis / informatica / datastage or other etl tools
2) e_perience of etl performance tuning, testing and data validation
3) strong sql programming knowledge and .net knowledge
4) e_perience in the understanding of data warehouse processes
5) e_perience in other programming language such as shell is preferred
6) understand big data technologies such as hadoop, spark, hbase, hive is a plus
第14篇 大數(shù)據(jù)開發(fā)高級工程師-etl方向職位描述與崗位職責(zé)任職要求
職位描述:
工作職責(zé):
1、 根據(jù)公司數(shù)據(jù)分析需求進行基于hadoop 平臺的項目開發(fā);
2、 根據(jù)需求進行數(shù)據(jù)倉庫模型設(shè)計,熟練使用kettle工具進行etl程序的開發(fā);包括實時數(shù)據(jù)加工,計算,etl,管理, 監(jiān)控等;
3、 負(fù)責(zé)針對源系統(tǒng)進行數(shù)據(jù)抽取、處理、分析等相關(guān)工作,及項目中涉及到的數(shù)據(jù)庫創(chuàng)建、維護及提供數(shù)據(jù)接口工作;
4、 負(fù)責(zé)設(shè)計并優(yōu)化基于hive 的數(shù)據(jù)倉庫的建設(shè);
5、 制定數(shù)據(jù)庫備份和恢復(fù)策略及工作流程與規(guī)范。
6、能出具消費品品牌制造行業(yè)應(yīng)用的數(shù)據(jù)分析技術(shù)解決方案,并落地。
任職資格:
1.從事數(shù)據(jù)倉庫領(lǐng)域至少2年以上,熟悉數(shù)據(jù)倉庫模型設(shè)計與etl開發(fā)經(jīng)驗 ,具備海量數(shù)據(jù)加工處理相關(guān)經(jīng)驗;
2. 熟悉數(shù)據(jù)倉庫領(lǐng)域知識和技能者優(yōu)先,包括但不局限于:元數(shù)據(jù)管理、數(shù)據(jù)開發(fā)測試工具與方法、數(shù)據(jù)質(zhì)量、主數(shù)據(jù)管理;
3.有從事分布式數(shù)據(jù)存儲與計算平臺應(yīng)用開發(fā)經(jīng)驗,熟悉hadoop生態(tài)相關(guān)技術(shù)并有相關(guān)實踐經(jīng)驗著優(yōu)先,重點考察hive、hdfs、hbase;
4. 熟練掌握kettlesqoop、data_、__rflow等;
5. 有消費品品牌制造、零售行業(yè)經(jīng)驗,尤其快消品行業(yè)和財務(wù)領(lǐng)域數(shù)據(jù)項目經(jīng)驗者優(yōu)先;
6. 熟悉分布式計算presto/imapa優(yōu)先;
7.有實時計算方面的經(jīng)驗的優(yōu)先。
第15篇 etl高級工程師崗位職責(zé)及相關(guān)職位要求
etl高級工程師職位要求
1、計算機、數(shù)學(xué)或統(tǒng)計等專業(yè),本科以上學(xué)歷;
2、精通sql語言;熟悉數(shù)據(jù)倉庫設(shè)計、建模;
3、精通python,能夠編寫腳本處理、分析數(shù)據(jù);
4、熟悉批量離線式分布式并行計算技術(shù)(如hadoop、mapreduce、hive、spark等)
5、熟悉sqlserver、mysql數(shù)據(jù)庫;了解redis等非關(guān)系型數(shù)據(jù)庫;
6、熟悉至少一種常用etl工具(如kettle、ssis、gobblin);了解常用報表工具(如reporting services以及各類開源報表);
7、了解常用數(shù)據(jù)挖掘方法(回歸、決策樹、聚類等)。
etl高級工程師崗位職責(zé)
1、負(fù)責(zé)國際網(wǎng)站后臺數(shù)據(jù)倉庫搭建、維護;
2、運用各類大數(shù)據(jù)工具設(shè)計etl流程,消費生產(chǎn)環(huán)境埋點、日志等數(shù)據(jù);
3、日常數(shù)據(jù)監(jiān)控以及數(shù)據(jù)預(yù)警,異常數(shù)據(jù)解讀挖掘,并與業(yè)務(wù)同事溝通解決方案;
4、分析用戶的特征和行為數(shù)據(jù),挖掘不同類型用戶的行為特性,為實際的業(yè)務(wù)運營提供數(shù)據(jù)支持;
5、從數(shù)據(jù)分析結(jié)果中尋找insight和商業(yè)價值,并以簡明扼要的形式傳導(dǎo)到其他部分,指導(dǎo)實際的業(yè)務(wù)運營;
6、處理國際網(wǎng)站的臨時數(shù)據(jù)需求,并對于常用重要需求轉(zhuǎn)化成數(shù)據(jù)產(chǎn)品。
第16篇 數(shù)據(jù)倉庫/etl/bi工程師職位描述與崗位職責(zé)任職要求
職位描述:
職責(zé)描述:
1、負(fù)責(zé)數(shù)據(jù)倉庫建模,業(yè)務(wù)數(shù)據(jù)集市建設(shè)開發(fā)
2、負(fù)責(zé)數(shù)據(jù)倉庫etl流程的優(yōu)化及解決etl相關(guān)技術(shù)問題、etl流程監(jiān)控,保障數(shù)據(jù)平臺架構(gòu)穩(wěn)定性
3、建立數(shù)據(jù)分析指標(biāo)體系,不斷完善指標(biāo)體系和分析模型;
4、通過專項分析,輸出專項分析報告
5、負(fù)責(zé)數(shù)據(jù)分析相關(guān)需求和數(shù)據(jù)測試的工作
任職要求:
學(xué)歷要求:
全日制統(tǒng)考類本科及以上學(xué)歷,計算機、通信、電子、軟件工程、統(tǒng)計學(xué)、應(yīng)用數(shù)學(xué)、數(shù)據(jù)分析等相關(guān)專業(yè)
專業(yè)技能:
1、熟悉數(shù)據(jù)倉庫各類模型建模理論,熟悉數(shù)據(jù)倉庫數(shù)據(jù)分層架構(gòu)和多維數(shù)據(jù)模型設(shè)計;
2、豐富的數(shù)據(jù)分析經(jīng)驗,熟練掌握sql、hql、sparksql,擅長運用其分析并完成復(fù)雜業(yè)務(wù)數(shù)據(jù)查詢
3、掌握至少一種數(shù)據(jù)庫開發(fā)技術(shù):mysql/oracle/db2等,靈活運用sql實現(xiàn)海量數(shù)據(jù)etl加工處理;
4、熟悉hadoop生態(tài)(如:hdfs/mapreduce/hive/hbase等),并有相關(guān)實踐經(jīng)驗;
5、熟練掌握一門或多門編程語言(如:python/shell/java/c++等),并有大型項目建設(shè)經(jīng)驗者優(yōu)先;
素質(zhì):
1、敏銳的數(shù)據(jù)觀察和分析能力,及時發(fā)現(xiàn)和分析其中隱含的變化和問題并給出建議;
2、良好的溝通能力和團隊精神,較強的學(xué)習(xí)能力,能承擔(dān)一定的工作壓力。
經(jīng)驗:
至少2年以上數(shù)據(jù)倉庫(離線&實時)模型設(shè)計開發(fā)、etl設(shè)計開發(fā)的相關(guān)經(jīng)驗,有通信運營商o域/b域大數(shù)據(jù)、智慧城市大數(shù)據(jù)的數(shù)據(jù)倉庫、etl設(shè)計研發(fā)經(jīng)驗者優(yōu)先
第17篇 etl崗位工作職責(zé)
簡介:etl,是英文 e_tract-transform-load 的縮寫,用來描述將數(shù)據(jù)從來源端經(jīng)過抽取(e_tract)、轉(zhuǎn)換(transform)、加載(load)至目的端的過程。etl一詞較常用在數(shù)據(jù)倉庫,但其對象并不限于數(shù)據(jù)倉庫。
etl職位描述(模板一)
崗位職責(zé):
1、協(xié)助做報表二次分析,主動思考,熱愛學(xué)習(xí);
2、負(fù)責(zé)報表開發(fā),數(shù)據(jù)中心建設(shè)。
任職要求:
1、精通oracle,sqlserver,mysql等主流數(shù)據(jù)庫;
2、熟悉etl,bi,cognos等數(shù)據(jù)處理工具;
3、有數(shù)據(jù)中心,數(shù)據(jù)倉庫建設(shè)經(jīng)驗優(yōu)先;
4、3年以上開發(fā)經(jīng)驗。etl職位描述(模板二)
崗位職責(zé):
1、根據(jù)公司業(yè)務(wù)需求,構(gòu)建可擴展的數(shù)據(jù)倉庫,負(fù)責(zé)數(shù)據(jù)模型的規(guī)劃,設(shè)計,實現(xiàn)和優(yōu)化;
2、負(fù)責(zé)業(yè)務(wù)數(shù)據(jù)的采集,清洗,特征抽取;
3、負(fù)責(zé)etl的維護工作,發(fā)現(xiàn)故障及時診斷、定位、分析和調(diào)試,保證數(shù)據(jù)準(zhǔn)確、穩(wěn)定;
4、根據(jù)業(yè)務(wù)需要,提供面向業(yè)務(wù)的報表、數(shù)據(jù)提取等數(shù)據(jù)服務(wù)。
任職要求:
1、計算機相關(guān)專業(yè),本科以上學(xué)歷,2年以上etl工作經(jīng)驗;
2、精通至少一種主流數(shù)據(jù)庫的開發(fā)和調(diào)優(yōu),可以根據(jù)需求編寫復(fù)雜存儲過程;
3、熟悉python、javascript、shell等至少一種腳本語言;
4、踏實認(rèn)真細心,有責(zé)任心和團隊精神。etl職位描述(模板三)
崗位職責(zé):
1、負(fù)責(zé)數(shù)據(jù)倉庫(ods、edw、csl、adm)的設(shè)計與開發(fā)、etl過程的設(shè)計與開發(fā);
2、負(fù)責(zé)各業(yè)務(wù)系統(tǒng)數(shù)據(jù)源業(yè)務(wù)探查、數(shù)據(jù)探查、id調(diào)研、準(zhǔn)確性完整性驗證;
3、為前端展示提供數(shù)據(jù)支持,為業(yè)務(wù)人員提供數(shù)據(jù)查詢;
4、數(shù)據(jù)倉庫日常管理、跑批、維護、監(jiān)控。
任職要求:
1、3年以上數(shù)據(jù)倉庫項目開發(fā)經(jīng)驗,本科以上學(xué)歷;
2、熟悉mysql、oracle等數(shù)據(jù)庫,熟悉kettle、powercenter等etl工具;
3、熟悉inmon企業(yè)數(shù)據(jù)倉庫(edw)設(shè)計理論與技術(shù)、kimball維度建模理論與技術(shù);
4、了解powerdesigner、erwin等建模工具,熟悉概念模型、邏輯模型、物理模型;
5、熟悉p2p、互聯(lián)網(wǎng)金融業(yè)務(wù)優(yōu)先;
6、熟悉hadoop生態(tài)圈sqoop、hive、hbase優(yōu)先;
7、責(zé)任心強、思路清晰、學(xué)習(xí)力強。etl職位描述(模板四)
崗位職責(zé):
1、負(fù)責(zé)數(shù)據(jù)的etl的工作;
2、負(fù)責(zé)數(shù)據(jù)分析工具平臺的設(shè)計和研發(fā);
3、讓數(shù)據(jù)平臺為公司的商業(yè)決策提供有效的支持。
任職要求:
1、大學(xué)本科以上學(xué)歷,3年以上工作經(jīng)驗,計算機相關(guān)專業(yè);
2、精通java和hive sql, 有sql性能調(diào)優(yōu)經(jīng)驗豐富的尤佳;
3、熟悉大數(shù)據(jù)相關(guān)技術(shù),對apache hadoop/hive/hbase/sqoop/spark等組件有一定程度的了解;
4、熟悉腳本語言python,perl,shell中的一種或幾種;
5、好的溝通能力、團隊精神和服務(wù)意識;
6、具有強烈的上進心和求知欲,優(yōu)秀的自主學(xué)習(xí)能力,自我管理能力。etl職位描述(模板五)
崗位職責(zé):
1、負(fù)責(zé)數(shù)據(jù)倉庫核心結(jié)構(gòu)設(shè)計,及相關(guān)數(shù)據(jù)模塊任務(wù)模塊設(shè)計;
2、負(fù)責(zé)各種業(yè)務(wù)數(shù)據(jù)的etl任務(wù)及數(shù)據(jù)倉庫部署和管理;
3、持續(xù)改進優(yōu)化etl、分析處理、數(shù)據(jù)呈現(xiàn)等流程,協(xié)調(diào)海量數(shù)據(jù)壓力問題;
4、保證數(shù)據(jù)安全、穩(wěn)定、可恢復(fù);
5、負(fù)責(zé)數(shù)據(jù)倉庫的日常維護工作。
任職要求:
1、計算機相關(guān)專業(yè)本科及以上學(xué)歷,三年以上模型設(shè)計相關(guān)工作經(jīng)驗,具 有金融/互聯(lián)網(wǎng)行業(yè)任職背景者優(yōu)先;
2、精通常用模型設(shè)計工具erwin、powerdesigner,熟悉tableau,pentaho 等bi軟件;
3、具有金融業(yè)bi項目模型設(shè)計或etl開發(fā)經(jīng)驗邏輯數(shù)據(jù)模型和建模經(jīng)驗;
4、熟悉掌握java/r/python語言,kettle組件,熟悉mysql、oracle等數(shù)據(jù) 庫,能熟練進行sql優(yōu)化;
5、有大數(shù)據(jù)處理經(jīng)驗,有hadoop/spark sql/mapreduce/hive等相關(guān)數(shù)據(jù) 處理經(jīng)驗優(yōu)先;
6、具有良好的邏輯分析能力、語言表達能力。
第18篇 etl engineer職位描述與崗位職責(zé)任職要求
職位描述:
incorporated in 2017, kpmg technology r&d centre combines four functions: r&d, in-house services, outsourced services and operational services.it is kpmg’s first r&d centre and second delivery centre in china.
as kpmg’s first r&d centre in china, our business activities currently include:
- development, design, production of computer software and computer system integration;
- __, r&d and delivery of technologies
- big data-related services and technical support, including data development, data processing, data mining etc.
driven by increasing market demand, we will e_pand the r&d centre’s scope of business on an ongoing basis to enable technologies to provide quality services for our clients.
崗位職責(zé)
- 負(fù)責(zé)公司數(shù)據(jù)倉庫系統(tǒng)etl開發(fā)、維護、監(jiān)控、優(yōu)化
- 參與數(shù)據(jù)倉庫建模,不斷改進現(xiàn)有數(shù)據(jù)倉庫
- 與bi分析師協(xié)同工作,解決數(shù)據(jù)報表、數(shù)據(jù)異常相關(guān)的技術(shù)問題
- 根據(jù)公司要求規(guī)范,編寫相應(yīng)的技術(shù)文檔
崗位描述
- 本科或以上學(xué)歷
- 2年以上相關(guān)工作經(jīng)驗 ,計算機或相關(guān)專業(yè)
- 至少熟悉datastage, informatica, odi, kettle中一種工具,有kettle或者odi使用經(jīng)驗更佳
- 熟悉oracle ,sql server, my sql等主流數(shù)據(jù)庫系統(tǒng)
- 有金融行業(yè)工作經(jīng)驗者優(yōu)先
第19篇 中級etl工程師崗位職責(zé)
中級etl工程師 比孚科技 上海比孚信息科技有限公司,比孚,比孚科技,比孚 職位描述:
1. 負(fù)責(zé)數(shù)據(jù)倉庫/數(shù)據(jù)集市etl設(shè)計開發(fā);
2. 負(fù)責(zé)與業(yè)務(wù)部門數(shù)據(jù)需求的溝通與確認(rèn);
任職資格:
1. 三以上工作經(jīng)驗;
2. 熟悉主流etl開發(fā)工具,如:ssis 、kettle、datastage等;
3. 熟練掌握主流數(shù)據(jù)庫的使用,如:sql server、mysql、oracle,對sql查詢優(yōu)化有豐富的經(jīng)驗;
4. 熟悉主流報表工具,如:tableau、powerbi、cognos;
5. 良好的溝通技能,清晰的邏輯思維能力;
6. 工作認(rèn)真仔細,積極主動,具備較強的自主學(xué)習(xí)、自我總結(jié)能力。
第20篇 etl數(shù)據(jù)分析崗位職責(zé)任職要求
etl數(shù)據(jù)分析崗位職責(zé)
職責(zé)描述:
1、與數(shù)據(jù)分析師、數(shù)據(jù)開發(fā)工程師配合,進行數(shù)據(jù)清洗、數(shù)據(jù)準(zhǔn)備;
2、理解數(shù)據(jù)分析及業(yè)務(wù),設(shè)計維護數(shù)據(jù)倉庫;
3、與數(shù)據(jù)分析師配合,進行數(shù)據(jù);
4、配合數(shù)據(jù)開發(fā)工程師,完成模型部署后的業(yè)務(wù)驗證、反饋。
任職要求:
1、 大學(xué)本科及以上,計算機信息類、數(shù)學(xué)/應(yīng)用數(shù)學(xué)類等專業(yè)背景;
2、3年以上工作經(jīng)驗,具有電力/能源/工業(yè)數(shù)據(jù)分析背景的人員優(yōu)先考慮;
3、熟悉數(shù)據(jù)結(jié)構(gòu),熟悉數(shù)據(jù)清洗、降維、變量選擇等數(shù)據(jù)準(zhǔn)備過程,能夠熟練實現(xiàn)海量數(shù)據(jù)的清洗、準(zhǔn)備;
4、對回歸、分類、聚類、關(guān)聯(lián)規(guī)則、時間序列、神經(jīng)網(wǎng)絡(luò)、決策樹及其他常用數(shù)據(jù)分析和挖掘技術(shù)有了解,能夠配合數(shù)據(jù)分析師開展相關(guān)分析挖掘;
5、能夠熟練使用至少一種主流關(guān)系數(shù)據(jù)庫及結(jié)構(gòu)化查詢語言,熟悉hive,并了解spark、hadoop等大數(shù)據(jù)架構(gòu)環(huán)境,能夠進行數(shù)據(jù)倉庫建設(shè)與維護;
6、熟練掌握python、r等語言工具中的至少一種,能夠熟練使用相關(guān)的數(shù)據(jù)分析、數(shù)據(jù)處理庫;
7、有l(wèi)inu_使用經(jīng)驗,了解shell操作。










