大數(shù)據(jù)架構(gòu)師職責
1.負責產(chǎn)品級業(yè)務系統(tǒng)架構(gòu)(如業(yè)務數(shù)據(jù)對象識別,數(shù)據(jù)實體、數(shù)據(jù)屬性分析,數(shù)據(jù)標準、端到端數(shù)據(jù)流等)的設計與優(yōu)化。協(xié)助推動跨領(lǐng)域重大數(shù)據(jù)問題的分析、定位、解決方案設計,從架構(gòu)設計上保障系統(tǒng)高性能、高可用性、高安全性、高時效性、分布式擴展性,并對系統(tǒng)質(zhì)量負責。
2.負責云數(shù)據(jù)平臺的架構(gòu)設計和數(shù)據(jù)處理體系的優(yōu)化,推動云數(shù)據(jù)平臺建設和持續(xù)升級,并制定云數(shù)據(jù)平臺調(diào)用約束和規(guī)范。
3.結(jié)合行業(yè)應用的需求負責數(shù)據(jù)流各環(huán)節(jié)上的方案選型,主導云數(shù)據(jù)平臺建設,參與核心代碼編寫、審查;數(shù)據(jù)的統(tǒng)計邏輯回歸算法、實時交互分析;數(shù)據(jù)可視化方案等等的選型、部署、集成融合等等。
4.對云數(shù)據(jù)平臺的關(guān)注業(yè)內(nèi)技術(shù)動態(tài),持續(xù)推動平臺技術(shù)架構(gòu)升級,以滿足公司不同階段的數(shù)據(jù)需求。
任職要求:
1.熟悉云計算基礎平臺,包括Linux(Ubuntu/CentOS)和KVM、OpenStack/K8S等基礎環(huán)境,熟悉控制、計算、存儲和網(wǎng)絡;
2.掌握大型分布式系統(tǒng)的技術(shù)棧,如:CDN、負載均衡、服務化/異步化、分布式緩存、NoSQL、數(shù)據(jù)庫垂直及水平擴容;熟悉大數(shù)據(jù)應用端到端的相關(guān)高性能產(chǎn)品。
3.精通Java,Python,Shell編程語言,精通SQL、NoSQL等數(shù)據(jù)庫增刪改查的操作優(yōu)化;
4.PB級別實戰(zhàn)數(shù)據(jù)平臺和生產(chǎn)環(huán)境的實施、開發(fā)和管理經(jīng)驗;
5.熟悉Docker等容器的編排封裝,熟悉微服務的開發(fā)和日常調(diào)度;
6.計算機、軟件、電子信息及通信等相關(guān)專業(yè)本科以上學歷,5年以上軟件工程開發(fā)經(jīng)驗,2年以上大數(shù)據(jù)架構(gòu)師工作經(jīng)驗。
大數(shù)據(jù)架構(gòu)師職責篇2
1.深刻理解政府行業(yè)業(yè)務模式,構(gòu)建政府行業(yè)的數(shù)據(jù)模型,制定公司大數(shù)據(jù)技術(shù)發(fā)展路線;
2.對接業(yè)務研究和技術(shù)部門,主動搜集和轉(zhuǎn)化需求,組織數(shù)據(jù)中心業(yè)務開發(fā),進行數(shù)據(jù)相關(guān)產(chǎn)品需求分析和設計;
3.搭建數(shù)據(jù)倉庫,研發(fā)數(shù)據(jù)庫管理系統(tǒng),搜集、提取、處理業(yè)務積累的海量數(shù)據(jù),開展數(shù)據(jù)分析和挖掘;
4.根據(jù)公司戰(zhàn)略和發(fā)展需要,規(guī)劃數(shù)據(jù)中心重點工作和任務;落實部門人員、事務管理,開展跨部門、跨地區(qū)協(xié)作,協(xié)助對外交流與合作。
職位要求:
1.5年以上相關(guān)工作經(jīng)驗,有團隊管理和項目管理經(jīng)驗者優(yōu)先;
2.了解政府運作機制,掌握財政行業(yè)知識,有電子政務行業(yè)經(jīng)驗者優(yōu)先;
3.熟練掌握使用Java或Python,精通數(shù)據(jù)庫查詢語言如SQL,Oracle等,在機器學習模型和算法方向有應用經(jīng)驗者優(yōu)先;
4.具備數(shù)據(jù)中心產(chǎn)品策劃整體思維,有大數(shù)據(jù)處理、分析、挖掘經(jīng)驗者優(yōu)先;
5.邏輯思維嚴密,具備業(yè)務抽象、分解和標準化的能力,口頭和書面表達優(yōu)秀;
6.有較強的大局意識和良好的團隊合作意識,富有領(lǐng)導力,具備優(yōu)秀的人際交往和溝通能力。
大數(shù)據(jù)架構(gòu)師職責篇3
1.負責公司大數(shù)據(jù)平臺的設計和開發(fā),負責spark,hadoop,flink等云計算平臺的開發(fā)和優(yōu)化;制定數(shù)據(jù)架構(gòu)規(guī)范,進行核心代碼編寫,指導團隊落地;
2.負責數(shù)據(jù)基礎架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化,技術(shù)難題攻關(guān),持續(xù)提升核心系統(tǒng)性能,保證系統(tǒng)的安全、穩(wěn)定、高效運行
3.設計并實現(xiàn)對BI分析、數(shù)據(jù)產(chǎn)品開發(fā)、算法開發(fā)的系統(tǒng)性支持
4.研究未來數(shù)據(jù)模型和計算框架的創(chuàng)新與落地,包括但不限于以下領(lǐng)域:大規(guī)模數(shù)據(jù)實時化、研發(fā)模式敏捷化、數(shù)據(jù)計算框架輕量化、數(shù)據(jù)模型組織方式業(yè)務化等方面參與制定并實踐團隊的技術(shù)發(fā)展路線
5.建立良好的公司內(nèi)外的業(yè)界技術(shù)影響力;參與培養(yǎng)未來數(shù)據(jù)人才;有效輔導團隊,提升數(shù)據(jù)研發(fā)能力
任職要求:
1.有很強的數(shù)據(jù)設計抽象能力,善于從復雜的數(shù)據(jù)問題中找到關(guān)鍵路徑,能夠開發(fā)創(chuàng)新而實際的分析方法以解決復雜的商業(yè)問題
2.有作為技術(shù)負責人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)建模實踐經(jīng)驗優(yōu)先
3.熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景,精通流式計算開發(fā),有開源二次開發(fā)經(jīng)驗者優(yōu)先,有NLP數(shù)據(jù)處理經(jīng)驗者優(yōu)先
4.性格積極樂觀,誠信,能自我驅(qū)動,有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協(xié)作、計劃和創(chuàng)新的能力
5.本科以上學歷,扎實的計算機專業(yè)基礎,有5年以上大數(shù)據(jù)平臺開發(fā)經(jīng)驗;
大數(shù)據(jù)架構(gòu)師職責篇4
1)負責大數(shù)據(jù)平臺系統(tǒng)架構(gòu)設計、核心開發(fā)工作(Hadoop&Spark技術(shù)方向),基于業(yè)務場景設計最優(yōu)的系統(tǒng)解決方案。
2)構(gòu)架支持大數(shù)量級的數(shù)據(jù)的大數(shù)據(jù)平臺系統(tǒng),及相關(guān)監(jiān)控,拓展系統(tǒng)設計及實現(xiàn)。
3)利用Hadoop、Spark等大數(shù)據(jù)技術(shù)對海量數(shù)據(jù)進行處理,支持BI和數(shù)據(jù)科學(建模)的應用實現(xiàn)。
4)對現(xiàn)有系統(tǒng)的進行架構(gòu)深入分析及系統(tǒng)優(yōu)化,進一步提升系統(tǒng)的性能及數(shù)據(jù)處理能力。
任職資格
1)統(tǒng)招本科或以上學歷,計算機相關(guān)專業(yè),5年以上軟件開發(fā)經(jīng)驗、3年以上大數(shù)據(jù)項目經(jīng)驗。
2)具備較豐富的大數(shù)據(jù)平臺相關(guān)構(gòu)建,維護及調(diào)優(yōu)經(jīng)驗,有大數(shù)據(jù)量級下的大數(shù)據(jù)集市相關(guān)經(jīng)驗。
3)具備較豐富的基于Hadoop或Hive或Spark等大數(shù)據(jù)處理項目經(jīng)驗,具備一定的數(shù)據(jù)挖掘經(jīng)驗。
4)具有阿里云的EMR(emapreduce)的經(jīng)驗者優(yōu)先考慮。
5)具有良好的業(yè)務理解、溝通和協(xié)作能力,具有較強的學習和總結(jié)能力。
6)優(yōu)秀的團隊合作精神、誠實、勤奮、嚴謹,敢于接受挑戰(zhàn)。
7)機器學習技術(shù)、數(shù)據(jù)挖掘經(jīng)驗豐富者優(yōu)先考慮。
大數(shù)據(jù)架構(gòu)師職責篇5
負責大數(shù)據(jù)平臺的規(guī)劃和搭建、完成大數(shù)據(jù)平臺的日常運營工作,為數(shù)據(jù)分析和展現(xiàn)提供支持;
對系統(tǒng)框架相關(guān)技術(shù)和業(yè)務進行培訓,并負責核心代碼編寫,指導團隊開發(fā)及解決出現(xiàn)的系統(tǒng)問題;
參與基于大數(shù)據(jù)平臺的創(chuàng)新業(yè)務場景進行數(shù)據(jù)產(chǎn)品的架構(gòu)設計,負責數(shù)據(jù)產(chǎn)品的研發(fā)交付;
負責處理大數(shù)據(jù)平臺的疑難問題,為數(shù)據(jù)團隊提供可靠的技術(shù)支持;
負責數(shù)據(jù)質(zhì)量、穩(wěn)定性等數(shù)據(jù)管理,數(shù)據(jù)內(nèi)部共享融通的數(shù)據(jù)平臺,讓數(shù)據(jù)標準更規(guī)范、數(shù)據(jù)獲取更高效;
及時跟進大數(shù)據(jù)領(lǐng)域新技術(shù)并分享,提升團隊技術(shù)能力。
任職要求:
本科或以上學歷,5年以上數(shù)據(jù)系統(tǒng)建設經(jīng)驗,3年以上大數(shù)據(jù)架構(gòu)設計經(jīng)驗;
精通java,python,scala等一種大數(shù)據(jù)開發(fā)語言,熟悉Hadoop生態(tài)圈,包括但不限于hdfs,hive,spark,有豐富的大數(shù)據(jù)項目的實踐經(jīng)驗;
具備創(chuàng)新精神,條理清晰,溝通表達和邏輯思維能力強;
熟悉數(shù)據(jù)倉庫的設計和開發(fā),對數(shù)據(jù)架構(gòu)有深入的了解和具備相關(guān)的項目實踐經(jīng)驗優(yōu)先;
對SQLonHadoop的開源查詢引擎(如Presto、ApacheDrill)原理有深入研究優(yōu)先;
有敏捷大數(shù)據(jù)和數(shù)據(jù)可視化實踐經(jīng)驗優(yōu)先。
大數(shù)據(jù)架構(gòu)師職責篇6
1.負責公司大數(shù)據(jù)底層框架的整體架構(gòu)設計,結(jié)合公司實際業(yè)務情況進行技術(shù)選型及大數(shù)據(jù)戰(zhàn)略規(guī)劃;
2.負責統(tǒng)一數(shù)據(jù)平臺項目的整體評估、設計、架構(gòu)及關(guān)鍵模塊的開發(fā),不斷提升系統(tǒng)的穩(wěn)定性和效率;
3.負責架構(gòu)優(yōu)化及系統(tǒng)關(guān)鍵模塊的設計開發(fā),協(xié)助團隊解決開發(fā)過程中的技術(shù)難題;
4.建立良好的公司內(nèi)外的業(yè)界技術(shù)影響力;有效輔導團隊,提升數(shù)據(jù)研發(fā)能力;
任職要求:
1.從事大數(shù)據(jù)項目相關(guān)開發(fā)和設計2年以上經(jīng)驗;有作為技術(shù)負責人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)實踐經(jīng)驗優(yōu)先;
2.擁有一定的算法和數(shù)據(jù)結(jié)構(gòu)基礎;有很強的數(shù)據(jù)設計抽象能力,善于從復雜的數(shù)據(jù)問題中找到關(guān)鍵路徑;
3.熟悉目前正在發(fā)展的大數(shù)據(jù)分布式平臺前沿技術(shù)的應用;包括但不僅僅限于:hadoop、storm、spark、等;
4.良好的邏輯思維能力,良好的業(yè)務解讀能力,懂電力或通信業(yè)務優(yōu)先;
5.具有鉆研精神,樂于接受挑戰(zhàn);
大數(shù)據(jù)架構(gòu)師職責篇7
1、負責大數(shù)據(jù)平臺架構(gòu)的評估、規(guī)劃和設計;負責海量數(shù)據(jù)采集、處理及存儲、應用方案的技術(shù)選型及架構(gòu)實現(xiàn);
2、開發(fā)大數(shù)據(jù)平臺的核心代碼,負責大數(shù)據(jù)平臺的搭建,完成系統(tǒng)調(diào)試、集成與實施,技術(shù)難題的解決,保證大數(shù)據(jù)產(chǎn)品的上線運行;
3、根據(jù)業(yè)務需求持續(xù)優(yōu)化數(shù)據(jù)架構(gòu),保證產(chǎn)品的可靠性、穩(wěn)定性;
4、指導開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設,分析模型構(gòu)建及分析呈現(xiàn),分享技術(shù)經(jīng)驗;
5、負責大數(shù)據(jù)平臺的架構(gòu)評審,代碼評審,上線評審;參與數(shù)據(jù)應用需求、設計、審核和評審;
6、深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進業(yè)界先進技術(shù);
任職資格:
1.本科及以上學歷,數(shù)學或計算機相關(guān)專業(yè)畢業(yè),不少于5年的工作經(jīng)驗,具有扎實的計算機基礎理論知識;
2.有3年以上Hadoop、Spark、Hbase平臺性能調(diào)優(yōu)經(jīng)驗;熟悉sparkstreaming等實時計算技術(shù)
3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等,具備實際項目設計及開發(fā)經(jīng)驗;
4.熟悉sparkstreaming等相關(guān)的實時計算技術(shù);
5.熟悉大規(guī)模數(shù)據(jù)挖掘、機器學習、自然語言處理、分布式計算中一項或多項技術(shù),并具備多年的實際工作經(jīng)驗;
6.熟悉主流關(guān)系型數(shù)據(jù)庫(Oracle、MySql)、NoSql數(shù)據(jù)庫,熟悉pl/sql編程;精通Linux操作系統(tǒng),熟練使用Java;熟悉常用框架.如Spring、MyBatis等;
7.具有較強的執(zhí)行力,高度的責任感、很強的學習、溝通能力,能夠在高壓下高效工作;
大數(shù)據(jù)架構(gòu)師職責篇8
職責
1、負責公司大數(shù)據(jù)平臺的整體架構(gòu)設計,包含數(shù)據(jù)收集、數(shù)據(jù)存儲、數(shù)據(jù)挖掘、數(shù)據(jù)輸出;
2、負責規(guī)劃從數(shù)據(jù)源到數(shù)據(jù)應用的整體流程,并參與用戶產(chǎn)品和數(shù)據(jù)產(chǎn)品的決策;
3、負責海量數(shù)據(jù)分析、用戶行為分析,構(gòu)建用戶數(shù)據(jù)模型;
4、負責解決核心技術(shù)問題,對技術(shù)方案進行決策;
5、技術(shù)團隊管理。
6、熟悉手機IOS、安卓系統(tǒng)APP開發(fā)
任職資格
1、計算機相關(guān)專業(yè)畢業(yè),本科以上學歷;
2、5年以上相關(guān)工作經(jīng)驗,具備軟件產(chǎn)品架構(gòu)設計經(jīng)驗,熟練掌握高性能、高擴展性架構(gòu)設計方法;
3、熟練掌握java或c++任意一門語言、熟悉linux操作系統(tǒng);
4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大數(shù)據(jù)技術(shù),并能夠基于上述項目開發(fā)大數(shù)據(jù)相關(guān)應用;
5、熟悉基本數(shù)據(jù)挖掘方法和技術(shù);
6、強烈的敬業(yè)精神,良好的溝通與協(xié)調(diào)能力,能有效組織協(xié)調(diào)團隊完成各類開發(fā)工作;
7、熱愛技術(shù),相信數(shù)據(jù)的價值,對大數(shù)據(jù)有深刻的理解。
大數(shù)據(jù)架構(gòu)師職責篇9
1.負責企業(yè)數(shù)據(jù)中心建設,設計數(shù)據(jù)邏輯模型和物理模型,并完成相關(guān)開發(fā)
2.梳理公司各業(yè)務線常用的指標和維度,統(tǒng)一指標定義口徑
3.根據(jù)數(shù)據(jù)應用開發(fā)和數(shù)據(jù)分析需求,設計數(shù)據(jù)倉庫信息層模型,提高數(shù)據(jù)開發(fā)的效率
4.負責數(shù)據(jù)模型的運營和優(yōu)化,及時響應業(yè)務邏輯變更,保證模型的數(shù)據(jù)質(zhì)量和穩(wěn)定性
5.負責公司數(shù)據(jù)標簽體系的建設,并推動標簽體系在實際業(yè)務場景中落地
崗位要求:
1.5年以上DW/BI數(shù)據(jù)架構(gòu)設計、模型設計和性能調(diào)優(yōu)等相關(guān)經(jīng)驗
2.有較強的數(shù)據(jù)分析能力,精通數(shù)據(jù)倉庫架構(gòu),熟悉Erwin或PowerDesigner建模工具
3.精通一種主流關(guān)系數(shù)據(jù)庫(如mysql等),熟悉Hive開發(fā)
4.有電商業(yè)務經(jīng)驗,元數(shù)據(jù)管理,數(shù)據(jù)質(zhì)量管理或標簽體系搭建經(jīng)驗者優(yōu)先
5.優(yōu)秀的協(xié)調(diào)溝通與團隊協(xié)作能力,極強的責任心,能承受一定的工作壓力,認同企業(yè)文化和團隊價值
大數(shù)據(jù)架構(gòu)師職責篇10
1、數(shù)據(jù)分析軟件平臺架構(gòu)搭建
2、負責深度學習核心框架或高性能后臺服務系統(tǒng)的架構(gòu)設計工作,包括系統(tǒng)總體規(guī)劃、架構(gòu)設計、系統(tǒng)分析、軟件實現(xiàn)、性能優(yōu)化;
3、指導開發(fā)人員開發(fā),并解決系統(tǒng)出現(xiàn)的問題,理解物業(yè)需求;
4、制定開發(fā)計劃和控制開發(fā)進度,負責指導研發(fā)團隊開展設計工作;
任職要求:
1、碩士以上,計算機或先關(guān)專業(yè);
2、5年左右軟件開發(fā)經(jīng)驗,含3年以上系統(tǒng)分析、設計經(jīng)驗,有大型軟件項目大型軟件項目;有中大型互聯(lián)網(wǎng)企業(yè)數(shù)據(jù)庫架構(gòu)設計及管理經(jīng)驗,
3、具備良好的組件級建模能力,熟悉HTTP、TCP等協(xié)議
4、熟練使用UML進行軟件架構(gòu)設計,至少精通EA,RATIONAL,VISIO等一種設計工具.
5、精通至少一種編程語言,熟悉Linux相關(guān)技術(shù),能獨立在上面進行開發(fā)、測試和部署
6、深入理解數(shù)據(jù)庫、數(shù)據(jù)倉庫、大數(shù)據(jù)、分布式體系架構(gòu)和關(guān)鍵技術(shù)
大數(shù)據(jù)架構(gòu)師職責篇11
職責
1、參與打造數(shù)據(jù)中內(nèi)容的規(guī)劃、設計、開發(fā)和優(yōu)化工作,實現(xiàn)高質(zhì)量數(shù)據(jù)的互通與共享;
2、參與數(shù)據(jù)模型體系構(gòu)建及數(shù)據(jù)主題設計和開發(fā),搭建離線、實時數(shù)據(jù)公共層;
3、參與數(shù)據(jù)產(chǎn)品與應用的數(shù)據(jù)研發(fā),發(fā)掘數(shù)據(jù)商業(yè)價值,打造極致體驗的數(shù)據(jù)產(chǎn)品;
4、深入理解數(shù)據(jù)產(chǎn)品的使用場景,為業(yè)務方在可用性、成本上做更好的設計做參考;
5、團隊成員的搭建與培養(yǎng),任務劃分,進度監(jiān)控,代碼規(guī)范,質(zhì)量保證。
任職要求
1、熟悉數(shù)據(jù)倉庫建模理論,3年以上相關(guān)領(lǐng)域?qū)嵺`經(jīng)驗;
2、Hadoop、Hive、Hbase、Storm、Spark等技術(shù)框架;
3、精通Java、Python、Scala、go等開發(fā)語言中的1到2種;
4、熟練使用Python/Java/scala或其他語言進行復雜業(yè)務邏輯的數(shù)據(jù)處理工作,具備海量數(shù)據(jù)處理以及性能優(yōu)化的能力;
5、對MySQL、Redis、HBase等數(shù)據(jù)庫有一定的了解和使用經(jīng)驗;
6、對olap,多維分析及kylin熟悉的更好;
7、思路清晰,具備良好的溝通能力和理解能力,較強的學習能力以及快速解決問題的能力;
8、對新技術(shù),新事物有很好的探索和求知欲;
9、熟悉常規(guī)的機器學習算法:降維(PCA、SVD)、SVM、邏輯回歸(LogisticsRegression)、決策樹(GBDT、RandomForest)、關(guān)聯(lián)規(guī)則(Apriori、FP-Growth)、聚類(K-Means)等優(yōu)先。
大數(shù)據(jù)架構(gòu)師職責篇12
1.能夠帶領(lǐng)技術(shù)人員基于hadoop平臺進行海量數(shù)據(jù)應用系統(tǒng)開發(fā);
2.負責結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的解析和清洗,海量數(shù)據(jù)查詢和報表展現(xiàn);
3.負責超大規(guī)模數(shù)據(jù)平臺的搭建、維護和優(yōu)化;
4.負責大數(shù)據(jù)采集、存儲框架研究,參與在線或離線數(shù)據(jù)存儲模型設計;
5.負責大數(shù)據(jù)平臺新技術(shù)的開發(fā)使用和性能優(yōu)化,測試。
任職資格:
1.計算機相關(guān)專業(yè)本科及以上學歷;
2.熟悉hadoop相關(guān)各種開源項目,比如HDFS/Hive/Hbase等有實際應用。(5年以上開發(fā)經(jīng)驗者優(yōu)先);
3.兩年以上熟練編寫mapreduce代碼經(jīng)驗,有三年以上網(wǎng)絡日志分析、ETL經(jīng)驗。熟悉日志分析框架chukwa,flume,scribe者優(yōu)先;
4.兩年以上海量數(shù)據(jù)存儲的安裝部署、優(yōu)化、二次開發(fā)經(jīng)驗,對大規(guī)模數(shù)據(jù)存儲、傳輸、處理等有豐富的經(jīng)驗;
5.在數(shù)據(jù)挖掘、數(shù)據(jù)密集型處理、分布式計算、網(wǎng)格計算領(lǐng)域有深入理論基礎;
6.具有較強的文檔撰寫能力,較強的團隊精神和合作精神,對工作有熱情,能承受壓力。
大數(shù)據(jù)架構(gòu)師職責篇13
1、負責spark,hadoop,flink等開發(fā)和優(yōu)化。
2、參與前期需求溝通和分析,以產(chǎn)品化開發(fā)的思維,完成需求分解和數(shù)據(jù)架構(gòu)設計。
3、與研發(fā)和數(shù)據(jù)科學家合作保證產(chǎn)品定義清晰,按時完成產(chǎn)品上線。
4、能夠洞察市場狀況,與各部門合作轉(zhuǎn)化為基于大數(shù)據(jù)挖掘的新策略或方案.
5、主動創(chuàng)造和發(fā)掘新的基于大數(shù)據(jù)挖掘產(chǎn)品商業(yè)模式.
任職要求:
1、全日制本科及以上學歷,計算機軟件相關(guān)專業(yè),5年以上開發(fā)經(jīng)驗,3年以上架構(gòu)經(jīng)驗
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式數(shù)據(jù)存儲和分布式計算平臺原理,流式計算開發(fā),有開源二次開發(fā)經(jīng)驗者優(yōu)先。
3、精通大數(shù)據(jù)挖掘、機器學習.熟練掌握Java/Perl/Python至少一種編程語言。
4、具有數(shù)據(jù)挖掘和分析、機器學習等項目實施相關(guān)經(jīng)驗者優(yōu)先;
5、良好的跨部門溝通合作能力,解決不同觀點能力并取得結(jié)果。具備敏銳的互聯(lián)網(wǎng)產(chǎn)品理解力,學習能力和邏輯思維能力強;
6、較強的自我驅(qū)動力、推動和協(xié)調(diào)能力,強烈的責任心和團隊合作精神;
大數(shù)據(jù)架構(gòu)師職責篇14
1、負責大數(shù)據(jù)平臺的架構(gòu)設計、核心代碼開發(fā)等任務;根據(jù)項目要求編寫相關(guān)技術(shù)文檔;
2、負責大數(shù)據(jù)平臺的架構(gòu)評審,代碼評審,上線評審;參與數(shù)據(jù)應用需求、設計、審核和評審;
3、負責核心模塊研發(fā),負責大數(shù)據(jù)平臺的搭建,完成系統(tǒng)調(diào)試、集成與實施;
4、負責建立和維護大數(shù)據(jù)平臺技術(shù)標準規(guī)范,指導開發(fā)人員編寫代碼;
任職要求:
1、本科及以上計算機相關(guān)專業(yè)畢業(yè);
2、精通離線和實時數(shù)據(jù)處理流程,掌握離線數(shù)據(jù)處理框架hive、impala、spark-sql等,掌握實時數(shù)據(jù)處理常用技術(shù)工具,包括Storm、SparkStreaming等;
3、熟悉大數(shù)據(jù)技術(shù)生態(tài)圈,精通大數(shù)據(jù)技術(shù)架構(gòu),有大數(shù)據(jù)平臺構(gòu)建經(jīng)驗;
4、掌握常見數(shù)據(jù)流接入工具,包括Flume、kafka等;
5、熟練掌握基本的Linux操作系統(tǒng)和某種腳本語言編程(如Shell等);
6、掌握一種或以上實時處理語言,如JAVA、SCALA、PYTHON等,有SCALA經(jīng)驗者優(yōu)先;
7、有實際大規(guī)模數(shù)據(jù)(TB級以上)處理經(jīng)驗優(yōu)先;
大數(shù)據(jù)架構(gòu)師職責篇15
1、負責大數(shù)據(jù)平臺資源規(guī)劃、權(quán)限控制、運維架構(gòu)設計,為各產(chǎn)品業(yè)務提供穩(wěn)定、高效、安全的運行環(huán)境;
2、負責實時,離線數(shù)據(jù)分析處理及實時平臺的建設和搭建
3、熟悉Flink流式計算引擎的使用以及源碼原理,并且有相關(guān)的流式處理平臺的經(jīng)驗。
4、Java基礎扎實,熟練掌握垃圾回收,網(wǎng)絡,多線程編程,了解python或scala
5、負責大數(shù)據(jù)平臺技術(shù)架構(gòu)、數(shù)據(jù)架構(gòu)的分析與設計;
大數(shù)據(jù)架構(gòu)師職責篇16
1、負責規(guī)劃科技大數(shù)據(jù)平臺及科技數(shù)據(jù)入庫自動化的方案設計;
2、負責大數(shù)據(jù)平臺的開發(fā)和維護,以及對外服務接口的開發(fā);
3、負責大數(shù)據(jù)平臺的優(yōu)化和改進工作。
任職要求
1、計算機相關(guān)專業(yè)本科及以上學歷,5年以上開發(fā)經(jīng)驗,其中3年以上為互聯(lián)網(wǎng)、大數(shù)據(jù)相關(guān)的開發(fā)經(jīng)驗;
2、熟知Hadoop生態(tài)圈體系,精通Hadoop/Spark/Storm/Kafka中的一項或幾項,深刻理解MapReduce的運行原理和機制,有MPI經(jīng)驗者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相關(guān)數(shù)據(jù)庫的構(gòu)建和操作,尤其是數(shù)據(jù)庫集群的構(gòu)建和操作,熟悉Neo4j者尚佳;
4、具有機器學習相關(guān)項目經(jīng)驗者優(yōu)先。
大數(shù)據(jù)架構(gòu)師職責篇17
職責:
1、對業(yè)務需求深入分析,從而進行大數(shù)據(jù)平臺核心應用的架構(gòu)設計、開發(fā)和技術(shù)支持;
2、規(guī)劃業(yè)務應用系統(tǒng)和基礎平臺的技術(shù)架構(gòu),參與需求分析、建模、架構(gòu)設計、技術(shù)決策以及詳細設計;
3、把握復雜系統(tǒng)的設計,確保系統(tǒng)的架構(gòu)質(zhì)量,編寫核心部分代碼;
4、帶領(lǐng)團隊攻克例如大數(shù)據(jù)量、高并發(fā)、高穩(wěn)定性等帶來的各種挑戰(zhàn)及技術(shù)難關(guān);
5、在大數(shù)據(jù)平臺建設路線圖指導下,進行架構(gòu)實施和交付物投遞,同時確保研發(fā)質(zhì)量和方向的準確性;
6、進行團隊技術(shù)的培訓和梯隊建設崗位要求;
任職條件:
1、本科或以上學歷,計算機相關(guān)專業(yè),8年以上研發(fā)經(jīng)驗,3年以上大數(shù)據(jù)平臺相關(guān)工作經(jīng)驗;
2、精通Java開發(fā)技術(shù),熟悉Shell、Scala語言和PYTHON優(yōu)先;
3、編程基礎扎實,熟悉I/O、多線程、集群等基礎框架和原理,熟悉分布式、緩存、消息等機制;
4、熟悉常用設計模式,代碼評審規(guī)則,單元測試,持續(xù)集成;
5、熟悉AWS云服務或阿里云服務;
6、熟悉容器技術(shù)原理、生態(tài)系統(tǒng),熟悉Docker、Mesos、Kubernetes等容器系統(tǒng)、大規(guī)模容器資源調(diào)度系統(tǒng)、分布式應用生命周期。
大數(shù)據(jù)架構(gòu)師職責篇18
1、負責公司的大數(shù)據(jù)處理框架的研發(fā)設計工作,梳理可實現(xiàn)方案和技術(shù)規(guī)范;
2、開發(fā)、完善公司大數(shù)據(jù)平臺;參與公司離線、實時大數(shù)據(jù)處理系統(tǒng)的設計、開發(fā)、測試及多個業(yè)務模塊的自動化集成;
3、負責業(yè)務平臺數(shù)據(jù)統(tǒng)計分析模塊的設計與規(guī)劃;
4、負責公司產(chǎn)品研發(fā)過程中的數(shù)據(jù)及存儲設計;
5、帶領(lǐng)和培養(yǎng)團隊完成組織分解的目標;
任職要求:
1、統(tǒng)招本科及以上學歷,計算機、軟件工程相關(guān)專業(yè),至少8年以上工作經(jīng)驗,5年以上大數(shù)據(jù)開發(fā)經(jīng)驗;
2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關(guān)技術(shù)的基礎架構(gòu)
3、熟悉數(shù)據(jù)倉庫,數(shù)據(jù)算法,分布式計算技術(shù)理論,具有大數(shù)據(jù)整體系統(tǒng)架構(gòu)設計經(jīng)驗;
4、熟悉Linux系統(tǒng),熟練使用shell/perl/python腳本處理問題;
5、對深度學習框架(Tensorflow)和機器學習(svm隨機深林貝葉斯等)有一定了解的優(yōu)先;
6、能夠組織項目開發(fā)組協(xié)同工作,包括團隊溝通、計劃、開發(fā)環(huán)境管理等
大數(shù)據(jù)架構(gòu)師職責篇19
1.負責整個大數(shù)據(jù)平臺架構(gòu)的設計和構(gòu)建;
2.負責構(gòu)建大數(shù)據(jù)平臺的數(shù)據(jù)交換、任務調(diào)度等通用平臺;
3.制定開發(fā)、測試、實施、維護的標準和規(guī)范,指導和培訓工程師,不斷提升團隊能力。
4.參與系統(tǒng)需求分析、架構(gòu)設計、技術(shù)選型、應用設計與開發(fā)以及測試與部署,負責編寫核心部分代碼。
5.持續(xù)挑戰(zhàn)新的技術(shù)方向,攻克大數(shù)據(jù)量、高并發(fā)、高可用、可擴展等技術(shù)難點。
任職要求:
1.3年以上大數(shù)據(jù)架構(gòu)經(jīng)驗,豐富的數(shù)據(jù)倉庫、數(shù)據(jù)挖掘、機器學習項目經(jīng)驗
2.大規(guī)模數(shù)據(jù)處理的架構(gòu)和設計實戰(zhàn)經(jīng)驗
3.精通Spark、MR,熟練HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等,并具有豐富的大型數(shù)據(jù)平臺工程經(jīng)驗
4.深刻理解大數(shù)據(jù)處理(流計算,分布式計算,分布式文件系統(tǒng),分布式存儲等)相關(guān)技術(shù)和實現(xiàn)方法
5.熟悉主數(shù)據(jù)、元數(shù)據(jù)、數(shù)據(jù)質(zhì)量等企業(yè)數(shù)據(jù)管理相關(guān)的體系和方法,熟練Linux/Unix平臺上的開發(fā)環(huán)境
6.本科或以上學歷,計算機軟件或相關(guān)專業(yè),豐富的java開發(fā)經(jīng)驗和互聯(lián)網(wǎng)背景優(yōu)先。
7.具有比較強的問題分析和處理能力,有比較優(yōu)秀的動手能力,熱衷技術(shù),精益求精
大數(shù)據(jù)架構(gòu)師職責篇20
職責:
1、負責大數(shù)據(jù)倉庫、數(shù)據(jù)集市的規(guī)劃及實現(xiàn),負責大數(shù)據(jù)中臺的設計和核心開發(fā)工作;
2、負責數(shù)據(jù)基礎架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率,為公司的業(yè)務提供大數(shù)據(jù)底層平臺的支持和保證;
3、大數(shù)據(jù)平臺的數(shù)據(jù)采集、處理、存儲以及挖掘分析的架構(gòu)實現(xiàn);
4、研究未來數(shù)據(jù)模型和計算框架的創(chuàng)新與落地,包括但不限于以下領(lǐng)域:大規(guī)模數(shù)據(jù)實時化、研發(fā)模式敏捷化、數(shù)據(jù)計算框架輕量化、數(shù)據(jù)模型組織方式業(yè)務化等方面,參與制定并實踐團隊的技術(shù)發(fā)展路線
任職資格:
1、精通數(shù)據(jù)建模、數(shù)據(jù)標準管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理;
2、有作為技術(shù)負責人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)實踐經(jīng)驗優(yōu)先;
3、熟悉目前正在發(fā)展的大數(shù)據(jù)分布式平臺前沿技術(shù)的應用;包括但不僅僅限于:hadoop、flink、spark等;
4、性格積極樂觀,誠信,能自我驅(qū)動,有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協(xié)作、計劃和創(chuàng)新的能力;在數(shù)據(jù)業(yè)界有一定的影響力優(yōu)先,具有風控經(jīng)驗背景的人優(yōu)先;
5、具備獨立的深度思考能力,給出結(jié)合實際情況的較為理想的技術(shù)解決方案。