在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

什么是數據工程?數據工程師需要了解的事情

工程師人生 ? 來源:百家號 ? 作者:讀芯術 ? 2020-12-15 15:16 ? 次閱讀

“這一刻你正在應對什么挑戰?”這位前研究學者回應道:“嗯,我好像應聘成為首席數據科學家了,在一個沒有數據的公司里?!?/p>

這件事讓人啼笑皆非。離開了數據,數據科學家的存在毫無意義。這可不是件個例。本文將討論一些胸懷大志的數據科學家們(以及他們將來的雇主)真正需要了解的事情。

什么是數據工程?

如果數據科學是讓數據變得有用的一門學科,那么可以想像數據工程是將數據變得能用的一門學問。數據工程師們是提供幕后基礎設施支持的英雄們,這些基礎設施讓機器能夠記錄工作,讓海量的數據與數據科學工具包兼容儲存。

圖源:LinkedIn

與數據科學家不同,數據工程師們更傾向于不花費那么多的時間研究數據。與此相反,他們研究并處理那些承載數據的基礎設施。數據科學家是數據的管理者,而數據工程師們是對數據管道進行管理的人。

圖源:hackernoon

數據工程有三種主要工作方式:

· 使數據大規模地儲存(數據庫)和傳輸(數據管道)。

· 維護那些支持企業運作的數據流。

· 為數據科學提供數據集。

如果沒有數據,你無法研究數據科學。如果你被一個沒有數據和數據工程的機構聘用為數據科學總監,猜猜誰將會成為一名數據工程師?

數據工程的艱難之處在哪?

食品進購是件簡單的事,如果你只是煮你一個人的晚餐還好說,但規模擴大會將這件瑣事變得復雜無比——你該如何獲得,存儲和處理20噸的冰淇淋,且讓它一點都沒有融化?

相似地,“數據工程”在你為學校項目下載一個小的電子數據表時是相當容易的,但當你在處理千萬億字節規模的文件時就會讓人頭暈眼花。規模使其本身成為一個復雜的工程學科。

不幸的是,了解這兩個學科其中之一并不代表著你就對另一個的知識有所了解。

如果你有了跑去學習兩個學科的沖動,你可能成為了那個(令人倍有壓力且適得其反的)信念的受害者——數據專家們必須對數據的所有事項都有所了解。數據宇宙正在飛速地擴展著,現在是時候讓人們意識到這個領域有多么廣闊了,在數據領域的某個領域工作并不自動要求人們去成為全知全能的專家。

講這么多就是為了說明,這門學科包含了太多的知識,以至于最有決心的天才也無法全部理解和掌握。與其希望數據工程師們全知全能,不如問問彼此(也問問自己),“你是哪一類人?”讓我們齊心協力一起工作,而不是在這條路上孤軍奮斗。

但這不是一個絕佳的學習機會嗎?可能是。這取決于你對已知的學問有多大的感情。數據工程不同于數據科學,所以如果你是個未經受過數據工程訓練的數據科學家,那么你得從零開始。

這可能正是你所尋求的樂趣——只要你帶著開放的眼光一路前行。建立你的數據工程團隊可能要花費好幾年的時間。當然,有理由去學習新事物是件好事,但相同的是,你的數據科學“肌肉”可能會因此萎縮。

作為一個類比,想象你是一位能流利使用英日兩語的譯者。你被提供了一個叫做“譯者”的職位。當你來到崗位工作時,你發現你被聘來進行將普通話譯為斯瓦希里語的工作,而這兩種語言你都不會說。抓住機會成為一個四語達人可能是一件振奮人心且有益的事情,但請從現實的角度來思考你該如何有效地利用初級培訓。

換句話來說,如果一個公司沒有任何的數據或者數據工程師,那么接受首席數據科學家的工作會在你組建數據工程團隊時,為了成為一個數據工程師(你很可能還未達標),將你的數據科學家生涯擱置好幾年的時間。

最終,你會很驕傲地看著你所建的團隊,然后意識到你不再需要親自去處理那些細枝末節。那時你的團隊已經能夠成熟應對那些絕妙的神經網絡或者你讀博時研究的復雜巧妙的貝葉斯定理推論,你就只能袖手旁觀,看著他人完成目標。

給你一些小建議

· 弄清你正在接手的事物

如果你在考慮接受一個成為數據科學總管的工作,你第一個應該提出的問題是:“誰來保證我的團隊有數據能研究?”如果答案是你,嗯,至少你將知道自己的簽約將意味著什么。

· 請記住你是顧客

既然數據科學受數據支配,只有數據工程師們作為同事可能并不夠。如果那些同事們沒能將你認定為他們工作的一個關鍵客戶,你將面對的是一個艱難的斗爭。如果他們的態度讓你更多的感受到自己是一個博物館策展人,為了數據而保存數據,那這可不是一個好兆頭。

· 要有全局觀

誠然你是數據工程師們的關鍵客戶,但很可能你并不是他們的唯一客戶?,F代企業使用數據推動業務發展,通常情況下,無需人為干預,數據就能很好地運轉。當你對公司的貢獻只是“可有可無”時,表現得好像世界都是圍繞著你和你的團隊轉的,這是不明智的。

· 堅持問責

在登記你新的十億字節之前,考慮與數據工程同事協商,讓他們對與你的合作負責。如果他們沒有將你拒之門外的反應,你的團隊就不太可能蓬勃發展。
編輯:hfy

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 數據
    +關注

    關注

    8

    文章

    7246

    瀏覽量

    91179
  • 數據工程師
    +關注

    關注

    0

    文章

    8

    瀏覽量

    1249
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    工程師的“新神器”:用CCLinkie轉Devicenet連接水質分析儀,輕松搞定數據難題

    在化工行業摸爬滾打的工程師們,是不是經常為水質監測數據的獲取和整合頭疼?一邊是復雜的化工生產流程,一邊是水質分析儀的數據孤島,兩者之間的“溝通障礙”讓不少工程師抓耳撓腮。別急,今天就來
    發表于 06-09 15:36

    (仰天長嘯)為什么受傷的總是硬件工程師...#MDD#MDD辰達半導體 #電子工程師

    電子工程師
    MDD辰達半導體
    發布于 :2025年04月27日 18:21:47

    問,成為硬件工程師需要幾只手?#硬件工程師 #YXC晶振 #揚興科技 #搞笑

    硬件工程師
    揚興科技
    發布于 :2025年04月25日 17:15:37

    硬件工程師:回答我!#回答我 #硬件工程師 #YXC晶振 #揚興科技

    硬件工程師
    揚興科技
    發布于 :2025年03月25日 18:46:59

    一招拿捏電子工程師#被AI拿捏了 #電子工程師 #電子電工

    電子工程師
    安泰小課堂
    發布于 :2025年03月25日 17:30:51

    為什么嵌入式驅動開發工程師可以拿高薪?

    。 為什么嵌入式驅動開發工程師可以拿高薪? 嵌入式驅動開發工程師屬于技術密集型工作,不僅需要深入了解硬件的工作原理,還需掌握各種編程語言,確保硬件與軟件能夠完美協同工作。這種跨學科
    發表于 01-07 16:56

    FPGA算法工程師、邏輯工程師、原型驗證工程師有什么區別?

    邏輯工程師和 FPGA 原型驗證工程師在工作重點和職責上存在一定的區別: FPGA 算法工程師: 主要關注算法的設計和優化,以在 FPGA 平臺上實現高效的計算和處理。他們需要深入理
    發表于 09-23 18:26

    需要無刷電控硬件工程師

    需要無刷電控硬件工程師,地點東莞松山湖。最好有5-10年經驗,大功率電摩電控。有意私聊。
    發表于 09-11 22:51

    正是拼的年紀|65歲電子工程師上班VLOG #65歲退休 #電子工程師 #搞笑 #上班vlog

    電子工程師
    安泰小課堂
    發布于 :2024年07月25日 11:31:02

    用二創,1:1復刻工程師的職場現狀

    工程師
    揚興科技
    發布于 :2024年07月19日 18:30:07
    主站蜘蛛池模板: 人与禽一级一级毛片 | 狠狠的操 | 色视频日本 | 两性色午夜视频免费国产 | 好紧好爽的午夜寂寞视频 | 免费看曰批女人爽的视频网址 | 高颜值大长腿美女啪啪 | 69xxxx女人 | 久久成人影视 | 69ww免费视频播放器 | 国产美女精品久久久久久久免费 | 在线播放国产不卡免费视频 | 经典三级第一页 | 日本69xxxxxxx69 | 中国性猛交xxxxx免费看 | 一级黄色毛毛片 | 浓厚な接吻と肉体の交在线观看 | 免费观看四虎精品国产永久 | 天天添 | 国产成人啪精品午夜在线播放 | 日本三级最新中文字幕电影 | 天天涩综合 | 免费一级欧美在线观看视频片 | 黄色aaaa| 免费被视频网站在线观看 | 天天色天天操天天射 | 很黄很黄的网站免费的 | 国产伦精品一区二区三区 | 日本理论在线观看被窝网 | 天堂最新版在线www在线 | 视频一二三区 | 在线视频91 | 美国激情ap毛片 | 色五月天天 | 久久精彩免费视频 | 欧美性黄色 | 精品一区二区三区免费毛片爱 | 噜噜噜色噜噜噜久久 | 久久久久国产精品四虎 | 国产 日韩 欧美 高清 | 五月婷婷六月丁香 |