在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

開源工具就是你數據科學入門時所需的全部內容

電子工程師 ? 來源:未知 ? 作者:李倩 ? 2018-11-12 14:15 ? 次閱讀

不需要昂貴的工具即可領略數據科學的力量,從這些開源工具起步即可。

無論你是一個具有數學或計算機科學背景的資深數據科學愛好者,還是一個其它領域的專家,數據科學提供的可能性都在你力所能及的范圍內,而且你不需要昂貴的,高度專業化的企業級軟件。本文中討論的開源工具就是你入門時所需的全部內容。

Python,其機器學習和數據科學庫(pandas、Keras、TensorFlow、scikit-learn、SciPy、NumPy等),以及大量可視化庫(Matplotlib、pyplot、Plotly等)對于初學者和專家來說都是優秀的自由及開源軟件工具。它們易于學習,很受歡迎且受到社區支持,并擁有為數據科學而開發的最新技術和算法。它們是你在開始學習時可以獲得的最佳工具集之一。

許多 Python 庫都是建立在彼此之上的(稱為依賴項),其基礎是NumPy庫。NumPy 專門為數據科學設計,經常被用于在其 ndarray 數據類型中存儲數據集的相關部分。ndarray 是一種方便的數據類型,用于將關系表中的記錄存儲為cvs文件或其它任何格式,反之亦然。將 scikit 函數應用于多維數組時,它特別方便。SQL 非常適合查詢數據庫,但是對于執行復雜和資源密集型的數據科學操作,在 ndarray 中存儲數據可以提高效率和速度(但請確保在處理大量數據集時有足夠的 RAM)。當你使用 pandas 進行知識提取和分析時,pandas 中的 DataFrame 數據類型和 NumPy 中的 ndarray 之間的無縫轉換分別為提取和計算密集型操作創建了一個強大的組合。

作為快速演示,讓我們啟動 Python shell 并在 pandas DataFrame 變量中加載來自巴爾的摩的犯罪統計數據的開放數據集,并查看加載的一部分 DataFrame:

>>> import pandas aspd

>>> crime_stats =pd.read_csv('BPD_Arrests.csv')

>>> crime_stats.head()

我們現在可以在這個 pandas DataFrame 上執行大多數查詢,就像我們可以在數據庫中使用 SQL 一樣。例如,要獲取Description屬性的所有唯一值,SQL 查詢是:

$ SELECT unique(“Description”) from crime_stats;

利用 pandas DataFrame 編寫相同的查詢如下所示:

它返回的是一個 NumPy 數組(ndarray 類型):

>>>type(crime_stats['Description'].unique())

接下來讓我們將這些數據輸入神經網絡,看看它能多準確地預測使用的武器類型,給出的數據包括犯罪事件,犯罪類型以及發生的地點:

現在學習模型準備就緒,我們可以執行一些測試來確定其質量和可靠性。對于初學者,讓我們輸入一個訓練集數據(用于訓練模型的原始數據集的一部分,不包括在創建模型中):

>>>predict_weapon.predict(training_set_weapons)

array([4, 4, 4, ...,0, 4, 4])

如你所見,它返回一個列表,每個數字預測訓練集中每個記錄的武器。我們之所以看到的是數字而不是武器名稱,是因為大多數分類算法都是用數字優化的。對于分類數據,有一些技術可以將屬性轉換為數字表示。在這種情況下,使用的技術是標簽編碼,使用 sklearn 預處理庫中的 LabelEncoder 函數:preprocessing.LabelEncoder()。它能夠對一個數據和其對應的數值表示來進行變換和逆變換。在這個例子中,我們可以使用 LabelEncoder() 的 inverse_transform 函數來查看武器 0 和 4 是什么:

>>>preprocessing.LabelEncoder().inverse_transform(encoded_weapons)

array(['HANDS', 'FIREARM', 'HANDS', ...,'FIREARM', 'FIREARM', 'FIREARM']

這很有趣,但為了了解這個模型的準確程度,我們將幾個分數計算為百分比:

>>>nn_model.score(X, y)

0.81999999999999995

這表明我們的神經網絡模型準確度約為 82%。這個結果似乎令人印象深刻,但用于不同的犯罪數據集時,檢查其有效性非常重要。還有其它測試來做這個,如相關性、混淆、矩陣等。盡管我們的模型有很高的準確率,但它對于一般犯罪數據集并不是非常有用,因為這個特定數據集具有不成比例的行數,其列出 FIREARM 作為使用的武器。除非重新訓練,否則我們的分類器最有可能預測 FIREARM,即使輸入數據集有不同的分布。

在對數據進行分類之前清洗數據并刪除異常值和畸形數據非常重要。預處理越好,我們的見解準確性就越高。此外,為模型或分類器提供過多數據(通常超過 90%)以獲得更高的準確度是一個壞主意,因為它看起來準確但由于過度擬合而無效。

Jupyter notebooks 相對于命令行來說是一個很好的交互式替代品。雖然 CLI 對于大多數事情都很好,但是當你想要運行代碼片段以生成可視化時,Jupyter 會很出色。它比終端更好地格式化數據。

這篇文章 列出了一些最好的機器學習免費資源,但是還有很多其它的指導和教程。根據你的興趣和愛好,你還會發現許多開放數據集可供使用。作為起點,由 Kaggle 維護的數據集,以及在州政府網站上提供的數據集是極好的資源。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4810

    瀏覽量

    102918
  • python
    +關注

    關注

    56

    文章

    4825

    瀏覽量

    86268
  • 數據科學
    +關注

    關注

    0

    文章

    168

    瀏覽量

    10418

原文標題:Python 數據科學入門

文章出處:【微信號:DBDevs,微信公眾號:數據分析與開發】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    如何將數據庫中某表的全部內容復制到另一數據庫文件里?

    或者將數據庫中一張表的全部內容復制到數據庫中另一張表中
    發表于 03-15 16:02

    入門數據科學資源一覽

    在本篇指南中,我們將會給初學者分享65個精心挑選并且帶鏈接的免費數據資源。為了成為一名數據科學家,在前進的路上會遇到令人畏懼的挑戰。將需
    發表于 09-22 14:25 ?0次下載

    2018年數據科學和機器學習工具調查

    近日,數據科學網站KDnuggets發布 2018年數據科學和機器學習工具調查結果。
    的頭像 發表于 06-07 17:05 ?4548次閱讀
    2018年<b class='flag-5'>數據</b><b class='flag-5'>科學</b>和機器學習<b class='flag-5'>工具</b>調查

    開源工具Arena,數據科學家再也不用為Kubernetes犯難啦

    摘要:?為什么要用Kubernetes去難為數據科學家呢?2018年7月,阿里云將深度學習工具Arena貢獻給了開源社區,數據
    發表于 08-21 15:54 ?200次閱讀

    Python網頁爬蟲,文本處理,科學計算,機器學習和數據挖掘工具

    本文檔的主要內容詳細介紹的是Python工具包合集包括了:網頁爬蟲工具集,文本處理工具集,Python科學計算
    發表于 09-07 17:14 ?39次下載
    Python網頁爬蟲,文本處理,<b class='flag-5'>科學</b>計算,機器學習和<b class='flag-5'>數據</b>挖掘<b class='flag-5'>工具</b>集

    IBM與NVIDIA攜手為數據科學家拓展開源機器學習工具

    2018年10月,IBM宣布計劃將全新RAPIDS? 開源軟件納入到其企業級數據科學平臺中,涵蓋本地預置、混合云和多云環境。憑借其龐大的深度學習與機器學習解決方案組合,IBM能為偏好不同部署模型的
    的頭像 發表于 10-20 09:43 ?3209次閱讀

    Arduino實踐中科學邏輯的應用和VVVV入門教程

    本文檔的主要內容詳細介紹的是openbook開源雜志2013年第五期主要內容包括了:Arduino實踐中科學邏輯的應用和VVVV入門初級教程
    發表于 11-01 10:51 ?19次下載
    Arduino實踐中<b class='flag-5'>科學</b>邏輯的應用和VVVV<b class='flag-5'>入門</b>教程

    如何用TensorFlow進行機器學習研究

    從理論上講,這幾乎是您使用 TensorFlow 進行機器學習研究所需要的全部內容
    的頭像 發表于 02-05 10:06 ?2121次閱讀
    如何用TensorFlow進行機器學習研究

    干貨 數據科學入門指南

    最近,在Github上發現了一份數據科學的“入門套路”。無論是從未嘗試過編寫代碼,還是需要深入復習相關數學知識,都可以在這份
    的頭像 發表于 07-19 14:09 ?3409次閱讀
    干貨 <b class='flag-5'>數據</b><b class='flag-5'>科學</b><b class='flag-5'>入門</b>指南

    什么是數據科學數據科學入門教程說明

    本文檔的主要內容詳細介紹的是什么是數據科學數據科學入門教程說明
    發表于 04-10 08:00 ?1次下載
    什么是<b class='flag-5'>數據</b><b class='flag-5'>科學</b>?<b class='flag-5'>數據</b><b class='flag-5'>科學</b>的<b class='flag-5'>入門</b>教程說明

    藍牙智能小車手機遙控全部開源資料合集免費下載

    本文檔的主要內容詳細介紹的是藍牙智能小車手機遙控全部開源資料合集免費下載。
    發表于 05-28 14:55 ?61次下載
    藍牙智能小車手機遙控<b class='flag-5'>全部</b><b class='flag-5'>開源</b>資料合集免費下載

    數據科學和機器學習所需要的基本數學技能

    作為一切科學的基礎,數學在數據科學領域也占據著重要地位。如果是一名數據科學愛好者,一定想過這些
    的頭像 發表于 07-06 09:39 ?2740次閱讀

    數據科學工具數不勝數——應該選擇哪一個?

    我們得承認——數據科學的范圍龐雜,每一個領域要求處理數據的方式各有不同,這讓許多分析家/數據科學家陷入困惑。而如果
    的頭像 發表于 08-27 15:55 ?1844次閱讀

    2020年常見的20種數據科學工具了解多少

    執行數據科學任務的最佳工具有哪些?作為數據科學新手,應該選擇哪些
    的頭像 發表于 08-27 15:56 ?4349次閱讀

    液晶屏維修從入門到精通

    資料介紹了如何從液晶屏入門到提高全部內容
    發表于 02-24 16:46 ?5次下載
    主站蜘蛛池模板: 色噜噜狠狠成人影院 | 久久sp| 49pao强力在线高清基地 | 国产手机在线国内精品 | 三级完整在线观看高清视频 | 一区二区三区高清视频在线观看 | 手机看片福利日韩国产 | 中文字幕亚洲区 | 琪琪午夜伦埋大全影院 | 亚洲swag精品自拍一区 | 久久久久久久网站 | 色婷婷色丁香 | 中文字幕1区2区 | 1024免费看片 | 久久精品亚洲精品国产欧美 | 色综合一区 | 天天干天天干天天插 | 婷婷午夜 | 一级做a免费视频 | 亚洲色图第一页 | 窝窝午夜看片 | 狂捣猛撞侍卫攻双性王爷受 | 精品成人毛片一区二区视 | 美女一级毛片毛片在线播放 | 五月婷婷狠狠 | 操熟逼| 日本天堂网在线观看 | 毛片福利 | 四虎色影院 | 色播欧美 | 深夜影院一级毛片 | 亚洲高清在线视频 | 欧美天天视频 | 亚洲第一区二区快射影院 | 视频午夜 | 欧美色视频在线 | 国产一级特黄a大片免费 | 国产老师的丝袜在线看 | 清朝荒淫牲艳史在线播放 | 伊人草 | 亚洲欧美一区二区久久香蕉 |