在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

用Python玩?zhèn)€“小小的”大數(shù)據(jù)

馬哥Linux運維 ? 來源:未知 ? 作者:李倩 ? 2018-06-27 15:11 ? 次閱讀

Google Ngram viewer是一個有趣和有用的工具,它使用谷歌從書本中掃描來的海量的數(shù)據(jù)寶藏,繪制出單詞使用量隨時間的變化。舉個例子,單詞Python(區(qū)分大小寫):

這幅圖來自:books.google.com/ngrams/grap…,描繪了單詞 'Python' 的使用量隨時間的變化。

它是由谷歌的n-gram數(shù)據(jù)集驅(qū)動的,根據(jù)書本印刷的每一個年份,記錄了一個特定單詞或詞組在谷歌圖書的使用量。然而這并不完整(它并沒有包含每一本已經(jīng)發(fā)布的書!),數(shù)據(jù)集中有成千上百萬的書,時間上涵蓋了從 16 世紀到 2008 年。數(shù)據(jù)集可以免費從這里下載。

我決定使用 Python 和我新的數(shù)據(jù)加載庫PyTubes來看看重新生成上面的圖有多容易。

挑戰(zhàn)

1-gram 的數(shù)據(jù)集在硬盤上可以展開成為 27 Gb 的數(shù)據(jù),這在讀入 python 時是一個很大的數(shù)據(jù)量級。Python可以輕易地一次性地處理千兆的數(shù)據(jù),但是當數(shù)據(jù)是損壞的和已加工的,速度就會變慢而且內(nèi)存效率也會變低。

總的來說,這 14 億條數(shù)據(jù)(1,430,727,243)分散在 38 個源文件中,一共有 2 千 4 百萬個(24,359,460)單詞(和詞性標注,見下方),計算自 1505 年至 2008 年。

當處理 10 億行數(shù)據(jù)時,速度會很快變慢。并且原生 Python 并沒有處理這方面數(shù)據(jù)的優(yōu)化。幸運的是,numpy真的很擅長處理大體量數(shù)據(jù)。 使用一些簡單的技巧,我們可以使用 numpy 讓這個分析變得可行。

在 python/numpy 中處理字符串很復(fù)雜。字符串在 python 中的內(nèi)存開銷是很顯著的,并且 numpy 只能夠處理長度已知而且固定的字符串。基于這種情況,大多數(shù)的單詞有不同的長度,因此這并不理想。

Loading the data

下面所有的代碼/例子都是運行在8 GB 內(nèi)存的 2016 年的 Macbook Pro。 如果硬件或云實例有更好的 ram 配置,表現(xiàn)會更好。

1-gram 的數(shù)據(jù)是以 tab 鍵分割的形式儲存在文件中,看起來如下:

Python158742

Python162111

Python165122

Python165911

每一條數(shù)據(jù)包含下面幾個字段:

1.Word

2.Year of Publication

3.Total number of times the word was seen

4.Total number of books containing the word

為了按照要求生成圖表,我們只需要知道這些信息,也就是:

1. 這個單詞是我們感興趣的?

2. 發(fā)布的年份

3. 單詞使用的總次數(shù)

通過提取這些信息,處理不同長度的字符串數(shù)據(jù)的額外消耗被忽略掉了,但是我們?nèi)匀恍枰獙Ρ炔煌址臄?shù)值來區(qū)分哪些行數(shù)據(jù)是有我們感興趣的字段的。這就是 pytubes 可以做的工作:

import tubes

FILES = glob.glob(path.expanduser("~/src/data/ngrams/1gram/googlebooks*"))

WORD = "Python"

one_grams_tube = (tubes.Each(FILES)

.read_files()

.split()

.tsv(headers=False)

.multi(lambda row: (

row.get(0).equals(WORD.encode('utf-8')),

row.get(1).to(int),

row.get(2).to(int)

))

)

差不多 170 秒(3 分鐘)之后,onegrams_ 是一個 numpy 數(shù)組,里面包含差不多 14 億行數(shù)據(jù),看起來像這樣(添加表頭部為了說明):

╒═══════════╤════════╤═════════╕

│ Is_Word │ Year │ Count │

╞═══════════╪════════╪═════════╡

│ 0 │ 1799 │ 2 │

├───────────┼────────┼─────────┤

│ 0 │ 1804 │ 1 │

├───────────┼────────┼─────────┤

│ 0 │ 1805 │ 1 │

├───────────┼────────┼─────────┤

│ 0 │ 1811 │ 1 │

├───────────┼────────┼─────────┤

│ 0 │ 1820 │ ... │

╘═══════════╧════════╧═════════╛

從這開始,就只是一個用 numpy 方法來計算一些東西的問題了:

每一年的單詞總使用量

谷歌展示了每一個單詞出現(xiàn)的百分比(某個單詞在這一年出現(xiàn)的次數(shù)/所有單詞在這一年出現(xiàn)的總數(shù)),這比僅僅計算原單詞更有用。為了計算這個百分比,我們需要知道單詞總量的數(shù)目是多少。

幸運的是,numpy讓這個變得十分簡單:

last_year = 2008

YEAR_COL = '1'

COUNT_COL = '2'

year_totals, bins = np.histogram(

one_grams[YEAR_COL],

density=False,

range=(0, last_year+1),

bins=last_year + 1,

weights=one_grams[COUNT_COL]

)

繪制出這個圖來展示谷歌每年收集了多少單詞:

很清楚的是在 1800 年之前,數(shù)據(jù)總量下降很迅速,因此這回曲解最終結(jié)果,并且會隱藏掉我們感興趣的模式。為了避免這個問題,我們只導(dǎo)入 1800 年以后的數(shù)據(jù):

one_grams_tube = (tubes.Each(FILES)

.read_files()

.split()

.tsv(headers=False)

.skip_unless(lambda row: row.get(1).to(int).gt(1799))

.multi(lambda row: (

row.get(0).equals(word.encode('utf-8')),

row.get(1).to(int),

row.get(2).to(int)

))

)

這返回了 13 億行數(shù)據(jù)(1800 年以前只有 3.7% 的的占比)

Python 在每年的占比百分數(shù)

獲得 python 在每年的占比百分數(shù)現(xiàn)在就特別的簡單了。

使用一個簡單的技巧,創(chuàng)建基于年份的數(shù)組,2008 個元素長度意味著每一年的索引等于年份的數(shù)字,因此,舉個例子,1995 就只是獲取 1995 年的元素的問題了。

這都不值得使用 numpy 來操作:

word_rows = one_grams[IS_WORD_COL]

word_counts = np.zeros(last_year+1)

for _, year, count in one_grams[word_rows]:

word_counts[year] += (100*count) / year_totals[year]

繪制出 word_counts 的結(jié)果:

形狀看起來和谷歌的版本差不多

實際的占比百分數(shù)并不匹配,我認為是因為下載的數(shù)據(jù)集,它包含的用詞方式不一樣(比如:Python_VERB)。這個數(shù)據(jù)集在 google page 中解釋的并不是很好,并且引起了幾個問題:

人們是如何將 Python 當做動詞使用的?

'Python' 的計算總量是否包含 'Python_VERB'?等

幸運的是,我們都清楚我使用的方法生成了一個與谷歌很像的圖標,相關(guān)的趨勢都沒有被影響,因此對于這個探索,我并不打算嘗試去修復(fù)。

性能

谷歌生成圖片在 1 秒鐘左右,相較于這個腳本的 8 分鐘,這也是合理的。谷歌的單詞計算的后臺會從明顯的準備好的數(shù)據(jù)集視圖中產(chǎn)生作用。

舉個例子,提前計算好前一年的單詞使用總量并且把它存在一個單獨的查找表會顯著的節(jié)省時間。同樣的,將單詞使用量保存在單獨的數(shù)據(jù)庫/文件中,然后建立第一列的索引,會消減掉幾乎所有的處理時間。

這次探索確實展示了,使用 numpy 和 初出茅廬的 pytubes 以及標準的商用硬件和 Python,在合理的時間內(nèi)從十億行數(shù)據(jù)的數(shù)據(jù)集中加載,處理和提取任意的統(tǒng)計信息是可行的,

語言戰(zhàn)爭

為了用一個稍微更復(fù)雜的例子來證明這個概念,我決定比較一下三個相關(guān)提及的編程語言:Python,Pascal,和Perl.

源數(shù)據(jù)比較嘈雜(它包含了所有使用過的英文單詞,不僅僅是編程語言的提及,并且,比如,python 也有非技術(shù)方面的含義!),為了這方面的調(diào)整, 我們做了兩個事情:

只有首字母大寫的名字形式能被匹配(Python,不是 python)

每一個語言的提及總數(shù)已經(jīng)被轉(zhuǎn)換到了從 1800 年到 1960 年的百分比平均數(shù),考慮到 Pascal 在 1970 年第一次被提及,這應(yīng)該有一個合理的基準線。

結(jié)果:

對比谷歌 (沒有任何的基準線調(diào)整):

運行時間: 只有 10 分鐘多一點

代碼:gist.github.com/stestagg/91…

以后的 PyTubes 提升

在這個階段,pytubes 只有單獨一個整數(shù)的概念,它是 64 比特的。這意味著 pytubes 生成的 numpy 數(shù)組對所有整數(shù)都使用 i8 dtypes。在某些地方(像 ngrams 數(shù)據(jù)),8 比特的整型就有點過度,并且浪費內(nèi)存(總的 ndarray 有 38Gb,dtypes 可以輕易的減少其 60%)。 我計劃增加一些等級 1,2 和 4 比特的整型支持(github.com/stestagg/py…)

更多的過濾邏輯 - Tube.skip_unless() 是一個比較簡單的過濾行的方法,但是缺少組合條件(AND/OR/NOT)的能力。這可以在一些用例下更快地減少加載數(shù)據(jù)的體積。

更好的字符串匹配 —— 簡單的測試如下:startswith, endswith, contains, 和 isoneof 可以輕易的添加,來明顯地提升加載字符串數(shù)據(jù)是的有效性。

一如既往,非常歡迎大家patches!

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 谷歌
    +關(guān)注

    關(guān)注

    27

    文章

    6223

    瀏覽量

    107528
  • python
    +關(guān)注

    關(guān)注

    56

    文章

    4825

    瀏覽量

    86192
  • 大數(shù)據(jù)
    +關(guān)注

    關(guān)注

    64

    文章

    8952

    瀏覽量

    139485

原文標題:使用 Python 分析 14 億條數(shù)據(jù)

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦
    熱點推薦

    小小的電阻,您真的吃透了它的用法嗎

    小小的電阻,您真的吃透了它的用法嗎
    發(fā)表于 05-28 22:39

    如何從零學大數(shù)據(jù)

    設(shè)計,掌握從數(shù)據(jù)采集到實時計算到數(shù)據(jù)存儲再到前臺展示,所有工作一人搞定!并可以從架構(gòu)的層次站在架構(gòu)師的角度去完成一項目。第四階段:其他學習內(nèi)容:Mahout 機器學習→ R 語言→
    發(fā)表于 03-01 15:41

    大數(shù)據(jù)運用的技術(shù)

    ,是一為分布式應(yīng)用提供一致性服務(wù)的軟件,提供的功能包括:配置維護、域名服務(wù)、分布式同步、組件服務(wù)等,在大數(shù)據(jù)開發(fā)中要掌握ZooKeeper的常用命令及功能的實現(xiàn)方法。7. HBaseHBase是一
    發(fā)表于 04-08 16:50

    學習Python大數(shù)據(jù)與機器學習必會Matplotlib知識

    python的培訓學習中,我們會用python進行數(shù)據(jù)分析的學習與應(yīng)用,并且在這一部分進行繪圖是必不可少的,所以為了看一下大家的實力,今天我們python培訓安排了
    發(fā)表于 07-05 17:57

    一條小小的內(nèi)存條憑啥能發(fā)揮這么大的作用?

    內(nèi)存條真的有這么神奇嗎?一條小小的內(nèi)存條憑啥能發(fā)揮這么大的作用?如何去選擇電腦內(nèi)存條?
    發(fā)表于 06-18 06:01

    求助,求推薦一簡單的小小的開發(fā)傳統(tǒng)51單片機的組合

    推薦一簡單的小小的開發(fā)傳統(tǒng)51單片機的組合
    發(fā)表于 06-27 08:18

    小小的疏忽就能毀掉EMI性能

    小小的疏忽就能毀掉EMI性能,感興趣的小伙伴們可以瞧一瞧。
    發(fā)表于 09-18 17:34 ?0次下載

    Python 實現(xiàn)一個大數(shù)據(jù)搜索引擎

    搜索是大數(shù)據(jù)領(lǐng)域里常見的需求。Splunk和ELK分別是該領(lǐng)域在非開源和開源領(lǐng)域里的領(lǐng)導(dǎo)者。本文利用很少的Python代碼實現(xiàn)了一基本的數(shù)據(jù)搜索功能,試圖讓大家理解
    的頭像 發(fā)表于 03-06 17:26 ?4903次閱讀

    python腳本看透Linux程序?qū)斓囊蕾?/a>

    我今天寫了一小小的python程序,可以在完全不看源代碼的情況下,分析a如果調(diào)用b.so的時候,會引用b.so的哪些函數(shù)。
    的頭像 發(fā)表于 12-24 13:44 ?3336次閱讀
    一<b class='flag-5'>個</b><b class='flag-5'>python</b>腳本看透Linux程序?qū)斓囊蕾? />    </a>
</div>                              <div   id=

    Python做幾個表情包

    今天制作表情包用到的技術(shù)還是之前提到的Turtle庫,可以從之前的文章除了畫佩奇我們還要點更高級的,去學習Turtle的常用語法,然后就是PIL庫,之前通過這篇文章:Python騷操作|P
    的頭像 發(fā)表于 02-11 11:13 ?5413次閱讀

    小小的半導(dǎo)體芯片,改變了整個世界

    據(jù)國外媒體報道,說到互聯(lián)全球的技術(shù),半導(dǎo)體芯片居功至偉。但是這小小的芯片,究竟是如何走進我們生活每一處的呢?
    的頭像 發(fā)表于 12-25 09:25 ?3476次閱讀

    小小的采樣電阻,還真有點門道!資料下載

    電子發(fā)燒友網(wǎng)為你提供小小的采樣電阻,還真有點門道!資料下載的電子資料下載,更有其他相關(guān)的電路圖、源代碼、課件教程、中文資料、英文資料、參考設(shè)計、用戶指南、解決方案等資料,希望可以幫助到廣大的電子工程師們。
    發(fā)表于 04-23 08:42 ?13次下載
    <b class='flag-5'>小小的</b>采樣電阻,還真有點門道!資料下載

    ?51單片機也可以實現(xiàn)一小小的智能家居√(smart-home)?

    ?51單片機也可以實現(xiàn)一小小的智能家居√(smart-home)開源所有代碼?文章目錄?51單片機也可以實現(xiàn)一小小的智能家居√(smart-home)開源所有代碼?一
    發(fā)表于 11-23 16:51 ?15次下載
    ?51單片機也可以實現(xiàn)一<b class='flag-5'>個</b><b class='flag-5'>小小的</b>智能家居√(smart-home)?

    【Linux內(nèi)核】從小小的宏定義窺探Linux內(nèi)核的精妙設(shè)計

    【Linux內(nèi)核】從小小的宏定義窺探Linux內(nèi)核的精妙設(shè)計
    的頭像 發(fā)表于 08-31 13:30 ?2216次閱讀

    小小的保險絲,究竟有哪些重要的作用呢

    保險絲(Fuse)是一種電氣元件,它起著非常重要的作用。今天弗瑞鑫小編將通過詳細闡述保險絲的作用,讓讀者了解這個小小的元件的重要性以及其在電子設(shè)備中的好處。
    的頭像 發(fā)表于 05-05 08:36 ?2577次閱讀
    主站蜘蛛池模板: 国产女人视频 | 国产成人精品一区二区仙踪林 | 射久久 | 天天天狠天天透天天制色 | 福利在线播放 | 亚洲热热久久九九精品 | 四虎在线播放免费永久视频 | 国产美女在线观看 | 国产一区二区三区在线影院 | 欧美性xxxx巨大黑人猛 | 成年ssswww中国女人 | 日韩福利网站 | 日韩视频高清 | 一级片在线观看视频 | 免费高清在线观看a网站 | videosgratis乱色欧美野外 | 甘婷婷一级毛片免费看 | 婷婷开心六月久久综合丁香 | 欧美a免费 | 人人插人人 | 色婷婷久久合月综 | 97成人免费视频 | 国产精品高清久久久久久久 | 天堂社区在线观看 | 欧美另类网 | 在线精品一区二区三区 | 亚洲人成网站色在线观看 | 亚洲啪啪免费视频 | 国产九色在线 | аⅴ资源天堂8在线 | 天堂8资源在线官网资源 | 性性性性bbbbxxxx | 免费在线色 | 黄色在线观看视频 | 国产精品bdsm在线调教 | 日韩1 | 黄色网址网站在线观看 | 日本xxx69hd| 三级网站视频 | 午夜影院在线观看 | 欧美福利一区 |