最近在看《機器學習實戰(zhàn)》的時候萌生了一個想法,自己去網上爬一些數據按照書上的方法處理一下,不僅可以加深自己對書本的理解,順便還可以在github拉拉人氣。剛好在看決策樹這一章,書里面的理論和例子讓我覺得這個理論和選擇對象簡直不能再貼切,看完長相看學歷,看完學歷看收入。如果可以從婚戀網站上爬取女性的數據信息,手動給她們打標簽,并根據這些數據構建決策樹,不就可以找出自己的擇偶模式了嗎!github項目:huatian-funny,下面就詳細的闡釋一下。
數據爬取
之前在世紀佳緣上爬取過類似的數據,總體的感覺是上面的用戶數據要么基本不填要么一看就很假,周圍的一些老司機建議可以在花田網上看下,數據質量確實高很多,唯一的缺點就是上面的數據不給爬,搜索用戶的API需要登錄,而且只顯示三十多個用戶的信息。剛好我需要的數據也很少,就把搜索條件劃分的很細,每次取到的數據很小,但最終匯集的數量還是相當可觀的,最終獲取了位置在上海年齡22-27共計2000個左右的用戶數據。填寫好spider.py中的用戶名和密碼,直接運行這個文件就可以爬取數據,因為數據量不大,很快就可以運行完畢,存儲在mongodb中的數據如下:
爬蟲用到的工具是requests,流程上也很簡單,先發(fā)送登陸請求獲取cookie,然后調用搜索API獲取數據,拿到的數據是json格式,不需要任何轉換直接存儲mongodb,非常的方便,唯一想吐槽的就是花田搜索API接口竟然用的是POST方式,太沒有專業(yè)水準了。稍微提一下如何用request獲取cookie,用Session構建一個session對象,用這個對象發(fā)送登陸請求后,之后的請求都會自動帶上登陸返回的cookie,使用起來非常的簡單。
給用戶打標簽
由于決策樹屬于監(jiān)督學習,需要一個給定的標簽,因此需要自己根據用戶的外貌、年齡、學歷等多個維度的判斷給出一個標簽,最后生成的決策樹在一定程度上就可以反映自己的擇偶標準。針對女性的標簽很簡單粗暴,只有滿意和不滿意兩種,有興趣的同學可以按照真實的情況設置更多的標簽,例如優(yōu)秀、一般、備胎、不合格等等。因為外貌是選擇對象過程中一個必不可少的要素,把相貌量化至關重要,因為沒有相關的工具根據頭像進行評分,只能個人主觀進行量化,采用了當下非常流行的十分制。
為了增加打標簽的效率,專門寫了一個桌面窗口,運行mark.py即可,運行結果如下。(tkinter是一個坑,調代碼的時間夠我把整個數據集看好幾遍了,不過真的用起來的時候還是挺有意思的)
備注:因為剛開始看的很多用戶只有頭像、年齡、身高、工資、學歷這五個信息,所以整個過程中只參考了這五個維度進行評價,下面的決策樹也是根據這五個維度進行處理。
訓練數據
決策樹
機器學習中,決策樹是一個預測模型,它代表的是對象屬性與對象值之間的一種映射關系。樹中每個節(jié)點表示某個對象,而每個分叉路徑則代表的某個可能的屬性值,而每個葉結點則對應從根節(jié)點到該葉節(jié)點所經歷的路徑所表示的對象的值。決策樹僅有單一輸出,若欲有復數輸出,可以建立獨立的決策樹以處理不同輸出。從數據產生決策樹的機器學習技術叫做決策樹學習, 通俗點說就是決策樹,說白了,這是一種依托于分類、訓練上的預測樹,根據已知預測、歸類未來。
理論方面我可以參考《機器學習實戰(zhàn)》第三章或者這篇博客,很淺顯易懂的解釋了具體的原理,我就不贅述了。
結果展示
代碼參考的是《機器學習實戰(zhàn)》,針對現實自己做了一些優(yōu)化調整,和原來的代碼不是完全相同,運行train.py就可以顯示出結果,如下:
因為線很擠,調了很久只能拿到這個效果了。到這兒已經很清晰明了的闡明了主題,我就是一個外貌黨,顏值高的pass,顏值低的忽略,不高不低的考慮的相當糾結。有興趣的同學可以自己試一試。
-
機器學習
+關注
關注
66文章
8476瀏覽量
133758 -
python
+關注
關注
56文章
4821瀏覽量
85705
原文標題:Python抓取婚戀網用戶數據,用決策樹生成自己擇偶觀
文章出處:【微信號:WUKOOAI,微信公眾號:悟空智能科技】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
關于決策樹,這些知識點不可錯過
怎樣使用UNICO生成具有多個決策樹的UCF文件呢
決策樹的生成資料
決策樹的構建設計并用Graphviz實現決策樹的可視化

機器學習:決策樹--python
機器學習之決策樹生成詳解

決策樹的原理和決策樹構建的準備工作,機器學習決策樹的原理
決策樹的基本概念/學習步驟/算法/優(yōu)缺點

什么是決策樹模型,決策樹模型的繪制方法

評論