在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

學習下如何去抓APP的數據

電子工程師 ? 來源:lq ? 2019-01-23 09:44 ? 次閱讀

【導語】2019亞洲杯決賽正如火如荼進行中,國足的晉級之路可謂用“驚現”二字評論。繼1月16日,國足對戰韓國隊敗北后,一名Python學習者為了一窺網友們的評論,特意爬了懂球帝App的數據。

最新喜訊是在20日國足對戰泰國的比賽中,成功逆轉戰勝泰國晉級八強,無不驚喜。讓我們來學習下本文相關技術要點。

正文:

如果你是個足球迷的話,估計或多或少都會看一下昨晚中國踢韓國的比賽,因為不管他們踢得怎樣,我們還是深愛著他們,那句話說得好,“國足虐我千百遍,我待國足如初戀”。更何況他們兩場都踢贏了,所以面對第三場實力有點強的韓國隊也是希望能贏的,畢竟我們也在十二強賽上贏過他們!

如果你不是個足球迷,但你也可以看看,可以學習下如何去抓APP的數據。好了,廢話不多說,開始抓取!

1. 抓包分析請求

手機抓包我們可以用 Fiddler 軟件來抓取,如果不懂怎樣抓的話,可以看看這篇文章《抓包軟件 Fiddler 了解一下?》(文章鏈接:https://mp.weixin.qq.com/s/G7xjvoh77pwcsP1KNotxjw)

配置好之后,開始抓包。

首先找到需要爬取的文章

懂球帝app截圖

文章鏈接為:https://m.dongqiudi.com/article_share/896482.html

在配置好抓包之后,點擊下方的評論,可以看到

評論截圖

抓包截圖

很容易就找到文章評論的請求,就是下面這個

可以看到請求的鏈接為:https://api.dongqiudi.com/v2/article/896482/comment?sort=down&version=177,

請求方法為GET,接下來就好辦了,我們再看看滑下去查看更多的評論的請求。

可以看到,向下翻頁多了兩個參數,不過容易知道,next參數就是一個時間戳,而pn參數就是頁數吧,從0開始的。

但是怎樣判斷所有評論已經爬完了呢?我們可以看看數據的詳情,下面將 json 數據格式化,在下圖可以看到在 data 里面有下一頁的數據,那這就容易了,哈哈

分析了,接下來就是代碼部分了。

2. 代碼部分

這是主體部分,先從第一個評論鏈接中爬取評論以及找出下一頁的評論地址進而繼續爬取。這里是把數據庫存進 mongodb 中。

主要的爬取邏輯,可以看出來是比較簡單的,因為沒有涉及到什么加密參數之類的,但是有一個問題,每一次進行請求的時候,有時候是會返回帶有相同的評論的,所以我們也需要在數據庫簡單地進行去重。

下面是入庫和去重的代碼部分

剩下的就沒有了。

3. 查看所得的數據

由于數據分析還不熟悉,所以暫時只制作詞云圖。

需要先將數據寫到文本上

詞云圖是:

可以看出,昨晚國足輸一場,也被很多人噴了,但是還是有很多人是一直支持的,永遠都為國足加油,里面也說到了,中國和韓國是有一定差距的,而且還有點大,輸了也正常不過了,沒必要噴,再說我覺得昨晚的比賽已經比第一場的比賽好很多(第二次沒看),還是有進步的,我對國足未來淘汰賽也是充滿期望的,我相信能走得更遠!

下一場踢泰國,20號,有人看嗎?

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • APP
    APP
    +關注

    關注

    33

    文章

    1580

    瀏覽量

    72841
  • 代碼
    +關注

    關注

    30

    文章

    4838

    瀏覽量

    69139
  • python
    +關注

    關注

    56

    文章

    4811

    瀏覽量

    85078

原文標題:為了一窺國足輸韓國之后人們的評論,我爬了懂球帝App

文章出處:【微信號:rgznai100,微信公眾號:rgznai100】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    CC2530 packet sniffer 為什么不到,?

    我用packet sniffer 軟件包,芯片用的是CC2530,想協調器給終端設備發送的信道和pandid值,但是抓取不到,不知道為什么?只有MAXC層有數據,NWK層和應用層都沒有數據
    發表于 03-14 10:53

    Packet Sniffer包遇到的問題

    ??????? 我用的是CCDebuger +CC2531 USB Dongle,按照TI官方文檔的順序進行包,每次出來的數據基本上全都是錯的,按用戶指南說的是數據包解析錯誤,但是具體要怎么
    發表于 06-01 02:30

    加密后包分析的問題?

    請問一,我的zigbee設備全部都開啟了加密, 使用包軟件包的時候,數據都是加密的,我應該怎么解密分析這些數據呢,謝謝了
    發表于 06-01 14:22

    無線學習型紅外遙控器(APP藍牙控制,有APP安裝文件)

    ,鍵值保存到手機 c、保存的鍵值用于發射控制實現功能1、紅外遙控器解碼功能2、紅外遙控器發射功能3、解碼保存功能(APP實現)制作實物 學習狀態,按遙控器按鍵,就行解碼,解碼數據傳給
    發表于 03-09 11:27

    wireshark數據分析問題

    用網絡調試助手作為Tcp Server給STM32F429發送數據,每次傳輸完21845bytes后,就出現問題。用WireShark包的數據有些不太理解。上圖為用串口調試助手調試后的信息,每次傳輸到21846bytes就接收
    發表于 04-08 04:35

    如何使用Wireshark包工具呢

    Wireshark是什么?怎樣安裝一種Wireshark包工具?如何使用Wireshark包工具呢?
    發表于 09-17 06:31

    App是如何實現重啟的呢

    App是如何實現重啟的呢?如何實現App靜默安裝APK呢?
    發表于 02-10 07:52

    AVR入門: 如何使用App Note實現USART通訊?

    AVR入門: 使用App Note實行基于IRQ的USART通訊 (#18)
    的頭像 發表于 07-09 00:05 ?2362次閱讀

    用紙板制作娃娃機

    每次娃娃,總是差那么一丁點,要是能在家練習就好了。本次就給大家介紹怎么做不插電的娃娃機,快來學習吧。
    的頭像 發表于 01-22 17:49 ?7.1w次閱讀

    Wireshark數據包網絡協議的分析

    Wireshark 是目前最受歡迎的包工具。它可以運行在 Windows、Linux 及 MAC OS X 操作系統中,并提供了友好的圖形界面。同時,Wireshark 提供功能強大的數據包功能
    發表于 10-12 08:00 ?1次下載
    Wireshark<b class='flag-5'>數據</b><b class='flag-5'>抓</b>包網絡協議的分析

    推薦六款可提高學習效率的APP

    工欲善其事,必先利其器。好的學習App改變你的人生,開學了,來看看學霸們的App配置吧,抄下這份該抄的作業。
    的頭像 發表于 03-03 11:55 ?3598次閱讀

    USB數據包軟件程序下載

    USB數據包軟件程序下載
    發表于 09-09 16:01 ?9次下載

    淺析一KUKA機器人

    SPSMAKRO342 = M1-零件檢測沒有時打開夾,是用來進行復位保證件前所有夾是打開的
    的頭像 發表于 11-07 10:36 ?924次閱讀
    淺析一<b class='flag-5'>下</b>KUKA機器人<b class='flag-5'>抓</b>件

    APP不到包?

    其實如果不進行客戶端安裝證書,也是可以包的,但是沒有信任的證書相當于就是在路由上走一次,并沒有加解密過程,實際上還是客戶端與服務器端進行加解密通信
    的頭像 發表于 08-03 16:45 ?1419次閱讀
    <b class='flag-5'>APP</b><b class='flag-5'>抓</b>不到包?

    如何抓取app數據包 網絡包原理及實現

    要實現對App的網絡數據包,需要監控App與服務器交互之間的網絡節點,監控其中任意一個網絡節點(網卡),獲取所有經過網卡中的數據,對這些
    發表于 08-11 09:30 ?3477次閱讀
    如何抓取<b class='flag-5'>app</b><b class='flag-5'>數據</b>包 網絡<b class='flag-5'>抓</b>包原理及實現
    主站蜘蛛池模板: 午夜欧美精品 | 又潮又黄的叫床视频 | 欧美第四色 | 亚洲欧美视频在线 | 黄色日本视频网站 | 天天躁夜夜躁狠狠躁2021西西 | 亚洲国产成人久久一区久久 | 日日干夜夜欢 | 免费看大美女大黄大色 | 新版天堂中文资源8在线 | sihu国产午夜精品一区二区三区 | 伊人网络| 俺去鲁婷婷六月色综合 | 美女黄网站人色视频免费国产 | 91日韩精品天海翼在线观看 | 国产papa | 992tv国产精品福利在线 | 免费色黄网站 | 在线播放国产不卡免费视频 | 三浦理惠子中文在 | 久久婷婷是五月综合色狠狠 | 天天翘夜夜洗澡天天做 | 六月婷婷激情综合 | 国产免费人成在线视频视频 | 精品国产成人系列 | 色婷婷在线视频 | 免费观看黄色在线视频 | 每日最新avhd101天天看新片 | 四虎免费影院在线播放 | 国产一级特黄一级毛片 | 亚洲天堂免费 | 色婷婷亚洲十月十月色天 | 欧美高清激情毛片 | 中文字幕一二三四区2021 | 九九热国产在线 | 亚洲最色网站 | 午夜精品久久久久久 | 天天干夜夜添 | 狠狠色狠狠色综合婷婷tag | 日本口工福利漫画无遮挡 | 色欧美色 |