在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

python代碼中使用HTTP代理IP,demo注釋清晰

華益云HTTP爬蟲IP ? 來源:華益云HTTP爬蟲IP ? 作者:華益云HTTP爬蟲IP ? 2022-08-04 15:40 ? 次閱讀

如何再python代碼中使用HTTP代理IP。

以下代碼主要圍繞第一次接觸HTTP代理IP的python新手來寫。(步驟注釋清晰)

直接把下面示例代碼中的HTTP代理API,替換成你后臺生成的代理API鏈接,就可以跑起來了。

以下是一個示例代碼,只是一個基礎的演示,具體的代碼還是要根據你業務的實際情況去寫的。

示例代碼中的HTTP代理IP,我使用的是華益云的HTTP代理,注冊就白嫖1萬個高匿爬蟲IP,有效期是一年,對于調試代碼來說這個時間是非常的友好。(步驟注釋清晰)

華益云-企業級HTTP爬蟲代理IP供應商-點我免費領取示例代碼demo中同款10000個高匿IP

打開代理API,獲取里面的IP,使用IP訪問目標網站,其實代碼中就是執行這個過程而已,然后加了幾個錯誤判斷有助于代碼的穩定運行。

# 此版本無需安裝依賴
import urllib
import urllib.request
import urllib

def main():
    # 發送給服務器的標識
    userAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/532.36 (KHTML, like Gecko) Chrome/97.0.4692.99 Safari/537.36"
    # 代理api(這里我推薦使用www.9vps.com華益云的HTTP代理API,注冊就白嫖1萬IP)
    proxyUrl = "http://http.9vps.com/getip.asp?username=166xxxx6597&pwd=xxxxbaa59ce237dff65134984b9cxxxx&geshi=1&fenge=1&fengefu=&Contenttype=1&getnum=20&setcity=&operate=all&";
    # 請求代理url,獲取代理ip 
    outPutProxy = getProxy(proxyUrl, userAgent)
    if len(outPutProxy)==0:
        # 沒有獲取到代理
        return
    # 目標請求網站
    # https://httpbin.org/get
    url = "https://www.qq.com/"
    content = None
 
    for _ in range(0, 3):
        # 最多嘗試三次
        try:
            # 從列表中取出一個代理出來
            proxy = outPutProxy.pop(0)
            px = {
                "http": proxy,
                "https": proxy
            }
            content = requestGet(url, userAgent, px)
            break
        except Exception as e:
            print(e)
            if (len(outPutProxy) == 0):
                # 如果發現沒有代理了,就去獲取下。
                outPutProxy = getProxy(proxyUrl, userAgent)
     
    print(content)
def getProxy(proxyUrl, userAgent):
    proxyIps=""
    outPutProxy = []
    try:
        proxyIps = requestGet(proxyUrl, userAgent, None)
        print("(proxyIps)", proxyIps)
        # {"code":3002,"data":[],"msg":"error!用戶名或密碼錯誤","success":false}
        if "{" in proxyIps:
            raise Exception("[錯誤]"+proxyIps)
        outPutProxy = proxyIps.splitlines()
        
    except Exception as e:
        print(e)
    print("總共獲取了"+str(len(outPutProxy))+"個代理")
    return outPutProxy

def requestGet(url, userAgent, proxy):
    headers = {
        "User-Agent": userAgent
    }
    # httpproxy_handler = urllib.ProxyHandler({"http" : " 180.104.192.217:22036"}) 
    response = None
    if (proxy):
        proxyHandler = urllib.request.ProxyHandler(proxy)
        opener = urllib.request.build_opener(proxyHandler, urllib.request.HTTPHandler)
        urllib.request.install_opener(opener)
        request = urllib.request.Request(url, headers=headers)
        response = urllib.request.urlopen(request, timeout=5)
    else:
        # 沒有代理走這個
        request = urllib.request.Request(url, headers=headers)
        response = urllib.request.urlopen(request, timeout=5)
        #response = opener.open(request)
    
    
    html = response.read()
    # # 設置編碼,防止亂碼
    # 手動設置網頁字符編碼方式
    return html.decode("utf-8", "ignore")

main()

或者直接百度搜索:華益云HTTP代理

審核編輯 黃昊宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • IP
    IP
    +關注

    關注

    5

    文章

    1767

    瀏覽量

    151031
  • python
    +關注

    關注

    56

    文章

    4822

    瀏覽量

    85874
收藏 人收藏

    評論

    相關推薦

    python基礎:如何注釋代碼

    ? ? ? 大家好,又到了每日學習的時間了,最近博主在和python打交道,今天我們來聊一聊python一些基礎的東西,如何注釋代碼塊。 ? ? ? ?前言 ? ? ? ?編寫
    的頭像 發表于 12-26 22:03 ?5718次閱讀
    <b class='flag-5'>python</b>基礎:如何<b class='flag-5'>注釋</b><b class='flag-5'>代碼</b>塊

    如何在java代碼中使HTTP代理IP

    如何在java代碼中使HTTP代理IP
    的頭像 發表于 08-04 15:38 ?2388次閱讀

    如何在python代碼中使HTTP代理IP

    如何在python代碼中使HTTP代理IP
    的頭像 發表于 08-04 15:46 ?1397次閱讀

    如何在PHP代碼中使HTTP代理IP

    如何在PHP代碼中使HTTP代理IP
    的頭像 發表于 08-04 16:08 ?2609次閱讀

    go語言代碼中使HTTP代理IP的方法

    如何在go語言代碼中使HTTP代理IP
    的頭像 發表于 08-04 16:13 ?3382次閱讀

    如何在易e語言代碼中使HTTP代理IP

    如何在易e語言代碼中使HTTP代理IP,示例代碼demo
    的頭像 發表于 08-05 16:29 ?7181次閱讀

    如何在c語言代碼中使HTTP代理IP

    如何在c語言代碼中使HTTP代理IP,示例代碼demo
    的頭像 發表于 08-05 16:31 ?2510次閱讀

    如何在c#語言代碼中使HTTP代理IP

    如何在c#語言代碼中使HTTP代理IP,示例代碼demo
    的頭像 發表于 08-05 16:33 ?2877次閱讀

    java中怎么使用HTTP代理

    java中怎么使用HTTP代理,華益云python爬蟲ip
    的頭像 發表于 09-01 14:31 ?1823次閱讀

    python中怎么使用HTTP代理

    python中怎么使用HTTP代理,華益云高匿爬蟲代理ip
    的頭像 發表于 09-01 14:36 ?1771次閱讀

    PHP中怎么使用HTTP代理

    PHP中怎么使用HTTP代理,華益云高匿爬蟲代理ip
    的頭像 發表于 09-01 14:38 ?1889次閱讀

    c語言中怎么使用HTTP代理

    如何再c語言代碼中使HTTP代理IP
    的頭像 發表于 09-01 14:44 ?1567次閱讀

    python代碼中如何使用HTTP代理

    華益云HTTP代理API有效期是一年,也就是說一年內這1萬IP用完就沒了,如果你一年都用不完那到時候剩余IP才會被清零,對于調試代碼來說時間
    的頭像 發表于 09-01 14:50 ?1013次閱讀

    python代碼中如何使用HTTP代理

    HTTP代理就是介于瀏覽器和web服務器之間的一臺服務器,連接代理后,瀏覽器不再直接向web服務器取回網頁,而是向代理服務器發出request信號,
    的頭像 發表于 09-13 09:24 ?1421次閱讀

    如何在python代碼中使HTTP代理IP

    如何再python代碼中使HTTP代理IP
    的頭像 發表于 09-13 09:25 ?1140次閱讀
    主站蜘蛛池模板: 免费看国产精品久久久久 | 男女爱爱爽爽福利免费视频 | 天堂在线www天堂中文在线 | 国产综合成色在线视频 | 奇米77| 免费看久久 | 午夜爽爽 | 热久久这里只有精品 | 精品三级三级三级三级三级 | 国产精品黄页网站在线播放免费 | 欧美一区二区三区不卡片 | 丁香花小说 | 美女一级免费毛片 | 久久精品亚洲青青草原 | 亚洲乱论| bt天堂电影| 特黄aa级毛片免费视频播放 | 男人天堂网www | 国产一级特黄高清免费大片 | 欧美视频精品在线 | 免费看美女午夜大片 | 国产色综合一区二区三区 | 午夜三级在线 | 超级狂色而且免费又超好看 | 国产精品好好热在线观看 | 国产精品午夜寂寞视频 | 手机看片1024国产基地 | 免费视频性 | 草久久久久 | 日本黄色大片在线播放视频免费观看 | 手机看片国产精品 | 扒开双腿猛进湿润18p | tdg58在线观看 | 日本高清色图 | 窝窝午夜在线观看免费观看 | 国产精品久久久久免费 | 精品国产成人系列 | 国产成年女一区二区三区 | 老色批在线播放视频网站免费 | 婷婷色影院 | ass嫩美女胴体 |