網絡爬蟲案例教程（Python·微課視頻版）

目錄

第1章緒論

1．1網絡爬蟲的基本概念

1．2網絡爬蟲的基本流程

1．2．1發起請求

1．2．2獲取響應內容

1．2．3解析內容

1．2．4持久化保存數據

1．3網絡爬蟲的合法性問題

1．4反爬蟲技術

1．4．1Useragent控制訪問

1．4．2IP限制訪問

1．4．3設置請求間隔

1．4．4通過參數加密和JavaScript腳本

1．4．5通過robots.txt來限制爬蟲

1．5網絡爬蟲的預備知識

1．5．1統一資源定位器

1．5．2超文本傳輸協議

1．5．3超文本標記語言

1．6開發語言和開發環境

1．6．1開發語言

1．6．2第三方請求庫

1．6．3開發工具

第2章Requests庫

2．1安裝Requests庫

2．2Requests庫發送請求

2．3查看響應內容

2．3．1查看響應狀態碼

2．3．2查看響應的文本信息

2．3．3解決亂碼問題

2．3．4二進制碼響應內容

2．3．5JSON響應內容

2．4定製請求頭部Headers

2．5Chrome瀏覽器開發者工具面板

2．5．1打開開發者工具面板

2．5．2Elements面板

2．5．3Network面板

2．6GET請求單個網頁的爬取案例

2．6．1不帶參數的GET請求

2．6．2攜帶參數的GET請求

第3章JSON數據爬取

3．1Ajax

3．1．1Ajax技術

3．1．2分析數據來源

3．2JSON

3．2．1JSON語法規則

3．2．2訪問JSON數據

3．2．3JSON文件讀寫操作

3．2．4JSON數據校驗和格式化

3．3Ajax異步動態加載的數據爬蟲

3．3．1帶參數的POST請求爬蟲

3．3.2多個網頁多鏈接GET請求爬蟲綜合案例

3．4POST請求的兩種參數格式

3．4．1Form Data類型

3．4．2Request Payload類型

第4章XPath解析及網頁數據爬取

4．1XPath簡介及安裝

4．2XPath節點

4．2．1基本值節點

4．2．2節點關系

4．3XPath語法

4．3．1選取節點語法

4．3．2謂語

4．3．3選取未知節點

4．3．4選取若乾路徑

4．3．5初步使用XPath案例

4．4XPath表達式

4．4．1定位XPath搜索框

4．4．2在網頁上寫XPath表達式

4．5爬取HTML文檔數據案例

4．6爬取多頁HTML文檔數據案例

4．6．1翻頁在參數里

4．6．2翻頁在URL中

4．7圖片爬蟲案例

4．7．1單張圖片爬取

4．7．2多頁多幅圖片爬蟲案例

4．7．3多類多頁多圖爬蟲案例

第5章IP代理

5．1IP代理的作用

5．2IP代理使用方法

5．3搭建IP池

5．3．1獲取單頁IP

5．3．2獲取多頁IP

5．3．3檢測IP有效性 

5．3．4建立IP池

5．4付費IP代理使用

第6章Selenium庫

6．1Selenium安裝及環境配置

6．1．1Selenium安裝

6．1．2環境配置

6．1．3環境測試

6．2Selenium簡單使用及配置

6．2．1打開網頁

6．2．2規避偽裝機制

6．2．3常見的配置項

6．3Selenium的元素定位操作

6．3．1查看頁面元素

6．3．2通過ID定位元素

6．3．3通過name定位元素

6．3．4通過class定位元素

6．3．5通過tag定位元素

6．3．6通過link定位元素

6．3．7通過partial_link定位元素

6．3．8通過XPath定位元素

6．3．9通過CSS定位元素

6．3．10通過By定位元素

6．4Selenium等待機制

6．4．1固定等待

6．4．2隱式等待

6．4．3顯式等待WebDriverWait

6．5Selenium控制瀏覽器

6．5．1瀏覽器的常見操作

6．5．2不同窗口之間切換

6．5．3鼠標事件

6．5．4鍵盤事件

6．5．5定位Frame/IFrame

6．5．6頁面下拉

6．5．7窗口截圖

6．5．8文件上傳

6．6Selenium爬蟲案例

6．6．1單頁爬取案例

6．6．2多頁爬取案例

第7章Requests與Selenium結合使用

7．1Selenium模擬登錄

7．1．1Selenium程序模擬登錄

7．1．2手動輸入數據模擬登錄

7．2Cookie與Session機制

7．2．1Cookie機制

7．2．2Session機制

7．3Requests、Cookie、Selenium結合使用

7．4Selenium和Requests結合下載音樂

7．4．1單首音樂下載

7．4．2多首音樂下載

第8章異步爬蟲

8．1基本概念

8．2串行下載多個視頻

8．3使用線程池下載多個視頻

8．3．1Multiprocessing

8．3．2Threading

8．4使用協程下載多個視頻

第9章正則表達式

9．1正則函數

9．1．1re．match函數

9．1．2re．search函數

9．1．3re．sub函數

9．1．4re．compile函數

9．1．5re．findall函數

9．1．6re．finditer函數

9．1．7re．split函數

9．2正則表達式模式及實例

9．3正則表達式實例

9．3．1匹配字符串

9．3．2匹配字符組

9．3．3區間匹配

9．3．4特殊字符匹配

9．3．5取反

9．3．6快捷匹配數字和字符

9．3．7匹配空白字符

9．3．8單詞邊界

9．3．9快捷方式取反

9．3．10開始和結束

9．3．11匹配任意字符

9．3．12可選字符

9．3．13重復

9．3．14重復區間

9．3．15開閉區間

9．4正則表達式進階

9．4．1分組

9．4．2或者條件

9．4．3分組的回溯引用

9．4．4斷言

第10章數據清洗

10．1數據分析流程

10．2數據清洗的概念及流程

10．3數據清洗常用方法

10．3．1讀取數據

10．3．2初步探索數據

10．3．3簡單處理數據

10．3．4重復值處理

10．3．5異常值處理

10．3．6處理缺失值

10．3．7爬取數據

10．3．8增加特徵值

10．3．9格式與內容清洗

10．3．10數據持久化保存

第11章綜合爬蟲案例

11．1數據爬取

11．1．1單線程爬取“前程無憂”

11．1．2多線程爬取“英才網”

11．1．3多線程爬取“前程無憂”

11．2簡單數據清洗

11．2．1導入庫

11．2．2初識數據

11．2．3簡單數據處理

11．2．4處理重復值

11．2．5處理空值

11．2．6字段內容清洗

11．2．7提取並增加特徵值

11．2．8處理異常值

11．2．9數據保存

參考文獻