網頁噪聲包括為了增強用戶交互性而加入的各種腳本標記, 加強網頁視覺效果的各種動畫, 為了方便用戶瀏覽而添加的導航鏈接、廣告鏈接。這些信息跟文本分類沒有實質性關系。
Python作為一種網頁文本的爬蟲程序開發語言, 可以完成很多復雜的網頁文本提取。使用urlib2模塊下的簡單代碼就能爬取目標網頁的全部源代碼, 獲得整個網頁的內容。使用BeautifulSoup模塊自帶的html.parse庫, 去掉所爬網頁源代碼中的html標記, 即可提取網頁標簽中的文本內容。
本文地址:http://murenxiang.com.cn//article/20622.html