python BeautifulSoup庫的安裝與使用
BeautifulSoup4和 lxml 一樣,Beautiful Soup 也是一個(gè)HTML/XML的解析器,主要的功能也是如何解析和提取 HTML/XML 數(shù)據(jù)。
BeautifulSoup支持Python標(biāo)準(zhǔn)庫中的HTML解析器,還支持一些第三方的解析器,如果我們不安裝它,則 Python 會使用 Python默認(rèn)的解析器,lxml 解析器更加強(qiáng)大,速度更快,推薦使用lxml 解析器。
Beautiful Soup自動(dòng)將輸入文檔轉(zhuǎn)換為Unicode編碼,輸出文檔轉(zhuǎn)換為utf-8編碼。你不需要考慮編碼方式,除非文檔沒有指定一個(gè)編碼方式,這時(shí),Beautiful Soup就不能自動(dòng)識別編碼方式了。然后,你僅僅需要說明一下原始編碼方式就可以了。
2.BeautifulSoup的安裝首先我們需要安裝一個(gè)BeautifulSoup庫。我安裝的版本是python3。所以就可以直接在cmd下用pip3命令進(jìn)行安裝。
命令:
pip3 install beautifulsoup4
在安裝好BeautifulSoup后,我們可以通過導(dǎo)入該庫來判斷是否安裝成功。
命令:
>>> from bs4 import BeautifulSoup
回車后不報(bào)錯(cuò),這說明我們已經(jīng)將其安裝成功。
3.BeautifulSoup常用功能# beautiful soup 網(wǎng)頁中提取信息的python庫# BeautifulSoup 對象表示的是一個(gè)文檔的全部內(nèi)容# prettify() 按照標(biāo)準(zhǔn)的縮進(jìn)格式的結(jié)構(gòu)輸出# get_text() 會將HTML文檔中的所有標(biāo)簽清除,返回一個(gè)只包含文字的字符串from bs4 import BeautifulSouptext=’’’<?xml version='1.0' encoding='ISO-8859-1'?><bookstore><book> <title lang='eng'>Harry Potter</title> <price>29.99</price></book><book> <title lang='eng'>Learning XML</title> <price>39.95</price></book></bookstore>’’’# create 對象bf=BeautifulSoup(text)# 按照標(biāo)準(zhǔn)縮進(jìn)格式輸出print(bf.prettify())# 會將HTML文檔中的所有標(biāo)簽清除,返回一個(gè)只包含文字的字符串print(bf.get_text())# Tag對象 # 標(biāo)簽 表示HTML中的一個(gè)個(gè)標(biāo)簽# name# attrstag=bf.title # 獲取title標(biāo)簽print(tag)print(type(tag)) # tag類型print(tag.name) # 標(biāo)簽名稱print(tag.attrs) #標(biāo)簽屬性print(tag.attrs['lang']) #單獨(dú)獲取某個(gè)屬性 方法1print(bf.title['lang']) #單獨(dú)獲取某個(gè)屬性 方法2# NavigableString tag.string# 表示標(biāo)簽中的文字print(tag.string)print(type(tag.string)) # 查看數(shù)據(jù)類型# Comment 注釋部分# 一個(gè)特殊類型的NavigableString對象# 輸出的內(nèi)容不包括注釋符號string=’’’<p><!-- 這是注釋! --></p>’’’sp=BeautifulSoup(string)print(sp)print(sp.p.string) # 去獲取標(biāo)簽中是文字
# 兩個(gè)常用函數(shù) # find_all() 搜索當(dāng)前tag的所有tag子節(jié)點(diǎn),并判斷是否符合給定的條件# 返回結(jié)果是一個(gè)列,可以包含多個(gè)元素print(soup.find_all(’title’),end='n-------n')#find() 直接返回第一個(gè)元素print(soup.find('title'))print(soup.find_all('title',lang='eng')) # 查找title標(biāo)簽 屬性lang=engprint(soup.find_all('title',{'lang':'eng'})) # 結(jié)果同上print(soup.find_all(['title','price'])) #獲取多個(gè)標(biāo)簽print(soup.find_all('title',lang='eng')[0].get_text()) # 獲取文本# 三大常見節(jié)點(diǎn)# 子節(jié)點(diǎn) 一個(gè)Tag可能包含多個(gè)字符串或其他的tag,這些都是這個(gè)tag的子節(jié)點(diǎn)# 父節(jié)點(diǎn) 配個(gè)tag或字符串都有父節(jié)點(diǎn):被包含在某個(gè)tag中# 兄弟節(jié)點(diǎn) 平級的節(jié)點(diǎn)end='n-------n'print(soup.book,end) # 獲取book節(jié)點(diǎn)信息print(soup.book.contents,end) # 獲取book下的所有子節(jié)點(diǎn)print(soup.book.contents[1],end) # 獲取book下的所有子節(jié)點(diǎn)中的第一個(gè)節(jié)點(diǎn)print(soup.book.children,end) # children 生成迭代器for child in soup.book.children: print('===',child) print(soup.title.parent,end)print(soup.book.parent,end)for parent in soup.title.parents: #注意parent和parents區(qū)別 print('===',parent.name) print(soup.title.next_sibling,end) # 獲取該節(jié)點(diǎn)的下一個(gè)兄弟節(jié)點(diǎn)print(soup.title.previous_sibling,end) # 獲取該節(jié)點(diǎn)的上一個(gè)兄弟節(jié)點(diǎn)print(soup.title.next_siblings,end) # 獲取該節(jié)點(diǎn)的全部兄弟節(jié)點(diǎn)for i in soup.title.next_siblings: print('===',i)
以上就是python BeautifulSoup庫的安裝與使用的詳細(xì)內(nèi)容,更多關(guān)于python BeautifulSoup庫的資料請關(guān)注好吧啦網(wǎng)其它相關(guān)文章!
相關(guān)文章:
1. 在Android中使用WebSocket實(shí)現(xiàn)消息通信的方法詳解2. 淺談python出錯(cuò)時(shí)traceback的解讀3. Python importlib動(dòng)態(tài)導(dǎo)入模塊實(shí)現(xiàn)代碼4. python matplotlib:plt.scatter() 大小和顏色參數(shù)詳解5. windows服務(wù)器使用IIS時(shí)thinkphp搜索中文無效問題6. ASP 信息提示函數(shù)并作返回或者轉(zhuǎn)向7. Nginx+php配置文件及原理解析8. 利用promise及參數(shù)解構(gòu)封裝ajax請求的方法9. .NET中l(wèi)ambda表達(dá)式合并問題及解決方法10. JSP數(shù)據(jù)交互實(shí)現(xiàn)過程解析
