python如何使用xpath-图灵python

python如何使用xpath

发布时间:2025-03-20 18:19:00

一、简介

XPath 是一门在 XML 在文档中找到信息的语言。XPath 可用来在 XML 元素和属性在文档中遍历。XPath 是 W3C XSLT 标准的主要要素，以及 XQuery 和 XPointer 都构建于 XPath 表达之上。

二、安装

pip3installlxml

三、使用

1、导入

fromlxmlimportetree

2、基本使用

fromlxmlimportetree

wb_data="""
<p>
<ul>
<li><ahref="link1.html">firstitem</a></li>
<li><ahref="link2.html">seconditem</a></li>
<li><ahref="link3.html">thirditem</a></li>
<li><ahref="link4.html">fourthitem</a></li>
<li><ahref="link5.html">fifthitem</a>
</ul>
</p>
"""
html=etree.HTML(wb_data)
print(html)
result=etree.tostring(html)
print(result.decode("utf-8"))

从以下结果来看，我们的打印机html实际上是python对象，etree.tostring(html)这是不全html的基本写法，补充了缺胳膊少腿的标签。

<elementhtmlat0x39e58f>
<html><body><p>
<ul>
<li><ahref="link1.html">firstitem</a></li>
<li><ahref="link2.html">seconditem</a></li>
<li><ahref="link3.html">thirditem</a></li>
<li><ahref="link4.html">fourthitem</a></li>
<li><ahref="link5.html">fifthitem</a>
</li></ul>
</p>
</body></html>

3、获取某个标签的内容(基本使用)，注意获取a标签的所有内容，a后面不需要加正斜杠，否则会出错。

写法一

html=etree.HTML(wb_data)
html_data=html.xpath('/html/body/p/ul/li/a')
print(html)
foriinhtml_data:
print(i.text)


<elementhtmlat0x12feb8>
firstitem
seconditem
thirditem
fourthitem
fifthitem

写法二(直接在需要查找内容的标签后面加一个/text()就行）

html=etree.HTML(wb_data)
html_data=html.xpath('/html/body/p/ul/li/a/text()')
print(html)
foriinhtml_data:
print(i)

<elementhtmlat0x138>
firstitem
seconditem
thirditem
fourthitem
fifthitem

4、打开读取html文件

#使用parse打开html文件
html=etree.parse('test.html')
html_data=html.xpath('//*')<br>#打印是一个需要经历的列表
print(html_data)
foriinhtml_data:
print(i.text)

html=etree.parse('test.html')
html_data=etree.tostring(html,pretty_print=True)
res=html_data.decode('utf-8')
print(res)

打印：
<p>
<ul>
<li><ahref="link1.html">firstitem</a></li>
<li><ahref="link2.html">seconditem</a></li>
<li><ahref="link3.html">thirditem</a></li>
<li><ahref="link4.html">fourthitem</a></li>
<li><ahref="link5.html">fifthitem</a></li>
</ul>
</p>

5、在指定路径下打印a标签的属性(可以通过遍历获得某个属性的值，找到标签的内容)

html=etree.HTML(wb_data)
html_data=html.xpath('/html/body/p/ul/li/a/@href')
foriinhtml_data:
print(i)

打印：
link1.html
link2.html
link3.html
link4.html
link5.html

6、我们知道，我们使用xpath获得所有的elementtreee对象，所以如果我们需要查找内容，我们还需要在整个历史上获得数据列表。

在绝对路径下找到a标签属性等于link2.html内容。

html=etree.HTML(wb_data)
html_data=html.xpath('/html/body/p/ul/li/a[@href="link2.html"]/text()')
print(html_data)
foriinhtml_data:
print(i)

打印：
['seconditem']
seconditem

7、我们在上面找到的都是绝对路径(每一条都是从根开始搜索的)，下面我们找到相对路径，比如在li标签下找到所有的a标签内容。

html=etree.HTML(wb_data)
html_data=html.xpath('//li/a/text()')
print(html_data)
foriinhtml_data:
print(i)

打印：
['firstitem','seconditem','thirditem','fourthitem','fifthitem']
firstitem
seconditem
thirditem
fourthitem
fifthitem

8、以上我们使用绝对路径，发现所有a标签的属性等于href属性值，使用/-绝对路径。让我们使用相对路径来查找l相对路径下li标签下a标签下的href属性值。请注意，a标签后面需要双//。

html=etree.HTML(wb_data)
html_data=html.xpath('//li/a//@href')
print(html_data)
foriinhtml_data:
print(i)

打印：
['link1.html','link2.html','link3.html','link4.html','link5.html']
link1.html
link2.html
link3.html
link4.html
link5.html

9、相对路径类似于绝对路径下检查特定属性的方法，也可以说是相同的。

html=etree.HTML(wb_data)
html_data=html.xpath('//li/a[@href="link2.html"]')
print(html_data)
foriinhtml_data:
print(i.text)

打印：
[<elementatat0x216e468>]
seconditem

10、在最后一个li标签中搜索a标签的href属性

html=etree.HTML(wb_data)
html_data=html.xpath('//li[last()]/a/text()')
print(html_data)
foriinhtml_data:
print(i)

打印：
['fifthitem']
fifthitem

11、查找倒数第二li标签中a标签的href属性

html=etree.HTML(wb_data)
html_data=html.xpath('//li[last()-1]/a/text()')
print(html_data)
foriinhtml_data:
print(i)

打印：
['fourthitem']
fourthitem

12、若某个页面上某个标签的xpath路径被提取，则可如下图所示：

//*[@id="kw"]

说明:使用相对路径查找所有标签，属性id等于kw标签。

#!/usr/bin/envpython
#-*-coding:utf-8-*-
fromscrapy.selectorimportSelector,HtmlXPathSelector
fromscrapy.httpimportHtmlResponse
html="""<!DOCTYPEhtml>
<html>
<head>
<metacharset="UTF-8">
<title></title>
</head>
<body>
<ul>
<li><aid='i1'href="link.html">firstitem</a></li>
<li><aid='i2'href="llink.html">firstitem</a></li>
<li><ahref="llink2.html">seconditem<span>vv</span></a></li>
</ul>
<p><ahref="llink2.html">seconditem</a></p>
</body>
</html>
"""
response=HtmlResponse(url='http://example.com',body=html,encoding='utf-8')
#hxs=HtmlXPathSelector(response)
#print(hxs)
#hxs=Selector(response=response).xpath('//a')
#print(hxs)
#hxs=Selector(response=response).xpath('//a[2]')
#print(hxs)
#hxs=Selector(response=response).xpath('//a[@id]')
#print(hxs)
#hxs=Selector(response=response).xpath('//a[@id="i1"]')
#print(hxs)
#hxs=Selector(response=response).xpath('//a[@href="link.html"][@id="i1"]')
#print(hxs)
#hxs=Selector(response=response).xpath('//a[contains(@href,"link")]')
#print(hxs)
#hxs=Selector(response=response).xpath('//a[starts-with(@href,"link")]')
#print(hxs)
#hxs=Selector(response=response).xpath('//a[re:test(@id,"i\d+")]')
#print(hxs)
#hxs=Selector(response=response).xpath('//a[re:test(@id,"i\d+")]/text()').extract()
#print(hxs)
#hxs=Selector(response=response).xpath('//a[re:test(@id,"i\d+")]/@href').extract()
#print(hxs)
#hxs=Selector(response=response).xpath('/html/body/ul/li/a/@href').extract()
#print(hxs)
#hxs=Selector(response=response).xpath('//body/ul/li/a/@href').extract_first()
#print(hxs)

#ul_list=Selector(response=response).xpath('//body/ul/li')
#foriteminul_list:
#v=item.xpath('./a/span')
##或
##v=item.xpath('a/span')
##或
##v=item.xpath('*/a/span')
#print(v)

python学习网，大量免费python视频教程，欢迎在线学习！

上一篇怎么查看python的包

下一篇 python如何做三维图