HTML CSS JAVASCRIPT BOOTSTRAP JQUERY PHP SQL PYTHON PYTHON2 JAVA C C++ C# Linux AI 教程库 参考手册 测验 练习 HOWTO FAQ
❮ 上一节 下一节 ❯

Beautiful Soup - 按标签导航

在本章中，我们将讨论标签导航。

下面是我们的html文档 −

>>> html_doc = """
<html><head><title>Tutorials Point</title></head>
<body>
<p class="title"><b>The Biggest Online Tutorials Library, It's all Free</b></p>
<p class="prog">Top 5 most used Programming Languages are:
<a href="https://www.tutorialspoint.com/java/java_overview.html" class="prog" id="link1">Java</a>,
<a href="https://www.tutorialspoint.com/cprogramming/index.html" class="prog" id="link2">C</a>,
<a href="https://www.tutorialspoint.com/python/index.html" class="prog" id="link3">Python</a>,
<a href="https://www.tutorialspoint.com/javascript/javascript_overview.html" class="prog" id="link4">JavaScript</a> and
<a href="https://www.tutorialspoint.com/ruby/index.html" class="prog" id="link5">C</a>;
as per online survey.</p>
<p class="prog">Programming Languages</p>
"""
>>>
>>> from bs4 import BeautifulSoup
>>> soup = BeautifulSoup(html_doc, 'html.parser')
>>>

基于上述文档，我们将尝试从文档的一部分移动到另一部分。

往下移动

任何 HTML 文档中的重要元素之一是标签，它可能包含其他标签/字符串（标签的子元素）。 Beautiful Soup 提供了不同的方式来导航和遍历标签的子项。

使用标签名称导航

搜索解析树的最简单方法是按名称搜索标签。 如果你想要 <head> 标签，使用 soup.head −

>>> soup.head
<head>&t;title>Tutorials Point</title></head>
>>> soup.title
<title>Tutorials Point</title>

在 <body> 标签中获取特定标签（如第一个 <b> 标签）。

>>> soup.body.b
<b>The Biggest Online Tutorials Library, It's all Free</b>

使用标签名称作为属性将只为您提供该名称的第一个标签 −

>>> soup.a
<a class="prog" href="https://www.tutorialspoint.com/java/java_overview.html" id="link1">Java</a>

要获取标签的所有属性，可以使用 find_all() 方法 −

>>> soup.find_all("a")
[<a class="prog" href="https://www.tutorialspoint.com/java/java_overview.html" id="link1">Java</a>, <a class="prog" href="https://www.tutorialspoint.com/cprogramming/index.html" id="link2">C</a>, <a class="prog" href="https://www.tutorialspoint.com/python/index.html" id="link3">Python</a>, <a class="prog" href="https://www.tutorialspoint.com/javascript/javascript_overview.html" id="link4">JavaScript</a>, <a class="prog" href="https://www.tutorialspoint.com/ruby/index.html" id="link5">C</a>]>>> soup.find_all("a")
[<a class="prog" href="https://www.tutorialspoint.com/java/java_overview.html" id="link1">Java</a>, <a class="prog" href="https://www.tutorialspoint.com/cprogramming/index.html" id="link2">C</a>, <a class="prog" href="https://www.tutorialspoint.com/python/index.html" id="link3">Python</a>, <a class="prog" href="https://www.tutorialspoint.com/javascript/javascript_overview.html" id="link4">JavaScript</a>, <a class="prog" href="https://www.tutorialspoint.com/ruby/index.html" id="link5">C</a>]

.contents 和.children

我们可以通过 .contents 在列表中搜索标签的子项 −

>>> head_tag = soup.head
>>> head_tag
<head><title>Tutorials Point</title></head>
>>> Htag = soup.head
>>> Htag
<head><title>Tutorials Point</title></head>
>>>
>>> Htag.contents
[<title>Tutorials Point</title>
>>>
>>> Ttag = head_tag.contents[0]
>>> Ttag
<title>Tutorials Point</title>
>>> Ttag.contents
['Tutorials Point']

BeautifulSoup 对象本身有子对象。 在这种情况下，<html> 标签是 BeautifulSoup 对象的子对象 −

>>> len(soup.contents)
2
>>> soup.contents[1].name
'html'

字符串没有.contents，因为它不能包含任何东西 −

>>> text = Ttag.contents[0]
>>> text.contents
self.__class__.__name__, attr))
AttributeError: 'NavigableString' object has no attribute 'contents'

不是将它们作为列表获取，而是使用 .children 生成器来访问标签的子项 −

>>> for child in Ttag.children:
print(child)
Tutorials Point

.descendants

.descendants 属性允许你递归地遍历标签的所有子标签 −

它的直接子代及其直接子代的子代等等 −

>>> for child in Htag.descendants:
print(child)
<title>Tutorials Point</title>
Tutorials Point

<head> 标签只有一个子标签，但它有两个后代标签：<title> 标签和 <title> 标签的子标签。 beautifulsoup 对象只有一个直接子对象（<html> 标签），但它有很多后代 −

>>> len(list(soup.children))
2
>>> len(list(soup.descendants))
33

.string

如果标签只有一个子标签，并且该子标签是 NavigableString，则该子标签可作为 .string 使用 −

>>> Ttag.string
'Tutorials Point'

如果一个标签的唯一子标签是另一个标签，并且该标签有一个 .string，则认为父标签与其子标签具有相同的 .string −

>>> Htag.contents
[<title>Tutorials Point</title>]
>>>
>>> Htag.string
'Tutorials Point'

但是，如果一个标签包含多个东西，那么.string应该指代什么就不清楚了，所以.string被定义为None −

>>> print(soup.html.string)
None

.strings 和 stripped_strings

如果一个标签内有不止一个东西，你仍然可以只看字符串。 使用 .strings 生成器 −

>>> for string in soup.strings:
print(repr(string))
'\n'
'Tutorials Point'
'\n'
'\n'
"The Biggest Online Tutorials Library, It's all Free"
'\n'
'Top 5 most used Programming Languages are: \n'
'Java'
',\n'
'C'
',\n'
'Python'
',\n'
'JavaScript'
' and\n'
'C'
';\n \nas per online survey.'
'\n'
'Programming Languages'
'\n'

要删除多余的空格，请使用 .stripped_strings 生成器 −

>>> for string in soup.stripped_strings:
print(repr(string))
'Tutorials Point'
"The Biggest Online Tutorials Library, It's all Free"
'Top 5 most used Programming Languages are:'
'Java'
','
'C'
','
'Python'
','
'JavaScript'
'and'
'C'
';\n \nas per online survey.'
'Programming Languages'

往上移动

在"家谱"类比中，每个标签和每个字符串都有一个父项：包含它的标签:

.parent

要访问元素的父元素，请使用 .parent 属性。

>>> Ttag = soup.title
>>> Ttag
<title>Tutorials Point</title>
>>> Ttag.parent
<head>title>Tutorials Point</title></head>

在我们的 html_doc 中，标题字符串本身有一个父级：包含它的 <title> 标签−

>>> Ttag.string.parent
<title>Tutorials Point</title>

像 <html> 这样的顶级标签的父级是 Beautifulsoup 对象本身 −

>>> htmltag = soup.html
>>> type(htmltag.parent)
<class 'bs4.BeautifulSoup'>

Beautifulsoup 对象的 .parent 定义为 None −

>>> print(soup.parent)
None

.parents

要遍历所有父元素，请使用 .parents 属性。

>>> link = soup.a
>>> link
<a class="prog" href="https://www.tutorialspoint.com/java/java_overview.html" id="link1">Java</a>
>>>
>>> for parent in link.parents:
if parent is None:
print(parent)
else:
print(parent.name)
p
body
html
[document]

横向移动

下面是一个简单的文档 −

>>> sibling_soup = BeautifulSoup("<a><b>TutorialsPoint</b><c><strong>The Biggest Online Tutorials Library, It's all Free</strong></b></a>")
>>> print(sibling_soup.prettify())
<html>
<body>
   <a>
      <b>
         TutorialsPoint
      </b>
      <c>
         <strong>
            The Biggest Online Tutorials Library, It's all Free
         </strong>
      </c>
   </a>
</body>
</html>

在上面的文档中，<b> 和 <c> 标签处于同一级别，它们都是同一标签的子标签。 两个 <b> 和 <c> 标签都是兄弟。

.next_sibling 和 .previous_sibling

使用 .next_sibling 和 .previous_sibling 在解析树同一级别的页面元素之间导航:

>>> sibling_soup.b.next_sibling
<c><strong>The Biggest Online Tutorials Library, It's all Free</strong></c>
>>>
>>> sibling_soup.c.previous_sibling
<b>TutorialsPoint</b>

<b> tag 有一个 .next_sibling 但没有 .previous_sibling，因为在同一层树的 <b> 标签之前没有任何东西， <c> 标签也是如此。

>>> print(sibling_soup.b.previous_sibling)
None
>>> print(sibling_soup.c.next_sibling)
None

这两个字符串不是兄弟，因为它们不具有相同的父级。

>>> sibling_soup.b.string
'TutorialsPoint'
>>>
>>> print(sibling_soup.b.string.next_sibling)
None

.next_siblings 和 .previous_siblings

要遍历标签的同级标签，请使用 .next_siblings 和 .previous_siblings。

>>> for sibling in soup.a.next_siblings:
print(repr(sibling))
',\n'
<a class="prog" href="https://www.tutorialspoint.com/cprogramming/index.html" id="link2">C</a>
',\n'
>a class="prog" href="https://www.tutorialspoint.com/python/index.html" id="link3">Python</a>
',\n'
<a class="prog" href="https://www.tutorialspoint.com/javascript/javascript_overview.html" id="link4">JavaScript</a>
' and\n'
<a class="prog" href="https://www.tutorialspoint.com/ruby/index.html"
id="link5">C</a>
';\n \nas per online survey.'
>>> for sibling in soup.find(id="link3").previous_siblings:
print(repr(sibling))
',\n'
<a class="prog" href="https://www.tutorialspoint.com/cprogramming/index.html" id="link2">C</a>
',\n'
<a class="prog" href="https://www.tutorialspoint.com/java/java_overview.html" id="link1">Java</a>
'Top 5 most used Programming Languages are: \n'

来回移动

现在让我们回到前面"html_doc"示例中的前两行 −

&t;html><head><title>Tutorials Point</title></head>
<body>
<h4 class="tagLine"><b>The Biggest Online Tutorials Library, It's all Free</b></h4>

HTML 解析器将上述字符串转换为一系列事件，如"打开 <html> 标签"、"打开 <head> 标签"、"打开 <title> 标签"、"添加字符串"、"关闭 </title> 标签"、"关闭 </head> 标签"、"打开 <h4> 标签"等。 BeautifulSoup 提供了不同的方法来重建文档的初始解析。

.next_element 和 .previous_element

标签或字符串的 .next_element 属性指向之后立即解析的任何内容。 有时它看起来类似于 .next_sibling，但并不完全相同。 下面是"html_doc"示例文档中的最终 <a> 标签。

>>> last_a_tag = soup.find("a", id="link5")
>>> last_a_tag
<a class="prog" href="https://www.tutorialspoint.com/ruby/index.html" id="link5">C</a>
>>> last_a_tag.next_sibling
';\n \nas per online survey.'

然而，那个 <a> 标签的 .next_element，即在 <a> 标签之后立即被解析的东西，不是那句话的其余部分：它是单词"C":

>>> last_a_tag.next_element
'C'

上述行为是因为在原始标记中，字母"C"出现在该分号之前。 解析器遇到了一个 <a> 标签，然后是字母"C"，然后是结束的 </a> 标签，然后是分号和句子的其余部分。 分号与 <a> 标签在同一级别，但首先遇到字母"C"。

.previous_element 属性与 .next_element 正好相反。 它指向紧接在该元素之前解析的任何元素。

>>> last_a_tag.previous_element
' and\n'
>>>
>>> last_a_tag.previous_element.next_element
<a class="prog" href="https://www.tutorialspoint.com/ruby/index.html" id="link5">C</a>

.next_elements 和 .previous_elements

我们使用这些迭代器向前和向后移动到一个元素。

>>> for element in last_a_tag.next_e lements:
print(repr(element))
'C'
';\n \nas per online survey.'
'\n'
<p class="prog">Programming Languages</p>
'Programming Languages'
'\n'
❮ 上一节 下一节 ❯