BeautifulSoup入門　soup.の挙動を確認する

Python BS4でスクレイピング

スクレイピングをしたい

Webサイトから情報をまとめてCSVでごにょごにょしたいなどにスクレイピングは便利です。
今回は、Pythonのスクレイピングによく使われるBeautifulSoupを使って勉強していきます。
BeautifulSoupには便利な機能がたくさんあります。今回は、それをまとめておきます。

tagの名前を表示

BeautifulSoupでtagの名前を表示するには

print(soup.title.name)

と記載します。

titleタグで囲まれた文字列を表示

BeautifulSoupでtagの名前を表示するには

print(soup.title.string)

と記載します。

titleタグの親要素を表示

BeautifulSoupでtagの名前を表示するには

print(soup.title.parent.name)

と記載します。

<p>タグで囲まれた部分を表示

BeautifulSoupでtagの名前を表示するには

print(soup.p)

と記載します。

<p>タグのクラス名を取得

BeautifulSoupでtagの名前を表示するには

print(soup.p['class'])

と記載します。

<a>タグの最初の一つを取得

BeautifulSoupでtagの名前を表示するには

print(soup.a)

と記載します。

<a>タグ全てを取得

BeautifulSoupでtagの名前を表示するには

print(soup.find_all('a'))

と記載します。

idを検索

BeautifulSoupでtagの名前を表示するには

print(soup.find(id="link3"))

と記載します。

完成したコード

html_doc = """
<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title"><b>The Dormouse's story</b></p>

<p class="story">Once upon a time there were three little sisters; and their names were
<a href="http://example.com/elsie" class="sister" id="link1">Elsie</a>,
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;
and they lived at the bottom of a well.</p>

<p class="story">...</p>
"""

from bs4 import BeautifulSoup
soup = BeautifulSoup(html_doc)

#tagの名前を表示
print(soup.title.name)

#titleタグで囲まれた文字列を表示
print(soup.title.string)

#titleタグの親要素を表示
print(soup.title.parent.name)

#<p>タグで囲まれた部分を表示
print(soup.p)
# &lt;p class=&quot;title&quot;&gt;&lt;b&gt;The Dormouse's story&lt;/b&gt;&lt;/p&gt;

#<p>タグのクラス名を取得
print(soup.p['class'])

#<a>タグの最初の一つを取得
print(soup.a)

#<a>タグ全てを取得
print(soup.find_all('a'))

#idを検索
print(soup.find(id="link3"))

動くサンプル

Python3

Originally published at www.corylog.com

ツイッターでシェア

みんなに共有、忘れないようにメモ

[連載] BS4でスクレイピング

第1回	BeautifulSoup入門　HTMLを取得して表示する【Python】
第2回	BeautifulSoup入門　soup.の挙動を確認する
第3回	BeautifulSoup入門　スクレイピング実践編　HTML取得まで【python】
第4回	BeautifulSoup入門　スクレイピング実践編　タイトルとリンク取得まで【python】
第5回	BeautifulSoup入門　スクレイピング実践編　複数ページに対応させる【python】