2019-02-28に投稿

BeautifulSoup入門 soup.の挙動を確認する

スクレイピングをしたい

Webサイトから情報をまとめてCSVでごにょごにょしたいなどにスクレイピングは便利です。
今回は、Pythonのスクレイピングによく使われるBeautifulSoupを使って勉強していきます。
BeautifulSoupには便利な機能がたくさんあります。今回は、それをまとめておきます。

tagの名前を表示

BeautifulSoupでtagの名前を表示するには

print(soup.title.name)

と記載します。

titleタグで囲まれた文字列を表示

BeautifulSoupでtagの名前を表示するには

print(soup.title.string)

と記載します。

titleタグの親要素を表示

BeautifulSoupでtagの名前を表示するには

print(soup.title.parent.name)

と記載します。

<p>タグで囲まれた部分を表示

BeautifulSoupでtagの名前を表示するには

print(soup.p)

と記載します。

<p>タグのクラス名を取得

BeautifulSoupでtagの名前を表示するには

print(soup.p['class'])

と記載します。

<a>タグの最初の一つを取得

BeautifulSoupでtagの名前を表示するには

print(soup.a)

と記載します。

<a>タグ全てを取得

BeautifulSoupでtagの名前を表示するには

print(soup.find_all('a'))

と記載します。

idを検索

BeautifulSoupでtagの名前を表示するには

print(soup.find(id="link3"))

と記載します。

完成したコード

html_doc = """
<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title"><b>The Dormouse's story</b></p>

<p class="story">Once upon a time there were three little sisters; and their names were
<a href="http://example.com/elsie" class="sister" id="link1">Elsie</a>,
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;
and they lived at the bottom of a well.</p>

<p class="story">...</p>
"""

from bs4 import BeautifulSoup
soup = BeautifulSoup(html_doc)

#tagの名前を表示
print(soup.title.name)

#titleタグで囲まれた文字列を表示
print(soup.title.string)

#titleタグの親要素を表示
print(soup.title.parent.name)

#<p>タグで囲まれた部分を表示
print(soup.p)
# &lt;p class=&quot;title&quot;&gt;&lt;b&gt;The Dormouse's story&lt;/b&gt;&lt;/p&gt;

#<p>タグのクラス名を取得
print(soup.p['class'])

#<a>タグの最初の一つを取得
print(soup.a)

#<a>タグ全てを取得
print(soup.find_all('a'))

#idを検索
print(soup.find(id="link3"))

動くサンプル

Python3

Originally published at www.corylog.com

view_list [連載] BS4でスクレイピング
第1回 BeautifulSoup入門 HTMLを取得して表示する【Python】
第2回 BeautifulSoup入門 soup.の挙動を確認する
第3回 BeautifulSoup入門 スクレイピング実践編 HTML取得まで【python】
第4回 BeautifulSoup入門 スクレイピング実践編 タイトルとリンク取得まで【python】
第5回 BeautifulSoup入門 スクレイピング実践編 複数ページに対応させる【python】

aocory

Crieitはβバージョンで開発中です。進捗は公式Twitterアカウントをフォローして確認してください。 興味がある方は是非記事の投稿もお願いします! どんな軽い内容でも嬉しいです。
なぜCrieitを作ろうと思ったか

また、「こんな記事が読みたいけど見つからない!」という方は是非記事投稿リクエストボードへ!

関連記事

コメント