2019-02-28に投稿

BeautifulSoup入門 スクレイピング実践編 HTML取得まで【python】

スクレイピングをしたい

Webサイトから情報をまとめてCSVでごにょごにょしたいなどにスクレイピングは便利です。
今回は、Pythonのスクレイピングによく使われるBeautifulSoupを使って勉強していきます。
BeautifulSoupには便利な機能がたくさんあります。
今回はcrieitさんからデータを抜いていきます。(制作者のdalaさんには了解済み)

ライブラリの導入

BeautifulSoup単体ではURLをからデータを持ってこれません。
requestsを併用します。

from bs4 import BeautifulSoup
import requests

Requestsを使って、webからデータを取得

requestsを使用してデータを持ってきます。

url = "https://crieit.net/"
r = requests.get(url)

BeautifulSoupで要素を整形する

つぎにBeautifulSoupで要素を整形する

soup = BeautifulSoup(r.text)

出力してみる

出力してみましょう。
今回は生のHTMLを吐き出します。

print(soup.prettify())

今回のコード

from bs4 import BeautifulSoup
import requests

url = "https://crieit.net/"
r = requests.get(url)
soup = BeautifulSoup(r.text)
print(soup.prettify())

今回のまとめ

とりあえず、HTMLとるとこまでいけました。
次回は、タイトル全部抜いていきたいと思います。

動くサンプル

Python3

Originally published at www.corylog.com

view_list [連載] BS4でスクレイピング
第1回 BeautifulSoup入門 HTMLを取得して表示する【Python】
第2回 BeautifulSoup入門 soup.の挙動を確認する
第3回 BeautifulSoup入門 スクレイピング実践編 HTML取得まで【python】
第4回 BeautifulSoup入門 スクレイピング実践編 タイトルとリンク取得まで【python】
第5回 BeautifulSoup入門 スクレイピング実践編 複数ページに対応させる【python】

aocory

Crieitはβバージョンで開発中です。進捗は公式Twitterアカウントをフォローして確認してください。 興味がある方は是非記事の投稿もお願いします! どんな軽い内容でも嬉しいです。
なぜCrieitを作ろうと思ったか

また、「こんな記事が読みたいけど見つからない!」という方は是非記事投稿リクエストボードへ!

関連記事

コメント