allaboutをクローラー | allaboutのレシピをスクレイピングする

All Aboutとは?
All About(オールアバウト)とは、生活総合情報サイトです。その道のプロ(専門家)が、日常生活をより豊かに快適にするノウハウから業界の最新動向、読み物コラムまで、多彩なコンテンツを発信します。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebサイトのスクレイピングを満たします。

抽出されたデータは下記のようにご覧ください。

1抽出されたデータ

1.タスクを新規作成する

(1)URLをコピーする
今回は料理レシピ 新着記事一覧を例として、スクレイピング方法を紹介します。まず、URLをコピーしてください。

2URLをコピー

(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

3新規作成

4URLを入力

2.タスクを構成する

(1)リスト要素を認識
ソフトウェアは自動的にリスト要素を認識できませんから、手動でリスト要素を選択してください。

5リスト要素

(2)ページボタン
ソフトウェアは自動的に次のページボタンを識別できます。今回は識別成功になりますが、偶に識別失敗になったら、手動でページボタンをやり直すか、Xpathを編集することもできます。

6ページボタン

(3)詳細ページに行く
詳細ページに料理の作り方を詳しく表示されますから、より多くの情報を取得するために、詳細ページに行く機能を利用してください。

7詳細ページに行く

(4)フィールドの追加と編集
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。また、必要に応じてフィールド名の変更、削除、結合などの編集もできます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

8フィールドの追加と編集

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。今回は画像のダウンロードをチェックしてください。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

9起動

(2)しばらくすると、データがスクレイピングされる。

11エクスポード

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

10データ抽出

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

12ファイルの選択