不動産ジャパンをクローラー | 物件情報をスクレイピングする

不動産ジャパンとは?
不動産ジャパンは安心・安全な不動産取引をサポートすることを目的として、公益財団法人不動産流通推進センター(以下当センター)が管理・運営する総合不動産情報サイトです。日本全国の不動産流通業者のほぼすべてが加入しており、サイト自体が今まで業者団体が個別に運営していた物件情報をサイトを統合して、すべての業界団体サイトを検索できるようにするために構築されたものです。
スクレイピングツールの概要
ScrapeStormとは、人工知能に基づき、強い機能を持っているWebスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。Excel、HTML、Txt、CSVなどのさまざまな形式でデータを出力、保存できます。さらに、データベースやウェブサイトにデータをエクスポートできます。

抽出されたデータは下記のようにご覧ください。

1抽出されたデータ

1.タスクを新規作成する

(1)URLをコピーする
ソフトウェアは1-ClickでWebサイトからデータを自動的に抽出できます。今回は東京都新宿区の賃貸マンション・アパートページを例として、スクレイピングする方法を紹介します。詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

2URLをコピー

(2)スマートモードタスクを新規作成する
スマートモードタスクを新規作成には、ソフトウェアのホムページで作成できます。また、必要に応じて、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

3新規作成

4URLを入力

2.タスクを構成する

(1)ページボタンを選択
ScrapeStormは自動的にリスト要素とページボタンを識別できます。偶に認識できないの場合、手動でページボタンを選択するか、Xpathを編集してページボタンを識別することもできます。ページボタンの設定詳細は下記のチュートリアルをご参照ください。
ページ分けの設定

6ページボタン

(2)詳細ページ行く
所在地、賃料などの情報は詳細ページに付いていますから、「詳細ページ行く」機能を利用してください。

7詳細ページに行く

(3)フィールドの追加と編集
フィールドの追加で記事内容を選択して、スクレイピングができました。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

8フィールドの追加と編集

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

10起動

(2)しばらくすると、データがスクレイピングされる。

11データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

12エクスポート

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータの表示と消去する方法
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

13ファイルの選択