JTBをクローラー | JTBからホテルの写真をスクレイピングする

JTBとは?
日本最大の旅行会社ではあるのだが、細かいことをいえば2006年以降は持ち株会社の名称であり、実際の旅行会社としての業務は、地域別の事業会社が行っている。
安心と信頼の海外ツアー「ルックJTB」や、高級・ホテル・旅館から格安プランまで揃った国内ツアー「エースJTB」のほか、格安航空券やオプショナルツアー、レストラン予約などが満載しています。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

1抽出されたデータ

 

1.タスクを新規作成する
通常、ソフトウェアは自動的にページボタンを識別できますが、今回はXpathを編集する必要があります。誰でもXpathを編集できるわけではないから、URLジェネレーターでURLを生成すれば、ページボタンを代わりにページを巡ります。

(1)URLをコピー
キーワードを入力して、その検索結果ページのURLをコピーしてください。

2URLをコピー

(2)URLジェネレーター
ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。URLを生成する流れは下記のようにご覧ください。また、公式サイトのチュートリアルをご参照ください。
URLジェネレータの使い方

3新規作成

4URLを入力

2.タスクを構成する

(1)ページボタン
URLを生成しましたので、ページボタンに「必要なし」に設定してください。

5ページボタン

(2)詳細ページに行く
JTBのホテルの写真をスクレイピングするために、詳細ページに移動してください。リストページのサムネイルだけには写真数が足りないかもしれません。「詳細ページに行く」ボタンをクリックしてください。

6詳細ページに行く

(3)事前操作
右上の緑色ボタンをクリックして、事前操作画面に行きます。事前操作画面にJTBのフォトギャラリー画面を開けます。

7事前操作

(4)フィールドの追加と編集
「フィールドを追加」ボタンをクリックして、画面に必要な要素を選択、データが自動的に抽出されます。すべての写真を青矩形で選択してください。生成したフィールドを右クリックして、抽出タイプに外部HTMLを選んでください。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

8フィールドの追加と編集

9外部HTML

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

10起動

(2)しばらくすると、データがスクレイピングされる。

10データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

11エクスポード

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

12ファイルの選択