セカイモンをクローラー | 指定条件の商品情報をスクレイピング

セカイモンとは?
セカイモンは、海外で6億以上出品されている商品を日本語で購入できる、世界最大級のオークションサイトeBay(イーベイ)公認の海外通販サイトです。日本で手に入らない新品からヴィンテージ商品、カーパーツから海外ファッションまで幅広く取り扱っています。商品をユーザー が落札した後、セカイモンのスタッフが落札者の代わりに出品者と交渉を行い、海外の現地倉庫を通して商品を日本まで配送します。すべての手続きがセカイモンを通して行われる為、落札者は出品者と直接連絡を取ることは出来ないが、セカイモンを通して出品者に質問することはできます。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

1抽出されたデータ

1.タスクを新規作成する

(1)URLをコピーする
目標商品のキーワードを入力して、その検索結果ページのURLをコピーしてください。今回はナイキの商品を例として、スクレイピングする方法を紹介します。

2URLをコピー

(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。
新しいタスクを作成しますか、タスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

3新規作成

4URLを入力

2.タスクを構成する

(1)事前操作
ニーズによって、料金範囲、商品状態などの条件を入力する必要がある場合、右上の緑色ボタンをクリックして、事前操作画面に操作してください。

5事前操作

(2)ページボタン
ソフトウェアは自動的にページボタンとリスト要素を認識できますが、たまに誤差がある場合、手動でページボタンを選択してください。今回は、第二ページのページボタンを認識されましたから、手動で「次へ」を選択直してください。

6ページボタン

(3)詳細ページに行く
詳細ページに商品ナンバーなどの情報がありますので、「詳細ページに行く」機能をちゃんと利用してください。

7詳細ページに行く

(4)フィールドの追加と編集
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。また、必要に応じてフィールド名の変更、削除、結合などの編集もできます。フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

8フィールドの追加と編集

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
今回は画像のダウンロードをチェックしてください。また、抽出された写真を店名によって、ファイルに保存することもできます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

10起動

 

(2)しばらくすると、データがスクレイピングされる。

11データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

12エクスポート

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

13ファイルの選択