Qoo10から製品情報をスクレイピングする

Qoo10とは?

Qoo10(キューテン)はeBay Japanのネット通販サイト。ファッションからコスメ、家電、食品、生活雑貨まで何でもクーポンで割引!ポイント還元いつも最安値でお届けします。2018年5月でユーザー数1000万人を突破しているショッピングサイトです。かなり大きな会社ですので、この後ろ盾があるだけでも何となく安心感があります。最初は韓国通販サイトGmarketの日本法人として運営されていた為、もともとレディースファッションやコスメの取り扱いが多かったようですが、eBayによる買収後「Qoo10」となった最近では、フードや家電・ゲーム・スマホ関連用品などのデジタル系、メンズファッションなどの取り扱いも増えています。

スクレイピングツールの概要

ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

f:id:satoshihirai1:20200214153755p:plain

1.タスクを新規作成する

(1)URLをコピーする

今回は、ナイキの商品を例として、データクローラの手順を紹介します。まず、ナイキの商品一覧ページのURLをコピーしてください。

f:id:satoshihirai1:20200214153815p:plain

(2)スマートモードタスクを新規作成する

ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200214153832p:plain

f:id:satoshihirai1:20200214153925p:plain

2.タスクを構成する

(1)自動識別

ソフトウェアは自動的にリスト要素とページボタンを識別できます。今回はスクロールローディングに識別成功になります。

詳細には下記のチュートリアルをご参照ください。

ページ分けの設定

f:id:satoshihirai1:20200214153944p:plain

(2)詳細ページに行く

詳細ページに行くと、発送国、平均配達日数などより詳しく求人情報を収得できます。「詳細ページに行く」機能を利用してください。

詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。

詳細ページのスクレイピング方法

f:id:satoshihirai1:20200214154049p:plain

(3)フィールドの追加と編集

「フィールドを追加」ボタンをクリックして、画面に必要な要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

f:id:satoshihirai1:20200214154111p:plain

3.タスクの設定と起動

(1)起動の設定

必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。

スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

f:id:satoshihirai1:20200214154145p:plain

(2)しばらくすると、データがスクレイピングされる。

f:id:satoshihirai1:20200214154207p:plain

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

f:id:satoshihirai1:20200214154239p:plain

(2)必要に応じてエクスポートする形式を選択します。

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータの表示と消去する方法

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法

f:id:satoshihirai1:20200214154258p:plain