ヤフオクから検索された製品情報をスクレイピングする

ヤフオク!は、お店にないものも見つかる買える、日本最大級のネットオークション・フリマアプリです。圧倒的人気のオークションに加え、フリマ出品ですぐ売れる、買える商品もたくさんあります。

スクレイピングツールの概要

ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

Excel 2007へのエクスポート:

f:id:satoshihirai1:20200212170758p:plain

1.タスクを新規作成する

(1)URLをコピーする

ScrapeStormは自動的にページのリストを識別しますから、ヤフオクの製品検索結果ページのURLを入力してください。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200212170855p:plain

(2)スマートモードタスクを新規作成する

ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200212170914p:plain

f:id:satoshihirai1:20200212170936p:plain

2.タスクを構成する

(1)リストを選択

ScrapeStormは自動的ページのリストを識別できますが、各Webサイトのレイアウトが異なり、たまに手動でリストを選択する必要があります。今回、ヤフオクのリスト選択は下記のようにご覧ください。

リストを選択の詳細には公式サイトのチュートリアルをご参考ください。

ページタイプの設定方法

f:id:satoshihirai1:20200212171037p:plain

(2)ページボタンを識別

ScrapeStormは自動的にページボタンを識別できますが、今回は手動でページボタンを選択してください。たまに識別できないの場合、Xpathを修正することもできます。

ページボタンの設定詳細には下記のチュートリアルをご参照ください。

ページ分けの設定

f:id:satoshihirai1:20200212171108p:plain

(3)フィールドの追加と編集

フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

f:id:satoshihirai1:20200212171141p:plain

3.タスクの設定と起動

(1)起動の設定

必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。

スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

f:id:satoshihirai1:20200212171159p:plain

(2)しばらくすると、データがスクレイピングされる。

f:id:satoshihirai1:20200212171217p:plain

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

f:id:satoshihirai1:20200212171239p:plain

(2)必要に応じてエクスポートする形式を選択します。

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータの表示と消去する方法

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法

f:id:satoshihirai1:20200212171258p:plain