モバオクから商品画像をスクレイピングする

日本国内では、ヤフオク!に次ぐ日本最大級のインターネットオークションサイトである。販売手数料が無料の超オトクなかんたんオークション、今すぐ買える「即買い」 モバペイで決済も安心します。非売品が見つかり、お小遣いをさくっとGETできます。毎日開催10分オークションか、人気チケットも見つかります。

スクレイピングツールの概要

ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

Excel 2007へのエクスポート:

f:id:satoshihirai1:20200213173926p:plain

抽出された写真は下記のようにご覧ください。

f:id:satoshihirai1:20200213173947p:plain

1.タスクを新規作成する

(1)URLをコピーする

ScrapeStormは自動的にページのリストを識別しますから、モバオクの商品リストページのURLを入力してください。今回はアクセサリー/時計の中古・新品オークション情報を例として、スクレイピング方法を紹介します。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200213174006p:plain

(2)スマートモードタスクを新規作成する

ScrapeStormのホムページ画面にスマートモードタスクを新規作成します。また、持っているタスクをインポートすることもできます。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200213174024p:plain

f:id:satoshihirai1:20200213174041p:plain

2.タスクを構成する

(1)ページボタンを識別

ScrapeStormの自動識別は第二ページのページボタンを識別しました。手動で「次の50件」を選択してください。

ページボタンの設定詳細には下記のチュートリアルをご参照ください。

ページ分けの設定

f:id:satoshihirai1:20200213174102p:plain

(2)詳細ページに行く

リストページの写真はサムネイルです。「詳細ページに行く」をクリックして、商品の画像が抽出できます。

詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。

リストページと詳細ページをスクレイピングする方法

f:id:satoshihirai1:20200213174129p:plain

(3)フィールドの追加と編集

ScrapeStormは自動的に商品画像を識別できますが、識別できないなら、フィールドの追加機能を利用してください。

f:id:satoshihirai1:20200213174150p:plain

フィールドの追加には、「フィールドを追加」ボタンをクリックして、商品画像を選択して、データが自動的に抽出されます。そして、抽出されたフィールドを右クリックして、抽出タイプの外部HTMLオプションを選んでください。また、必要に応じてフィールドの名前の変更または削除、結合できます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

f:id:satoshihirai1:20200213174216p:plain

f:id:satoshihirai1:20200213174230p:plain

3.タスクの設定と起動

(1)起動の設定

必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。今回はファイルのダウンロードに画像のダウンロードをチェックしてください。

スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

f:id:satoshihirai1:20200213174249p:plain

(2)しばらくすると、データがスクレイピングされる。

f:id:satoshihirai1:20200213174306p:plain

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

f:id:satoshihirai1:20200213174322p:plain

(2)必要に応じてエクスポートする形式を選択します。

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法

f:id:satoshihirai1:20200213174340p:plain