ヤフオクからキーワードによって製品情報をスクレイピングする

ヤフオク!とは?

ヤフオク!は、お店にないものも見つかる買える、日本最大級のネットオークション・フリマアプリです。圧倒的人気のオークションに加え、フリマ出品ですぐ売れる、買える商品もたくさんあります。

スクレイピングツールの概要

ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

Excel にエクスポート:

1.タスクを新規作成する

スマートモードに複数のキーワードで商品を検索するのはURLを作成する必要があります。手順は下記のようにご覧ください。

(1)URLをコピーする

まず、キーワードをヤフオクに入力して、その検索結果ページのURLをコピーしてください。

(2)パラメーターを追加する

コピーされたURLの主幹をScrapeStormに入力します。下記画像のように、パラメーターを追加する機能を利用してください。

注意:キーワードの入力は「ファイルから読み込む」を選択してください。

下記のチュートリアルもご参照ください。

URLジェネレータの使い方

2.タスクを構成する

(1)事前操作

ヤフオクの検索結果ページの商品情報にはデフォルト「タイトルと画像」リストを表示します。一番目のページに「注目のオークション」がありますか、二番目のページに行くと、リスト要素が変更しましたから、リスト要素の識別が失敗になります。右上の緑色ボタンをクリックして、事前操作画面に「クリック」コンポーネントを追加して、リスト要素を「画像を大きく」に変更してください。

(2)ページボタンの選択

ScrapeStormは自動的スクロールローディングを識別しますが、より多くの商品をスクレイピングため、ページボタンを選択してください。

ページボタンの設定詳細には下記のチュートリアルをご参照ください。

ページ分けの設定

(3)詳細ページに行く

商品詳細のページに移動すると、商品の状態、出品地域、サイズなどの情報を収得できます。詳細ページに行く機能を利用してください。

詳細ページのスクレイピング詳細は下記のチュートリアルをご参照ください。

詳細ページのスクレイピング方法

(4)フィールドの追加と編集

フィールドの追加ボタンをクリックして、全ての画像を選択してください。そして生成したフィールドを右クリックして、抽出タイプの外部HTMLを選択してください。また、必要に応じて、フィールド名の変更、消去、結合などもできます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

3.タスクの設定と起動

(1)起動の設定

今回は写真を収集する必要がありますので、ファイルのダウンロード画面に画像をチェックしてください。

タスクを配置する方法については、下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

(2)しばらくすると、データがスクレイピングされる。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

(2)必要に応じてエクスポートする形式を選択します。

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータの表示と消去する方法

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法