リクナビNextをクローラー、転職記事をスクレイピングする

リクナビNextとは?
リクルートキャリアが運営する転職・求人情報サイトで、あなたに合った求人を見つけよう!【リクナビNEXT】は、転職・求人情報はもちろん、スカウト機能や転職のノウハウなどお役立ちコンテンツで、あなたの転職活動をサポートする転職・求人情報サイトです。
スクレイピングツールの概要
ScrapeStormとは、人工知能に基づき、強い機能を持っているWebスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。Excel、HTML、Txt、CSVなどのさまざまな形式でデータを出力、保存できます。さらに、データベースやウェブサイトにデータをエクスポートできます。

抽出されたデータは下記のようにご覧ください。

1抽出されたデータ

1.タスクを新規作成する

(1)URLをコピーする
まず、リクナビから"転職相談室"の記事一覧ページのURLをコピーしてください。

2URLをコピー

(2)スマートモードタスクを新規作成する
スマートモードタスクを新規作成には、ソフトウェアのホムページで作成できます。また、必要に応じて、持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

3新規作成

4URLを入力

2.タスクを構成する

(1)自動識別
ScrapeStormは自動的にページボタンとリスト要素を識別できます。たまに識別できないの場合、手動で選択することもできます。
設定詳細は下記のチュートリアルをご参照ください。
ページを巡る

5ページボタン

(2)詳細ページに行く
記事の内容をスクレイピングために、詳細ページに行くしかありません。詳細ページに行く機能を利用してください。

6詳細ページに行く

(3)リスト要素を選択する
詳細ページに行く機能を利用してから、ソフトウェアは詳細ページのリスト要素を識別しません。手動でリスト要素を選択してください。
ページタイプの設定

7リストを選択する

(4)フィールドの編集と追加
必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

8フィールドの追加と編

3.タスクの設定と起動

(1)起動の設定
ソフトウェアには色々な機能を提供しますので、必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストなどを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

9起動

(2)しばらくすると、データがスクレイピングされる。

10データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

11エクスポード

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータの表示と消去する方法
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

12ファイルの選択