中日新聞をクローラー | ニュースの写真をスクレイピングする

中日新聞とは?
「中日新聞」は日本中日新聞社が発行している地方紙で、日本全国で4番目に発行された新聞です。東海地方・中部地方のニュースと生活情報を中心に、様々な地域情報を提供します。読売、朝日、毎日の3つの全国紙に次いで、日本中部地方では特に大きな視聴率を持っています。
スクレイピングツールの概要
ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

1抽出されたデータ

1抽出された写真

1.タスクを新規作成する

(1)URLをコピーする
今回は主要ニュース一覧を例として、スクレイピング方法を紹介します。まず、ページのURLをコピーしてください。

2URLをコピー

(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

3新規作成

4URLを入力

2.タスクを構成する

(1)ページボタン
ScrapeStormは自動的にページボタンを識別できます。主要ニュース一覧ページにはスクロールして、ニュースが読み込んで行くのタイプで、ソフトウェアは「スクロールローディング」を認識しました。また、たまに認識できないの場合、手動でページボタンを選択してください。

6ページボタン

(2)詳細ページに行く
新聞の内容をスクレイピングする必要なら、詳細ページに行き、新聞内容を手動でフィールドを選択して追加できます。
詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。
リストページと詳細ページをスクレイピングする方法

7詳細ページに行く

(3)フィールドの設定
必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出するデータを選択、データが自動的に抽出されます。今回はニュースの写真を選んでください。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

8フィールドの追加と編集

3.タスクの設定と起動

(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

10起動

(2)しばらくすると、データがスクレイピングされます。

11データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードしする

12エクスポート

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

13ファイルの選択