東京新聞をクローラー | ニュースの写真をスクレイピングする

東京新聞とは?
東京新聞(とうきょうしんぶん)は、中日新聞東京本社が発行する日刊一般新聞(一般紙)。関東地方もしくは東京都のブロック紙だが、同じ中日新聞社が発行する中日新聞・北陸中日新聞・日刊県民福井の関東版と見なすこともでき、全国紙のような面もあわせ持つ。過去の紙面は東京都中央図書館で、マイクロフィルムで閲覧することができる。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータは下記のようにご覧ください

1抽出されたデータ

1.タスクを新規作成する

(1)URLをコピーする
今回は四月の記事一覧を例として、ニュース内容を抽出する方法を紹介します。まず新着ニュースページのURLをコピーしてください。

2URLをコピー

(2)タスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。
新しいタスクを作成しますか、タスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

3新規作成

4URLを入力

2.タスクを構成する

(1)ページボタン
東京新聞には年月によって、当月全ての記事を表示されます。スクロールローディングを設定して、ソフトウェアは自動的にデータを読み込みます。

5ページボタン

(2)詳細ページに行く
ScrapeStormは自動的に詳細ページのリンクを認識され、下の表に表示されます。詳細ページにニュース内容を表示されますから、より多くの情報を取得するために、詳細ページに行く機能を利用してください。

6詳細ページに行く

(3)フィールドの追加と編集
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出する要素を選択、データが自動的に抽出されます。今回は、ニュースの写真を選んでください。また、必要に応じてフィールド名の変更、削除、結合などの編集もできます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

7フィールドの追加と編集

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。今回は画像のダウンロードをチェックしてください。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

9起動

(2)しばらくすると、データがスクレイピングされる。

10データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

11エクスポード

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

12ファイルの選択