日経新聞の速報をスクレイピングする

日本経済新聞は、日本経済新聞社の発行する新聞(経済紙)であり、広義の全国紙の一つ。略称は日経、または日経新聞である。その電子版は、日経や日経BPが経済、企業、国際、政治、マーケット、情報・通信、社会など各分野のニュースを提供するWebサービスです。ビジネス、マネー、IT、スポーツ、住宅、キャリアなどの専門情報も満載。

スクレイピングツールの概要

ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

Excel 2007へのエクスポート:

f:id:satoshihirai1:20200215170823p:plain

1.タスクを新規作成する

(1)URLをコピーする

今回は日経新聞の速報を例としてスクレイピングしますから、日経の速報ページのURLをコピーしてください。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200215170904p:plain

(2)スマートモードタスクを新規作成する

ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200215170936p:plain

f:id:satoshihirai1:20200215170952p:plain

2.タスクを構成する

(1)事前ログイン

日経新聞の無料申し込むのは一部の記事内容を見えますが、有料購読プランを購入すると、全ての記事内容が読み込めます。有料購読プランを購入すれば、事前ログイン機能を利用して、ログインできます。

f:id:satoshihirai1:20200215171010p:plain

f:id:satoshihirai1:20200215171027p:plain

(2)ページボタンの識別

今回日経新聞のページボタンの識別は「成功」になりますが、実行に第二ページに巡るだけで、停止しまう。そこで、Xpathを修正して、ページボタンを正しく識別する必要があります。(ScrapeStormはXpathの修正サービスを提供します。必要がありますなら、ぜひご連絡ください。メール:support.jp@scrapestorm.com)

ページボタンの設定詳細には下記のチュートリアルをご参照ください。

ページ分けの設定

f:id:satoshihirai1:20200215171127p:plain

(3)詳細ページに行く

「フィールドの追加」をクリックして、記事内容は全部青色に選択すると、記事を抽出できます。

具体的な設定には下記のチュートリアルをご参照ください。

リストページと詳細ページをスクレイピングする方法

f:id:satoshihirai1:20200215172039p:plain

(4)フィールドの追加と編集

フィールドの追加をクリックして、記事内容を選択すると、情報がソフトウェアの表に追加します。また、必要に応じてフィールドの名前の変更または削除、結合できます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

f:id:satoshihirai1:20200215172111p:plain

f:id:satoshihirai1:20200215172245p:plain

3.タスクの設定と起動

(1)起動の設定

ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。

スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

f:id:satoshihirai1:20200215172328p:plain

(2)しばらくすると、実行画面にデータのスクレイピングが見えます。

f:id:satoshihirai1:20200215172352p:plain

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードします。

f:id:satoshihirai1:20200215172410p:plain

(2)必要に応じてエクスポートする形式を選択します。

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータの表示と消去する方法

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法

f:id:satoshihirai1:20200215172430p:plain