気象庁をクローラー | 気象庁の新着情報をスクレイピングする

気象庁とは?
日本の気象事業を行なう国の機関。気象業務は気象業務法により施行されており、気象、地震、火山、海洋などの自然現象を監視・予測し、的確な気象情報を提供することによって、自然災害の軽減、交通安全の確保、産業の発展などに寄与することを任務としている。また、気象業務に関する国際協力も行なっている。
スクレイピングツールの概要
ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

1抽出されたデータ

1.タスクを新規作成する

(1)URLをコピーする
新着情報を収得するために、まず、新着情報ページのURLをコピーしてください。

2URLをコピー

(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
URLを正しく入力する方法

3新規作成

4URLを入力

2.タスクを構成する

(1)ページボタンの選択
ソフトウェアは自動的にリスト要素とページボタンを識別できます。新着情報ページにページボタンがありませんから、「必要なし」に変更してください。

5ページボタン

(2)詳細ページに行く
記事の本文は詳細ページに表示されますから、必ず「詳細ページに行く」機能を利用してください。

6詳細ページに行く

(3)フィールドの追加と編集
ScrapeStormには抽出されたフィールドを編集と追加ができます。
具体的な設定には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

7フィールドの追加と編集

3.タスクの設定と起動

(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

8起動

(2)しばらくすると、実行画面にデータのスクレイピングが見えます。

10データ抽出

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードします。

11エクスポード

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

12ファイルの選択