NHKニュースから動画ニュースをスクレイピングする

NHKのニュースサイト「NHK NEWS WEB」。国内外の取材網を生かし、さまざまな分野のニュースをいち早く、正確にお伝えします。ニュース速報はもちろん、現場の記者が執筆した読み応えのある特集記事や、NHKならではの豊富な動画コンテンツも提供します。

NHKのニュースサイト、NHK NEWS WEBの動画ニュースについては最新のニュース映像を速やかにネットで公開します。主なニュースを1分間にまとめた「Pickup News」も1日6回更新。日本と世界の「いま」を動画でご覧ください。

スクレイピングツールの概要

ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすく人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebサイトのスクレイピングを満たします。

抽出されたデータは下記のようにご覧ください。

f:id:satoshihirai1:20200214163723p:plain

1.タスクを新規作成する

(1)URLをコピーする

今回は、NHK動画ニュース一覧ページを例として、クローラーを紹介します。まず、URLをコピーしてください。

f:id:satoshihirai1:20200214163744p:plain

(2)スマートモードタスクを新規作成する

ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200214163800p:plain

f:id:satoshihirai1:20200214163815p:plain

2.タスクを構成する

(1)ページボタンの識別

ページボタンの識別はページによって、次のページボタン、スクロールローディングと次のページボタン+スクロールローディング、三つの状況があります。NHK動画ニュースページのページボタンは手動で選択する必要があります。下記画像のように、「もっと見る」を選択してください。

ページボタンの設定詳細には下記のチュートリアルをご参照ください。

ページ分けの設定

f:id:satoshihirai1:20200214163831p:plain

(2)詳細ページに行く

記事内容には詳細ページに行く必要があります。「詳細ページに行く」機能を利用してください。

具体的な設定には下記のチュートリアルをご参照ください。

リストページと詳細ページをスクレイピングする方法

f:id:satoshihirai1:20200214163851p:plain

(3)事前操作

詳細ページにより多くのニュースを表示させますために、右上の緑色ボタンをクリックして、操作ヒントに従って、コンポーネントを生成してください。

f:id:satoshihirai1:20200214163908p:plain

(4)フィールドの編集と追加

必要に応じてフィールドの名前の変更または削除、結合できます。

フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出するデータを選択、データが自動的に抽出されます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

f:id:satoshihirai1:20200214163948p:plain

3.タスクの設定と起動

(1)起動の設定

ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。

スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

f:id:satoshihirai1:20200214164008p:plain

(2)しばらくすると、データがスクレイピングされます。

f:id:satoshihirai1:20200214164025p:plain

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードしする

f:id:satoshihirai1:20200214164131p:plain

(2)必要に応じてエクスポートする形式を選択します。

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータの表示と消去する方法

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法

f:id:satoshihirai1:20200214164239p:plain