Yahooニュースから記事をスクレイピングする

Yahoo!ニュースとは?

Yahoo!ニュースは記事ニュース・写真ニュース・動画ニュース・トピックスから構成されており、ニュースおよびトピックスは更に8つのカテゴリに分かれる。記事ニュースは主に毎日新聞、読売新聞、朝日新聞、産経新聞、時事通信などのニュースを扱っている。また、Yahoo!ニュースのみに配信しているメディアが多い点にも特徴がある。記事によっては掲載期間が過ぎると記事は削除されリンク切れになる。個別記事に対してYahoo!JAPAN IDを持つユーザーがコメントを投稿できる。各コメントに対する賛否を投票することも可能。投稿者のYahoo!JAPAN IDは一部が伏字で表示され、匿名性が高い。

スクレイピングツールの概要

ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。デスクトップアプリとしてのScrapeStormには、Windows、Macと Linux のシステムに適用します。Excel、HTML、Txt、CSVなどのさまざまな形式でデータを出力、保存できます。さらに、データベースやウェブサイトにデータをエクスポートできます。

抽出されたデータは下記のようにご覧ください。

f:id:satoshihirai1:20200214174124p:plain

1.タスクを新規作成する

(1)YahooニュースのURLをコピーする

通常、ソフトウェアには入力されたURLをリストページにデフォルト認識されます。ですから、今回は、速報ニュースコラムを例として、記事のクローラーを紹介します。まず、速報ニュースページのURLをコピーしてください。

f:id:satoshihirai1:20200214174146p:plain

(2)スマートモードタスクを新規作成する

ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200214174202p:plain

f:id:satoshihirai1:20200214174317p:plain

2.タスクを構成する

(1)ページボタンの設定

ソフトウェアはYahooニュースの速報ニュースページのページボタンを自動的に識別できます。もし、識別失敗になったら、手動でページボタンを選択しても大丈夫になります。

ページボタンの設定詳細には下記のチュートリアルをご参照ください。

ページ分けの設定

f:id:satoshihirai1:20200214174258p:plain

(2)詳細ページに行く

記事の本文、関連記事などの情報は詳細ページでスクレイピングしてください。

詳細ページのスクレイピングについては、下記のチュートリアルをご参照ください。

詳細ページのスクレイピング方法

f:id:satoshihirai1:20200214174500p:plain

(3)フィールドの設定

必要に応じてフィールドの名前の変更または削除、結合できます。

フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出するデータを選択、データが自動的に抽出されます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

f:id:satoshihirai1:20200214174241p:plain

3.タスクの設定と起動

(1)起動の設定

ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。

タスク起動の設定詳細には下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

f:id:satoshihirai1:20200214174529p:plain

(2)しばらくすると、データがスクレイピングされます。

f:id:satoshihirai1:20200214174619p:plain

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードしする

f:id:satoshihirai1:20200214174635p:plain

(2)必要に応じてエクスポートする形式を選択します。

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータの表示と消去する方法

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法

f:id:satoshihirai1:20200214174652p:plain