Yahoo newsからニュースタイトルをスクレイピングする

Yahoo!ニュースは、新聞・通信社が配信するニュースのほか、映像、雑誌や個人の書き手が執筆する記事など多種多様なニュースを掲載しています。

スクレイピングツールの概要

ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。デスクトップアプリとしてのScrapeStormには、Windows、Macと Linux のシステムに適用します。Excel、HTML、Txt、CSVなどのさまざまな形式でデータを出力、保存できます。さらに、データベースやウェブサイトにデータをエクスポートできます。

抽出されたデータは下記のようにご覧ください。

Excel 2007へのエクスポート:

f:id:satoshihirai1:20200214173026p:plain

1.タスクを新規作成する

(1)YahooニュースのURLをコピーする

今回は国内トピックスのニュースタイトルをスクレイピングします。まずはリストページのURLをコピーしてください。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200214173125p:plain

(2)スマートモードタスクを新規作成する

ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

f:id:satoshihirai1:20200214173142p:plain

f:id:satoshihirai1:20200214173202p:plain

2.タスクを構成する

(1)フィールドの設定

必要に応じてフィールドの名前の変更または削除、結合できます。

フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出するデータを選択、データが自動的に抽出されます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

f:id:satoshihirai1:20200214173224p:plain

(2)ページボタンの識別

ソフトウェアは自動的にYahooニュースのページボタンを識別できます。ページタイプの設定とページ分けの設定については下記のチュートリアルをご参照ください。

ページタイプの設定

ページ分けの設定

f:id:satoshihirai1:20200214173308p:plain

3.タスクの設定と起動

(1)起動の設定

ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。

フィールドの設定の詳細には下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

f:id:satoshihirai1:20200214173342p:plain

(2)しばらくすると、データがスクレイピングされる

f:id:satoshihirai1:20200214173400p:plain

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードしする

f:id:satoshihirai1:20200214173416p:plain

(2)必要に応じてエクスポートする形式を選択する

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータの表示と消去する方法

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法

f:id:satoshihirai1:20200214173434p:plain