スクレイピングYahoo!ニュースは、新聞・通信社が配信するニュースのほか、映像、雑誌や個人の書き手が執筆する記事など多種多様なニュースを掲載しています。
スクレイピングツールの概要
ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。デスクトップアプリとしてのScrapeStormには、Windows、Macと Linux のシステムに適用します。Excel、HTML、Txt、CSVなどのさまざまな形式でデータを出力、保存できます。さらに、データベースやウェブサイトにデータをエクスポートできます。
抽出されたデータは下記のようにご覧ください。
Excel 2007へのエクスポート：
1.タスクを新規作成する
(1)YahooニュースのURLをコピーする
今回はトピックスニュースのコメントをスクレイピングします。通常、ソフトウェアには入力されたURLをリストページにデフォルト認識されます。故に、下記画像のようにWebサイトの「すべてのコメントを読む」をクリックして、コメントのリストを表示させます。そしてWebサイトのURLをコピーしてください。
詳細には下記のチュートリアルをご参照ください。
(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
2.タスクを構成する
(1)ページボタンの設定
Yahooニュースのコメントページにはソフトウェアが自動的にページボタンを識別できます。もし、識別失敗になったら、手動でページボタンを選択しても大丈夫になります。
ページボタンの設定詳細には下記のチュートリアルをご参照ください。
(2)フィールドの設定
必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの追加には、「フィールドを追加」ボタンをクリックして、画面に抽出するデータを選択、データが自動的に抽出されます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
3.タスクの設定と起動
(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
タスク起動の設定詳細には下記のチュートリアルをご参照ください。
(2)しばらくすると、データがスクレイピングされます。
4.抽出されたデータのエクスポートと表示
(1)エクスポートをクリックして、データをダウンロードしする
(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
