読売新聞オンラインは読売新聞のニュース・情報サイトです。社会、スポーツ、政治、経済、国際などの最新ニュースや教育、医療などの読み物、映像ニュースも充実します。ポケモン、発言小町、クーポンやプレゼントも提供します。2019年2月にYOMIURI ONLINEからサイト名を変更しました。
スクレイピングツールの概要
ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。
抽出されたデータは下記のようにご覧ください。
Excel 2007へのエクスポート：
1.タスクを新規作成する
(1)URLをコピーする
ScrapeStormは自動的リストページを識別できます。今回は読売新聞の日本国内新聞ページを例としてスクレイピングします。詳細には下記のチュートリアルをご参照ください。
(2)スマートモードタスクを新規作成する
ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。
詳細には下記のチュートリアルをご参照ください。
2.タスクを構成する
(1)事前ログイン
読売新聞には、大部分のニュースが有料ですので、会員登録にはScrapeStormの事前ログイン機能を利用してください。
(2)ページボタンの識別
読売新聞のWebサイトはスクロールして「更に読み込む」が出できます。ScrapeStormはスクロールを識別できますが、ページボタンの選択は手動にしてください。
ページボタンの設定詳細には下記のチュートリアルをご参照ください。
(3)詳細ページに行く
「詳細ページに行く」をクリックして、ニュース内容のスクレイピングができます。
具体的な設定には下記のチュートリアルをご参照ください。
(4)フィールドの追加と編集
フィールドの追加を利用して、ニュース内容を抽出します。また、必要に応じて、フィールドマージ、フィールド名の変更などの編集もできます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
3.タスクの設定と起動
(1)起動の設定
ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。
スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
(2)しばらくすると、実行画面にデータのスクレイピングが見えます。
4.抽出されたデータのエクスポートと表示
(1)エクスポートをクリックして、データをダウンロードします。
(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。
抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。
抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
