新規作成日 2015-09-11
最終更新日
サイトをクロールする
サイトをクロールして、サイトマップを作成します。
メインメニュー、あるいは、左の枠にある「Crawl a site...」をクリックします
「Start
URL」に、クロールするサイトのドメインを入力します。後は、デフォルトで、「Crawl」をクリックし、動作を確認します。
「Crawl Setting」のタブです。
「Crawl Setting」のタブです。
「Crawl Speed」のタブです。
「Advance Settings」のタブです。
「HTTP Authentication」のタブです。
ファイルが、1つしか、クロールされません。
参考として、ローカルサイトのフォルダ構造を示します。
動作を確認したバージョンは、「0.9.1.23」です。サポートに確認したところ、このバージョンでは、サイト内に、「/robots.txt」が存在しないとクロールできないとのことです。 そして、近々、修正されるとのコメントを貰いました。※「/robots.txt」を無視する設定に変更するとクロールできます。
次のページでは、robots.txtを無視する設定に変更しクロールします。そうすれば、robots.txtが存在しなくてもクロールできます。