任何网站都会定义robots.txt 文件，能够让爬虫了解爬取网站存在着哪些限制。

robots.txt文件只能有一条User-agent 记录。

robots.txt文件必须放置在一个站点的（）目录下，且文件名必须小写。

什么是代理IP ？

Robots协议又称（）协议，用于保护网数据和敏感信息。

Robots.txt协议可以限制爬虫程序采集某些网页的数据。

什么是通用爬虫？

网站通过robots.txt 文件可以限定网络爬虫的访问范围。

请简述使用网络爬虫的好处。

如果网站中没有robots.txt 文件，那么所有的网络爬虫都能访问网站上所有没有被口令保护的页面。