填空题robots.txt文件必须放置在一个站点的()目录下,且文件名必须小写。
您可能感兴趣的试卷
你可能感兴趣的试题
最新试题
如果数据市场上没有需要的数据,那么可以利用()技术抓取网站上的数据。
题型:填空题
当网络爬虫访问网站时,会优先检查该站点的根目录下是否存在()文件。
题型:填空题
无论是搜索引擎,还是个人或单位获取目标数据,都需要从公开网站上爬取大量数据。
题型:判断题
robots.txt文件只能有一条User-agent 记录。
题型:判断题
为了避免访问网站的频率影响爬虫的效率,应该做哪些调整呢?
题型:问答题
如果网站中没有robots.txt 文件,那么所有的网络爬虫都能访问网站上所有没有被口令保护的页面。
题型:判断题
什么是网络爬虫?
题型:问答题
网站通过robots.txt 文件可以限定网络爬虫的访问范围。
题型:判断题
现在网站会采取一些()措施来阻止网络爬虫的不当爬取行为。
题型:填空题
搜索引擎只能抓取HTML 文件,不能抓取其它类型的文件。
题型:判断题