最新试题
无论是搜索引擎,还是个人或单位获取目标数据,都需要从公开网站上爬取大量数据。
题型:判断题
什么是通用爬虫?
题型:问答题
任何一条Disallow 记录为空,都说明该网站的所有部分都允许被访问。
题型:判断题
已抓取URL 队列记载了爬虫系统已经下载过的网页URL ,能够避免网页的重复抓取。
题型:判断题
robots.txt文件只能有一条User-agent 记录。
题型:判断题
什么是网络爬虫?
题型:问答题
待下载网页集合就是()URL 列队中的网页,这些网页即将被爬虫下载。
题型:填空题
为了避免访问网站的频率影响爬虫的效率,应该做哪些调整呢?
题型:问答题
只要将User-agent 设为知名的用户代理,爬虫就能够成功地伪装成浏览器。
题型:判断题
网站通过robots.txt 文件可以限定网络爬虫的访问范围。
题型:判断题