最新试题
搜索引擎只能抓取HTML 文件,不能抓取其它类型的文件。
题型:判断题
任何网站都会定义robots.txt 文件,能够让爬虫了解爬取网站存在着哪些限制。
题型:判断题
有些网页对于爬虫来说是无法抓取到的,这部分网页构成了可知网页集合。
题型:判断题
当网络爬虫访问网站时,会优先检查该站点的根目录下是否存在()文件。
题型:填空题
什么是网络爬虫?
题型:问答题
已抓取URL 队列记载了爬虫系统已经下载过的网页URL ,能够避免网页的重复抓取。
题型:判断题
搜素引擎爬取到的网页数据与浏览器得到的HTML 数据一定是不同的。
题型:判断题
任何一条Disallow 记录为空,都说明该网站的所有部分都允许被访问。
题型:判断题
如果数据市场上没有需要的数据,那么可以利用()技术抓取网站上的数据。
题型:填空题
什么是通用爬虫?
题型:问答题