判断题
X 纠错
如果网站中没有robots.txt 文件，那么所有的网络爬虫都能访问网站上所有没有被口令保护的页面。
参考答案：
错
进入题库练习
查答案就用赞题库小程序
还有拍照搜题 语音搜题 快来试试吧
无需下载 立即使用
你可能喜欢
判断题
爬虫可以按照一定的规则，手动请求万维网网站的数据。
参考答案：
错
点击查看答案
进入题库练习
判断题
robots.txt文件只能有一条User-agent 记录。
参考答案：
错
点击查看答案
进入题库练习
判断题
有些网页对于爬虫来说是无法抓取到的，这部分网页构成了可知网页集合。
参考答案：
错
点击查看答案
进入题库练习
判断题
无论是搜索引擎，还是个人或单位获取目标数据，都需要从公开网站上爬取大量数据。
参考答案：
对
点击查看答案
进入题库练习
判断题
任何网站都会定义robots.txt 文件，能够让爬虫了解爬取网站存在着哪些限制。
参考答案：
错
点击查看答案
进入题库练习
判断题
如果某个URL 还未抓取过，则这个URL 会放入到待抓取URL 队列中。
参考答案：
对
点击查看答案
进入题库练习
判断题
搜索引擎只能抓取HTML 文件，不能抓取其它类型的文件。
参考答案：
错
点击查看答案
进入题库练习
判断题
如果网站中存在robots.txt 文件，那么网络爬虫会按照该文件的内容确定访问的范围。
参考答案：
对
点击查看答案
进入题库练习
判断题
任何一条Disallow 记录为空，都说明该网站的所有部分都允许被访问。
参考答案：
对
点击查看答案
进入题库练习
判断题
只要将User-agent 设为知名的用户代理，爬虫就能够成功地伪装成浏览器。
参考答案：
对
点击查看答案
进入题库练习
赞题库
赞题库-搜题找答案
（已有500万+用户使用）
历年真题
章节练习
每日一练
高频考题
错题收藏
在线模考
提分密卷
模拟试题
无需下载 立即使用
手机版
电脑版
版权所有©考试资料网(ppkao.com)All Rights Reserved
