Python爬虫面试常见问题

先收藏一下,有空再整理答案

爬虫面试常见问题

一、项目问题:

1.你写爬虫的时候都遇到过什么反爬虫措施,你是怎样解决的

2.用的什么框架。为什么选择这个框架

二、框架问题:

1.scrapy的基本结构(五个部分都是什么,请求发出去的整个流程)

2.scrapy的去重原理(指纹去重到底是什么原理)

3.scrapy中间件有几种类,你用过哪些中间件

4.scrapy中间件在哪里起的作业(面向切片编程)

三、代理问题:

1.为什么会用到代理

2.代理怎么使用(具体代码, 请求在什么时候添加的代理)

3.代理失效了怎么处理

四、验证码处理:

1.登陆验证码处理

2.爬取速度过快出现的验证码处理

3.如何用机器识别验证码

五、模拟登陆问题:

1.模拟登陆流程

2.cookie如何处理

3.如何处理网站传参加密的情况

六、分布式:

1.分布式原理

2.分布式如何判断爬虫已经停止了

3.分布式的去重原理

七、数据存储和数据库问题:

1.关系型数据库和非关系型数据库的区别

2.爬下来数据你会选择什么存储方式,为什么

3.各种数据库支持的数据类型,和特点

八、Python基础问题:

ps:基础问题是非常多的,因为是爬虫性质,所以抽了一些问的比较多的,总结如下:

1.Python2与Python3的区别,如何实现python2代码迁移到Python3环境

2.Python2和Python3的编码方式有什么差别

3.迭代器,生成器,装饰器

4.Python的数据类型

九、协议问题:

1.http协议,请求由什么组成,每个字段分别有什么用,https和http有什么差距

2.证书问题

3.TCP,UDP各种相关问题

十、数据提取问题:

1.主要使用什么样的结构化数据提取方式,可能会写一两个例子

2.正则的使用

3.动态加载的数据如何提取

4.json数据如何提取

十一、算法问题:

算法:你们要善用Python的数据类型,对Python的数据结构深入了解

Python web面试常见问题

一、Python语法以及其他基础部分:

1.可变与不可变类型

2.浅拷贝与深拷贝的实现方式、区别;deepcopy如果你来设计,如何实现

3.new()与init()的区别

4.你知道几种设计模式

5.编码与解码你了解过吗

6.列表推导式list comprehension和生成器的优劣

7.什么是装饰器;如果想在函数之后进行装饰,应该怎么做

8.手写个使用装饰器实现的单例模式

9.使用装饰器的单例和使用其他方法的单例,在后续使用中,有何区别

10.手写:正则邮箱地址

11.介绍下垃圾回收:引用计数/分代回收/孤立引用环

12.多进程和多线程的区别,cpu密集型适合用什么

13.进程通信的方式有几种

14.介绍下协程,为何比线程快

15.range和xrange的区别

二、算法排序部分:

1.手写快排;堆排;几种常用排序的算法复杂度是多少;快排平均复杂度多少,最坏情况如何优化

2.手写:已知一个长度n的无序列表,元素均是数字,要求把所有间隔为d的组合找出来,你写的解法算法复杂度多少

3.手写:一个列表A=[A1,A2,…,An],要求把列表中所有的组合情况打印出来;

4.手写:用一行python写出1+2+3+…+10**8

5.手写python:用递归的方式判断字符串是否为回文

6.单向链表长度未知,如何判断其中是否有环

7.单向链表如何使用快速排序算法进行排序

7.手写:一个长度n的无序数字元素列表,如何求中位数,如何尽快的估算中位数,9).你的算法复杂度是多少;

8.如何遍历一个内部未知的文件夹(两种树的优先遍历方式)

三、网络基础部分:

1.TCP/IP分别在模型的哪一层

2.socket长连接是什么意思

3.select和epoll你了解么,区别在哪

4.TCP UDP区别;三次握手四次挥手讲一下

5.TIME_WAIT过多是因为什么

6.http一次连接的全过程:你来说下从用户发起request——到用户接收到 response

7.http连接方式。get和post的区别,你还了解其他的方式么

8.restful你知道么

9.状态码你知道多少,比如200/403/404/504等等

四、数据库部分:

1.MySQL锁有几种;死锁是怎么产生的; 为何,以及如何分区、分表;

2.MySQL的char varchar text的区别:

了解join么,有几种有何区别,A LEFT JOIN B,查询的结果中,B没有的那部分是如何显示的(NULL)

3.索引类型有几种,BTree索引和hash索引的区别

4.手写:如何对查询命令进行优化

5.NoSQL了解么,和关系数据库的区别,redis有几种常用存储类型

五、linux部分:

1.讲一下你常用的Linux/git命令和作用;

2.查看当前进程是用什么命令,除了文件相关的操作外,你平时还有什么操作命令;

六. Django项目部分:

都是让简单的介绍下你在公司的项目,不管是不是后端相关的,主要是要体现出你干了什么

你在项目中遇到最难的部分是什么,你是怎么解决的; 你看过django的admin源码么

看过flask的源码么,你如何理解开源

MVC / MTV, 缓存怎么用, 中间件是干嘛的

CSRF是什么,django是如何避免的,XSS

如果你来设计login,简单的说一下思路

session和cookie的联系与区别,session为什么说是安全的

uWSGI和Nginx的作用;

原文地址:https://www.cnblogs.com/zpw-1/p/9683454.html

时间: 2024-12-29 09:33:03

Python爬虫面试常见问题的相关文章

Python web面试常见问题

一.Python语法以及其他基础部分: 1.可变与不可变类型 2.浅拷贝与深拷贝的实现方式.区别:deepcopy如果你来设计,如何实现 3.new()与init()的区别 4.你知道几种设计模式 5.编码与解码你了解过吗 6.列表推导式list comprehension和生成器的优劣 7.什么是装饰器:如果想在函数之后进行装饰,应该怎么做 8.手写个使用装饰器实现的单例模式 9.使用装饰器的单例和使用其他方法的单例,在后续使用中,有何区别 10.手写:正则邮箱地址 11.介绍下垃圾回收:引用

Python爬虫学习路线,强烈建议收藏这十一条

(一)如何学习Python 学习Python大致可以分为以下几个阶段: 1.刚上手的时候肯定是先过一遍Python最基本的知识,比如说:变量.数据结构.语法等,基础过的很快,基本上1~2周时间就能过完了,我当时是在这儿看的基础:Python 简介 | 菜鸟教程 2.看完基础后,就是做一些小项目巩固基础,比方说:做一个终端计算器,如果实在找不到什么练手项目,可以在 Codecademy - learn to code, interactively, for free 上面进行练习. 如果时间充裕的

精通Python爬虫-03-狩猎大师

声明: 本系列文章原创于慕课网,作者秋名山车神,任何人不得以任何形式在不经作者允许的情况下,进行任何形式的印刷以及销售,转载需注明出处及此声明. 本系列文章更新至少每周一更,将涉及Python爬虫基础,Requests,Scrapy等主流爬虫技术.同时会介绍图片验证码,语音验证码的识别以及我自己设计的一个高并发可扩展易维护的集群爬虫架构. 对文章有任何问题请在下面留言,我会不定期的回复大家. 人非圣贤,如果文章有错别字请大家自行区分或指正出来,我将不定期修改错误的地方. 本系列能否持久更新下去离

Python爬虫工作好做吗?爬虫工作发展前景如何呢?

为什么网上Python爬虫教程这么多,但是做爬虫的这么少呢?爬虫发展又该是如何呢? 我们来看看一篇深入前线的小哥的分析. 关于爬虫的技术要求: 爬虫掌握熟练的话,包括简单的mysql语句.html和css简单的知识以及最厉害的scrapy爬虫框架,基本上就可以去尝试海投一下爬虫岗位.创一个小群,供大家学习交流聊天如果有对学python方面有什么疑惑问题的,或者有什么想说的想聊的大家可以一起交流学习一起进步呀.也希望大家对学python能够持之以恒python爱好群,如果你想要学好python最好

从零起步 系统入门Python爬虫工程师

课程目录及大纲: 第1章 从零开始 系统入门python爬虫工程师-课程导学 获取课程资料链接:点击这里获取 这是一门专门为爬虫初学者打造的教程,从零起步的系统化教程,课程内容从理论到实践,一层一层深入讲解,尤其是课程实战环节:一步一步带你进行多场景项目实践 ,让你能够举一反三从容面对以后的数据抓取问题,最后关于就业部分,重点,难点,针对性讲解,轻松应对面试,最终达到就业水准.... 1-1 从零开始 系统入门python爬虫工程师-课程导学 试看第2章 彻底解决让人头疼的环境搭建问题 视频教程

从零起步 系统入门Python爬虫工程师完整教程

1 var link="www.marenzy.top"//完整视频资源获取地址,复制链接在浏览器打开 2 var vx="aishangit666"//如链接失效可添加微信 从零起步 系统入门Python爬虫工程师 大数据时代,python爬虫工程师人才猛增,本课程专为爬虫工程师打造,课程有四个阶段,爬虫0基础入门->项目实战->爬虫难点突破->scrapy框架快速抓取,带你系统学习.课程精选多个实战项目,从易到难,层层深入.不同项目解决不同的抓

开始我的Python爬虫学习之路

因为工作需要经常收集一些数据,我就想通过学爬虫来实现自动化完成比较重复的任务. 目前我Python的状况,跟着敲了几个教程,也算是懂点基础,具体比较深入的知识,是打算从做项目中慢慢去了解学习. 我是觉得如果一开始就钻细节的话,是很容易受到打击而放弃的,做点小项目让自己获得点成就感路才更容易更有信心走下去. 反正遇到不懂的就多查多问就对了. 知乎上看了很多关于入门Python爬虫的问答,给自己总结出了大概的学习方向. 基础: HTML&CSS,JOSN,HTTP协议(这些要了解,不太需要精通) R

Python爬虫实战(2):爬取京东商品列表

1,引言 在上一篇<Python爬虫实战:爬取Drupal论坛帖子列表>,爬取了一个用Drupal做的论坛,是静态页面,抓取比较容易,即使直接解析html源文件都可以抓取到需要的内容.相反,JavaScript实现的动态网页内容,无法从html源代码抓取需要的内容,必须先执行JavaScript. 我们在<Python爬虫使用Selenium+PhantomJS抓取Ajax和动态HTML内容>一文已经成功检验了动态网页内容的抓取方法,本文将实验程序进行改写,使用开源Python爬虫

转载:用python爬虫抓站的一些技巧总结

原文链接:http://www.pythonclub.org/python-network-application/observer-spider 原文的名称虽然用了<用python爬虫抓站的一些技巧总结>但是,这些技巧不仅仅只有使用python的开发可以借鉴,我看到这篇文章的时候也在回忆自己做爬虫的过程中也用了这些方法,只是当时没有系统的总结而已,谨以此文为鉴,为以前的爬虫程序做一个总结. 转载原文如下: 学用python也有3个多月了,用得最多的还是各类爬虫脚本:写过抓代理本机验证的脚本,