综述本系列文档用于对Python爬虫技术的学习进行记录总结。Python版本是3.7.4urllib库介绍它是Python内置的HTTP请求库，也就是说我们不需要额外安装即可使用，它包含四个模块(主要对前三个模块进行学习)：request:它是最基本的HTTP请求模块，我们可以用它来模拟发送一请求，就像在浏览器里输入网址然后敲击回车一样，只需要给库方法传入URL还有额外的参数，就可以模拟实现这个过程了。error:异常处理模块，如果出现请求错误，我们可以捕
系统 2019-09-27 17:54:27 1888
引言最近在刷面试题,所以需要看大量的Python相关的面试题，从大量的题目中总结了很多的知识，同时也对一些题目进行拓展了，但是在看了网上的大部分面试题不是很满意，一个是有些部分还是Python2的代码，另一个就是回答的很简单，有些关键的题目，也没有点出为什么，最重要的是还有一些复制粘贴根本就跑不通，这种相信大家深有体会吧，这样就导致我们可能需要去找其他人发的类似的教程。难受啊，所以我决定针对市面上大多的Python题目做一个分析，同时也希望大家尽可能的做到
系统 2019-09-27 17:54:17 1888
fromrandomimportrandintdata=[randint(-10,10)for_inxrange(10)]printdatae=filter(lambdax:x>=0,data)printe或者使用列表解析速度快[xforxindataifx>=0]对字典的筛选d={x:randint(60,100)forxinxrange(1,21)}printdprint{k:vfork,vind.iteritems()ifv>90}对集合的筛选找出被
系统 2019-09-27 17:54:14 1888
安装方法pipinstallScrapy如果顺利的话不用管直接一路下来就OK验证是否安装成功安装成功不顺利的情况1）lxml安装不成功使用whl进行安装，不过需要先安装whlpipinstallwheel安装完成后下载lxml的whl文件网址：http://www.lfd.uci.edu/~gohlke/pythonlibs/whl版本挑选进入cmd――>importpip――>printpip.pep425tags.get_supported()，按照截
系统 2019-09-27 17:54:03 1888
表数据超过百万级别时使用pandas读取数据速度过慢，如果仍然想用pandas读取，可以通过多进程提高效率。同时可以将常用数据保存为pkl文件，以便后续使用。@主要代码实现#按照表中的某字段将表划分为比较均匀的多个子集#本例中需要读取的表中包含了城市字段，#且涉及的城市包含了全国大部分城市，数据分布较为均匀，因此制作了一张省份城市配置表，将数据划分#读取省份-城市配置表，获取城市列表defget_division_list(db_connect,divis
系统 2019-09-27 17:53:46 1888
Windows•安装lxml最好的安装方式是通过wheel文件来安装，http://www.lfd.uci.edu/~gohlke/pythonlibs/，从该网站找到lxml的相关文件。假如是Python3.5版本，WIndows64位系统，那就找到lxml‑3.7.2‑cp35‑cp35m‑win_amd64.whl这个文件并下载，然后通过pip安装。下载之后，运行如下命令安装：pip3installwheelpip3installlxml‑3.7.2
系统 2019-09-27 17:53:34 1888
最近遇到一个问题，是指定参数来运行某个特定的进程，这很类似Linux中一些命令的参数了，比如ls-a，为什么加上-a选项会响应。optparse模块实现的也是类似的功能，它是为脚本传递命令参数。使用此模块前，首先需要导入模块中的类OptionParser，然后创建它的一个实例（对象）：复制代码代码如下:fromoptparseimportOptionParserparser=OptionParser()#这里也可以定义类的参数，后续有接着就可以添加选项了，
系统 2019-09-27 17:53:20 1888
0x00前言eval是Python用于执行python表达式的一个内置函数，使用eval，可以很方便的将字符串动态执行。比如下列代码：>>>eval("1+2")>>>eval("[xforxinrange(10)]")[0,1,2,3,4,5,6,7,8,9]当内存中的内置模块含有os的话，eval同样可以做到命令执行：>>>importos>>>eval("os.system('whoami')")win-20140812chj\administrat
系统 2019-09-27 17:53:02 1888
sklearn.preprocessing.RobustScaler:Initsignature:RobustScaler(with_centering=True,with_scaling=True,quantile_range=(25.0,75.0),copy=True,)Docstring:Scalefeaturesusingstatisticsthatarerobusttooutliers.ThisScalerremovesthemedianands
系统 2019-09-27 17:52:43 1888
glob模块说明：1、glob是python自己带的一个文件操作相关模块，用它可以查找符合自己目的的文件，就类似于Windows下的文件搜索，支持通配符操作*、?、[]这三个通配符，*代表0个或多个字符，?代表一个字符，[]匹配指定范围内的字符，如[0-9]匹配数字。glob.glob("字符串+通配符")该方法返回指定路径所有匹配的文件的列表，该方法需要一个参数用来指定匹配的路径字符串（本字符串可以为绝对路径也可以为相对路径），其返回的文件名只包括当前目
系统 2019-09-27 17:52:15 1888
