python爬虫1《1》什么是爬虫网络爬虫?网络爬虫(又被称为网页蜘蛛,网络机器人),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。《2》爬虫的基本原理:我们把互联网比喻为一张大网,网络爬虫我们想象为网上的蜘蛛,网页与网页之间的连接我们理解为节点,爬虫就相当于是访问网页,获取网页的信息,又通过节点可以爬取另一个网站,然后不停的通过一个个节点即访问一个个网页,这样网站的数据就可以被我们获取下来了。《3》爬虫的分类:网络爬虫可分为通用爬虫和聚焦爬虫
系统 2019-09-27 17:48:45 2139
查看python搜索包的路径的实现方法:python搜索包的路径存储在sys.path下查看方法:importsyssys.path临时添加python搜索包路径的方法:方法1:(先进入python)importsyssys.path.append(‘路径')(这种方式仅对当前python有效)方法2:exportPYTHONPATH=路径(这种方式对所有的python有效)永久写入sys.path的方法:方法1:在已有的sys.path搜索路径下添加.p
系统 2019-09-27 17:48:22 2139
问题提出:有时候我们采集网页,处理完毕后将字符串保存到文件或者写入数据库,这时候需要制定字符串的编码,如果采集网页的编码是gb2312,而我们的数据库是utf-8的,这样不做任何处理直接插入数据库可能会乱码(没测试过,不知道数据库会不会自动转码),我们需要手动将gb2312转换成utf-8。首先我们知道,python里的字符默认是ascii码,英文当然没问题啦,碰到中文的时候立马给跪。不知道你还记不记得,python里打印中文汉字的时候需要在字符串前面加u
系统 2019-09-27 17:48:17 2139
类与类的关系依赖关系#依赖关系:将一个类的类名或者对象传给另一个类的方法中.classElephant:def__init__(self,name):self.name=namedefopen(self,r1):#print(ref1)print(f'{self.name}默念三声:芝麻开门')r1.open_door()defclose(self):print('大象默念三声:芝麻关门')classRefrigerator:def__init__(sel
系统 2019-09-27 17:48:13 2139
本文讲述一个用Python写的小程序,用于有注入点的链接,以检测当前数据库用户是否为sa,详细代码如下:#CodebyzhaoxiaobuEmail:little.bu@hotmail.com#-*-coding:UTF-8-*-fromsysimportexitfromurllibimporturlopenfromstringimportjoin,stripfromreimportsearchdefis_sqlable():sql1="%20and%20
系统 2019-09-27 17:47:32 2139
本文实例讲述了python的类方法和静态方法。分享给大家供大家参考。具体分析如下:python没有和C++中static关键字,它的静态方法是怎样的呢?还有其它语言中少有的类方法又是神马?python中实现静态方法和类方法都是依赖于python的修饰器来实现的。复制代码代码如下:classMyClass:defmethod(self):print("method")@staticmethoddefstaticMethod():print("staticme
系统 2019-09-27 17:47:26 2139
本人python新手,使用的环境是python2.7,勿喷复制代码代码如下:#-*-coding:utf8-*-importrandomimportstringimportsysreload(sys)sys.setdefaultencoding("utf8")defrandom_number():pwnumber=input("请输入需要密码个数:")pwlength=input("请输入需要密码长度:")ifpwlength<=10:foriinrang
系统 2019-09-27 17:47:14 2139
前一章介绍了python中的集中基本数据类型,本章着重记录python中str字符串类型数据的应用。str字符串主要由两种方法,一种是方法,一种是魔术方法。由于内容实在过于多,本章只介绍其中的方法。我会按照pycharm给的内置方法顺序(即字母排列顺序)全部依次介绍各种方法的使用。print(dir(str))"""'__add__','__class__','__contains__','__delattr__','__dir__','__doc__',
系统 2019-09-27 17:46:53 2139
本文实例为大家分享了python实现视频分帧的具体代码,供大家参考,具体内容如下importcv2vidcap=cv2.VideoCapture('005.avi')success,image=vidcap.read()count=0success=Truewhilesuccess:success,image=vidcap.read()cv2.imwrite("frame%d.jpg"%count,image)#saveframeasJPEGfileifc
系统 2019-09-27 17:46:48 2139
目录首先我们来安装Python,Python3.5+以上即可1、首先进入网站下载:点击打开链接(或自己输入网址https://www.python.org/downloads/),进入之后如下图,选择图中红色圈中区域进行下载。2、下载完成后如下图所示3、双击exe文件进行安装,如下图,并按照圈中区域进行设置,切记要勾选打钩的框,然后再点击Customizeinstallation进入到下一步:4、对于上图中,可以通过Browse进行自定义安装路径,也可以直
系统 2019-09-27 17:45:34 2139
Python实现文件的全备份和差异备份之前有写利用md5方式来做差异备份,但是这种md5方式来写存在以下问题:md5sum获取有些软连接的MD5值存在问题不支持对空目录进行备份,因为md5sum无法获取空目录的md5值权限的修改md5sum无法判断解决方案:利用文件的mtimectimemtime(Modifiedtime)是在写入文件时随文件内容的更改而更改的ctime(Createtime)是在写入文件、更改所有者、权限或链接设置时随Inode的内容更
系统 2019-09-27 17:45:28 2139
python3shelve模块的详解一、简介在python3中我们使用json或者pickle持久化数据,能dump多次,但只能load一次,因为先前的数据已经被后面dump的数据覆盖掉了。如果我们想要实现dump和load多次,可以使用shelve模块。shelve模块可以持久化所有pickle所支持的数据类型。二、持久化数据1、数据持久化importshelveimportdatetimeinfo={'name':'bigberg','age':22}
系统 2019-09-27 17:38:13 2139
字符串处理是非常常用的技能,但Python内置字符串方法太多,常常遗忘,为了便于快速参考,特地依据Python3.5.1给每个内置方法写了示例并进行了归类,便于大家索引。PS:可以点击概览内的绿色标题进入相应分类或者通过右侧边栏文章目录快速索引相应方法。大小写转换str.capitalize()将首字母转换成大写,需要注意的是如果首字没有大写形式,则返回原字符串。'adidog'.capitalize()#'Adidog''abcd徐'.capitaliz
系统 2019-09-27 17:37:47 2139
文章先介绍了关于俄罗斯方块游戏的几个术语。边框――由10*20个空格组成,方块就落在这里面。盒子――组成方块的其中小方块,是组成方块的基本单元。方块――从边框顶掉下的东西,游戏者可以翻转和改变位置。每个方块由4个盒子组成。形状――不同类型的方块。这里形状的名字被叫做T,S,Z,J,L,I,O。如下图所示:模版――用一个列表存放形状被翻转后的所有可能样式。全部存放在变量里,变量名字如S_SHAPE_TEMPLATEorJ_SHAPE_TEMPLATE着陆――
系统 2019-09-27 17:37:44 2139
importbase64if__name__=="__main__":dir='image.jpg'basef=open(dir.split('.')[0]+'_base64.txt','w')withopen(dir,'rb')asf:base64_data=base64.b64encode(f.read())s=base64_data.decode()data='data:image/jpeg;base64,%s'%s#print(data)basef
系统 2019-09-27 17:56:12 2138