Python

python selenium爬取斗鱼所有直播房间信息过程详解

还是分析一下大体的流程:首先还是Chrome浏览器抓包分析元素,这是网址:https://www.douyu.com/directory/all发现所有房间的信息都是保存在一个无序列表中的li中,所以我们可以先获取一个装有li的element对象的列表,然后在对每个element逐一操作分析斗鱼的翻页,有一个下一页按钮,是个li,class="dy-Pagination-item-custom",但是当烦到最后一页的时候,class="dy-Paginat

系统 2019-09-27 17:47:21 2215

Python

Python 更新字典的三种形式

方法update用于对一个字典进行更新。在调用update时,可向它提供一个映射、一个由键-值对组成的序列(或其他可迭代对象)或关键字参数。映射>>>d={...'title':'PythonWebSite',...'url':'http://www.python.org'...}>>>x={'title':'PythonLanguageWebsite'}>>>d.update(x)>>>d{'url':'http://www.python.org','t

系统 2019-09-27 17:47:20 2215

Python

python爬虫---实现项目(一) Requests爬取HTML信息

上面的博客把基本的HTML解析库已经说完了,这次我们来给予几个实战的项目。这次主要用Requests库+正则表达式来解析HTML。项目一:爬取猫眼电影TOP100信息代码地址:https://gitee.com/dwyui/maoyan-Requests.git项目二:美食爬取(包含多层爬取)代码地址:https://gitee.com/dwyui/meishi_Requests.git

系统 2019-09-27 17:47:06 2215

Python

python selenium登录豆瓣网过程解析

登录流程:实例化一个driver,然后driver.get()发送请求最重要的:切换iframe子框架,因为豆瓣的网页中的登录那部分是一个ifrme,必须切换才能寻找到对应元素利用selenium切换到账号密码登录利用selenium输入账户和密码利用selenium点击登录按钮然后利用字典推导式保存了一下cookie代码实现:importtimefromseleniumimportwebdriver#实例化driverdriver=webdriver.C

系统 2019-09-27 17:47:06 2215

Python

Python程序中的线程操作-线程队列

目录一、线程队列二、先进先出三、后进先出四、存储数据时可设置优先级的队列4.1优先级队列4.2更多方法说明一、线程队列queue队列:使用importqueue,用法与进程Queue一样queueisespeciallyusefulinthreadedprogrammingwheninformationmustbeexchangedsafelybetweenmultiplethreads.二、先进先出classqueue.Queue(maxsize=0)i

系统 2019-09-27 17:47:05 2215

Python

Python 编码处理-str与Unicode的区别

一篇关于STR和UNICODE的好文章整理下python编码相关的内容注意:以下讨论为Python2.x版本,Py3k的待尝试开始用python处理中文时,读取文件或消息,http参数等等一运行,发现乱码(字符串处理,读写文件,print)然后,大多数人的做法是,调用encode/decode进行调试,并没有明确思考为何出现乱码所以调试时最常出现的错误错误1Traceback(mostrecentcalllast):File"",line1,inUnico

系统 2019-09-27 17:46:15 2215

Python

Python深入学习之对象的属性

Python一切皆对象(object),每个对象都可能有多个属性(attribute)。Python的属性有一套统一的管理方案。属性的__dict__系统对象的属性可能来自于其类定义,叫做类属性(classattribute)。类属性可能来自类定义自身,也可能根据类定义继承来的。一个对象的属性还可能是该对象实例定义的,叫做对象属性(objectattribute)。对象的属性储存在对象的__dict__属性中。__dict__为一个词典,键为属性名,对应的

系统 2019-09-27 17:45:47 2215

Python

Python实现微信翻译机器人的方法

相信大家在日常学习或者是阅读英文文章的过程中,难免会出现几个不认识的单词,或者想快速翻译某段英文的意思。今天,利用Python爬虫等知识,教大家打造一个微信下的翻译小助手。好吧,开始干活。先来看看效果如何发送要翻译的内容给我们的翻译小助手,它会自动回复翻译好的内容。环境配置:Python版本:3.6.0系统平台:Windows10X64IDE:pycharm相关模块:json模块itchat模块re模块request模块parse模块以及一些Python自

系统 2019-09-27 17:45:23 2215

Python

简单谈谈Python中函数的可变参数

前言在Python中定义函数,可以用必选参数、默认参数、可变参数和关键字参数,这4种参数都可以一起使用,或者只用其中某些,但是请注意,参数定义的顺序必须是:必选参数、默认参数、可变参数和关键字参数。可变参数(*)可变参数,顾名思义,它的参数是可变的,比如列表、字典等。如果我们需要函数处理可变数量参数的时候,就可以使用可变参数。我们在查看很多Python源码时,经常会看到某函数(*参数1,**参数2)这样的函数定义,这个*参数和**参数就是可变参数,一时会让

系统 2019-09-27 17:38:26 2215

Python

Python 从subprocess运行的子进程中实时获取输出的例子

有些时候,我们需要将某些程序放到子进程中去运行,以达到整合系统的目的。在Python中,一个非常好的选择就是使用subprocess模块,本模块为开辟子进程去执行子程序提供了统一的接口,更加便于学习和使用。同时,对于在子进程里的程序,我们希望能够实时获取其输出,以在主进程中打印相关信息,使我们能够了解当前子程序的执行进度。对此,subprocess模块也提供了相应的参数,能够将子程序的标准输出和标准错误输出返回给主程序。下面,我们就通过一个例子来说明这个功

系统 2019-09-27 17:56:49 2214

Python

python设置环境变量的作用和实例

Python的环境变量环境变量说明PYTHONSTARTUP在交互式启动时执行的文件(无默认值)PYTHONPATH‘:'-以默认模块搜索路径为前缀的分隔目录列表。结果是sys.path。PYTHONHOME交替的目录(或者:).默认的模块搜索路径为/pythonX.X.PYTHONCASEOK忽略import语句中的大小写(Windows)。PYTHONIOENCODING用于stdin/stdout/stderr中的编码PYTHONHASHSEED如果

系统 2019-09-27 17:56:35 2214

Python

python脚本

恰巧发现有个叫“EarthLiveSharp”,可用将日本向日葵8号卫星的地球实时图片设为屏保。向日葵8号卫星的地球实时图片官网为:http://himawari8.nict.go.jp/,EarthLiveSharp的项目地址是:https://github.com/bitdust/EarthLiveSharp。为了减轻向日葵8号的服务器负担,同时也是提高地球实时图片的获取成功率,需要使用cloudinary来做CDN。注册配置都在软件里有说明。目前Ea

系统 2019-09-27 17:56:14 2214

Python

安装完Anaconda python 3.7,想使用python3.6方法

原文链接:https://www.cnblogs.com/xiaodai0/p/9780101.html安装完Anacondapython3.7,想使用python3.6方法cmd使用命令:condacreate-npy36python=3.6anaconda安装好后,会有提示:Toactivatethisenvironment,use:#>activatepy36##Todeactivateanactiveenvironment,use:#>deacti

系统 2019-09-27 17:55:30 2214

Python

python学习13:分解质因数

'''将一个正整数分解质因数。例如:输入90,打印出90=2*3*3*5。'''frompip._vendor.distlib.compatimportraw_inputdeftest1(n):print("%d="%n,end='');whilen>1:foriinrange(2,n+1):ifn%i==0:n=int(n/i)ifn==1:print("%d"%i,end='');else:print("%d*"%i,end='');breakdeft

系统 2019-09-27 17:55:28 2214

Python

使用python连接mysql数据库之pymysql模块的使用

安装pymysqlpipinstallpymysql2|0使用pymysql2|1使用数据查询语句查询一条数据fetchone()frompymysqlimport*conn=connect(host='127.0.0.1',port=3306,user='root',password='123456',database='itcast',charset='utf8')#创建游标c=conn.cursor()#执行sql语句c.execute("selec

系统 2019-09-27 17:55:11 2214