- 军军小站|张军博客
搜索到与相关的文章
Python

【Python3爬虫】快就完事了--使用Celery加速你的爬虫

一、写在前面在上一篇博客中提到过对于网络爬虫这种包含大量网络请求的任务,是可以用Celery来做到加速爬取的,那么,这一篇博客就要具体说一下怎么用Celery来对我们的爬虫进行一个加速!二、知识补充1.classcelery.groupgroup这个类表示创建一组要并行执行的任务,不过一组任务是懒惰的,所以你需要运行并对其进行评估。要了解这个类,可以查看文档,或者在Pycharm中直接Ctrl+左键就能直接查看源码了,如下图:当然了,直接看源码还不够,最好

系统 2019-09-27 17:48:01 1906

Python

python3.6+selenium使用unittest和ddt进行数据驱动

1.先安装ddt#pipinstallddt,使用python命令打开cmd,输入importddt如果没有报错,说明安装成功了2.实现的逻辑:1)打开百度首页2)在搜索框中输入一个搜索的关键字3)单击搜索按钮4)验证搜索结果页面是否包含预期关键字,包含则认为测试通过,否则的话就是失败,在测试过程中打印日志以下是实例完整代码请参考:importunittestfromseleniumimportwebdriverimporttimeimportloggin

系统 2019-09-27 17:47:32 1906

Python

python ORM模块sqlalchemy的使用

1、安装sqlalchemypipinstallsqlalchemy2、导入必要的包及模块importsqlalchemyfromsqlalchemy.ext.declarativeimportdeclarative_basefromsqlalchemy.ormimportsessionmaker3、创建数据库连接实例#创建数据库连接实例(#"数据库类型+数据库模块://用户名:密码@主机/库名")db=sqlalchemy.create_engine("

系统 2019-09-27 17:47:28 1906

Python

Python列表删除元素del、pop()和remove()的区别小结

前言在python列表的元素删除操作中,del,pop(),remove()很容易混淆,下面对三个语句/方法作出解释del语句del语句可以删除任何位置处的列表元素,若知道某元素在列表中的位置则可使用del语句.例:>>>a=[3,2,2,1]>>>dela[1]>>>a[3,2,1]pop()方法pop()可删除任意位置的元素并将其返回,只需在括号内指定要删除元素的索引即可,当括号内为空时则删除该列表最后一个元素并将其返回.例1:>>>a=[3,2,1]

系统 2019-09-27 17:46:31 1906

Python

为什么人工智能需要用python

上一篇已经说过,python随着人工智能的兴起而大热。这里我将详细解释为什么人工智能需要用python。相对于其他语言,python对人工智能最大的优势是他的可扩展性、可嵌入性。这也是他被程序员称为“胶水语言”的原因。python对人工智能应用的优点:1:人工智能的核心算法是完全依赖于C/C++的,而且Python历史上也一直都是科学计算和数据分析的重要工具。Python虽然是脚本语言,但是因为容易学,迅速成为科学家的工具(MATLAB等也能搞科学计算,但

系统 2019-09-27 17:46:24 1906

Python

python通过文件头判断文件类型

对于提供上传的服务器,需要对上传的文件进行过滤。本文为大家提供了python通过文件头判断文件类型的方法,避免不必要的麻烦。分享代码如下importstruct#支持文件类型#用16进制字符串的目的是可以知道文件头是多少字节#各种文件头的长度不一样,少半2字符,长则8字符deftypeList():return{"52617221":EXT_RAR,"504B0304":EXT_ZIP}#字节码转16进制字符串defbytes2hex(bytes):num

系统 2019-09-27 17:38:38 1906

Python

Python打造出适合自己的定制化Eclipse IDE

Eclipse是一套强大的框架,其能够通过内置插件机制实现多种扩展方式。然而要想添加一小点额外功能,大家都不可避免地需要面临新插件的编写与部署工作,这显然有点令人头痛。现在在EASE的帮助下,我们能够以更理想的方式完成这项任务――而且整个过程不需要涉及任何一代Java代码。EASE能够让我们轻松利用Python或者JavaScript等脚本语言实现自动化工作台功能。在本篇文章中,我们将共同了解如何利用Python与EASE设置Eclipse环境,同时考量多

系统 2019-09-27 17:37:49 1906

编程技术

精简QQ项目交流总结

前段时间花了不少时间搞了一个较简单的QQ项目,这里把它发布出来分型给大家学习探讨。目前为止该QQ项目实现如下功能:添加好友到好友列表,可以把好友在不同分类中移动,同时支持离线查找添加好友,离线更换头像,离线发送消息,保存所有好友聊天记录,发送窗口抖动,查看对方信息,更改/添加信息等。先来看一下项目的部分截图效果这个是登陆界面,腾讯QQ的号码通常是9位,这个版本的QQ号码是5位,也就是说注册的时候只能注册5位号码,超过5位就会提示出错这是注册界面如果已经登陆

系统 2019-08-29 23:37:56 1906

编程技术

Extjs4---column布局

Column布局一般被称为列布局,这种布局的目的是为了创建一个多列的格式。其中每列的宽度,可以为其指定一个百分比或者是一个固定的宽度。Ext.application({name:'column',launch:function(){Ext.create('Ext.panel.Panel',{title:'column布局',width:500,height:300,x:30,y:50,//布局为c

系统 2019-08-29 23:20:07 1906

编程技术

关于按IE的后退按钮,防止IE访问缓存页面。

按照网上搜索出来的流行方式,不管是服务器代码,还是html的meta标签,通常情况是没问题的,但当使用了代理服务器的时候,按后退按钮后,还是直接显示了缓存的页面,没有重新去服务器执行action(struts).(其他浏览器都没有问题:firefox,safari,google)有高手解释下么??测试环境,在公司内部测试,通过代理去访问apache服务器(如果直接访问apache,以下的方法是可以的)。最近考虑了另外一种方法:就是利用cookie来做文章,

系统 2019-08-29 23:04:04 1906