- 军军小站|张军博客
搜索到与相关的文章
Python

【Python3爬虫】快就完事了--使用Celery加速你的爬虫

一、写在前面在上一篇博客中提到过对于网络爬虫这种包含大量网络请求的任务,是可以用Celery来做到加速爬取的,那么,这一篇博客就要具体说一下怎么用Celery来对我们的爬虫进行一个加速!二、知识补充1.classcelery.groupgroup这个类表示创建一组要并行执行的任务,不过一组任务是懒惰的,所以你需要运行并对其进行评估。要了解这个类,可以查看文档,或者在Pycharm中直接Ctrl+左键就能直接查看源码了,如下图:当然了,直接看源码还不够,最好

系统 2019-09-27 17:48:01 1998

Python

Python实现基本线性数据结构

数组数组的设计数组设计之初是在形式上依赖内存分配而成的,所以必须在使用前预先请求空间。这使得数组有以下特性:1、请求空间以后大小固定,不能再改变(数据溢出问题);2、在内存中有空间连续性的表现,中间不会存在其他程序需要调用的数据,为此数组的专用内存空间;3、在旧式编程语言中(如有中阶语言之称的C),程序不会对数组的操作做下界判断,也就有潜在的越界操作的风险(比如会把数据写在运行中程序需要调用的核心部分的内存上)。因为简单数组强烈倚赖电脑硬件之内存,所以不适

系统 2019-09-27 17:46:17 1998

Python

zabbix利用python实现发送邮件方式

#!/usr/bin/python#-*-coding:utf-8-*-fromemail.mime.textimportMIMETextfromemail.headerimportHeaderfromsmtplibimportSMTP_SSLimportsyssmtpaddr='smtp.qq.com'myemail='admin@qq.com'password='123456'recvmail=sys.argv[1]subject=sys.argv[2

系统 2019-09-27 17:46:16 1998

Python

一些常用的Python爬虫技巧汇总

Python爬虫:一些常用的爬虫技巧总结爬虫在开发过程中也有很多复用的过程,这里总结一下,以后也能省些事情。1、基本抓取网页get方法importurllib2url"http://www.baidu.com"respons=urllib2.urlopen(url)printresponse.read()post方法importurllibimporturllib2url="http://abcde.com"form={'name':'abc','pass

系统 2019-09-27 17:38:00 1998

Python

Python如何实现文本转语音

准备我测试使用的Python版本为2.7.10,如果你的版本是Python3.5的话,这里就不太适合了。使用SpeechAPI原理我们的想法是借助微软的语音接口,所以我们肯定是要进行调用相关的接口。所以我们需要安装pywin32来帮助我们完成这一个底层的交互。示例代码importwin32com.clientspeaker=win32com.client.Dispatch("SAPI.SpVoice")speaker.Speak("Hello,itwork

系统 2019-09-27 17:37:43 1998

编程技术

Win32 OpenGL编程(12) 混合及半透明效果

writeby九天雁翎(JTianLing)--blog.csdn.net/vagrxie讨论新闻组及文件Technorati标签:混合,blend,半透明,OpenGL,3D,graphic,programming人类所有的力量,只是耐心加上时间的混合。——巴尔扎克混合的力量是很强大的,就如巴尔扎克所言,而图形处理中很多有趣且实用的效果在OpenGL中其实都可以用混合来实现,比如最最常用的半透明效果,这种效果在compiz的3D桌面效果中得到了极致的发挥

系统 2019-08-29 23:53:23 1998

编程技术

Google Trend高人气文章标题被恶意利用

作者:NormanIngal(趋势科技威胁回应工程师)根据报导,最近出现了一些可攻击多种运算平台的大规模攻击恶意程式。在最近的一次事件中,苹果Mac电脑遭到了新的KOOBFACE家族变种所攻击。(Koobface是一个恶名昭彰的恶意程式家族,专门透过社交网路散播,如:Facebook。不过,事实上这些事件并非零星个案。它们是大规模入侵与恶意网站攻击的冰山一角。网路犯罪者已逐渐将浏览器类型与作业系统版本侦测纳入标准攻击程序当中。而且,攻击中使用的恶意网站、酬

系统 2019-08-29 23:25:49 1998

编程技术

高效存储技术研究

高效存储技术研究1引言物质、能量和信息是自然科学研究的三个基本对象,处理、传输和存储是信息计算的三大基本任务。随着信息化技术水平的不断提高,数据已经取代计算成为了信息计算的中心,数据将成为企业最终有价值的财富。1998年图灵奖获得者JimGray曾断言:现在每18个月新增的存储量等于有史以来存储量之和。根据预测,2020年数据宇宙将达到35.2ZB(1ZB=1百万PB),比2009的0.8ZB增加44倍。在如此强大的实际需求推动下,人们不断追求海量存储容量

系统 2019-08-29 23:13:50 1998

编程技术

An Introductory STL tutorial

IntroductionSTLprovidesatemplatebasedsetofcollectionclasses,andmethodsforworkingonthosecollections.Thecollectionclassesgivethedeveloperaccesstofastandefficientcollections.Whilethemethods,whichareknownasthealgorithms,providetemplat

系统 2019-08-29 23:01:45 1998

编程技术

纪念Pac-Man游戏30周年谷歌推Doodle

为了纪念著名的Pac-Man游戏30周岁生日,Google于21日在首页推出了一个很特别的Doodle,跟以往不同,这次是Google第一次发布互动形式的Doodle。大家可以通过点击主页上的InsertCoin开始游戏;如果不点击,游戏会在页面打开之后十秒自动开始。此外,大家使用手机登陆Google主页也可以开始游戏。当然如果你还没想起Pac-Man是哪一款游戏,那么看看下面的截图保证你认识。Pac-Man游戏通常中文名译为“吃豆人”由日本公司于1980

系统 2019-08-29 22:55:43 1998