Python

python中使用urllib2获取http请求状态码的代码例子

采集内容常需要得到网页返回的验证码做进一步处理下面代码是用python写的用来获取网页http状态码的脚本#!/usr/bin/python#-*-coding:utf-8-*-#encoding=utf-8#Filename:states_code.pyimporturllib2url='//www.jb51.net/'response=Nonetry:response=urllib2.urlopen(url,timeout=5)excepturllib

系统 2019-09-27 17:47:48 2204

Python

python Tcp协议发送和接收信息的例子

需要建立2个文件,一个作为客户端,一个作为服务端文件一作为客户端client,文件二作为服务端server文件一#client客户端#TCP必须建立连接importsocket#导入模块#SOCK_STREAM---TCP协议方式#AF_INET----我的是ipv4地址#1,创建socket对象:指定传输协议s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)#2,建立连接发送连接请求ip地址和端口号s.c

系统 2019-09-27 17:47:20 2204

Python

python中的内置函数getattr()介绍及示例

在python的官方文档中:getattr()的解释如下:getattr(object,name[,default])Returnthevalueofthenamedattributeofobject.namemustbeastring.Ifthestringisthenameofoneoftheobject'sattributes,theresultisthevalueofthatattribute.Forexample,getattr(x,'fooba

系统 2019-09-27 17:47:19 2204

Python

Python面试经验总结,面试一时爽,一直面试一直爽!

有伙伴问过我Python面试相关的问题,这里也跟大家总结了一下,跟大家说说我之前的面试经历和心得体会:1、简历制作我做了两份简历,用两个手机账号,两个简历名字,分别在各个招聘网站投了双份简历,一个是数据分析的简历、一个是web全栈开发的简历,我真正接触python好几年了,不管是学习还是工作学到的东西,这几年大概掌握了(前端+django+爬虫+数据分析+机器学习+NLP+Linux)技术,技术水平自我评价还不错,,基于自己掌握的技术可以分成2方面,web

系统 2019-09-27 17:47:09 2204

Python

python爬虫---实现项目(一) Requests爬取HTML信息

上面的博客把基本的HTML解析库已经说完了,这次我们来给予几个实战的项目。这次主要用Requests库+正则表达式来解析HTML。项目一:爬取猫眼电影TOP100信息代码地址:https://gitee.com/dwyui/maoyan-Requests.git项目二:美食爬取(包含多层爬取)代码地址:https://gitee.com/dwyui/meishi_Requests.git

系统 2019-09-27 17:47:06 2204

Python

腾讯视频 Python 爬虫项目实战

文|yangrq1018经常在腾讯视频上看电影,在影片库里有一个"豆瓣好评"板块。我一般会在这个条目下面挑电影。但是电影很多,又缺乏索引,只能不停地往下来,让js加载更多的条目。然而前面的看完了,每次找新的片就要拉很久。所以用爬虫将"豆瓣好评"里的电影都爬下来整理到一个表中,方便选片。项目地址:https://github.com/yangrq1018/vqq-douban-film依赖需要如下Python包:requestsbs4-Beautifulso

系统 2019-09-27 17:46:04 2204

Python

python如何爬取网站数据并进行数据可视化

前言爬取拉勾网关于python职位相关的数据信息,并将爬取的数据已csv各式存入文件,然后对csv文件相关字段的数据进行清洗,并对数据可视化展示,包括柱状图展示、直方图展示、词云展示等并根据可视化的数据做进一步的分析,其余分析和展示读者可自行发挥和扩展包括各种分析和不同的存储方式等。。。。。一、爬取和分析相关依赖包Python版本:Python3.6requests:下载网页math:向上取整time:暂停进程pandas:数据分析并保存为csv文件mat

系统 2019-09-27 17:46:03 2204

Python

跟老齐学Python之编写类之二方法

数据流转过程除了在类中可以写这种函数之外,在类中还可以写别的函数,延续上一讲的例子:复制代码代码如下:#!/usr/bin/envpython#coding:utf-8classPerson:def__init__(self,name,lang="golang",website="www.google.com"):self.name=nameself.lang=langself.website=websiteself.email="qiwsir@gmail

系统 2019-09-27 17:46:02 2204

Python

python+openCV利用摄像头实现人员活动检测

本文实例为大家分享了python+openCV利用摄像头实现人员活动检测的具体代码,供大家参考,具体内容如下1.前言最近在做个机器人比赛,其中一项要求是让机器人实现对是否有人员活动的检测,所以就先拿PC端写一下,准备移植到机器人的树莓派。2.工具工具还是简单的python+视觉模块openCV,代码量也比较少。很简单就可以实现3.人员检测的原理从图书馆借了一本《特征提取与图像处理(第二版)》,是MarkS.Nixon和AlbertoS.Aguado写的,其

系统 2019-09-27 17:45:53 2204

Python

python爬虫入门教程之糗百图片爬虫代码分享

学习python少不了写爬虫,不仅能以点带面地学习、练习使用python,爬虫本身也是有用且有趣的,大量重复性的下载、统计工作完全可以写一个爬虫程序完成。用python写爬虫需要python的基础知识、涉及网络的几个模块、正则表达式、文件操作等知识。昨天在网上学习了一下,写了一个爬虫自动下载「糗事百科」里面的图片。源代码如下:复制代码代码如下:#-*-coding:utf-8-*-#上面那句让代码里支持中文#------------------------

系统 2019-09-27 17:45:42 2204

Python

Python程序设计入门(5)类的使用简介

一、类的定义和使用python定义一个类的基本语法是:复制代码代码如下:classclassname([基类一,基类二...]):[def__init__(self,[agv1,agv2...]):]#定义构造函数defmethod1(self,[agv1,agv2...]):#成员函数使用时用:对象实例名=类名(参数列表)对象实例名.成员函数名(参数列表)和其它语言不同之处是:(1)python没有new关键字(2)成员函数必须带有self参数(它相当于

系统 2019-09-27 17:38:46 2204

Python

Using Django with GAE Python 后台抓取多个网站

一直想做个能帮我过滤出优质文章和博客的平台给它取了个名叫Moven。。把实现它的过程分成了三个阶段:1.Downloader:对于指定的url的下载并把获得的内容传递给Analyser--这是最简单的开始2.Analyser:对于接受到的内容,用RegularExpression或是XPath或是BeautifulSoup/lxml进行过滤和简化--这部分也不是太难3.SmartCrawler:去抓取优质文章的链接--这部分是最难的:Crawler的话可以

系统 2019-09-27 17:38:09 2204

Python

Python的Django框架中的数据库配置指南

记住这些理念之后,让我们来开始Django数据库层的探索。首先,我们需要做些初始配置;我们需要告诉Django使用什么数据库以及如何连接数据库。我们假定你已经完成了数据库服务器的安装和激活,并且已经在其中创建了数据库(例如,用CREATEDATABASE语句)。如果你使用SQLite,不需要这步安装,因为SQLite使用文件系统上的独立文件来存储数据。象前面章节提到的TEMPLATE_DIRS一样,数据库配置也是在Django的配置文件里,缺省是setti

系统 2019-09-27 17:37:51 2204

Python

Python写的一个简单监控系统

市面上有很多开源的监控系统:Cacti、nagios、zabbix。感觉都不符合我的需求,为什么不自己做一个呢用Python两个小时徒手撸了一个简易的监控系统,给大家分享一下,希望能对大家有所启发首先数据库建表建立一个数据库“falcon”,建表语句如下:CREATETABLE`stat`(`id`int(11)unsignedNOTNULLAUTO_INCREMENT,`host`varchar(256)DEFAULTNULL,`mem_free`int

系统 2019-09-27 17:37:43 2204

编程技术

Application Fundamentals--Remote procedure c

Remoteprocedurecalls--远程过程调用Androidhasalightweightmechanismforremoteprocedurecalls(RPCs)—whereamethodiscalledlocally,butexecutedremotely(inanotherprocess),withanyresultreturnedbacktothecaller.Thisentailsdecomposingthemethodcalland

系统 2019-08-29 23:53:05 2204