Python

Python实现的爬取豆瓣电影信息功能案例

本文实例讲述了Python实现的爬取豆瓣电影信息功能。分享给大家供大家参考,具体如下:本案例的任务为,爬取豆瓣电影top250的电影信息(包括序号、电影名称、导演和主演、评分以及经典台词),并将信息作为字典形式保存进txt文件。这里只用到requests库,没有用到beautifulsoup库step1:首先获取每一页的源代码,用requests.get函数获取,为了防止请求错误,使用try...except..defgetpage(url):try:re

系统 2019-09-27 17:56:16 2320

Python

Python中的高阶函数(内置高阶函数map()、reduce

一、什么是高阶函数在计算机编程语言中,高阶函数指的是接受函数作为输入或输出的函数。二、高阶函数的特性函数本身也可以赋值给变量变量可以指向函数f=abs#abs()取绝对值函数,将函数赋给变量fprint(f(-10))#输出结果-10的绝对值三、内置高阶函数map()map():接收两个参数,一个是函数一个是序列map()将传入的函数依次作用到序列的每个元素,并且把结果作为新的序列返回例:对一个序列[-1,3,-4,-5]的每一个元素求绝对值代码:结果:例

系统 2019-09-27 17:54:46 2320

Python

Python 持久化模块pickle和joblib

在程序运行的过程中,所有的变量都是在内存中,有时候希望将对象存储下来。我们把对象从内存中变成可存储或传输的过程称之为序列化,在Python中叫pickling。picklePython提供两个模块来实现序列化:cPickle和pickle。这两个模块功能是一样的,区别在于cPickle是C语言写的,速度快,pickle是纯Python写的,速度慢。将对象保存为字符串importpicklea1=['abc',[1,2],{'x':3}]s1=pickle.

系统 2019-09-27 17:53:47 2320

Python

Python内置函数Type()函数一个有趣的用法

今天在网上看到type的一段代码,然后查了一下文档,才知道type还有三个参数的用法。http://docs.python.org/2/library/functions.html#type以前只是知道type可以检测对象类型。然后发现了一个有趣的用法。复制代码代码如下:defprintln(self):a=1+1print“%s,%s”%(self.aa,a)A=type(‘A',(),{‘aa':'printa',‘println':println})

系统 2019-09-27 17:52:10 2320

Python

实例分析python3实现并发访问水平切分表

场景说明假设有一个mysql表被水平切分,分散到多个host中,每个host拥有n个切分表。如果需要并发去访问这些表,快速得到查询结果,应该怎么做呢?这里提供一种方案,利用python3的asyncio异步io库及aiomysql异步库去实现这个需求。代码演示importloggingimportrandomimportasynciofromaiomysqlimportcreate_pool#假设mysql表分散在8个host,每个host有16张子表TB

系统 2019-09-27 17:50:32 2320

Python

关于python3中setup.py小概念解析

关于pythonsetup.pybdistpythonsetup.pysdist两者的区别sdist指的是sourcedist即源码发布,带setup.pybdist指的是built(binary)dist即编译过(二进制)发布不带setup.py查看setup.py各种编译命令参数pythonsetup.py--help-commands查看具体某个命令参数pythonsetup.pybdist--help查看setup.py配置的参数pythonset

系统 2019-09-27 17:50:27 2320

Python

Python 操作 Rabbit MQ 路由 (六)

Python操作RabbitMQ路由(六)一、路由(Routing):本章打算新增加一个功能,使它可以达到仅订阅消息的一个子集。举个栗子,我们需要把验证的错误日志信息写入日志文件(存储到磁盘),但同时仍然把所有的日志信息输出到控制台中。二、绑定(Bindings):绑定(Binding)是指交换机(Exchange)和队列(Queue)的关系;绑定的时候可以带上一个额外的routing_key参数。为了避免与basic_publish的参数混淆,我们把它叫

系统 2019-09-27 17:50:10 2320

Python

Python之NumPy(axis=0 与axis=1)区分详解

python中的axis究竟是如何定义的呢?他们究竟代表是DataFrame的行还是列?考虑以下代码:>>>df=pd.DataFrame([[1,1,1,1],[2,2,2,2],[3,3,3,3]],\columns=["col1","col2","col3","col4"])>>>dfcol1col2col3col4011111222223333如果我们调用df.mean(axis=1),我们将得到按行计算的均值>>>df.mean(axis=1)0

系统 2019-09-27 17:49:31 2320

Python

用Python从0开始实现一个中文拼音输入法的思路详解

众所周知,中文输入法是一个历史悠久的问题,但也实在是个繁琐的活,不知道这是不是网上很少有人分享中文拼音输入法的原因,接着这次NLPProject的机会,我觉得实现一发中文拼音输入法,看看水有多深,结果发现还挺深的,但是基本效果还是能出来的,而且看别的组都做得挺好的,这次就分享一下我们做的结果吧。(注:此文假设读者已经具备一些隐马尔可夫模型的知识)任务描述实现一个中文拼音输入法。经过分析,分为以下几个模块来对中文拼音输入法进行实现:核心功能包括拼音切分(Sp

系统 2019-09-27 17:48:20 2320

Python

python&&多线程多进程及主机管理&&学习笔记

python&&多线程多进程及主机管理&&学习笔记多线程知识回顾关于python"假线程"的说法python是非线程安全的语言基本多进程示例基本多进程示例2多进程之进程间通讯示例1多进程间内存共享示例1多进程之进程间通讯示例2多进程间内存共享示例2多进程间内存共享示例3进程池Pool利用pool产生多进程示例多进程多线程执行示例1IT审计堡垒机的开发示例审计堡垒机的安全控制shellinaboxd异步Select、poll&epoll(异步IO模型)sel

系统 2019-09-27 17:47:38 2320

Python

可能是最全面的 Python 字符串拼接总结

来源:枫恋寒链接:https://segmentfault.com/a/119000001.png"font-size:12px;">在Python中字符串连接有多种方式,这里简单做个总结,应该是比较全面的了,方便以后查阅。加号连接第一种,通过+号的形式:>>>a,b='hello','world'>>>a+b'helloworld'逗号连接第二种,通过,逗号的形式:>>>a,b='hello','world'>>>print(a,b)helloworld

系统 2019-09-27 17:47:08 2320

Python

Python爬取 工控行业系统漏洞

先贴连接,让各位观众老爷看看,对不对你们的胃口工控行业系统漏洞可以看到,这个网页是html静态的,所以问题变的非常的简单只需要用request请求网页就可以了话不多说,直接贴代码importrequestsfromurllib.parseimporturlencodefromlxmlimportetreeimportpymysqlimporttimeimportxlwtimportxlrddefmakeurl():#http://ics.cnvd.org.

系统 2019-09-27 17:45:43 2320

Python

【太6了!python功能或接口自动化通吃!】HTMLTestRunner

转自:https://www.cnblogs.com/kaibindirver/p/9436649.htmlhttps://github.com/GoverSky/HTMLTestRunner_cn/blob/master/README.md在原版的基础上进行扩展和改造报告汉化,错误日志selenium/appium截图截图功能根据测试结果,当结果为fail或error时自动截图截图方法在_TestResult的测试结果收集中,报告使用的截图全部保存为ba

系统 2019-09-27 17:57:25 2319

Python

Python 入门之 内置模块 -- collections模块

Python入门之内置模块--collections模块1、collections--基于Python自带的数据类型之上额外增加的几个数据类型fromcollections​在内置数据类型(dict、list、set、tuple)的基础上,collections模块还提供了几个额外的数据类型:Counter、deque、defaultdict、namedtuple和OrderedDict以及判断什么是可迭代对象什么是迭代器(1)namedtuple生成可以

系统 2019-09-27 17:53:46 2319

Python

python 爬取网站图片

爬取图片方法一:requests#!/usr/bin/python2.7#-*-coding:utf-8-*-importreimportrequestsimportosimportshutilsuyan_url='http://www.xiaohuar.com/s-1-2069.html'response=requests.get(suyan_url)#print(response.content)lists=re.findall(r'href="(?:

系统 2019-09-27 17:53:30 2319