前言PySpark一直使用的是Linux默认的Python2.7.5版本,感觉超级不爽,于是想升个级,可怎么升啊?于是又开始了万年的Google操作步骤安装Python3.X参考配置全局变量sudovim/etc/profileexportPATH=/usr/bin/python3:$PATHsource/etc/profile打开CDHWeb配置spark-env.sh文件如下:即添加:exportPYSPARK_PYTHON=/usr/bin/pyth
系统 2019-09-27 17:56:03 2350
python自带了四种数据结构:列表、字典、元组、集合,本章主要介绍第一种:列表。列表:有序的、可变的对象集合动态的:长度可以随时变化异构的:数字与字符串等不同类型的变量可以存在一个列表里元组:有序的、不可变的对象集合简单来说就是一个常量列表。字典:无序的键值对集合就类似C++里面的map。注意字典增加元素的插入顺序没有任何意义。在一个字典中,键的值是唯一的。集合:无序的、唯一对象的集合类似C++中的set。但是是没有顺序的。1、in操作符使用in操作符来
系统 2019-09-27 17:55:09 2350
廖雪峰Python教程笔记(六)8模块使用模块8模块在计算机程序的开发过程中,随着程序代码越写越多,在一个文件里代码就会越来越长,越来越不容易维护。把很多函数分组,分别放到不同的文件里,这样,每个文件包含的代码就相对较少,很多编程语言都采用这种组织代码的方式。在Python中,一个.py文件就称之为一个模块(Module)。模块的好处:最大的好处是大大提高了代码的可维护性。引用其他模块,编写代码不必从零开始可以避免函数名和变量名冲突,尽量不要与内置函数名字
系统 2019-09-27 17:54:19 2350
一组有序项目的集合可变的数据类型【可进行增删改查】列表中可以包含任何数据类型,也可包含另一个列表【可任意组合嵌套】列表是以方括号“[]”包围的数据集合,不同成员以“,”分隔列表可通过序号访问其中成员定义>>>l=[]#空列表>>>l=[1,2,3]>>>l=[1,2,3,['a','b']]>>>l=list('linuxeye')>>>l['l','i','n','u','x','e','y','e']>>>l=list(range(5))>>>l[0,
系统 2019-09-27 17:53:39 2350
之前用了谷歌的selenium模块,为了练习一下所以写了这个(没错才不是别的理由!)代码里涉及到了各种复杂的情况,包括要找的div在别的iframe中的处理方式,顶部导航栏的定位方式等等。综合性很强下面是代码fromseleniumimportwebdriverimporttimefromfake_useragentimportUserAgentopt=webdriver.ChromeOptions()#opt.add_argument('--headle
系统 2019-09-27 17:52:24 2350
原文地址python的多线程异步常用到queue和threading模块#!/usr/bin/envpython#-*-coding:UTF-8-*-importloggingimportqueueimportthreadingdeffunc_a(a,b):returna+bdeffunc_b():passdeffunc_c(a,b,c):returna,b,c#异步任务队列_task_queue=queue.Queue()defasync_call(fu
系统 2019-09-27 17:51:38 2350
安装好PyCharm之后,新建或者导入项目碰到找不到解释器的情况,不用担心,追根到底,咱们就是需要找到pycharm*.exe的文件,那么这个文件在哪里呢?这是个问题。先打开File–>Setting–>Project,这时候看到选中栏显示的是Nointerpreter,在哪里找这个文件呢,不妨打开磁盘,直接搜索python.exe文件可能在C盘,也可能在其他磁盘,楼主找到的这个目录很奇怪,安装的时候竟然跑到SDK目录下面去了,不过还是找到你了。这时候回到
系统 2019-09-27 17:50:35 2350
最近要写一款基于被动式的漏洞扫描器,因为被动式是将我们在浏览器浏览的时候所发出的请求进行捕获,然后交给扫描器进行处理,本来打算自己写这个代理的,但是因为考虑到需要抓取https,所以最后找到Mitmproxy这个程序。安装方法:pipinstallmitmproxy接下来通过一个案例程序来了解它的使用,下面是目录结构sproxy|utils|__init__.py|parser.py|sproxy.pysproxy.py代码#coding=utf-8fro
系统 2019-09-27 17:50:22 2350
Python数据类型详解——字典引子已经学习了列表,现在有个需求——把公司每个员工的姓名、年龄、职务、工资存到列表里,你怎么存?staff_list=[["Kwan",21,"CEO",1000000],["小明",22,"人力",5000],["LL",21,"财务",7000],#[xxx,xx,xx,xxx]#[xxx,xx,xx,xxx]#[xxx,xx,xx,xxx]]以上面的形式存,没问题。不过你要查某一个人的工资的话,就得遍历这个列表了。fo
系统 2019-09-27 17:50:09 2350
安装librtmp包需要依赖环境较多,机器上已经安装了python2.7版本,安装librtmp包之前需要先安装依赖环境。1、安装gcc和依赖包yuminstallgcc*python-devellibffi-dev*-y2、安装librtmp从git上下载源码:gitclonegit://git.ffmpeg.org/rtmpdumpcdrtmpdump/librtmp/make&&makeinstall3、安装setuptoolswget-Shttps
系统 2019-09-27 17:47:18 2350
(2019.7.26)不断更新中……【python】Leetcode(DataStructure/Algorithm)【python】Leetcode(DynamicProgramming)【python】Leetcode(Map)【python】Leetcode(String)【python】Leetcode(Tree)【python】Coding(Interview)文章目录数字260.只出现一次的数字III(字典/位运算)136.只出现一次的数字(字
系统 2019-09-27 17:47:04 2350
本文实例讲述了python实现的接收邮件功能。分享给大家供大家参考,具体如下:一简介本代码实现从网易POP3服务器接收邮件二代码importpoplibimportreimporttkinterclassWindow:def__init__(self,root):label1=tkinter.Label(root,text='POP3')label2=tkinter.Label(root,text='Port')label3=tkinter.Label(r
系统 2019-09-27 17:46:50 2350
前言在python列表的元素删除操作中,del,pop(),remove()很容易混淆,下面对三个语句/方法作出解释del语句del语句可以删除任何位置处的列表元素,若知道某元素在列表中的位置则可使用del语句.例:>>>a=[3,2,2,1]>>>dela[1]>>>a[3,2,1]pop()方法pop()可删除任意位置的元素并将其返回,只需在括号内指定要删除元素的索引即可,当括号内为空时则删除该列表最后一个元素并将其返回.例1:>>>a=[3,2,1]
系统 2019-09-27 17:46:31 2350
阅读更多最近尝试使用request来发送上传文件的post请求,网上找了很多直接post文件的例子,借鉴发现这个方法行不通,于是尝试了另外一种方式:通过第三方包requests_toolbelt讲文件转为数据流来发送请求,尝试成功。第一类,单个文件,包含在消息体#-*-coding:utf-8-*-importrequests#引入requests_toolbelt包,直接使用数据流来发送上传文件的post请求fromrequests_toolbelt.m
系统 2019-09-27 17:45:25 2350
Python中的包包是一个分层次的文件目录结构,它定义了一个由模块及子包,和子包下的子包等组成的Python的应用环境。考虑一个在Phone目录下的pots.py文件。这个文件有如下源代码:#!/usr/bin/python#-*-coding:UTF-8-*-defPots():print"I'mPotsPhone"同样地,我们有另外两个保存了不同函数的文件:Phone/Isdn.py含有函数Isdn()Phone/G3.py含有函数G3()现在,在Ph
系统 2019-09-27 17:38:40 2350