关于nutch的基础知识能够參考lemo的专栏nutch支持二次开发,为了满足搜索的准确率的问题,考虑只将网页正文的内容提取出来作为索引的内容,相应的是parse_text的数据。我使用的事nutch1.4版本号,在cygwin下运行crawl命令进行爬取。bin/nutchcrawlurls-dircrawl-depth3-topN30爬取的流程例如以下:inject:将urls下的url文档中的url注入到数据库,generate:从数据库中取得url
系统 2019-08-12 01:33:22 2734
必备工具安装:Python&Pycharm一、软件下载地址1.Python2.Pycharm(专业版收费,社区版免费)3.配置环境变量(重点了解一下)二、Python之父了解一下1.了解一下Python之父:GuidovanRossum(吉多·范罗苏姆)2.对比了解一下Java之父:JamesGosling(詹姆斯·高斯林)一、软件下载地址1.Pythonhttps://www.python.org/2.Pycharm(专业版收费,社区版免费)http:/
系统 2019-09-27 17:57:36 2733
一,前言入职数据分析以后,肯定要涉及到python处理excle,特别是涉及到对excle的一些重复操作时,也许能提升一些效率;因此,有必要对python操作excle进行学习。现有操作excle的工具包有很多,例如xlrd&xlwt&xlutils以及强大的pandas,此外还有别的工具包,但受限于平台或者安装方式,都没有以上两种常用。(其中,pandas不仅是用来操作excle,而是一整套强大的工具包。)知乎有一篇文章些不同python包操作excle
系统 2019-09-27 17:53:26 2733
word2007中:中文破折号-中文输入法下shift+-;中文省略号-中文输入法下shift+6;目录、题注在引用中;文档结构在视图中;建目录结构要有大纲级别;三个减号“---”+Enter单横线;三个等号“===”+Enter双横线;三个星号“***”+Enter粗点线;三个井号“###”+Enter两细线包含一粗线;上标和下标两种方法:一、选中数字,同时按下Ctrl+Shift+“+”即可,这是上标的做法,若同时按下Ctrl+“+”会产生下标,要恢复
系统 2019-08-29 23:52:25 2733
TFTP(TrivialFileTransferProtocol,简单文件传输协议)1.tftp的服务端口号是692.tftp是基于udp协议的3.tftp是明文传输的,是一种比较轻量型的协议,一般用于bootloader加载内核TFTP工作流程服务端开启tftp服务,tftp是一种stand_alone服务,不是常驻内存的,是在有需要的时候才去调用的。首先,客户端发送一个读(RRQ:2个字节)或者写(WRQ:2个字节)的请求,数据包的目标端口是69。对于
系统 2019-08-29 23:50:59 2733
俗语说:好马配好鞍。所以呢,Eclipse用之前,我觉得有必要先Mod一下。毕竟要经常接触的,所以呢,还得先把它弄得顺心一点好啦。ChapterOne-Beauty这个是从TheFlashBlog那里学来的。先确定一下版本,我的是3.4.2,JAVA版(不是JEE版)。理论上其他版本都可以,但是我未曾测试过。鉴于之前有过插件互不兼容的情况,我建议还是从Naked的开始。OK,let'sstart。首先是启动画面,Eclipse默认的启动画面实在是...雷人
系统 2019-08-29 23:48:21 2733
前言作为云计算的推崇者,我一直关注关于云计算的问题,从Iaas的技术实现到PaaS的迁移实践甚至SaaS的运营模式。不过因为个人的技术和见识都很有限,我更关注于作为应用程序提供者,该怎样设计一个对云计算友好的应用程序,这种应用程序不单可以在云计算平台上运行,更重要的是可以更好的享受云计算带来的优势。趁着微软主推Azure云计算的TechEd2010落幕不久,我将写四篇文章和大家分享一下关于云计算中一些问题的看法。这四篇文章分别为《“云”领天下(一):最近的
系统 2019-08-29 23:41:57 2733
作用:命令窗口,1.安装sudoapt-getinstallguakehttp://blog.csdn.net/aip1080/article/details/7731569虽说现在很多Linux发行版,比如Ubuntu,已经基本上可以采用GUI来完成绝大部分一般性的任务。但是,终端程序对于linux用户来说仍是必不可少的。Gnome自带的gnome-terminal还算不错,简单,易用,也已经支持多标签。但是,如果你希望让终端自动启动并在后台运行,如果你
系统 2019-08-29 23:38:00 2733
花了一些时间,作了一些繁体转简体的工作,不依赖GoogleTranslate,有兴趣的,可以至这边观看…http://caterpillar.onlyfun.net/GossipCN/index.html简体良葛格学习笔记
系统 2019-08-29 23:20:01 2733
预加载器(Pre-loader)可以说是提高浏览器性能最重要的举措。Mozilla官方发布数据,通过预加载器技术网页的加载性能提升了19%,Chrome测试了Alexa排名前2000名网站,性能有20%的提升。它并不是一门新技术,有人认为只有Chrome才具备这个功能。也有人认为它是有史以来提升浏览器性能最有效的方法。如果你第一次接触预加载器,也许心中已经有了无数个问号。什么是预加载器?它是如何提升浏览器性能的?首先需要了解浏览器是如何加载网页的一个网页的
系统 2019-08-29 23:07:01 2733