博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
scrapy在ubuntu上安装总结
阅读量:6909 次
发布时间:2019-06-27

本文共 2133 字,大约阅读时间需要 7 分钟。

  此文档是本人学习时使用的,采用一个实例作为引导进行安装测试。

  实例下载地址如下:

  https://github.com/sans-serif/scrapy-german-news#introduction

  解压之后为:scrapy-german-news-master

  修改requirements.txt 删除psycopg2==2.6.1

  其中requirements.txt内容如下:

  ********************************************************************

  attrs==15.2.0

  cffi==1.5.2

  cryptography==1.2.3

  cssselect==0.9.1

  enum34==1.1.2

  idna==2.0

  ipaddress==1.0.16

  lxml==3.5.0

  psycopg2==2.6.1

  pyasn1==0.1.9

  pyasn1-modules==0.0.8

  pycparser==2.14

  pyOpenSSL==0.15.1

  queuelib==1.4.2

  Scrapy==1.0.5

  service-identity==16.0.0

  six==1.10.0

  Twisted==15.5.0

  w3lib==1.13.0

  zope.interface==4.1.3

  ********************************************************************

  按理只需此文件即可,scrapy-german-news-master只是测试工程。


 

具体安装步骤如下:

第一步:

    安装pip: sudo apt-get install python-pip

第二步:安装依赖

    sudo apt-get install libffi-dev

    sudo apt-get install python-dev 

    sudo apt-get install libxml2-dev

    sudo apt-get install libxslt-dev

第三步:

  准备好requirements.txt文件。

  sudo pip install -r requirements.txt

第四步:安装postgresql

    sudo apt-get install postgresql

    sudo apt-get install python-psycopg2

    sudo apt-get install libpq-dev

    sudo pip install psycopg2==2.6.1

安装完成

测试运行,看是否安装成功:

  进入目录scrapy-german-news-master 运行 scrapy crawl faz

  如果能看到开始抓取数据,则认为配置成功

  


 如安装过程中出现如下错误,解决方案:

(1)ImportError: No module named pkg_resources 解决方法:

  sudo apt-get install --reinstall python-pkg-resources

(2)pkg_resources.DistributionNotFound: setuptools>=11.3 解决方法:

  sudo pip install -U distribute

(3)pip install psycopg2  错误,解决如下:

  sudo apt-get install postgresql

  sudo apt-get install python-psycopg2

  sudo apt-get install libpq-dev

(4)c/_cffi_backend.c:2:20: 致命错误: Python.h:没有那个文件或目录, 解决如下:

  sudo apt-get install python-dev

(5)src/lxml/includes/etree_defs.h:14:31: 致命错误: libxml/xmlversion.h:没有那个文件或目录,解决如下:

  apt-get install libxml2-dev libxslt-dev

(6)关于这个libffi,错误,解决如下:

  sudo apt-get install libffi-dev

(7) build/temp.linux-i686-2.7/_openssl.c:431:25: fatal error: openssl/aes.h: No such file or directory, 解决如下:

  sudo apt-get install libssl-dev

 

备注:以上测试工程采用的是postgresql数据库,也可以采用mysql

转载于:https://www.cnblogs.com/sancong/p/6275408.html

你可能感兴趣的文章
CommonJS
查看>>
.iOS APP Project or Mac APP Project编译错误提示: My Mac 64-bit is not valid for Running the scheme...
查看>>
深入Django ORM的继承关系
查看>>
初始化ArrayList的两种方法
查看>>
想要装逼,全靠3D
查看>>
为什么说我们需要软件架构图?
查看>>
NIKE旗下品牌JORDAN发力新零售 ,瞄准了天猫小黑盒
查看>>
智能汽车真的来了!百度福田超级卡车亮相百度云智峰会
查看>>
OPPO R17|R17 Pro新年版首销火爆,2019最应景的新年礼物
查看>>
华为消费者业务公布2017上半年智能手机收入暴涨
查看>>
福州三江口大桥主线通车
查看>>
湖南益阳办牡丹文化艺术节 游人新春可观牡丹盛开
查看>>
业界:通用航空机场的修建不能只是民航局的事
查看>>
陕西榆林“精准施策”提升民众生活质量 发展中改善民生
查看>>
春运期间国航将加飞进出成都航班406班次 增座超十万个
查看>>
一年获得10项专利 常州一护士成“发明达人”
查看>>
中国就业市场当前仍呈整体向好、结构不断优化态势
查看>>
8 月编程语言排行榜:Python 强势逼近 Java,C 已穷途末路
查看>>
人工智能已经说烂,DuerOS告诉你是如何工作的
查看>>
一盘很大的棋,阿里3年内要招揽200名青年科学家
查看>>