win7安装Scrapy时报错Failed building wheel for Twisted
报错:
build\temp.win-amd64-3.6\Release\src/twisted/test/raiser.obj
raiser.cc:\users\ld\appdata\local\programs\python\python36\include\pyconfig.h(222): fa
tal error C1083: Cannot open include file: 'basetsd.h': No such file or director
y
error: command 'C:\\Program Files (x86)\\Microsoft Visual Studio 14.0\\VC\\BIN
\\x86_amd64\\cl.exe' failed with exit status 2
Failed building wheel for Twisted
需要我们自己下载Twisted,然后安装。这里有Python的各种依赖包。选择适合自己Python以及系统的Twisted版本。
http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
下载好之后,cd到下载文件夹。pip install Twisted的文件名。比如:
pip install Twisted-17.9.0-cp36-cp36m-win_amd64.whl
即可安装Twisted
到此,Python scrapy安装成功!
一.创建项目:
二.自动创建目录的结果:
各文件说明:
- scrapy.cfg 项目的配置信息,主要为Scrapy命令行工具提供一个基础的配置信息。(真正爬虫相关的配置信息在settings.py文件中)
- items.py 设置数据存储模板,用于结构化数据,如:Django的Model
- pipelines 数据处理行为,如:一般结构化的数据持久化
- settings.py 配置文件,如:递归的层数、并发数,延迟下载等
- spiders 爬虫目录,如:创建文件,编写爬虫规则
注意:一般创建爬虫文件时,以网站域名命名