python爬虫学习笔记(二) —— Scrapy安装

       最近想学习通过Scrapy框架实现爬虫项目,于是就在自己的windows系统上安装Scrapy框架。可是呢,天公不作美,安装过程中出现了意外。在此,为了方便自己以后能够快速地解决出现此问题,笔者在此对在安装的过程以及所出现的问题与解决办法进行相应的描述和记录。

    我采用pip来安装Scrapy。在python3中,pip是默认安装好的,在windows中打开“运行”输入框,通过输入cmd进入cmd命令行模式:

python爬虫学习笔记(二) —— Scrapy安装

进入cmd模式以后,通过输入指令pip,我们可以先测试以下pip是否已经安装,结果出现如下所示的pipd的一些指令提示信息,这说明我们的pip已经安装好了。

python爬虫学习笔记(二) —— Scrapy安装

随后,我通过输入pip install Scrapy指令,来安装Scrapy,如下图所示:

python爬虫学习笔记(二) —— Scrapy安装

结果出现了错误提示:

python爬虫学习笔记(二) —— Scrapy安装

这说明我的pip版本较老,显然安装Scrapy需要更新对应的pip版本,接下来我通过python -m pip install --upgrade pip指令升级pip,完美解决了这个问题,如下所示:

python爬虫学习笔记(二) —— Scrapy安装

于是,我再次通过输入pip install Scrapy指令,来安装Scrapy,如下图所示:

python爬虫学习笔记(二) —— Scrapy安装

结果又出现问题,提示我twisted模块安装失败,没办法,我只能通过下载与我的python版本以及电脑位数相对应的whl包:Twisted-17.5.0-cp36-cp36m-win_amd64.whl

这个模块的安装包,可以通过我的百度云链接下载:

链接:https://pan.baidu.com/s/1GxilqitjQIUrxwhJdgNk5A 密码:uwsc

下载好whl包以后,我们来看以下其所在的目录:

python爬虫学习笔记(二) —— Scrapy安装

现在我们进入cmd命令行模式,进入whl文件所在的目录下,手动pip安装whl文件,如下所示:

python爬虫学习笔记(二) —— Scrapy安装

安装成功以后,再次输入pip install Scrapy,这一次成功安装,为了验证,我们输入Scrapy,结果得到了它的一些信息,这说明安装成功了!

python爬虫学习笔记(二) —— Scrapy安装

接下来我们使用Scrapy在指定的目录下创建一个爬虫项目,如下所示:

python爬虫学习笔记(二) —— Scrapy安装

创建成功,打开所在的目录,可以看到:

python爬虫学习笔记(二) —— Scrapy安装

python爬虫学习笔记(二) —— Scrapy安装

就这样,Scrapy框架安装完成啦!