python中PySpider爬虫框架的安装及使用示例

这篇文章给大家分享的是有关python中PySpider爬虫框架的安装及使用示例的内容。小编觉得挺实用的,因此分享给大家做个参考。一起跟随小编过来看看吧。

安装pyspider

pip install --upgrade pip

或者

下载重新编译过的pycurl,然后安装。

然后cmd输入:pip install pyspider

第一个pyspider爬虫

1、打开cmd,输入pyspider,然后打开浏览器输入:http://localhost:5000, 然后就可以进入pyspider的后台了。

2、第一次打开后台是一片空白的。(点开浏览器后cmd不要关了!)

点击Create,随便输入一个名字。

python中PySpider爬虫框架的安装及使用示例

点击确定之后就进入一个脚本编辑器了

python中PySpider爬虫框架的安装及使用示例

3、创建项目的时候也自动创建了一个脚本,这里我们只需要改动脚本OK。我们要爬豆瓣的所有电影,选择某一域名为起始点,也就是从这里开始爬。改动on_start。

python中PySpider爬虫框架的安装及使用示例

感谢各位的阅读!关于python中PySpider爬虫框架的安装及使用示例就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到吧!