python爬虫有什么用,python开发爬虫-Python3 Scrapy 安装方法 (一脸辛酸泪)

 2023-09-26 阅读 26 评论 0

摘要:写在前面 最近在学习爬虫,在熟悉了Python语言和BeautifulSoup4后打算下个爬虫框架试试。没想到啊,这坑太深了。 看了看相关介绍后选择了Scrapy框架,然后兴高采烈的打开了控制台, pip install Scrapy 1 坑出现了。python爬虫有什么用、 运行报错 e

写在前面

最近在学习爬虫,在熟悉了Python语言和BeautifulSoup4后打算下个爬虫框架试试。 
没想到啊,这坑太深了。

看了看相关介绍后选择了Scrapy框架,然后兴高采烈的打开了控制台,

pip install Scrapy
  • 1

这里写图片描述

坑出现了。python爬虫有什么用、

运行报错

error: Unable to find vcvarsall.bat
  • 1

开始上网查解决方法。 
看了大多数方法,基本上的解决方法就是下载版本对应的visual studio,但是也太大了。而且网速看不下去啊。Python的安装。

最后花费了将近一天的时间,终于找到了解决方法。

使用wheel安装。

这个网站里边是编译好的各种库的 
http://www.lfd.uci.edu/~gohlke/pythonlibs/#lxml

同时,推荐一篇我的Scrapy入门实例博客:

scrapy爬虫框架入门实例

希望可以帮到刚接触python和scrapy的同学。python爬虫项目?

安装方法

首先安装wheel

pip install wheel
  • 1

安装完成后验证是否成功

wheel
  • 1

安装成功是这样 
这里写图片描述

然后去上边的网站下载Scrapy库, 
进到网站=>搜索’Scrapy’=>下载

把下载的.whl文件放在一个容易寻找的地址(我放在了D:\) 
然后在控制台进入该地址 
在该地址下输入

pip install [whl]
  • 1

注:[whl]表示你的.whl文件,一定要全名,XXXX.whl

然后,并没有结束。

安装过程还是有可能失败

可能会出现

Failed to build XXXX 
  • 1

之类的提示一闪而过(比如说我提示的 twisted),最后安装失败还是提示

error: Unable to find vcvarsall.bat
  • 1

为什么会这样那,因为Scrapy框架基于Twisted

所以,要做的就是去网站下载Twisted之类的安装文件,先把它们装上,安装方法和上边的相同。

最后终于成功了。网络爬虫python、 
建个项目测试一下

scrapy startproject pyjy
  • 1

注:pyjy为项目名

成功了,撒花~~

版权声明:本站所有资料均为网友推荐收集整理而来,仅供学习和研究交流使用。

原文链接:https://hbdhgg.com/4/98297.html

发表评论:

本站为非赢利网站,部分文章来源或改编自互联网及其他公众平台,主要目的在于分享信息,版权归原作者所有,内容仅供读者参考,如有侵权请联系我们删除!

Copyright © 2022 匯編語言學習筆記 Inc. 保留所有权利。

底部版权信息