解决python爬取有道翻译数据时,VSCode输出翻译乱码现象
基于QQ浏览器爬取有道数据翻译。
如图:
用的VSCode
但是我用 python idle3.5打开
代码都一样,只是换了编译环境。
总结:
刚开始接触python实现网页爬取相关数据。将其关键点总结如下。
参考网址:
https://blog.****.net/nunchakushuang/article/details/75294947
https://www.jianshu.com/p/2ae887299080
1、先点击进入有道翻译官网 , 然后审计元素—>network,查看post请求数据
个人觉得对于网址一,那位大神说法,我觉得了解反爬虫机制只salt,sign就行。
然后注意将请求的Request_URL 中
url = " http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule"中_o去掉,具体原因我也不知道,好像是有道反爬虫设计方法设置吧。
以及User-Agent参数设置,用来·spoof(欺骗浏览器)是否为人为
具体代码如下
#导入所需要的库
from urllib import request
from urllib import parse
import json
content = input(“请输入你要查找的字:”)
#请求的url
url = " http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule"
#post数据
data = {}
data[‘i’] = content
data[‘from’] = ‘AUTO’
data[‘to’] = ‘AUTO’
data[‘smartresult’] = ‘dict’
data[‘client’] = ‘fanyideskweb’
data[‘doctype’] = ‘json’
data[‘version’] = ‘2.1’
data[‘keyfrom’] = ‘fanyi.web’
data[‘action’] = ‘FY_BY_CLICKBUTTION’
#数据编码处理
data = parse.urlencode(data).encode(‘utf-8’)
header = {}
header[‘Referer’] = ‘http://fanyi.youdao.com/?keyfrom=dict2.index’
header[‘User-Agent’] = ‘Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3650.400 QQBrowser/10.4.3341.400’
创建一个Request对象,把url和header传进去,并且需要注意的使用的是POST请求
req = request.Request(url = url, headers = header)
打开这个请求
response = request.urlopen(req, data = data)
读取返回来的数据
result_str = response.read().decode(‘utf-8’)
把返回来的json字符串解析成字典
result_dict = json.loads(result_str)
print(result_dict)
#获取翻译结果
print(‘翻译的结果是:%s’ % result_dict[‘translateResult’][0][0][‘tgt’])
---------------------------------------------------已解决 ----------------------------------------------
原因:
我装有python 3.5过低,当我听从stack overflow上一位外国友人建议后,下载了python 3.7.3最新版本。解决了这个问题
结果: