栏目分类:
子分类:
返回
文库吧用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
文库吧 > IT > 软件开发 > 后端开发 > Python

requests请求成功但scrapy请求失败403的原因

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

requests请求成功但scrapy请求失败403的原因

在requests库请求成功后爬虫改写为scrapy.Request或scrapy.FormRequest却出现forbidden403的情况

其中有一个很容易让人忽视的点,那就是scrapy不支持在headers里携带cookie,否则请求将很难通过,例如通常我们请求 response = requests.get(url, headers=headers, verify=False)这时候cookie包含在 headers里,但是scrapy.Request 与scrapy.FormRequest并不支持这种写法,需要将headers与cookies拆分以字典的形式将两个参数分别传入scrapy的请求方法里,切勿使用headers={“cookie”: “*******”}格式传headers


当然,这只是其中的可能之一,笔者目前还没有遇到别的导致这样情况的原因,如有其他问题,可联系我一起探讨学习。纪念我的第一篇小分享@#@

转载请注明:文章转载自 www.wk8.com.cn
本文地址:https://www.wk8.com.cn/it/1038511.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 wk8.com.cn

ICP备案号:晋ICP备2021003244-6号