Web爬虫 - 抓取网站内容的库

分类 - 设置更多关注

排序

按热度排序
339 4.8k 1.3k

S 收集各种爬虫 (默认爬虫语言为 python)
 
10.0 5.5
  前天
261 4.4k 1.7k

P Python3网络爬虫实战:VIP视频破解助手;GEETEST验证码破解;小说、动漫下载;手机APP爬取;财务报表入库;火车票抢票;抖音APP视频下载;百万英雄辅助;网易云音乐批量下载
 
10.0 2.2
  8天前
255 4.3k 1.3k

简易爬虫代理池
 
10.0 3.7
  昨天
329 4k 1.5k

Y 越来越多的网站具有反爬虫特性,有的用图片隐藏关键数据,有的使用反人类的验证码,建立反反爬虫的代码仓库,通过与不同特性的网站做斗争(无恶意)提高技术
 
10.0 1.7000000000000002
  15天前
146 3.1k 373

G 各种不同语言实现的爬虫程序和爬虫框架集合
 
10.0 0.5
  7天前
264 3k 870

Y 一个采用celery和requests构建的微博分布式爬虫
 
10.0 5.2
  昨天
264 3k 870

X 新浪微博爬虫(分布式),部署简单,接口丰富,文档详细,视频支持,可灵活定制满足自己的需求。抓取内容(PC端)包括微博用户资料、特定关键词微博、用户主页所有微博、评论信息和转发信息。欢迎watch跟进
 
10.0 5.2
  昨天
182 2.6k 887

J 基于搜狗微信搜索的微信公众号爬虫接口
 
10.0 3.8
Popular
1.8k 29.6k 7.2k

S Scrapy:一个快速高级的网站截图和网页采集框架
 
9.0 7.800000000000001
26 883 50

S Sukhoi 简约和强大的Web爬虫
 
2.7 0.0
152 815 147

C crawl-frontier-一个灵活前沿的web 抓取框架
 
2.5 0.8
81 796 407

P Python爬虫,京东自动登录,在线抢购商品
 
2.4 0.0
  9月前
79 789 263

D django-dynamic-scraper - 通过Django管理界面创建爬虫
 
2.4 0.0
  11月前
55 682 198

P 爬取微信公众号文章
 
2.1 0.0
  3年前
22 582 25

A 用asyncio和aiohttp编写的轻量级异步微框架旨在使爬取URL尽可能方便
 
2.0 10.0
  昨天
58 580 238

C 从头开始 系统化的 学习如何写Python爬虫。 Python版本 3.6
 
1.7999999999999998 0.2
  1月前
43 507 251

QQ Groups Spider(QQ 群爬虫)
 
1.6 0.0
  9月前
29 492 95

Y 租房信息聚合分析,目前聚合了 58 同城,豆瓣,链家 的上百个城市地区的租房信息,可选择只扒取你感兴趣的城市。
 
1.6 0.2
  1月前
43 450 139

Z 知乎爬虫(验证码自动识别)
 
1.4000000000000001 0.0
  5月前