Skip to content

359444744/SpiderCrackDemo

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

58 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Python Crawler

Anti - crawling website crack Demo, we hope to update together

Author Zok
Email [email protected]
BLOG www.zhangkunzhi.com
Introduce 数据解密、反爬处理、学习教程

记录并分享进步的过程

一、反爬处理案例

二、教程

三、原创工具

此工具包在我另外一个项目中,欢迎 star

四、练手项目


目录

├── DianPing                            // -----大众点评-----
│   ├── parse_address_poi.py            // 坐标加密
│   └── parse_font_css.py               // CSS字体解密
├── GitHub                              // ------GitHub-----
│   └── login.py                        // GitHub自动登陆
├── JingDong                            // -------京东-------
├── BaiDu                               // -------百度-------
│   └── translation.py                  // 百度翻译
├── MeiTuan                             // -------美团-------
│   ├── get_login_cookies.py            // 基于pyppeteer登陆并获取cookies
│   ├── parse_play_areas.py             // 三级区域解析器(休闲板块)
│   ├── parse_play_info.py              // 休闲会所商铺数据解析
│   ├── parse_hotel_info.py             // 酒店基础数据解析
│   ├── parse_hotel_comments.py         // 酒店评论解析
│   ├── create_food_token.py            // 餐饮页Token生成器
│   ├── parse_food_comments.py          // 获取用户评论数据
│   └── parse_food_info.py              // 解析餐馆数据
├── TaoBao                              // -------淘宝-------
│   ├── login_for_sina.py               // 淘宝自动登陆-新浪入口
│   ├── auto_login_pyppeteer.py         // 淘宝自动登陆-淘宝账号
│   ├── login_for_pyppeteer.py          // 利用pyppeteer过webdriver检测
│   └── login_for_mitmproxy.py          // 利用mitmproxy过webdriver检测
├── BiliBili                            // -------BiliBili-------
│   └── login.py                        // 视频下载器
├── MeiTuanArea                         // -------基于美团全国区域采集器-------
├── KuaiDi                              // -------快递单号快速查询-------
└── 51Job                               // -------51job-------
    └── select_job.py                   // 编码转换,岗位查询


The sample picture

  • 快递单号快速查询

image

  • 美团三级区域解析器

image image


  • 美团休闲娱乐商铺信息

image


  • TB过检测登陆

image


  • 美团餐饮数据解析

image


  • 51job查岗位

image


  • 美团评论解析

image


About

【爬虫】【内容解析】【反爬处理】【python爬虫】大众点评 | 淘宝 | 京东 | 美团 | 天眼查 | 51Job | github | token解密

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages

  • Python 90.3%
  • JavaScript 5.2%
  • TSQL 4.5%