鸢公子 发表于 2020-5-13 17:33:00

关于反爬虫我见到的各种前后端奇葩姿势





以下方式都是比较有意思而非是非常有效的做法,
一:前端高危数据的特殊显示
去哪儿网、猫眼电影、美团,都可喜欢在价格字体上做文章:
1:去哪儿网
网上表明标注的价格在html源码中竟然不一样,

https://pic4.zhimg.com/80/v2-0daa0296ad38d45d561f76ae0361fba4_hd.jpg



仔细分析他们的CSS就会发现他们用了一个字体,正常字体是0123456789 在官方字体中替换为:(这是他们以前的做法,现在已经更新因此图来自网络)

https://pic2.zhimg.com/80/v2-c0f43fd6832a22322923402622cc59c7_hd.jpg

或者价格的显示与html中的顺序不同

https://pic2.zhimg.com/80/v2-0cad2352cdcb3a7ed344f4f4c4f4f78b_hd.jpg
2:猫眼电影
每次都不同的字符集,需要对应采集一起解码。

https://pic1.zhimg.com/80/v2-69e2914b6d6a7a802614120c9d0e71a8_hd.jpg

3:过去美团也采用过font的思路,用backgfround拼接,数字其实是图片,用不同的偏移量显示不同的字符。还个比较狠的,呈现的数值是SVG矢量图。

4:部分微信公众号会穿插各种蜜汁字符,再用样式调整隐藏他们,比如他:叨逼姐说

https://pic4.zhimg.com/80/v2-c46161d46704fcd152bca44dba4baaaf_hd.jpg



5:用display:none来随机化网页源码,有网站还会随机类和id的名字再加点随机的trtd,更加不好捕捉.比如:全网代理ip

https://pic2.zhimg.com/80/v2-5decb08e3314f86fb98f61e052429222_hd.jpg
二:各种异步加载反复嵌套
网易云音乐也怕爬什么都是异步加载嵌套在iframe里的,包括他的整个主页,而且src=”about:blank”

https://pic3.zhimg.com/80/v2-e52a6c2d3a36c525c925f00338704b35_hd.jpg
三:别以为后端汉子就不花哨1:还有的网站识别出爬虫后会反骂一句话:
比如IT桔子,会返回Fack you Spider, 还有个麦子金服会返回一个go away,然后一般我就会解开加密后在hreder里加个呵呵,再发给他。
4:还有ip方面的操作
比如新浪知乎的反爬虫机制会对ip异常或者不带cookie的跳转到访客系统中,如果用模拟登陆就会反复出现验证码,这就涉及到是否是白ip,他的判定机制也和其他网站不同,其他主要是看近期常用登陆地ip为白,他是用注册时ip为白,因此只要用服务器去注册一个号,就基本轻松过了(17年实测)。

还有些佛系反爬虫,每个ip的第一次访问秒回数据,但是第二次就必然sleep 12 秒才返回,这招其实很佛系,你爬可以,别让我老板发现数据量太夸张了。一般这种就程序放着慢慢来吧,因为换个可靠ip也得好几秒。对方这么坦诚咱们也不乱来。
5:网页数据转化为图片的
比如站大爷的免费代理端口数据是扭曲图片构成的数字

https://pic4.zhimg.com/80/v2-882fa4f104882c58d7b61282e4362432_hd.jpg

还有各种网站用了不同的奇葩手法,用文中没有的类别的,欢迎各位看官放在评论区,回头我搞搞看补充上来。



Nanda 发表于 2020-5-14 08:03:37

哈哈哈header里返回个呵呵真的是骚操作

鸢公子 发表于 2020-6-2 12:48:04

[吃瓜]

wxs 发表于 2020-6-9 11:13:35

哈哈 header里返回个呵呵 真的是骚操作

鸢公子 发表于 2020-6-11 09:46:07

[吃瓜]

liuky 发表于 2020-6-22 16:40:38

哈哈哈header里返回个呵呵真的是骚操作
-------------------------------------
作者: 鸢公子
来源: 夜幕爬虫安全论坛
原文链接: https://bbs.nightteam.cn/thread-445.htm
版权声明: 若无额外声明,本帖为作者原创帖,转载请附上帖子链接!

alpine 发表于 2020-6-24 09:50:35

站大爷那个我搞过,免费的代理成功率太低,后来没搞了

鸢公子 发表于 2020-6-28 15:51:29

加个处理机制,多少有点肉,反正io异步也不差那几百次请求

jackcoden 发表于 2020-9-14 17:05:35

鸢公子 发表于 2020-10-15 18:15:46

某某人:都吃上泡面了,我还在乎纸碗健不健康?
某代理:都免费发布了,我还在乎代理稳不稳定?
某用户:黑心商家!!!
页: [1] 2
查看完整版本: 关于反爬虫我见到的各种前后端奇葩姿势