网站首页 > 技术教程 正文
我们公司某些服务也经常被爬虫影响,例如贴吧
在贴吧这个事故中,我是简单地匹配useragent,给它返回一个500的错误。
今天看微博发现@金荣叶 的处理方法很灵活,可以动态设定一个爬虫的频率,达到减轻服务器负载,并且不至于封杀爬虫。
#全局配置
limit_req_zone $anti_spider zone=anti_spider:10m rate=15r/m;
#某个server中
limit_req zone=anti_spider burst=30 nodelay;
if ($http_user_agent ~* "xxspider|xxbot") {
set $anti_spider $http_user_agent;
}
猜你喜欢
- 2024-10-14 「Nginx」面试官竟问我Nginx如何生成缩略图,还好我看了这篇文章
- 2024-10-14 程序员手册 修改php.ini的几种方法
- 2024-10-14 nginx 更改用户组(nginx修改)
- 2024-10-03 当你域名开启https后,需要修改的配置
- 2024-10-03 Nginx配置跨域-只有暴漏了问题,才能解决问题
- 2024-10-03 Nginx安装配置(nginx安装配置80端口如何对应8080端口)
- 2024-10-03 如何修改Nginx服务器的缺省banner
- 2024-10-03 nginx安装与调优部署文档(Linux)(nginx的安装步骤)
- 2024-10-03 如何修改 Nginx 源码实现 worker 进程隔离
你 发表评论:
欢迎- 08-06linux 和 windows文件格式互相转换
- 08-06谷歌 ChromeOS 已支持 7z、iso、tar 文件格式
- 08-06Linux下比较文件内容的6种方法
- 08-06文件格式及功能汇总
- 08-0610个Linux文件内容查看命令的实用示例
- 08-06Linux-如何区分不同文件类型
- 08-06Zabbix技术分享——监控windows进程资源使用情况
- 08-06Linux系统卡顿?学会ps命令这三招,轻松定位问题进程
- 最近发表
- 标签列表
-
- 下划线是什么 (87)
- 精美网站 (58)
- qq登录界面 (90)
- nginx 命令 (82)
- nginx .http (73)
- nginx lua (70)
- nginx 重定向 (68)
- Nginx超时 (65)
- nginx 监控 (57)
- odbc (59)
- rar密码破解工具 (62)
- annotation (71)
- 红黑树 (57)
- 智力题 (62)
- php空间申请 (61)
- 按键精灵 注册码 (69)
- 软件测试报告 (59)
- ntcreatefile (64)
- 闪动文字 (56)
- guid (66)
- abap (63)
- mpeg 2 (65)
- column (63)
- dreamweaver教程 (57)
- excel行列转换 (56)
本文暂时没有评论,来添加一个吧(●'◡'●)