网站首页 > 技术教程 正文
我们公司某些服务也经常被爬虫影响,例如贴吧
在贴吧这个事故中,我是简单地匹配useragent,给它返回一个500的错误。
今天看微博发现@金荣叶 的处理方法很灵活,可以动态设定一个爬虫的频率,达到减轻服务器负载,并且不至于封杀爬虫。
#全局配置
limit_req_zone $anti_spider zone=anti_spider:10m rate=15r/m;
#某个server中
limit_req zone=anti_spider burst=30 nodelay;
if ($http_user_agent ~* "xxspider|xxbot") {
set $anti_spider $http_user_agent;
}
猜你喜欢
- 2024-10-14 「Nginx」面试官竟问我Nginx如何生成缩略图,还好我看了这篇文章
- 2024-10-14 程序员手册 修改php.ini的几种方法
- 2024-10-14 nginx 更改用户组(nginx修改)
- 2024-10-03 当你域名开启https后,需要修改的配置
- 2024-10-03 Nginx配置跨域-只有暴漏了问题,才能解决问题
- 2024-10-03 Nginx安装配置(nginx安装配置80端口如何对应8080端口)
- 2024-10-03 如何修改Nginx服务器的缺省banner
- 2024-10-03 nginx安装与调优部署文档(Linux)(nginx的安装步骤)
- 2024-10-03 如何修改 Nginx 源码实现 worker 进程隔离
欢迎 你 发表评论:
- 12-16夸克浏览器在线打开网页(夸克浏览器网页版)
- 12-16修复windows(修复windowsapp文件夹)
- 12-16球队排名榜实时排名(球队排名榜实时排名怎么看)
- 12-16windows10产品密钥永久激活免费
- 12-16怎样恢复u盘里的文件(怎样恢复u盘内容)
- 12-16电脑用着用着就黑屏了是怎么回事
- 12-16uc浏览器下载安装2025最新版
- 12-16移动硬盘修复大概多少钱(移动硬盘修复的5种简单方法)
- 最近发表
- 标签列表
-
- 下划线是什么 (87)
- 精美网站 (58)
- qq登录界面 (90)
- nginx 命令 (82)
- nginx .http (73)
- nginx lua (70)
- nginx 重定向 (68)
- Nginx超时 (65)
- nginx 监控 (57)
- odbc (59)
- rar密码破解工具 (62)
- annotation (71)
- 红黑树 (57)
- 智力题 (62)
- php空间申请 (61)
- 按键精灵 注册码 (69)
- 软件测试报告 (59)
- ntcreatefile (64)
- 闪动文字 (56)
- guid (66)
- abap (63)
- mpeg 2 (65)
- column (63)
- dreamweaver教程 (57)
- excel行列转换 (56)

本文暂时没有评论,来添加一个吧(●'◡'●)