怎么找到适合本身业务并发量所需服务器配置流程步骤详解
框架(架构)  /  管理员 发布于 4年前   1717
怎么找到适合本身业务并发量所需服务器配置流程步骤详解
刚刚我在laravel社区看到这么一问,我觉的很有意义,所以记录一下
问题:求助 1000 并发量所需服务器配置?
求助点:
1. 具体服务器几核几 G
2. 接口域名并发设置大小
3. 数据库连接设置大小
我的处理:
1 台主服务器 8 核 16g 8m 带宽
1 从服务器 2 和 2g 2m 带宽 (按量付费)
主从服务器环境:
php7.2,(swoole 扩展,opcache 扩展,redis 扩展)
mysql5.6,
nginx1.16.1
框架 laravel5.5 (因为 6.0 很多插件不成熟),缓存采用 redis,访问量大的表都做了索引处理。图片存储 oss,js,css 存储 oss
主从都采用 swoole 加速,
主从 swoole 配置
SWOOLE_HTTP_HOST=127.0.0.1
SWOOLE_MAX_REQUEST=1
SWOOLE_HTTP_WEBSOCKET=false
SWOOLE_HTTP_REACTOR_NUM=16
SWOOLE_HTTP_WORKER_NUM=100
SWOOLE_HTTP_TASK_WORKER_NUM=100
SWOOLE_MAX_REQUEST=3000
我的结果:单页面接口请求返回最大数据 150kb,能稳定运行 600-800 并发;
600 并发用户访问流畅(小于 3 秒),800 并发用户访问缓慢(平均 8 秒)
最佳答案:
千万不要被网上的言论带歪了,辟谣:
单纯凭经验断定一个 PHP-FPM workers 进程占用多少内存是没用的,单个 worker 进程的最高内存占用至少是「在 max_requests 内,内存占用最高的那次 request 所申请的内存」。
启动大量的 PHP-FPM workers 进程并不能提升高并发的承载能力,反而会导致大量 CPU 上下文切换,尤其是如果你的业务偏向于计算、单次请求所消耗的时间很长,增加 PHP-FPM 进程数量反而会导致平均请求处理时长飙升。
Swoole / 容器 / Kubernetes 之类的东西并不是银弹,你需要深入学习才能了解它(们)适不适合你的场景和需求。如果你没有投入大量精力改造的准备,我不建议你考虑这些方案。并且,使用所谓的「容器」的确能够将单个容器的 CPU 和内存压到很低,但容器还是要运行在实际的物理机器上的,这对提升并发量并没有什么帮助,反而将一部分计算资源划分给了容器调度进程。
我的建议是:
在新业务上线前,要得出你需要多大机器,你需要:(QPS*ART)/NOW=1。
QPS = Queries per Second. 每秒请求数量,也就是所谓的「并发量」。
ART = Average Response Time. 平均响应时间,单位秒。
NOW = Number of Workers. PHP-FPM Worker 的数量。
根据单位推算,这个公式可以写为 (N/s*s)/N = 1,因此成立。
假设 QPS = 1000,ART = 0.1s,那么 NOW 为 100 才能够在理想状态下,刚好满足你的业务需求(也就是所有请求都可以在不排队的情况下完成处理)。
那么为了推算 NOW,你就需要知道 ART。你可以在一台 1 核心 CPU 的机器上跑一下你的业务,PHP-FPM max_children 保持为 1 即可。随后用压测工具跑单并发,即可计算大概的平均响应时间。务必单线程,否则没有参考价值。
得到 NOW,也就是所需的 Worker 数量之后,你就可以开始推算需要多大机器了。
一般来说,Worker 进程不建议超过 CPU 核心数的 2~4 倍。因此你可以使用 NOW / 2 甚至 NOW / 4 得到你所需要的 CPU 核心数。
至于内存,你同样可以在一台内存足够的机器上跑一跑你的业务,max_children 调大些,通过 systemctl 之类的工具观察 FPM Worker 进程的内存占用,得出一个大概内存占用量的大概数值,随后将平均内存占用量 * NOW 即可。
最后,在生产环境中,建议你:
先按照推算数量向上提高一个档位,部署一台机器。
随后通过 htop 等工具观察实际的 CPU 和内存使用率,尤其是 Load Average 的值。
如果比较稳定或者偏低,可以再降低一个档位部署一台机器(先不要销毁老机器)。
随后在业务低峰将 DNS 记录指向新机器,注意 DNS 记录的 TTL 不要太高。
观察新机器的 Load Average,如果偏高或者雪崩可以立即将 DNS Record 回滚到老机器,恭喜你找到了适合你的机型。如果仍然偏低,可以继续循环第 3 - 5 步,最终实践出最适合你的 Instance Type。
123 在
Clash for Windows作者删库跑路了,github已404中评论 按理说只要你在国内,所有的流量进出都在监控范围内,不管你怎么隐藏也没用,想搞你分..原梓番博客 在
在Laravel框架中使用模型Model分表最简单的方法中评论 好久好久都没看友情链接申请了,今天刚看,已经添加。..博主 在
佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 @1111老铁这个不行了,可以看看近期评论的其他文章..1111 在
佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 网站不能打开,博主百忙中能否发个APP下载链接,佛跳墙或极光..路人 在
php中使用hyperf框架调用讯飞星火大模型实现国内版chatgpt功能示例中评论 教程很详细,如果加个前端chatgpt对话页面就完美了..Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号