新闻资讯

一次又一次的蜕变,只为陪您走的更远!

淮安网站建设高并发下性能调优解决方案

发布时间:2021-01-31 10:46:41点击率:

淮安蓝鲸网络为您讲解高并发下性能调优方案,随着网络的发展,网站高并发已经越来越普遍,例如苏康码、抖音、直播带货等这些平台,都需要用到高并发技术,那么高并发技术有哪些?有Nginx负载均衡?redis缓存技术?可能我们不能体系化的讲明白,下面我们就带着这些问题来了解下什么是高并发以及常见的高并发解决方法:

 

一、什么是高并发

高并发(High Concurrency)是互联网分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计保证系统能够同时并行处理很多请求。
高并发相关常用的一些指标有响应时间(Response Time),吞吐量(Throughput),每秒查询率QPS(Query Per Second),并发用户数等。
响应时间:系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms,这个200ms就是系统的响应时间。
吞吐量:单位时间内处理的请求数量。
QPS:每秒响应请求数。在互联网领域,这个指标和吞吐量区分的没有这么明显。
并发用户数:同时承载正常使用系统功能的用户数量。例如一个即时通讯系统,同时在线量一定程度上代表了系统的并发用户数。

 

二、如何提升系统的并发能力
互联网分布式架构设计,提高系统并发能力的方式,方法论上主要有两种:垂直扩展(Scale Up)与水平扩展(Scale Out)。

垂直扩展:提升单机处理能力。垂直扩展的方式又有两种:

(1)增强单机硬件性能,例如:增加CPU核数如32核,升级更好的网卡如万兆,升级更好的硬盘如SSD,扩充硬盘容量如2T,扩充系统内存如128G;

(2)提升单机架构性能,例如:使用Cache来减少IO次数,使用异步来增加单服务吞吐量,使用无锁数据结构来减少响应时间;

不管是提升单机硬件性能,还是提升单机架构性能,都有一个致命的不足:单机性能总是有极限的。所以互联网分布式架构设计高并发终极解决方案还是水平扩展

水平扩展:只要增加服务器数量,就能线性扩充系统性能。水平扩展对系统架构设计是有要求的,如何在架构各层进行可水平扩展的设计,以及互联网公司架构各层常见的水平扩展实践,是本文重点讨论的内容。

三、常见的互联网分层架构



 

常见互联网分布式架构如上,分为:

(1)客户端层:典型调用方是浏览器browser或者手机应用APP

(2)反向代理层:系统入口,反向代理

(3)站点应用层:实现核心应用逻辑,返回html或者json

(4)服务层:如果实现了服务化,就有这一层

(5)数据-缓存层:缓存加速访问存储

(6)数据-数据库层:数据库固化数据存储

 

四、常见的高并发解决方法
(1)服务器集群:Nginx做反向代理,实现负载均衡
(2)数据缓存
        ①  页面缓存
        ②  数据缓存
        常用的数据缓存有ehcache和 memcached又称内存缓存,redis是在memcache之后编写的,大家经常把这两者做比较,如果说它是个key-value store 的话但是它具有丰富的数据类型,简单来说通过memcached将数据缓存到内存中,再将内存缓存通过redis以键值对的方式保存。
(3)数据库主从复制、读写分离
        基于二进制日志(binlog)实现Mysql主从复制,通过Amoeba、Cobar、MyCAT等中间件实现Mysql读写分离。