高并发的概念

这里我引用一段架构师之路公众号究竟啥才是互联网架构高并发中的一段话来描述:

高并发（High Concurrency）是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求

那么很多请求,具体达到多少请求才算是高并发系统呢?这个也没有明确数量上的定义,根据网上很多大型互联网公司的相关高并发博客,一般PV在千万级别以上的公司才会涉及到这个概念,所以如果某个系统的日PV在千万级别以上,可能是一个高并发系统.这里根据具体业务不同,这个数字可能高或者低一些

并发与并行的区别

这里涉及到一个问题,很多同学搞不清楚并发与并行的区别,这里我根据我根据知乎上这个问题某位网友的例子,我觉得很好

• 你吃饭吃到一半，电话来了，你一直到吃完了以后才去接，这就说明你不支持并发也不支持并行
• 你吃饭吃到一半，电话来了，你停了下来接了电话，接完后继续吃饭，这说明你支持并发
• 你吃饭吃到一半，电话来了，你一边打电话一边吃饭，这说明你支持并行

并发:你有处理多个任务的能力,不一定同时(一个CPU轮流)

并行:有同时处理多个任务的能力(多个CPU同时)

并发和并行都可以是很多个线程,就看这些线程能不能同时被(多个)CPU执行,可以说明是并行,并发是多个线程被一个CPU轮流切换着执行

高并发的相关指标

高并发相关指标有响应时间(Response Time),吞吐量(Throughput),每秒查询率QPS(Query Per Second),并发用户数等

响应时间:系统对某个请求做出相应的时间.例如处理一个HTTP请求,从HTTP发出到收到响应需要200ms,则200ms就是系统的响应时间.

吞吐量:单位时间内处理的请求数量

QPS:每秒响应请求数,这个感觉和吞吐量区分不大

并发用户数:同时承载正常使用系统功能的用户数量. 例如微信,同时可以x亿人在线,一定程度代表了系统的并发用户数

提高并发能力

有以下途径:

• 增加机器:读写分离,分布式部署(不同模块),集群(相同服务)
• 增强单机性能:数据库优化,优化代码(如算法),硬件升级(CPU,内存,SSD等)

Golang的并行能力

Golang从语言层面对多核CPU支持非常好,在设计程序时运用了并发的设计理念,Go程序在运行期有可能是并行的

Rob Pike大神关于两者的阐述：“并发关乎结构，并行关乎执行”