大并发服务器结构框架
大并发服务器结构框架
基本模型
-
队列 + 连接池
在应用服务器和数据服务器之间有一个数据访问层( DAL )，应用服务器通过 DAL 访问数据服务器，可以将底层的数据库操作对其他层透明化；所以我们给 DAL 抽象出一个统一的接口，供其他层来操作，而底层我们可以分别使用各种ORM工具，或者原生SQL去实现。
它的主要功能：增删改服务、查询、事务管理、并发，另外事务中包括工作单元，查询中包括延迟加载。 -
缓存（分布式）
缓存是用来保存热点数据的；
缓存的更新方式：- 缓存超时，time out
- 缓存换页，LRU（最近最少使用）
- LFU（最不频繁使用）
这种机制称为 nosql（反sql），用于保存非关系型数据（ key / value），例如 Redis， memcahed；一般的非关系型数据库都自带有缓存机制
数据库读写分离
- 使用主从服务器，由于一般服务器的读操作 > 写操作，所以主服务器进行写操作，更多的从服务器进行读操作，实现数据服务器的读写分离
- 当主服务器进行写操作之后，对从服务器进行更新，通过日志更新。
使用任务服务器负载均衡
应用服务器被动接受任务
任务服务器的作用：
- 应用服务器上有一个接口，任务服务器可以通过接口监控应用服务器的负载（CPU / IO / 并发 / 内存换页）
- 查询之后选取合适的应用服务器分配任务
缺点：A有3个任务。B有5个任务，任务服务器会将新的任务交给A，但是B的5个任务比A的3个任务执行的更快，会造成分配不公平的问题
应用服务器主动索要任务
当应用服务器空闲时会主动向任务服务器索要任务，会解决上述问题，但是需要更改任务服务器的逻辑
使用多个任务服务器
应当采取心跳机制
一个出现问题，能迅速转移故障
数据量大
以上的服务器优化都是针对并发量大的问题，如果数据量大时，应当进行数据分区
数据分区：
- 垂直分区：
- 用户数据库
- 业务数据库
- 基础信息数据库
- 水平分区：可以横向扩展
服务器性能四大杀手
- 数据拷贝：缓存解决
- 环境切换：多线程问题，单核服务器（采用状态机编程）
- 内存分配：内存池
- 锁：使用逻辑减少锁的使用