基于动态流水线网络服务器的分布式Cache系统及其工作方法

摘要

本发明有关于一种基于动态流水线网络服务器的分布式Cache系统及其工作方法，该系统中，动态流水线网络服务器将HTTP处理逻辑分为第一流水级、第二流水级、第三流水级，并分别包装在不同的虚拟机中运行，每个流水级有对应的Cache，下一流水级的Cache为上一流水级的后备Cache，用于缓存上一流水级被替换出的文件；本流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在本流水级的Cache中，则返回HTTP响应给客户端，否则进行本流水级的HTTP处理逻辑，并在处理结束后通过调度策略将该HTTP请求发送到下一级流水级处理。本发明解决了同级流水级Cache一致性的问题，减少了流水级间数据传递传输造成的延时。

主权项

一种基于动态流水线网络服务器的分布式Cache系统，动态流水线网络服务器包括网络服务器控制器、虚拟机、虚拟云计算平台，其特征在于：动态流水线网络服务器将HTTP处理逻辑分为第一流水级、第二流水级、第三流水级，并分别包装在不同的虚拟机中运行，每个流水级有对应的Cache，下一流水级的Cache为上一流水级的后备Cache，用于缓存上一流水级被替换出的文件；本流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在本流水级的Cache中，则返回HTTP响应给客户端，否则进行本流水级的HTTP处理逻辑，并在处理结束后通过调度策略将该HTTP请求发送到下一级流水级处理；当本流水级为第一流水级时，第一流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在第一流水级的Cache中，则返回HTTP响应给客户端，若不在，则进行本流水级的HTTP处理逻辑，并在处理结束后将该HTTP请求发送到第二流水级处理；当本流水级为第二流水级时，第二流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在第二流水级的Cache中，则通过第一流水级返回HTTP响应给客户端；若不在，则进行本流水级的HTTP处理逻辑，并在处理结束后将该HTTP请求发送到第三流水级处理；当本流水级为第三流水级时，第三流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在第三流水级的Cache中，则通过第一流水级返回HTTP响应给客户端；若不在，则从磁盘中读取该HTTP请求的文件，并通过第一流水级返回HTTP响应给客户端。