基于动态服务响应时间向服务器分配流量的系统和方法

摘要

本发明公开了基于动态服务响应时间向服务器分配流量的系统和方法。服务网关通过以下步骤处理从主机接收的服务请求：在服务网关与服务器之间的服务会话期间将服务请求从服务网关转送到服务器；判定服务会话的服务请求时间；由服务网关接收来自服务器的服务响应；由服务网关判定服务响应时间；由服务网关从服务请求时间和服务响应时间计算服务请求的服务处理时间；比较服务处理时间与预期服务处理时间；以及响应于该比较更新服务器的服务器示忙器。如果服务处理时间超过预期服务处理时间，那么更新服务器示忙器以指示服务器为忙。否则，更新服务器示忙器以指示服务器为不忙。

主权项

一种处理由服务网关从主机接收的服务请求的方法，包括：由所述服务网关从所述主机接收服务会话的第一服务请求；由所述服务网关判定所述服务会话的服务请求时间；在所述服务网关与服务器之间的所述服务会话期间将所述第一服务请求从所述服务网关转送到所述服务器；由所述服务网关接收来自所述服务器的服务响应；由所述服务网关判定服务响应时间；由所述服务网关从所述服务请求时间和所述服务响应时间计算所述第一服务请求的服务处理时间；比较所述服务处理时间与预期服务处理时间，其中，由所述服务网关根据所述第一服务请求或者所述服务器的服务属性来判定所述预期服务处理时间；响应于所述比较，更新所述服务器的服务器示忙器，其中，所述服务器的服务器示忙器在所述服务网关处保持；由所述服务网关从所述主机接收第二服务请求；由所述服务网关检查所述服务器的服务器示忙器；响应于判定所述服务器示忙器指示所述服务器为忙，将所述第二服务请求放置在所述服务网关的服务请求缓冲器中并且保持与所述主机的连接；以及响应于判定所述服务器示忙器指示服务器为不忙，在所述服务网关与所述服务器之间的服务会话期间将所述第二服务请求从所述服务网关转送到所述服务器。