发明名称 集中式网路服务系统流量控制的方法及装置
摘要 本发明系一种控制集中式网路服务系统(web farm)之方法,此集中式网路服务系统具有复数个网站及伺服器,此方法包含将自网站接收之客户请求归类为复数个种类,此种类包含一可分享之客户请求及非可分享之客户请求,安排可分享之客户请求,使任何的伺服器可处理自不同网站接收的可分享之客户请求,并安排自特定网站的非可分享之客户请求至特定网站已指派的特定伺服器。
申请公布号 TWI238621 申请公布日期 2005.08.21
申请号 TW092101446 申请日期 2003.01.23
申请人 万国商业机器公司 发明人 沃夫 乔;俞士纶
分类号 H04L12/16 主分类号 H04L12/16
代理机构 代理人 蔡玉玲 台北市大安区敦化南路2段218号5楼A区
主权项 1.一种供控制一集中式网路服务系统(web farm)之方法,该集中式网路服务系统具有复数个网站及伺服器,该方法包含:将自该网站接收之客户请求归类为复数个种类,该种类包含一可分享客户请求及一非可分享客户请求;安排该可分享客户请求,使任何的该伺服器可处理自不同的该网站接收的可分享客户请求;以及安排自特定该网站的该非可分享客户请求至该特定网站已指派的特定伺服器。2.如申请专利范围第1项所述之方法,进一步包含一目标程序,该目标程序包含为每一该客户请求在每该客户请求指派至之该伺服器中,决定一最佳伺服器,以便在任一给定时间,给定该网站之该指派至该伺服器及一目前客户请求负载,最小化一平均客户回应时间。3.如申请专利范围第2项所述之方法,其中该目标程序系受最小化函数的影响,此最小化函数受限于其中M为网站数目,N为伺服器数目,Rj是期望回覆时间,同在伺服器j的客户到达率之一函数,xij为一决定变数,表示供可被伺服器j处理的网站i可分享请求的假设数目,yij为一决定变数,表示供可被伺服器j处理的网站i非可分享请求的假设数目,Lj为伺服器j的最大可接受负载,cI为自网站i的可分享客户请求目前数目,di为目前自网站i的非可分享客户请求目前数目,aij为一指数指出自网站i的可分享请求可被安排至伺服器j及bij为一指数指出自网站i的非可分享请求可被安排至伺服器j。4.如申请专利范围第3项所述之方法,进一步包含:建立及维持一有向图,该有向图包含一虚节点及复数个伺服器点,每该伺服器点对应一个该伺服器;指定一个该伺服器点为一赢节点,使式子最小化;以及自该虚节点至该赢节点选取一最短有向路径。5.如申请专利范围第1项所述之方法,进一步包含一静态程序,该静态程序包含指派特定该网站至特定该伺服器,以达成处理非可分享客户请求的目的。6.如申请专利范围为第5项所述之方法,其中该静态程序指派该网站至特定伺服器,系根据自每该网站之可分享客户请求及非可分享客户请求之预测需求。7.如申请专利范围第2项所述之方法,其中包含一动态程序,该动态程序包含:检查下一个客户请求;启动该目标程序,以决定供处理该下一个客户请求之目前最佳伺服器;以及发送该下一个客户请求至该最佳伺服器。8.如申请专利范围第7项所述之方法,进一步包含:接收该客户请求至一列;以及其中该动态程序进一步包含:监视在该列中的该客户请求;监视目前被该伺服器处理的客户请求;为每一jth伺服器定义一Rj(z)函数,藉由设定为每一jth伺服器定义一校正可接受负载限制Lj,藉由启动该目标程序以利用该Rj(z)函数及校正可接受负载限制Lj最小化函数的影响,此最小化函数受限于其中xi,j为一决定变数,表示供可被伺服器j处理的网站i在该列中的可分享请求的假设数目,yi,j为一决定变数,表示供可被伺服器j处理的网站i非可分享请求的假设数目,ci为列中自网站i的可分享客户请求的目前数目,di为列中自网站i的非可分享客户请求的目前数目,ci为目前被一个伺服器处理的列中自网站i的可分享客户请求的目前数目,di为目前被一个伺服器处理的自网站i的非可分享客户请求的目前数目。9.一种藉由机器读取的程式储存装置,有形地包含一指令(instruction)的程式,该指令可藉由该机器执行以完成方法步骤,供控制一集中式网路服务系统,该集中式网路服务系统具有复数个网站及伺服器,该方法包含:将自该网站接收之客户请求归类为复数个种类,该种类包含一可分享客户请求及一非可分享客户请求;安排该可分享客户请求,使任何的该伺服器可处理自不同的该网站接收的可分享客户请求;以及安排自特定该网站的该非可分享客户请求至该特定网站已指派的特定伺服器。10.如申请专利范围第9项所述之装置,进一步包含一目标程序,该目标程序包含为每一该客户请求在每该客户请求指派至之伺服器中,决定一最佳伺服器,以便在任一给定时间,给定该网站之该指派至该伺服器及一目前客户请求负载,最小化一平均客户回应时间。11.如申请专利范围第10项所述之装置,其中该目标程序系受最小化函数的影响,此最小化函数受限于yij=0若bij=0,其中M为网站数目,N为伺服器数目,Rj是期望回覆时间,同在伺服器j的客户到达率之一函数,xij为一决定变数,表示供可被伺服器j处理的网站i可分享请求的假设数目,yij为一决定变数,表示供可被伺服器j处理的网站i非可分享请求的假设数目,Lj为伺服器j的最大可接受负载,ci为自网站i的可分享客户请求目前数目,di为自网站i的非可分享客户请求目前数目,aij为一指数指出自网站i的可分享请求可被安排至伺服器j及bij为一指数指出自网站i的非可分享请求可被安排至伺服器j。12.如申请专利范围第11项所述之装置,进一步包含:建立及维持一有向图,该有向图包含一虚节点及复数个伺服器点,每该伺服器点对应一个该伺服器;指定一个该伺服器点为一赢节点,使式子最小化;以及自该虚节点至该赢节点选取一最短有向路径。13.如申请专利范围第9项所述之装置,进一步包含一静态程序,该静态程序包含指派特定该网站至特定该伺服器。14.如申请专利范围为第13项所述之装置,其中该静态程序指派该网站至特定伺服器,系根据自每该网站之可分享客户请求及非可分享客户请求之预测需求。15.如申请专利范围第10项所述之装置,进一步包含一动态程序,该动态程序包含:检查下一个客户请求;启动该目标程序,以决定供处理该下一个客户请求之目前最佳伺服器;以及发送该下一个客户请求至该最佳伺服器。16.如申请专利范围第15项所述之装置,进一步包含:接收该客户请求至一列;以及其中该动态程序进一步包含:监视在该列中的该客户请求;监视目前被该伺服器处理的客户请求;为每一jth伺服器定义一Rj(z)函数,藉由设定为每一jth伺服器定义一校正可接受负载限制Lj,藉由设定启动该目标程序以利用该Rj(z)函数及校正可接受负载限制Lj最小化函数的影响,此最小化函数受限于其中xi,j为一决定变数,表示供可被伺服器j处理的网站i在该列中的可分享请求的假设数目,yi,j为一决定变数,表示供可被伺服器j处理的网站i非可分享请求的假设数目,ci为列中自网站i的可分享客户请求的目前数目,di为列中自网站i的非可分享客户请求的目前数目,ci为目前被一个伺服器处理的列中自网站i的可分享客户请求的目前数目,di为目前被一个伺服37处理的自网站i的非可分享客户请求的目前数目。17.一种集中式网路服务系统,包含:一装置供自客户接收客户请求;一装置供处理该客户请求以产生回应;一装置供传送该回应至该客户;一装置供将该客户请求归类为可分享客户请求及非可分享客户请求;一网路发送器,包含装置供执行一目标程序,一静态程序及一动态程序;该目标程序包含为每一该客户请求在每该客户请求指派至之伺服器中,决定一最佳伺服器,以便在任一给定时间,给定该网站之该指派至该伺服器及一目前客户请求负载,最小化一平均客户回应时间,其中该可分享客户请求可指派至任何该伺服器,及其中该非可分享客户请求仅指派至特定伺服器,该特定伺服器依附该非可分享客户请求来源之该网站;该静态程序包含指派特定该网站至该伺服器,以及该动态程序包含:检查下一个客户请求;启动该目标程序,以决定供处理该下一个客户请求之目前最佳伺服器;以及发送该下一个客户请求至该最佳伺服器。图式简单说明:第1图揭露一包含网路发送器及多个伺服器的集中式网路服务系统。第2图揭露部分目标程序的一自一虚节点至赢节点路径。第3图揭露一目标程序流程图。第3b图揭露目标程序的一起始步骤流程图。第3c图揭露目标程序的一路径簿记步骤流程图。第3d图揭露目标程序的一图解簿记步骤流程图。第4图揭露动态程序流程图。第5图揭露在一例子中用以说明动态程序的网站符号词汇表。第6图揭露在同一例子中,静态程序的有向图。第7图揭露在同一例子中,静态程序的无向图。第8图揭露静态程序中的邻近escape heuristic。第9图揭露静态程序流程图。
地址 美国