发明名称 藉由移位前向请求之负载平衡协力快取伺服器
摘要 一种包括协力快取伺服器如代理快取伺服器集合之系统中,若被请求物件无法于局部找到,则该请求可被前向送至协力快取伺服器。例如若由于参考时序差异侦测得过载情况,某些物件被全部容户所高度需求,含有该等热门物件之快取伺服器由于前向请求变成过载。回应于此,该负载经由移位部分或全部前向请求由过载的快取伺服器至较非过载的快取伺服器而予平衡。说明集中式及分散式负载平衡环境。
申请公布号 TW444458 申请公布日期 2001.07.01
申请号 TW088117310 申请日期 1999.10.07
申请人 万国商业机器公司 发明人 凯文麦克乔登;吴坤龙;俞士纶
分类号 H04L12/00;G06F17/30 主分类号 H04L12/00
代理机构 代理人 陈长文 台北巿敦化北路二○一号七楼
主权项 1.一种快取伺服器负载平衡方法,包含下列步骤: 回应协力快取伺服器对一物件之快取失误,接收来 自一协力快取伺服器的前向请求;以及 基于负载条件及该物件之前向频率介于多个协力 快取伺服器间移位物件之一或多前向请求。2.如 申请专利范围第1项之方法,该移位步骤进一步包 含下列步骤: 定期监视负载条件并将频率送至拥有的快取伺服 器;以及 回应监视,预先积极移位一或多个被快取物件的随 后前向请求由拥有的快取伺服器至一或多个协力 快取伺服器。3.如申请专利范围第1项之方法,该移 位步骤包含回应前向请求查核负载条件及前向频 率。4.如申请专利范围第1项之方法,其中该移位步 骤包含修改物件拥有权成为二或多协力快取伺服 器间共享拥有权。5.如申请专利范围第4项之方法, 其进一步包含回应负载条件的变化合并共享拥有 权之步骤。6.如申请专利范围第1项之方法,其进一 步包含局部监视各协力快取伺服器之负载之步骤 。7.如申请专利范围第6项之方法,其进一步包含下 述步骤: 一分散式负载监视器监视且维持一局部负载条件, 于各协力快取伺服器对被快取物件之前向频率及 拥有权资讯。8.如申请专利范围第7项之方法,其进 一步包含下列步骤: 协力快取伺服器定期交换且维持下列一或多者:负 载条件资讯;前向频率;及拥有权资讯。9.如申请专 利范围第7项之方法,其进一步包含下列步骤: 协力快取伺服器藉装运下列一或多者:负载条件资 讯、前向频率及拥有权资讯而交换一或多个前向 请求及回应。10.如申请专利范围第1项之方法,其 进一步包含下述步骤,接收前向请求及更新前向频 率。11.如申请专利范围第7项之方法,其进一步包 含下列步骤: 识别负载较少的协力快取伺服器;以及 通讯移位请求;及被快取物件拷贝中之一或多者给 负载较少的协力快取伺服器。12.如申请专利范围 第11项之方法,其进一步包含下列步骤: 负载较少的协力快取伺服器接收移位请求;以及 回应移位请求,负载较少的协力快取伺服器由原先 物件伺服器请求物件拷贝。13.如申请专利范围第 11项之方法,其中该拷贝系透过企业网路、广域网 路或网际网路中之一或多者获得。14.如申请专利 范围第1项之方法,其进一步包含多方抛掷一移位 请求讯息给一或多个其它协力快取伺服器因而可 移位随后前向请求之步骤。15.如申请专利范围第 14项之方法,其进一步包含下列步骤: 协力快取伺服器维持快取表之局部拷贝之一及修 改杂散功能;以及 协力快取伺服器藉更新快取表之局部拷贝以及修 改杂散功能而修改拥有权资讯。16.如申请专利范 围第15项之方法,其进一步包含下列步骤: 修改物件拥有权成为协力快取伺服器至少二者间 之共享拥有权;以及 协力快取伺服器前向发送随后物件请求给一或多 部负载较低的该物件之共享拥有者。17.如申请专 利范围第16项之方法,其进一步包含下列步骤: 侦测共享物件之负载条件的降低;以及 回应负载条件的降低而合并共享拥有权。18.如申 请专利范围第1项之方法,其中该移位一或多前向 请求包含下列步骤: 通讯物件拷贝由拥有的快取伺服器至一或多部协 力快取伺服器;以及 协力快取伺服器接收并快取物件拷贝。19.如申请 专利范围第1项之方法,其进一步包含下列步骤: 计算各快取伺服器于过去时间间隔的负载条件; 计算全部快取伺服器于过去间隔之平均负载;以及 找出快取伺服器其超过高于平均负载的阈値。20. 如申请专利范围第1项之方法,其中该协力快取伺 服器之负载条件可为前向请求数目及协力快取伺 服器直接请求数目之加权和。21.如申请专利范围 第1项之方法,其进一步包含维持快取资讯于各物 件阶层及物件分隔阶层中之一或多个阶层之步骤 。22.如申请专利范围第21项之方法,其中该物件阶 层或分隔阶层之快取资讯包含与物件结合的前向 频率。23.如申请专利范围第22项之方法,其进一步 下述步骤: 一分散式负载监视器监视且局部维持负载条件,前 向频率及各快取伺服器被快取物件的拥有权资讯 。24.如申请专利范围第23项之方法,其进一步下述 步骤: 该等协力快取伺服器定期交换负载条件、前向频 率及拥有权资讯中之一或多者。25.如申请专利范 围第22项之方法,其进一步下述步骤: 该等协力快取伺服器藉装运负载条件、前向频率 及拥有权资讯中之一或多者而交换前向请求及回 应中之一或多者。26.一种负载平衡方法,该方法系 用于协力快取伺服器集合,此处各快取伺服器可接 收直接请求及前向请求,而当有一快取失误时,一 请求可前向送至拥有快取伺服器来快取该物件,该 方法包含下列步骤: 监视该等协力快取伺服器之负载条件及前向频率; 以及 基于负载条件及前向频率之变化,移位一或多前向 请求由一协力快取伺服器至第二协力快取伺服器 。27.如申请专利范围第26项之方法,其中该监视负 载条件之步骤包含下列步骤: 计算各快取伺服器于过去时间间隔之负载条件; 计算全部代理快取伺服器于过去时间间隔之平衡 负载;以及 找出该等超过高于平均负载阈値之代理快取伺服 器。28.如申请专利范围第26项之方法,其中该移位 步骤可回应下列一或多者进行:来自协力快取伺服 器的前向请求;以及定期监视负载条件及前向频率 。29.如申请专利范围第26项之方法,其进一步包含 一集中式逻辑负载监视器维持协力快取伺服器之 前向频率及负载条件之步骤。30.如申请专利范围 第26项之方法,其中中该快取伺服器之负载条件可 为下列之加权和:前向请求数目以及对该快取伺服 器直接请求之数目。31.如申请专利范围第26项之 方法,其进一步包含维持快取资讯于各物件阶层或 物物件分隔阶层之步骤。32.如申请专利范围第31 项之方法,其中该物件阶层或分隔阶层之快取资讯 包含经由负载监视器对该物件请求之前向频率。 33.如申请专利范围第26项之方法,其中该协力快取 伺服器包含协力代理快取伺服器。34.如申请专利 范围第26项之方法,其进一步包含下列步骤: 一逻辑索引伺服器维持一快取表及一负载表; 该快取伺服器查询索引伺服器有关局部失误物件 之物件于其它快取伺服器位置;以及 该索引伺服器回应对物件位置的请求经由操纵快 取表而于各快取伺服器间做负载平衡之请求。35. 如申请专利范围第29项之方法,其进一步包含下列 步骤: 各快取伺服器多方抛掷协力快取伺服器表单而定 位局部失误的物件拷贝;以及 该移位步骤包含由邻近快取伺服器子集做多方抛 掷而排除过载快取伺服器之步骤。36.一种可由机 器读取之程式储存装置,该装置可有形具体表现可 由机器执行的程式指令因而进行快取伺服器负载 平衡之方法步骤,该方法步骤包含: 回应协力快取伺服器对一物件之快取失误,接收来 自一协力快取伺服器的前向请求;以及 基于负载条件及该物件之前向频率介于多个协力 快取伺服器间移位物件之一或多前向请求。37.如 申请专利范围第36项之程式储存装置,该移位步骤 进一步包含下列步骤: 定期监视负载条件并将频率送至拥有的快取伺服 器;以及 回应监视,预先积极移位一或多个被快取物件的随 后前向请求由拥有的快取伺服器至一或多个协力 快取伺服器。38.如申请专利范围第36项之程式储 存装置,该移位步骤包含回应前向请求查核负载条 件及前向频率。39.如申请专利范围第36项之程式 储存装置,该移位步骤包含修改物件拥有权成为二 或多协力快取伺服器间共享拥有权。40.如申请专 利范围第39项之程式储存装置,其进一步包含回应 负载条件的变化合并共享拥有权之步骤。41.如申 请专利范围第36项之程式储存装置,其进一步包含 局部监视各协力快取伺服器之负载之步骤。42.如 申请专利范围第41项之程式储存装置,其进一步包 含下述步骤: 一分散式负载监视器监视且维持一局部负载条件, 于各协力快取伺服器对被快取物件之前向频率及 拥有权资讯。43.如申请专利范围第42项之程式储 存装置,其进一步包含下列步骤: 协力快取伺服器定期交换且维持下列一或多者:负 载条件资讯;前向频率;及拥有权资讯。44.如申请 专利范围第42项之程式储存装置,其进一步包含下 列步骤: 协力快取伺服器藉装运下列一或多者:负载条件资 讯、前向频率及拥有权资讯而交换一或多个前向 请求及回应。45.如申请专利范围第36项之程式储 存装置,其进一步包含下述步骤,接收前向请求及 更新前向频率。46.如申请专利范围第42项之程式 储存装置,其进一步包含下列步骤: 识别负载较少的协力快取伺服器;以及 通讯移位请求:及被快取物件拷贝中之一或多者给 负载较少的协力快取伺服器。47.如申请专利范围 第46项之程式储存装置,其进一步包含下列步骤: 负载较少的协力快取伺服器接收移位请求;以及 回应移位请求,负载较少的协力快取伺服器由原先 物件伺服器请求物件拷贝。48.如申请专利范围第 46项之程式储存装置,其中该拷贝系透过企业网路 、广域网路或网际网路中之一或多者获得。49.如 申请专利范围第45项之程式储存装置,其进一步包 含下列步骤: 多方抛掷一移位请求讯息给一或多个其它协力快 取伺服器因而可移位随后前向请求之步骤。50.如 申请专利范围第49项之程式储存装置,其进一步包 含下列步骤: 协力快取伺服器维持快取表之局部拷贝之一及修 改杂散功能;以及 协力快取伺服器藉更新快取表之局部拷贝以及修 改杂散功能而修改拥有权资讯。51.如申请专利范 围第50项之程式储存装置,其进一步包含下列步骤: 修改物件拥有权成为协力快取伺服器至少二者间 之共享拥有权;以及 协力快取伺服器前向发送随后物件请求给一或多 部负载较低的该物件之共享拥有者。52.如申请专 利范围第51项之程式储存装置,其进一步包含下列 步骤: 侦测共享物件之负载条件的降低;以及 回应负载条件的降低而合并共享拥有权。53.如申 请专利范围第36项之程式储存装置,其中该移位一 或多前向请求包含下列步骤: 通讯物件拷贝由拥有的快取伺服器至一或多部协 力快取伺服器;以及 协力快取伺服器接收并快取物件拷贝。54.如申请 专利范围第36项之程式储存装置,其进一步包含下 列步骤: 计算各快取伺服器于过去时间间隔的负载条件; 计算全部快取伺服器于过去间隔之平均负载;以及 找出快取伺服器其超过高于平均负载的阈値。55. 如申请专利范围第36项之程式储存装置,其中该协 力快取伺服器之负载条件可为前向请求数目及协 力快取伺服器直接请求数目之加权和。56.如申请 专利范围第36项之程式储存装置,其进一步包含维 持快取资讯于各物件阶层及物件分隔阶层中之一 或多个阶层之步骤。57.如申请专利范围第56项之 程式储存装置,其中该物件阶层或分隔阶层之快取 资讯包含与物件结合的前向频率。58.如申请专利 范围第57项之程式储存装置,其进一步下述步骤: 一分散式负载监视器监视且局部维持负载条件,前 向频率及各快取伺服器被快取物件的拥有权资讯 。59.如申请专利范围第58项之程式储存装置,其进 一步下述步骤: 该等协力快取伺服器定期交换负载条件、前向频 率及拥有权资讯中之一或多者。60.如申请专利范 围第57项之程式储存装置,其进一步下述步骤: 该等协力快取伺服器藉装运负载条件、前向频率 及拥有权资讯中之一或多者而交换前向请求及回 应中之一或多者。61.一种可藉一机器读取之程式 储存装置,该装置可具体表现可由机器执行的指令 程式而于一协力快取伺服器集合执行取伺服器负 载平衡之方法步骤,此处各快取伺服器可接收直接 请求及前向请求,以及当快取失误时,一请求可前 向送至协力快取伺服器快取该物件,该方法步骤包 含: 监视该等协力快取伺服器之负载条件及前向频率; 以及 基于负载条件及前向频率之变化,移位一或多前向 请求由一协力快取伺服器至第二协力快取伺服器 。62.如申请专利范围第61项之程式储存装置,其中 该监视负载条件之步骤包含下列步骤: 计算各快取伺服器于过去时间间隔之负载条件; 计算全部代理快取伺服器于过去时间间隔之平衡 负载;以及 找出该等超过高于平均负载阈値之代理快取伺服 器。63.如申请专利范围第61项之程式储存装置,其 中该移位步骤可回应下列一或多者进行:来自协力 快取伺服器的前向请求;以及定期监视负载条件及 前向频率。64.如申请专利范围第61项之程式储存 装置,其进一步包含一集中式逻辑负载监视器维持 协力快取伺服器之前向频率及负载条件之步骤。 65.如申请专利范围第61项之程式储存装置,其中该 快取伺服器之负载条件可为下列之加权和:前向请 求数目以及对该快取伺服器直接请求之数目。66. 如申请专利范围第61项之程式储存装置,其进一步 包含维持快取资讯于各物件阶层或于物件分隔阶 层之步骤。67.如申请专利范围第61项之程式储存 装置,其中该物件阶层或分隔阶层之快取资讯包含 经由负载监视器对物件请求之前向频率。68.如申 请专利范围第61项之程式储存装置,其中该协力快 取伺服器包含协力代理快取伺服器。69.如申请专 利范围第61项之程式储存装置,其进一步下述步骤: 维持一快取表及一负载表; 于其它快取伺服器对局部失误物件接收物件所在 位置的请求;以及 经由回应对物件所在位置的请求藉由操纵快取表 面于各快取伺服器做负载平衡请求。70.如申请专 利范围第64项之程式储存装置,其进一步下述步骤: 各快取伺服器多方抛掷至协力快取伺服器表单来 找出局部失误的物件拷贝;以及 该移位步骤包括下列步骤,由多方抛掷用之邻近快 取伺服器子集排除过载的快取伺服器。71.一种快 取伺服器负载平衡系统,包含: 接收装置用于回应协力快取伺服器物件之快取失 误而由协力快取伺服器接收前向请求;以及 移位装置用于基于负载条件以及物件之前向频率 介于协力快取伺服器间移位一或多物件之前向请 求。72.如申请专利范围第71项之系统,该移位装置 进一步包含: 监视装置用于定期监视协力快取伺服器的负载条 件以及前向频率;以及 移位装置用于回应该监视前向积极移位一或多个 随后对被快取物件的前向请求介于协力快取伺服 器间。73.如申请专利范围第71项之系统,该移位装 置进一步包含回应前向请求查核负载条件及前向 频率之装置。74.如申请专利范围第71项之系统,其 中该移位装置包含对二或多协力快取伺服器间共 享的拥有权修改物件拥有权之装置。75.如申请专 利范围第74项之系统,其进一步包含回应负载条件 之变化合并共享拥有权。76.如申请专利范围第71 项之系统,其进一步包含局部监视各协力快取伺服 器之负载条件之装置。77.如申请专利范围第76项 之系统,其进一步包含: 分散式负载监视器装置用于维持局部负载条件、 前向频率以及于各协力快取伺服器对被快取物件 之拥有权资讯。78.如申请专利范围第77项之系统, 其进一步包含: 协力快取伺服器装置用于定期交换及维持下列一 或多者:负载条件资讯;前向频率及拥有权资讯。79 .如申请专利范围第77项之系统,其进一步包含下列 步骤: 协力快取伺服器拖运下列一或多者之装置:负载条 件资讯:前向频率;及拥有权资讯;以及前向请求及 回应中之一或多者。80.如申请专利范围第71项之 系统,其进一步包含:回应于前向请求更新前向频 率之装置。81.如申请专利范围第77项之系统,其进 一步包含: 识别负载较低之协力快取伺服器之装置;以及 通讯移位请求;及被快取物件拷贝之一或多者至负 载较低之协力快取伺服器之装置。82.如申请专利 范围第81项之系统,其进一步包含: 负载较低的协力快取伺服器包括接收移位请求之 装置;以及 负载较的协力快取伺服器包括回应移位请求而由 原先物件伺服器请求物件拷贝之装置。83.如申请 专利范围第81项之系统,其中该拷贝系透过企业网 路、广域网路或网际网路之一或多者获得。84.如 申请专利范围第80项之系统,其进一步包含: 多方抛掷装置用于多方抛掷一移位请求讯息给其 它协力快取伺服器之一或多者因而随后之前向请 求将被移位。85.如申请专利范围第77项之系统,其 进一步包含: 于协力快取伺服器之快取表之局部拷贝;以及 协力快取伺服器基于快承表之局部拷贝维持前向 频率及拥有权资讯之装置。86.如申请专利范围第 77项之系统,其进一步包含: 杂散功能装置用于将物件空间杂散入多杂散桶,杂 散桶数目系远大于快取伺服器总数,以及指定杂散 桶给各协力快取伺服器用于定位局部失误的物件 拷贝;以及 移位装置包含移动一或多杂散桶由过载伺服器至 负载较低之伺服器之装置,其可有效变更杂散功能 因此前向请求将不会送至过载伺服器。87.如申请 专利范围第86项之系统,其进一步包含: 修改装置用于将物件拥有权修改成介于协力快取 伺服器之至少二伺服器间之共享拥有权;以及 协力快取伺服器将随后物件请求前向送至一或多 个较低负载之物件共享拥有者之装置。88.如申请 专利范围第87项之系统,其进一步包含: 对共享物件侦测负载条件降低之装置;以及 回应于负载条件的下降合并共享拥有权之装置。 89.如申请专利范围第71项之系统,其中该移位装置 用于移位一或多个前向请求包含通讯物件拷贝由 拥有的快取伺服器至一或多个协力快取伺服器。 90.如申请专利范围第71项之系统,其进一步包含: 计算装置用于计算各快取伺服器于过去时间间隔 之负载条件; 运算装置用于运算全部快取伺服器于过去时间间 隔之平均负载;以及 找出装置用于找出超过高于平均负载之阈値之快 取伺服器。91.如申请专利范围第71项之系统,其中 该协力快取伺服器之负载条件包含前向请求数目 及直接送至协力快取伺服器之直接请求数目之加 权和。92.如申请专利范围第71项之系统,其进一步 包含维持快取资讯于各物件阶层以及物件分隔阶 层之一或多者。93.如申请专利范围第92项之系统, 其中该物件阶层或分隔阶层之快取资讯包含与该 物件关联的前向频率。94.如申请专利范围第71项 之系统,其进一步包含: 集中式逻辑负载监视器装置用于维持该协力快取 伺服器之前向频率及负载条件。95.如申请专利范 围第71项之系统,其中该等协力快取伺服器包含协 力代理快取伺服器。96.如申请专利范围第71项之 系统,其进一步包含: 一逻辑索引伺服器装置用于定位物件及局部失误 物件之前向请求; 维持装置用于维持一快取表及负载表耦合至该索 引伺服器; 快取伺服器装置用于查询索引伺服器有关局部失 误物件于其它快取伺服器之物件位置;以及 索引伺服器装置用于回应物件位置之请求藉由操 纵快取表而将该等请求于快取伺服器间做负载平 衡。97.如申请专利范围第71项之系统,其进一步包 含: 多方抛掷装置于各快取伺服器用于将协力快取伺 服器表单多方抛掷而定位出局部失误物件拷贝; 移位装置包含由多方抛掷之邻近快取伺服器子集 中排除过载快取伺服器之装置。图式简单说明: 第一图a显示以方块图形式采用代理快取伺服器集 合之系统范例,其中应用根据本发明之集中式负载 平衡逻辑; 第一图b显示以方块图形式采用代理快取伺服器集 合之系统范例,其中应用根据本发明之分散式负载 平衡逻辑; 第二图a-第二图b显示可由第一图a-第一图b说明之 负载监视器维持之二表之资料格式范例; 第三图显示负载监视器由于快取失误而回应来自 快取伺服器的请求之逻辑流程例;以及 第四图显示快取伺服器回应物件请求之逻辑流程 例。
地址 美国
您可能感兴趣的专利