发明名称 用于机器学架构中的分层训练的系统和方法
摘要 一种用于机器学架构的分层训练的计算机实现的方法,包括:接收多个数据元素,其中每个数据元素与时间戳相关联;确定用于分层的模型层栈的每个模型层的训练窗口;通过识别具有与每个训练窗口相对应的时间戳的数据元素,来确定用于每个训练窗口的多个训练数据元素;识别用于每个模型层的在前检查点,其中由父模型层生成用于每个模型层的在前检查点;利用所确定的用于每个模型层的训练数据元素和所识别的用于每个模型层的在前检查点来训练每个模型层;生成多个当前检查点,其中多个当前检查点中的每个当前检查点与模型层相关联,以及将多个当前检查点存储在存储器处。
申请公布号 CN105683944A 申请公布日期 2016.06.15
申请号 CN201480060487.0 申请日期 2014.10.30
申请人 谷歌公司 发明人 大卫·罗杰·盖伊;保罗·丘奇;罗素·奥康纳;维奈·乔杜里;雅罗斯拉夫·利特斯
分类号 G06F17/00(2006.01)I 主分类号 G06F17/00(2006.01)I
代理机构 中原信达知识产权代理有限责任公司 11219 代理人 李宝泉;周亚荣
主权项 一种用于机器学习架构的分层训练的计算机实现的方法,所述方法由包括耦接到存储器的处理器的训练计算设备来实现,所述方法包括:由所述训练计算设备的接收组件接收多个数据元素,其中每个数据元素与时间戳相关联;由所述训练计算设备的第一确定组件确定用于分层的模型层栈的每个模型层的训练窗口;由所述训练计算设备的第二确定组件通过识别具有与每个训练窗口相对应的时间戳的所述数据元素,来确定用于每个训练窗口的多个训练数据元素;如果用于每个模型层的在前检查点存在,则由所述训练计算设备的识别组件识别用于每个模型层的在前检查点,其中由父模型层生成用于每个模型层的在前检查点;由所述训练计算设备的训练组件利用所确定的用于每个模型层的训练数据元素,以及如果有的话,利用所识别的用于每个模型层的在前检查点,训练每个模型层;由所述训练计算设备的生成组件生成多个当前检查点,其中所述多个当前检查点中的每个当前检查点与模型层相关联;以及由所述训练计算设备的存储组件将所述多个当前检查点存储在所述存储器处。
地址 美国加利福尼亚州