发明名称 隐式狄利克雷模型的事件驱动的坍缩吉布斯采样方法
摘要 本发明提供隐式狄利克雷模型的事件驱动的坍缩吉布斯采样方法包括:将数据集中每个单词和对应文档逐一呈现给预设结构神经网络,表示当前单词及表示当前文档的可见层神经元以实时频率根据泊松过程发放电脉冲并沿突触连结传递至隐层;各隐层神经元根据改变的膜内电压计算其实时放电频率并以泊松过程发放电脉冲;根据隐层发放电脉冲方式更新注入隐层神经元的反馈周边抑制信号;从一可见层神经元到一隐层神经元的突触连结强度根据它们发放电脉冲的相对时间差及该突触当前连结强度更新;处理完数据集所有文本为一次迭代,迭代次数达到预设值时从神经网络的参数中提取隐式狄利克雷模型的参数。本方法空间复杂度低、原则上能用于类脑芯片上做低能耗计算。
申请公布号 CN106502983A 申请公布日期 2017.03.15
申请号 CN201610903756.6 申请日期 2016.10.17
申请人 清华大学 发明人 朱军;萧子豪
分类号 G06F17/27(2006.01)I;G06N3/04(2006.01)I;G06N3/063(2006.01)I 主分类号 G06F17/27(2006.01)I
代理机构 北京路浩知识产权代理有限公司 11002 代理人 李相雨
主权项 一种隐式狄利克雷模型的事件驱动的坍缩吉布斯采样方法,其特征在于,包括:S1、构建预设结构的神经网络,所述预设结构的神经网络,包括:两个可见层和一个隐层;所述两个可见层按照一热表示方式分别对单词和文档进行编码,所述隐层按照一热表示方式对主题进行编码,突触从可见层中的每个神经元连结到隐层中的每个神经元;S2、串行地将数据集中的每个单词和每个单词对应的文档逐一呈现给所述神经网络,根据步骤S1中可见层进行编码的方法,表示当前单词的可见层中的神经元和表示当前文档的可见层中的神经元以其实时频率根据泊松过程发放电脉冲,该电脉冲沿着突触连结从可见层传递至隐层;S3、根据步骤S2中可见层传递电脉冲至隐层的方式,隐层在接收到电脉冲后膜内电压被改变,每个隐层中的神经元根据改变后的膜内电压计算其实时放电频率,并根据该实时放电频率以泊松过程发放电脉冲,如果在某个单词呈现的时候,隐层中的表示某个具体主题的神经元发放电脉冲,则表示这个具体主题新分配给了这个单词;S4、根据步骤S3中隐层发放电脉冲的方式,更新注入到这些隐层中的神经元的反馈周边抑制信号;S5、根据步骤S2中可见层发放电脉冲的方式及步骤S3中隐层发放电脉冲的方式,从一个可见层中的神经元到一个隐层中的神经元的突触的连结强度根据这两个神经元发放电脉冲的相对时间差以及该突触当前的连结强度进行更新;S6、S3至S5是并行执行的,执行上述步骤S2至S5处理完数据集中所有文本为一次迭代,重复上述步骤S2至S5,直至迭代次数达到预设值时,停止迭代并从神经网络的参数中提取隐式狄利克雷模型的参数。
地址 100084 北京市海淀区清华园北京100084-82信箱