脉冲神经网络模式探测装置和模式探测方法

摘要

一种脉冲神经网络模式探测装置和模式探测方法，该神经网络模式探测装置由参数处理模块、输入判断模块、权重衰减模块、权重增强模块、输出神经元膜电位计算模块和脉冲处理模块构成。本发明可以探测淹没在背景噪声中模式的出现时刻，其探测正确率高于BP网络，基本接近于100%，而且特别适合于大数据量的输入，识别速度小于0.7秒，相对其他神经网络来说识别速度有很大提高，所述的脉冲神经网络模式探测装置训练方式简单，因而非常易于软件实现，最重要的是可以实现神经网络的线上学。

主权项

一种脉冲神经网络模式探测装置，该装置完成的工作是找到淹没在背景噪声中模式出现的时刻，其特征在于该探测装置由参数处理模块(1)、输入判断模块(2)、权重衰减模块(3)、权重增强模块(4)、输出神经元膜电位计算模块(5)和脉冲处理模块(6)构成；上述模块的连接关系如下：脉冲输入信号从所述的输入判断模块(2)的输入端输入，该输入判断模块(2)的输出端分别与所述的权重衰减模块(3)的第一输入端、所述的权重增强模块(4)的第一输入端、所述的输出神经元膜电位计算模块(5)的第一输入端和所述的脉冲处理模块(6)的第一输入端相连；所述的参数处理模块(1)的第一输出端与所述的权重衰减模块(3)的第二输入端相连，所述的参数处理模块(1)的第二输出端与所述的权重增强模块(4)的第三输入端相连，所述的参数处理模块(1)的第三输出端与所述的输出神经元膜电位计算模块(5)的第三输入端相连，所述的参数处理模块(1)的第四输出端与所述的脉冲处理模块(6)的第四输入端相连，该参数处理模块(1)的输入端与所述的脉冲处理模块(6)的第一输出端相连；所述的权重衰减模块(3)的第一输出端与所述的脉冲处理模块(6)的第五输入端相连，该权重衰减模块(3)的第二输出端与所述的权重增强模块(4)的第二输入端相连；所述的权重增强模块(4)的第一输出端与所述的脉冲处理模块(6)的第二输入端相连，该权重增强模块(4)的第二输出端与所述的输出神经元膜电位计算模块(5)的第二输入端相连；所述的输出神经元膜电位计算模块(5)的输出端与所述的脉冲处理模块(6)的第三输入端相连；所述的脉冲处理模块(6)的第二输出端是本脉冲神经网络模式探测装置的输出端；1)所述的参数处理模块(1)对所述的脉冲神经网络模式探测装置的参数进行初始化：权重最小值w_min，初始化为零；权重最大值w_max，初始化为1；输出神经元上一次脉冲时刻单位毫秒，初始化为零；预测脉冲时刻单位毫秒，初始化为零；时间分辨率r，初始化为1毫秒；细胞膜时间常量τ_m，初始化为10毫秒；突触时间常量τ_s，初始化为2.5毫秒；输出神经元膜电位阈值h，初始化为500；间歇时间q，初始化为3毫秒；权重正向增益系数a⁺，初始化为0.0312；权重负向衰减系数a^‑，初始化为0.0255；正向时间常数τ⁺，初始化为16.8毫秒；负向时间常数τ^‑，初始化为33.7毫秒；所述的参数处理模块(1)将所述的权重最大值w_max、所述的输出神经元上一次脉冲时刻所述的权重负向衰减系数a^‑和所述的负向时间常数τ^‑输出给所述的权重衰减模块(3)；将所述的输出神经元上一次脉冲时刻所述的预测脉冲时刻所述的权重最小值w_min、所述的权重正向增益系数a⁺和正向时间常数τ⁺输出给所述的权重增强模块(4)；将所述的细胞膜时间常量τ_m、所述的突触时间常量τ_s、所述的输出神经元上一次脉冲时刻和所述的输出神经元膜电位阈值h输出给所述的输出神经元膜电位计算模块(5)；将时间分辨率r和所述的输出神经元膜电位阈值h输出给所述的脉冲处理模块(6)；2)所述的输入判断模块(2)令时刻t＝1，即单位是毫秒，令i＝1；3)当第i个信号源在时刻t发出了信号，所述的输入判断模块(2)将该信号源的编号i和时刻t分别传递给所述的权重衰减模块(3)、权重增强模块(4)、输出神经元膜电位计算模块(5)和脉冲处理模块(6)，之后进入步骤4)；当第i个信号源在时刻t没有发出信号，则转到步骤16)；4)当所述的权重衰减模块(3)接收到来自所述的输入判断模块(2)输出的信号源的编号i和时刻t后，所述的权重衰减模块(3)再接收来自所述的参数处理模块(1)的参数：所述的负向时间常数τ^‑、所述的权重负向衰减系数a^‑、所述的权重最大值w_max和所述的输出神经元上一次脉冲时刻令所述的衰减权重矩阵w_D的每一个元素等于未更新权重矩阵w^o的对应元素；5)所述的权重衰减模块(3)利用下列公式<1>和公式<2>计算并更新所述的衰减权重矩阵w_D的第i个元素W_Di：$w_{\mathrm{Di}}=w_{\mathrm{Di}}-a^{-}\exp (-\frac{t-t_o^l}{{\tau }^{-}})---<1>$w_Di＝min[w_Di,w_max]      <2>在更新完所述的衰减权重矩阵w_D的第i个元素w_Di后，所述的权重衰减模块(3)将所述的衰减权重矩阵w_D输出给所述的权重增强模块(4)，同时将所述的未更新权重矩阵w^o输出给所述的脉冲处理模块(6)；6)当所述的权重增强模块(4)接收来自所述的输入判断模块(2)的输出的信号源的编号i和时刻t，来自所述的权重衰减模块(3)输出的衰减权重矩阵w_D，来自所述的参数处理模块(1)中的参数：所述的权重正向增益系数a⁺、正向时间常数τ⁺、权重最小值w_min、输出神经元上一次脉冲时刻和所述的预测脉冲时刻之后，判断条件是否成立，如果条件成立，则转到步骤7)；如果条件不成立则转到步骤9)；7)所述的权重增强模块(4)利用下列公式<3>和公式<4>计算并更新所述的增强权重矩阵w_Q的第i个元素w_Qi：$w_{\mathrm{Qi}}=w_{\mathrm{Di}}+a^{+}\exp \left(\frac{t-t_o^l}{{\tau }^{+}}\right)---<3>$w_Qi＝max[w_Qi,w_min]       <4>8)所述的权重增强模块(4)令之后所述的权重增强模块(4)将所述的增强权重矩阵w_Q分别输出给所述的输出神经元膜电位计算模块(5)和所述的脉冲处理模块(6)；9)当所述的输出神经元膜电位计算模块(5)接收到来自所述的输入判断模块(2)的输出的坐标(t,i)之后，再接收来自所述的参数处理模块(1)的参数：所述的输出神经元上一次脉冲时刻所述的细胞膜时间常量τ_m、所述的突触时间常量τ_s和所述的输出神经元膜电位阈值h，接收来自所述的权重增强模块(4)的所述的增强权重矩阵w_Q；之后，所述的输出神经元膜电位计算模块(5)利用LIF神经元模型的计算公式，即下列公式<5>、公式<6>和公式<7>计算所述的输出神经元膜电位p；$p=\alpha (t-t_l^o)+\underset{t<t_o^l}{\Sigma }{w}_{\mathrm{Qi}}\beta (t-t_l^o)---<5>$其中：$\alpha (t-t_l^o)=h(4\exp (-\frac{t-t_o^l}{{\tau }_s})-2\exp (-\frac{t-t_o^l}{{\tau }_m}))---<6>$$\beta (t-t_l^o)=\exp (-\frac{t-t_o^l}{{\tau }_m})-\exp (-\frac{t-t_o^l}{{\tau }_s})---<7>$所述的输出神经元膜电位计算模块(5)将所述的输出神经元膜电位p输出给所述脉冲处理模块(6)；10)当所述的脉冲处理模块(6)接收到来自所述的输入判断模块(2)的输出的时刻t和信号源编号i之后，再接收来自所述的输出神经元膜电位计算模块(5)的输出神经元的膜电位p、来自所述的权重衰减模块(3)输出的所述的未更新权重矩阵w^o和来自所述的权重增强模块(4)输出的所述的增强权重矩阵w_Q，接收来自所述的参数处理模块(1)的参数：所述的输出神经元膜电位阈值h、所述的时间分辨率r；之后，如果条件p＞h，或者满足时，转到步骤11)；如果两个条件同时不满足，转到步骤12)；11)所述的脉冲处理模块(6)利用下列公式<8>计算所述的模式时刻$t_o^m=t-(p-h)\frac{r}{h};---<8>$12)所述的脉冲处理模块(6)利用公式<9>计算所述的增强权重矩阵wQ和所述的未更新权重矩阵w^o之间的希尔伯特范数γ：$\gamma ={\left[\underset{i=1}{\overset{u}{\Sigma }}(w_{\mathrm{Qi}}-w_i^o)\right]}^{\frac{1}{2}}---<9>$13)如果所述的希尔伯特范数γ满足条件γ≤0.01，转到步骤14)，如果条件不满足，则转到步骤15)；14)所述的脉冲处理模块(6)令所述的模式时刻等于所述的输出时刻T^out的第k+1个元素并将作为所述的脉冲神经网络模式探测装置的输出；15)所述的脉冲处理模块(6)将所述的模式时刻作为输出传递给所述的参数处理模块(1)，之后所述的参数处理模块(1)令16)所述的输入判断模块(2)令所述的信号源编号i＝i+1；17)如果第i个信号源在时刻t发出了信号，则转到步骤3)；如果没有发出信号则转到步骤18)；18)所述的输入判断模块(2)判断所述的信号源编号i是否大于所述的输入信号源的总个数u，如果i小于或等于u，则转到步骤16)；如果i大于u则进入步骤19)；19)所述的输入判断模块(2)令所述时刻t＝t+1，令所述的信号源编号i等于1；20)所述的输入判断模块(2)判断第i个信号源是否在时刻t发出了信号，如果发出了信号，则转到步骤4)；如果没有发出信号则转到步骤21)；21)所述的输入判断模块(2)判断所述时刻t是否等于输入的结束时刻，如果t不等于输入的结束时刻，则转到步骤16)；如果t等于输入的结束时刻，则所述的脉冲神经网络模式探测装置的工作结束。