最大熵模拟中数据稀疏和数据过拟合的统一处理

摘要

提供一种统计模拟的方法，其包括建立统计模型和在特征选择和参数最优化期间，为统计学模型的建立结合高斯先验。

主权项

1.一种模拟会话对话系统的口语的方法，包括：通过概率依存模型模拟该口语的依存关系；在所述概率依存模型的特征选择和参数优化期间结合高斯先验；解析词序列，该解析包括使用图表解析技术，自底向上系统地检索全部头词对；以及在该检索的每一步，基于所述概率依存模型计算每一对的概率分数，并为每个范围保持n个最佳候选对，其中，应用所述概率依存模型以获得覆盖从词i到词j的范围(i,j)的解析的依存并且所述概率依存模型被计算为$P\left({\bar{L}}_{i,j}\right)=P\left({\bar{L}}_{i,k}\right)*P\left({\bar{L}}_{k+1,j}\right)*P\left(L_{i,j}\right|{\bar{L}}_{i,k},{\bar{L}}_{k+1,j})*e^{\mathrm{MI}({\bar{L}}_{i,k},{\bar{L}}_{k+1,j})};$(i，k)是所述范围(i，j)的第一子范围；(k+1，j)是所述范围(i，j)的第二子范围；L_i，j是l_i，j，w^i，k和w^k+1，j的三元组；w^i，k是表示所述第一子范围的头词；w^k+1，j是表示所述第二子范围的头词；l_i，j是连接这两个头词的上一个依存关系；是对表征在所述第一子范围和所述第二子范围之间的冗余信息的共有信息的调整；并且所述第一子范围和所述第二子范围被迭代分解直到到达叶子节点。