第27页 统计语言模型

为了解决针对自然语言的上下文相关特性采用了统计语言模型。

统计语言模型：
就是分析一个句子中的词语，然后分析这些词语出现的概率然后由这些词所组成句子的概率。选取其中概率最大的句子为最后的结果。(大体上思路就是这样子的,当然每次词的概率都是依赖于前面词语出现的概率)

为了简化这个模型中关于概率的计算，采用了马尔科夫假设。即当前的词出现的概率只依赖于前一个词出现的概率。

因为这些词语的概率都是基于语言库而得来的，所以也有可能会出现概率为0的情况这个时候我们采用的方法是减少当前已有词语的概率将这些多出来的值赋给那些从来没有出现的词语作为其的概率。

因为语料直接影响着统计语言模型中的可靠性，所以在选取语料的时候我们需要进行如下的两个操作：
1.确保训练语料和模型应用领域相关
2.在可行的情况下对训练语料进行降噪处理