标准的参考手册，但绝对不适合入门

这不是一本入门书， 更不是一本适合一口气读完的书。如果你已经对信息论已经有了相当程度的理解和掌握后，这是一本非常好，非常标准的查阅手册。 不建议对信息论没什么了解的同学直接啃这本书。书中的公式和推导证明一个接着一个，解释非常精简，对于初学者来说，精简并不是什么好事。对概率论(Bayesian)比较好的同学来说，弄明白公式以及证明、推导过程也许并不难，但也就止步于此。信息论是一门非常基础的学科，其应用非常广，最好的学习方式是在网上多找几本书，多看文章，综合不同的角度和应用场景来加深理解。

目前个人看过的信息论最好的入门文章, 推荐：《Visual Information theory》 By Colah

我自己觉得写得非常好，而且比较合适的入门书：《Information Theory, Inference and Learning Algorithms》