信息熵及其相关概念

信息熵及其相关概念

机器学习中,绕不开的一个概念就是熵 (Entropy),信息熵。信息熵常被用来作为一个系统的信息含量的量化指标,从而可以进一步用来作为系统方程优化的目标或者参数...
阅读 23 次 评论 0 条
word2vec前世今生

word2vec前世今生

2013年,Google开源了一款用于词向量计算的工具——word2vec,引起了工业界和学术界的关注。首先,word2vec可以在百万数量级的词典和上亿的数据...
阅读 26 次 评论 0 条
循环神经网络RNN的基本概念

循环神经网络RNN的基本概念

1.1 为什么有了全连接神经网络和CNN还需要RNN? 我们通过前两篇博文知道了全连接神经网络和卷积神经网络的基本工作原理,这两种网络结构的层与层之间是全连接或...
阅读 28 次 评论 0 条