TF29——Embedding编码


TF29——Embedding编码

Embedding——一种编码方法

  • 独热码:独热码的位宽要与词汇量一致,如果词汇量增大,非常浪费资源,数据量大 过于稀疏 , 映射之间是独立的,没有表现出关联性
  • Embedding:是一种单词编码方法,用低维向量实现了编码,这种编码通过神经网络训练优化,能表达出单词间的相关性。

tf.keras.layers.Embedding(词汇表大小,编码难度)

词汇表大小是一共要编码多少个单词

编码维度就是用几个数字表达一个单词

对1-100进行编码,[4]编码为[0.25 0.1 0.11]

例:tf.keras.layers.Embedding(100,3)

Embedding层对输入数据的维度也是有要求的

入Embedding时,x_train维度

[送入样本数,循环核时间展开步数]