TF29——Embedding编码
TF29——Embedding编码
Embedding——一种编码方法
- 独热码:独热码的位宽要与词汇量一致,如果词汇量增大,非常浪费资源,数据量大 过于稀疏 , 映射之间是独立的,没有表现出关联性
- Embedding:是一种单词编码方法,用低维向量实现了编码,这种编码通过神经网络训练优化,能表达出单词间的相关性。
tf.keras.layers.Embedding(词汇表大小,编码难度)
词汇表大小是一共要编码多少个单词
编码维度就是用几个数字表达一个单词
对1-100进行编码,[4]编码为[0.25 0.1 0.11]
例:tf.keras.layers.Embedding(100,3)
Embedding层对输入数据的维度也是有要求的
入Embedding时,x_train维度:
[送入样本数,循环核时间展开步数]