《动手学深度学习》学习记录02:Chapter03_2:softmax regression


模型:

Softmax:

  如果直接使用输出层的结果导致两个问题:

    1、由于输出层的输出值的范围不确定,我们难以直观上判断这些值的意义

    2、由于真实标签是离散值,这些离散值与不确定范围的输出值之间的误差难以衡量

  通过下式将输出值变换成值为正且和为1的概率分布:

  并且,

  以上最终的矢量表达式为:

交叉熵损失函数: