softmax的主要工作就是将预测出来的结果,用概率来表示,并将总的概率相加为1
通过全连接层输出的预测结果有正有负,那为什么有负数呢?
是因为参数或者激活函数的问题
将预测结果转换为概率主要分为两步:
1、将所有的负数变为正数,并不能改变与原正数的相对大小
(y = e^x)指数函数恰好能满足这个条件
2、将转换完的值转换为概率且相加概率为1 只需要将每类的(e^x)的值除所有类的(e^x)的值就好了 其中(S_i)表示第i类