CasRel项目 P9 自定义损失函数并反向传播
前面两节课,我们已经定义好了模型,对 subject 和 object 进行预测,接下来就是跟目标值进行对比,计算损失了。同时,目标值存在两个不均衡问题,在计算损失时,还需要设置权重参数,对损失值进行适当调节。
代码示例
1、简化代码
内容不可见,请联系管理员开通权限。
2、权重参数
1)目标序列中,0 的数量远多于 1 的数量,所以对 0 的误差适当降权,争取能匹配出更多实体。
2)模型预测过程中,需要先匹配出 subject,再基于 subject 预测 relation object,如果 subject 预测错误,后面就不可能正确;另外,数量上也有倍数关系,所以对 subject 的误差做适当加权。
内容不可见,请联系管理员开通权限。
3、定义损失函数
内容不可见,请联系管理员开通权限。
4、计算损失,并反向传播
内容不可见,请联系管理员开通权限。
本文链接:http://edu.ichenhua.cn/edu/note/485
版权声明:本文为「陈华编程」原创课程讲义,请给与知识创作者起码的尊重,未经许可不得传播或转售!