AI科技评论6月18日直播预告:ICML 2021直播预告 | 清华大学博士生:异质性风险最小化方法

时间

2021年06月17日 19:21

内容详细

开播时间:6月18日 19:00

播出内容:本次我们邀请到了清华大学崔鹏老师学生刘家硕同学,分享一篇被ICML收录的论文。

主题:异质性风险最小化方法

时间:6月18日 19:00

分享概要:当测试数据与训练数据之间存在着分布偏移时,基于经验风险最小化的机器学习算法的泛化性能通常会受到较大影响。近年来,针对于非独立同分布情形下算法的泛化问题,不变学习方法被提出,其主要希望利用多环境的训练数据来寻找与目标变量的关系跨环境不变的表征,并由此类不变表征来进行预测,从而实现跨环境稳定的泛化性能。然而在实际场景中,数据通常是由多种来源混合而成,并没有显式的环境标签,这种潜在的异质性也使得绝大多数不变学习方法不再适用。我们提出了异质性风险最小化方法(HRM)来同步实现对于数据中潜在异质性的挖掘与不变学习,最终得到在分布偏移下仍具有稳定泛化能力的模型。我们从理论上解释了不变学习中环境的作用,以及我们新提出框架的合理性。大量的实验结果验证了我们提出的算法的有效性。

直播方式:扫码观看1623928948(1).png