环球门户网

前沿数码资讯:麻省理工学院的研究人员推出了一种用于去偏置算法的AI

更新时间:2021-05-10 12:02:12

导读 科技、数码、互联网新闻如今都成为了大众所关注的热点了,因为在我们的生活当中如今已经是处处与这些相关了,不论是手机也好,电脑也好,

科技、数码、互联网新闻如今都成为了大众所关注的热点了,因为在我们的生活当中如今已经是处处与这些相关了,不论是手机也好,电脑也好,又或者是智能手表也好,与之都相关,那么今天小编也是为大家来推荐一篇关于互联网科技数码方向的文章,希望大家会喜欢哦。

鉴于算法在我们日常生活中的普及和普及,公平和平等待遇变得至关重要 - 去年麻省理工学院的一项研究揭示了面部识别算法中的性别和种族偏见,这一事实对许多人来说非常突出。。

这一教训似乎相当明确 - 偏见,偏见,即使参与制定培训数据集的任何特定人员都没有表现出有意识的偏见,这似乎也是正确的(有时候发现有75%的男性和超过80%的人)上述研究的白色图像)。

为了解决这个问题,麻省理工学院计算机科学与人工智能实验室(CSAIL)的一个团队目前正在开发一种能够同时学习的算法 - 手头的任务(如人脸检测)和训练数据的基本结构,它通过重新采样自动识别和最小化偏差。

在测试中,与最新和最好的面部识别系统相比,该算法设法将“分类偏差”降低了60%以上,同时保持了其特有的整体精确度。

新系统的关键创新是,虽然它的同行至少需要人类的一些输入才能学习相关的偏见,麻省理工学院的数字“去偏置器”根本不需要手持 - 只需在其上投掷一个数据集就可以了底层结构,然后根据需要重新取样。

“特别是面部分类是一种经常被视为'已解决'的技术,即使很明显经常使用的数据集也没有经过适当的审查,”博士说。学生Alexander Amini是本周在AIES上发表的一篇相关论文的作者。

Amini说,纠正这些问题势在必行,因为我们开始看到这些算法被用于安全,执法和其他领域。

此外,麻省理工学院团队开发的系统可能与无法手动检查的较大数据集特别相关,并可能扩展到其他计算机视觉应用。

版权声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢您的支持与理解。