【亚马逊】亚马逊ai在简历筛选中歧视女性？ai犯错不是第一次了

    亚马逊ai在简历筛选中歧视女性？ai犯错不是第一次了

ai犯错不是第一次了亚马逊的ai招聘工具触动了人类敏感的神经，据路透社报道，亚马逊机器学习专家发现他们的ai招聘工具有一个明显的倾向——在筛选简历过程中，重男轻女。

这事得追溯到2014年，亚马逊那会儿便开始尝试用人工智能筛选简历，帮助公司挑选出合适的员工。

对于一个大公司来说，筛选简历是一项浩大的工程，每天的面试者可能来自五湖四海，要从堆积如山的简历中挑选出面试者的优点，并确认其符合公司标准，难上加难。

通过系统的机器训练，让ai代替hr筛选简历，无疑能帮助公司节省大量的劳动力，并且更有效地挑选出合适的人才。

类似人类的情感倾向出现在了ai上，本身就有悖于人类训练ai的目的。

我们希望人工智能是中立、结果导向的，甚至在理性的前提下，会带有一丝无情。

人工智能“性别歧视”的起因在亚马逊ai招聘歧视事件的最后，大家把问题归咎于人工智能训练样本上。

因为在具体的训练方法上，亚马逊针对性开发了500个特定职位的模型，对过去10年的简历中的5万个关键词进行识别，最后进行重要程度的优先级排序。

然而在这些简历中，大部分求职者为男性，他们使用诸如“执行”这样的关键词更加频繁，而女性相关的数据太少，因此ai会误以为没有这类关键词的女性简历不那么重要。

早在2017年，quartz报道了一篇题为《thereasonwhymostoftheimagesthatshowupwhenyousearchfor“doctor”arewhitemen》的文章，如果你在googleimage上搜索”doctor“，获得的结果中大部分都是白人男性。

果壳网《当人工智能“学会”性别歧视》一文里，详细描述了他们研究课题的过程。

除了厨房这个特定环境，他们还发现在照片中“做家务、照看小孩子的就被认为是女性，开会、办公、从事体育运动的则是男性”，有时候我们会发现人工智能识别的结果令人哭笑不得，但究其原因却又情有可原。

又如人工智能会将印度海得拉巴的印式婚纱错认为中世纪的锁子甲，只因为在其训练的数据库中，欧洲的数据更丰富，而来自第三世界的信息少得可怜。

另一个相似的例子是，2015年googlephotos将黑人标注成了大猩猩。

虽然google及时道歉并更正了算法，但从侧面来看，人工智能仍然受提供的数据中的一般特征影响。

事件过去三年，尽管算法已经相对更加成熟，数据库更加丰富，人工智能的坏毛病还是无法根治。

据英国镜报报道，用户在使用google翻译时，结果里出现了令人毛骨悚然宗教话语，在某些小语种下，特定的重复词组会被google翻译成带有宗教色彩的话语。

其缘由可能是google翻译在某些小语种的学习上，使用了圣经——这一全球最为广泛翻译的数据——作为训练模型，从而导致该情况发生。

亚马逊yamaxun相关"亚马逊ai在简历筛选中歧视女性？

ai犯错不是第一次了"就介绍到这里，如果对于亚马逊这方面有更多兴趣请多方了解，谢谢对亚马逊yamaxun的支持，对于亚马逊ai在简历筛选中歧视女性？