机器人也会产生性别歧视?原因竟是人类语言所致

条评论

16-08-19 11:50 互联网

8月18日消息,据《每日邮报》报道,计算机程序员们正试图教育机器人减少性别歧视,其方法是帮助它们摆脱某些单词所带来的偏见。

虽然计算机可能是中性的,但人类的偏见可能无意识地体现在对语言进行分析的机器学习算法。这种偏见被证明已产生影响,如对求职者进行分类的基本计算机程序,可能会基于关键词而对某些求职者产生歧视。但美国有一个研究小组在正试图打破这种偏见。

微软研究院(Microsoft Research)的程序员亚当·卡莱(Adam Kalai)正与波士顿大学的研究人员合作,试图从计算机中删除这种偏见。

该研究小组正在利用一种被称为“词向量(Word Embedding)”的技术,教育机器如何通过寻找单词之间的关系来处理语言。使用该方法,机器可以通过比较单词“她”和“他”来了解上下文。具体在应用时,机器会找到合适的配对,如“姐妹-兄弟”或“女王-王”。但是,当计算机搜索现实世界资源时,词向量方法可能根据固有的性别成见而进行配对。例如,寻找工作职位时,对于“她-他”配对,计算机会联想到“缝纫工-木工”或“室内设计师-建筑师”。

向计算机输入来自谷歌新闻的文章,正如所预料的,对于“她-他”单词配对,能产生了一些良性的关联,如母亲-父亲和自己(herself)-自己(himself)。而一些配对更不常见,如“子宫-小肠”或“未婚夫-室友”。但一些基于性别偏见而产生的配对可能有问题。例如,“可爱”被认为是一个女性专用词,而“辉煌”等于男性,同样还有“家庭主妇”与“计算机程序员”配对。

在职业上,这种性别歧视最极端的例子是,哲学家、战斗机飞行员、上司和架构师等这些工作通常与“他”有关。而与“她”相关的职业包括家庭主妇、社交名媛、接待员和理发师。

卡莱在接受NPR(美国全国广播公司)采访时表示:“我们试图避免出现性别歧视的现象,尤其是在新闻文章中……但你发现,这些单词配对存在相当严重的性别歧视性质。”

分享:

提交

最新评论