脸书的人工智能检测文本中的性别偏见
在本周发表的一篇技术论文中,脸书的研究人员描述了一个框架,该框架将文本中的性别偏见分解为几个维度,他们用它来注释数据集和评估性别偏见分类器.如果实验结果有任何迹象,该团队的工作可能会从性别角度揭示攻击性语言,甚至控制自然语言处理(NLP)模型中的性别偏见。
研究人员表示,所有数据集、注释和分类器都将向公众发布。
这是公开的秘密。人工智能系统及其训练语料库经常反映性别陈规定型观念和其他偏见。事实上,谷歌最近在谷歌翻译中引入了针对性别的翻译,主要是为了解决性别偏见。科学家们提出了一系列方法来缓解和测量这种情况,最近的一种方法是领导委员会、挑战和一套称为立体声系统的措施。但是几乎没有——被广泛使用。
脸书团队表示,他们的工作考虑了人类如何合作和社交来建立语言和性别认同。也就是说,它解释了(1)来自被谈论者性别的偏见,(2)来自被谈论者性别的偏见,(3)来自说话者性别的偏见。这个框架试图捕捉这样一个事实:描述女性的形容词、动词和名词与描述男性的不同;接受者的性别如何影响他们与他人交谈的方式;以及性别对一个人身份的重要性。
利用这一框架和脸书的ParlAI,一个用于训练和测试自然语言处理模型的开源Python工具集,研究人员开发了一个分类器,将句子的偏见分解成维度——来自讨论者性别的偏见等等。包括不属于男女双重结构的性别信息。该团队在从维基百科、Funpedia(维基百科的一个不太正式的版本)、Yelp评论、开放字幕(电影对话)、LIGHT(聊天幻想对话)和其他来源提取的一系列文本上训练分类器,所有这些都是因为它们包含了作者和接收者的性别信息,可以为模型的决策提供信息。
研究人员还建立了一个专门的评估语料库——MDGender——。通过收集两个志愿者演讲者之间的对话,每个人都获得了一个包含性别信息的角色描述,并负责采用该角色并就维基百科的传记部分进行对话。评论员被要求重写对话的每一个回合,以明确他们在谈论一个男人或一个女人,以男人或女人的身份说话,以及与一个男人或一个女人说话。比如“你今天好吗?我刚下班”可能改写成“嘿,我和朋友还有她的狗去喝咖啡了。
在实验中,该小组将性别偏见分类器与MDGender进行了比较,并测量了男性、女性和性别的百分比准确性。他们发现,性能最好的模型,即所谓的多任务模型,77%的时间正确分解了所有数据集,81.82%的时间仅在维基百科上。
在另一组测试中,研究人员使用最佳性能分类器来控制生成文本的性别,检测维基百科中有偏见的文本,并探索攻击性内容和性别之间的互动。
他们报告说,该分类器是在一组数据集上训练的,其中包含来自Reddit的25万个文本片段,因此它可以在命令中生成性别化的句子,例如“A wwwwww,听起来很棒”和“你能行的,兄弟!”此外,该模型对一组传记中的段落进行评分,以确定哪些是“大约”维度中的男性(74%是男性,但分类器在女性页面中更有信心,这表明女性传记包含更多的性别文本)。最后,经过训练,并将该分类器应用到一个带有明显性别色彩的热门词汇语料库中,他们发现25%的男性词汇属于“攻击性”范畴,如“性内涵”。
“在一个理想的世界里,我们认为描述男性、女性和其他性别身份的人的文本没有任何区别,除了代词或名字等明确的性别词汇。因此,机器学习模型将无法理解性别标签之间的统计差异(即性别偏见),因为这种差异不存在。不幸的是,我们知道事实并非如此,”合著者写道。“我们为此提供了一个更细粒度的框架,分析了模型和数据中的性别偏见,并通过发布工具来增强其他人的能力,这些工具可用于解决许多基于文本的用例中的这些问题。
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
万象汽车试驾,轻松搞定试驾。只需几步,即可开启您的驾驶体验之旅。首先,通过官网或APP预约试驾时间,选择心...浏览全文>>
-
北汽瑞翔试驾流程主要包括以下几个步骤:首先,客户到达4S店后,由销售顾问接待并了解客户需求。随后,销售顾...浏览全文>>
-
试驾MG4 EV全攻略:MG4 EV是一款主打年轻、智能与续航的纯电车型。外观时尚,车身紧凑,适合城市通勤。内饰...浏览全文>>
-
预约试驾奥迪SQ5 Sportback,可线上与线下结合操作。首先,访问奥迪官网或官方APP,选择“试驾预约”,填写个...浏览全文>>
-
红旗试驾预约通常需要以下条件:1 年龄要求:申请人需年满18周岁,部分门店可能要求20岁以上。2 驾驶证...浏览全文>>
-
特斯拉试驾全攻略试驾特斯拉前,建议提前在官网预约,选择最近的体验中心。到店后,工作人员会引导你完成基础...浏览全文>>
-
宝马预约试驾全攻略想要体验宝马的驾驶乐趣?提前预约试驾是关键。首先,访问宝马官网或使用“宝马中国”官方A...浏览全文>>
-
道郎格试驾,感受豪华与科技的完美融合。一进入车内,高端质感扑面而来,真皮座椅、精致内饰,尽显奢华。智能...浏览全文>>
-
预约奇瑞新能源试驾,新手可按以下步骤操作:1 选择车型:登录奇瑞官网或官方App,浏览新能源车型,如艾瑞...浏览全文>>
-
奔驰GLE试驾预约,开启非凡旅程。作为豪华SUV的典范,GLE集优雅设计与强大性能于一身,为您带来前所未有的驾驶...浏览全文>>
- 特斯拉试驾全攻略
- 宝马预约试驾全攻略
- 奔驰GLE试驾预约,畅享豪华驾乘,体验卓越性能
- 零跑C16试驾全攻略
- 试驾海豚,轻松几步,畅享豪华驾乘
- 奇瑞预约试驾的流程及注意事项
- 小鹏G7试驾,新手必知的详细步骤
- 如何在 IPHONE 16E 和 IPHONE 16 之间进行选择
- 这个隐藏的 ANDROID 设置可以释放大屏幕的全部潜力
- 三星 ONE UI 7 更新:比预期更早到来
- IPHONE 15 PRO 和 PRO MAX 将很快获得视觉智能
- 使用这些必备的 ANDROID 应用程序改变你的主屏幕
- PS5 PRO 销量与 PS4 PRO 竞争
- 超薄 Galaxy S25 Edge揭晓其新功能
- Android 15 QPR2 Beta 2.1 将修复与崩溃相关的问题
- Garmin 的 Fenix 7 Pro Sapphire Solar 降至 591 美元
- Galaxy S25 Ultra 的 S Pen 可能会失去蓝牙功能
- 惠普在 CES 上推出搭载 Copilot+ 的全新一体机和迷你电脑
- 首批 Galaxy S25 系列壁纸来了 但只有两张
- 1,000 马力的 911 Turbo S GT-R 与杜卡迪一较高下